El 15 de agosto, un grupo de pacientes de Rotherham, un municipio de South Yorkshire, reportó que el nuevo chatbot de la práctica médica local, denominado "Emma", no logra comprender el controversial acento regional, lo cual ha provocado que muchos usuarios se sientan frustrados y, en algunos casos, abandonen la conversación antes de obtener la información necesaria.

Emma se presentó como una solución de inteligencia artificial (IA) diseñada para actuar como recepcionista virtual en la práctica de médicos de la zona. Según la empresa que la desarrolló, la herramienta puede manejar hasta 17 idiomas y reconoce una amplia gama de acentos. Sin embargo, la organización local de supervisión de la salud, Healthwatch Rotherham, ha puesto en evidencia que la tecnología se encuentra limitada cuando se enfrenta a los “twangs” propios de Yorkshire, especialmente el peculiar ritmo y entonación que caracterizan al habla de la región.

La brecha entre el rendimiento de la IA y las expectativas de los pacientes no es una sorpresa. Los sistemas de reconocimiento de voz se entrenan con grandes volúmenes de datos de habla estándar y, en muchos casos, con muestras de zonas urbanas de alto poder adquisitivo. Cuando se introducen dialectos menos representados, la tasa de error aumenta. En el caso de Emma, los usuarios reportaron que la máquina no podía diferenciar palabras como "doctor" y "dóctor", o que interpretaba incorrectamente frases sencillas como "Necesito una cita" como "Necesito una cuenta".

Este incidente subraya la importancia de la inclusión lingüística en las aplicaciones de IA, especialmente en el sector salud, donde la precisión es vital. Cuando un paciente no logra ser escuchado correctamente, la interacción puede resultar en la pérdida de información crítica, retrasos en la atención o, peor aún, decisiones médicas imprecisas.

El gobierno del Reino Unido ha establecido recientemente una guía de gobernanza de IA que exige a los proveedores de soluciones digitales en el NHS que realicen evaluaciones de sesgo antes de su despliegue. Sin embargo, la guía no especifica requisitos mínimos de reconocimiento de dialectos regionales, dejando una brecha que los desarrolladores pueden aprovechar.

Para la práctica médica en Rotherham, el fallo de Emma no solo afecta la satisfacción del paciente, sino que también കവнижает la eficiencia operativa. Un chatbot que no puede comprender la mayoría de los pacientes necesita ser complementado con humanos, lo que reduce el ahorro de tiempo que la IA podría ofrecer.

La empresa detrás de Emma, cuyo nombre no ha sido revelado en detalle en la fuente original, ha declarado que está trabajando en una "actualización de entrenamiento de datos" para mejorar la detección de acentos locales. Aun así, expertos en IA advierten que la solución no puede ser simplemente añadir más ejemplos; se requiere una arquitectura que permita la adaptación dinámica a nuevas variantes lingüísticas.

El caso de Rotherham también plantea preguntas sobre la responsabilidad de los proveedores de IA. ¿Quién es responsable cuando un sistema falla en captar una palabra que cambia el significado de una solicitud médica? La respuesta puede depender de la regulación específica del sector salud, pero la tendencia es que la responsabilidad recae tanto en el desarrollador como en la institución que lo implementa.

Para los profesionales de la salud, la lección es clara: la adopción de tecnología de IA debe ir acompañada de pruebas exhaustivas en el entorno real, incluyendo la diversidad de voces y acentos del público al que sirve. Además, los sistemas deben incorporar opciones de transición a agentes humanos de forma fluida y sin penalizar la experiencia del paciente.

En conclusión, el episodio de Emma en Rotherham destaca un fallo técnico que tiene implicaciones mucho más amplias. No se trata solo de un chatbot que no entiende un acento; se trata de la brecha entre la promesa de la IA de democratizar la atención médica y la realidad de que, sin una inclusión lingüística real, la tecnología puede reforzar las desigualdades existentes.

Los próximos pasos incluyen la revisión de los algoritmos de reconocimiento de зоне, la incorporación de datos de dialecto local y la creación de protocolos claros de transición a humanos. Si la IA logra superar estos desafíos, podría convertirse en un aliado poderoso en la mejora de la eficiencia y la calidad de la atención médica. Si no, seguirá siendo un recordatorio de que la tecnología sin inclusión es solo una herramienta imperfecta.