Más de 40 % de los médicos en Australia ya cuentan con un asistente de inteligencia artificial que escucha sus consultas y genera notas clínicas con la ayuda de modelos de lenguaje como ChatGPT o Claude. Este fenómeno, revelado por Digital Rights Watch en su informe *Off the Record*, no solo altera la forma de trabajar de los profesionales de la salud, sino que plantea interrogantes críticos sobre la gestión de datos personales y la calidad de la atención.

¿Qué es un “scribe” de IA? A diferencia de los transcriptores tradicionales, estos sistemas escanean el audio de la consulta, interpretan el lenguaje médico y, a menudo, añaden su propia “interpretación” de lo que un profesional debería haber dicho. El resultado es una nota clínica que, en teoría, libera horas de papeleo y permite al médico dedicar más tiempo al paciente. Para el personal de salud, la lógica es sencilla: menos burocracia, más tiempo clínico y, en un modelo de Medicare que paga solo la atención presencial, un incentivo financiero directo.

Sin embargo, la eficiencia no garantiza calidad ni seguridad. Los modelos de lenguaje, aunque avanzados, son notorios por sus “alucinaciones”: afirmar con total certeza hechos que nunca ocurrieron. Un estudio mostró que una conversación donde un médico aconseja dejar de fumar fue registrada por la IA como una recomendación de evitar incendios en el hogar. Este tipo de errores no solo son embarazosos, pueden alterar el diagnóstico y el plan de tratamiento.

Además, la IA tiende a reproducir sesgos de datos. Cuando la voz de un paciente es de un origen étnico o cultural distinto, o cuando utiliza un inglés no nativo, la interpretación automática puede distorsionar la información, creando notas que no reflejan la realidad clínica. En entornos con alta diversidad lingüística, esto representa un riesgo concreto para la equidad en la atención.

Los números respaldan la preocupación. Estudios preliminares reportaron que hasta el 90 % de las notas generadas por IA requerían corrección. Investigaciones más recientes refinaron la cifra a un 20 % de notas con errores significativos que pueden afectar el diagnóstico. Y aunque el número parece bajo, el impacto de un error no corregido es proporcional a la complejidad del caso y a la rapidez con la que se toman decisiones clínicas.

La regulación sigue siendo insuficiente. En Australia, el Therapeutic Goods Administration (TGA) supervisa los dispositivos médicos, pero la categorización de los sistemas de IA como “software de diagnóstico” o “asistente clínico” todavía está en desarrollo. A nivel global, marcos como el GDPR en Europa y la HIPAA en Estados Unidos abordan la protección de datos, pero no especifican cómo deben manejarse los registros generados por IA en el ámbito clínico. La falta de estándares claros deja a los médicos en una zona gris donde la responsabilidad legal y ética es difusa.

Para proteger a los pacientes es imprescindible que las instituciones de salud establezcan políticas de auditoría continua y que los sistemas de IA sean evaluados periódicamente por su precisión y sesgo. Además, los pacientes deberían recibir información transparente sobre quién tiene acceso a sus datos y con qué propósito. La idea de “consentimiento informado” debe extenderse a la generación automática de notas, garantizando que los pacientes comprendan que sus palabras pueden ser interpretadas por una máquina.

El impacto potencial en la calidad de la atención es ambivalente. Por un lado, la reducción de la carga administrativa puede mejorar la satisfacción del médico y, indirectamente, la paciente. Por otro, la introducción de errores y sesgos puede comprometer la equidad y la precisión clínica, especialmente en poblaciones vulnerables. A medida que más hospitales adopten estos sistemas, es vital que la comunidad médica, los reguladores y los pacientes trabajen juntos para establecer estándares robustos que balanceen eficiencia y seguridad.

En conclusión, los scribes de IA representan una promesa tecnológica enorme, pero su adopción debe acompañarse de una gobernanza rigurosa. La transparencia en la gestión de datos, la validación continua de los modelos y la inclusión de los pacientes en la conversación sobre consentimiento serán los pilares para convertir esta herramienta en un aliado confiable y no en una fuente de riesgo.