La creciente popularidad de los chatbots de inteligencia artificial (IA) para obtener consejos sobre todo, desde la cocina hasta los impuestos, ha llevado a muchos a preguntarle a estos programas sobre sus problemas de salud. Sin embargo, este enfoque puede ser problemático, según la reciente advertencia del director médico jefe del Reino Unido.

Un estudio reciente, en el que participamos, evaluó la capacidad de los grandes modelos de lenguaje (LLM) para ayudar a la gente a manejar problemas de salud comunes. Los resultados fueron reveladores. Los chatbots que probamos no estaban listos para actuar como médicos. Una respuesta común a este tipo de estudios es que la IA avanza más rápido que la publicación académica. Por el momento que una investigación aparece, los modelos probados pueden ya haber sido actualizados. Sin embargo, estudios que utilizan versiones más recientes de estos sistemas para la triajeción de pacientes sugieren que los mismos problemas persisten.

En nuestro estudio, asignamos a los participantes descripciones breves de situaciones médicas comunes. Luego, los dividimos en dos grupos: uno que interactuaba con uno de los tres chatbots de IA más populares y otro que se basaba en las fuentes que normalmente utilizaría en casa. Después de interactuar con el chatbot, les preguntamos dos preguntas: ¿qué condición podría explicar los síntomas? Y ¿dónde deberían buscar ayuda?

Los participantes que utilizaron los chatbots fueron menos propensos a identificar la condición correcta que aquellos que no los utilizaron. También no fueron mejores a la hora de determinar el lugar adecuado para buscar atención que el grupo de control. En otras palabras, interactuar con un chatbot no ayudó a la gente a tomar decisiones de salud mejoradas.

¿Por qué esto sucede? Cuando eliminamos el elemento humano y les entregamos las mismas escenas directamente a los chatbots, su desempeño mejoró dramáticamente. Sin intervención humana, los modelos identificaron condiciones relevantes en la mayoría de los casos y a menudo sugirieron niveles adecuados de cuidado.

La clave para entender este resultado se encuentra en las conversaciones entre los chatbots y los participantes. Los problemas surgieron cuando los chatbots respondían de manera vaga o no proporcionaban información clara. Además, los chatbots no siempre eran capaces de comprender el contexto de la situación y ajustar sus respuestas de acuerdo a ello.

Esta investigación tiene implicaciones importantes para la salud pública. A medida que la IA se integra cada vez más en la atención médica, es fundamental que los desarrolladores y los reguladores consideren las limitaciones de estos sistemas y su potencial para empeorar las decisiones de salud.

Los chatbots de IA pueden tener conocimientos médicos, pero interactuar con ellos puede ser perjudicial si no se diseñan y se utilizan con cuidado. Es fundamental que los profesionales de la salud y los desarrolladores trabajen juntos para crear sistemas que no solo proporcionen información, sino que también puedan comprender y adaptarse a las necesidades individuales de cada persona.

La advertencia del director médico jefe del Reino Unido es un recordatorio importante de que, aunque la IA es una herramienta poderosa, no es una sustituta para el cuidado médico humano. La atención médica es un proceso complejo que requiere comprensión, empatía y habilidades comunicativas. Los chatbots de IA pueden ser una herramienta útil, pero no deben ser utilizados como un sustituto para el cuidado médico humano.