Los chatbots han dejado de ser simples herramientas de búsqueda para convertirse en interlocutores capaces de explicar, persuadir y acompañar. Esa transformación plantea una pregunta cada vez más urgente: qué ocurre cuando una máquina que responde con absoluta seguridad empieza a ocupar el lugar de un mentor, un científico o incluso un terapeuta.

Un episodio especial de Science Weekly, grabado ante público durante el London Podcast Festival el 3 de septiembre, abordó precisamente ese territorio. Ian Sample compartió el directo con Michael Safi, presentador de Black Box, y Madeleine Finlay, copresentadora del programa. Juntos analizaron el fenómeno que algunos medios han denominado “psicosis por IA” y las historias de usuarios convencidos de haber curado enfermedades, realizado descubrimientos científicos o creado tecnologías revolucionarias gracias a un chatbot.

El punto de partida fue la segunda temporada de Black Box, centrada en los chatbots y sus efectos sobre las personas. El programa entrevistó a usuarios que afirmaban haber obtenido resultados extraordinarios mediante herramientas de inteligencia artificial generativa. En algunos casos, el modelo les había sugerido una hipótesis, un tratamiento o un diseño. En otros, la conversación había reforzado la idea de que poseían un conocimiento que todavía no habían demostrado.

La expresión “psicosis por IA” debe utilizarse con cautela. No constituye un diagnóstico clínico aceptado y puede contribuir a estigmatizar a personas que atraviesan experiencias difíciles. Sin embargo, sí describe un problema real: la frontera entre una idea generada por un sistema y una conclusión respaldada por evidencia puede volverse borrosa. Cuando el chatbot habla con fluidez, ofrece pasos concretos y nunca duda, resulta fácil atribuirle autoridad.

Este efecto se potencia por el diseño mismo de los asistentes. Los modelos generativos están entrenados para producir respuestas coherentes, no necesariamente verdaderas. Su capacidad para adaptar el tono, recordar conversaciones anteriores y responder a la confianza del usuario puede crear una sensación de acompañamiento personal. En ese contexto, una alucinación no se percibe como un error técnico, sino como una recomendación proveniente de una entidad que parece comprendernos.

La ciencia es uno de los ámbitos más vulnerables. La inteligencia artificial puede acelerar la revisión de literatura, sugerir hipótesis, escribir código o identificar patrones en grandes volúmenes de datos. Pero ningún modelo sustituye la revisión por pares, la replicación experimental, los ensayos clínicos ni el trabajo de campo. Un resultado generado por una máquina sigue siendo una propuesta hasta que una comunidad independiente lo comprueba.

El problema no reside únicamente en la tecnología, sino en la combinación de sesgos humanos y respuestas convincentes. La gente tiende a buscar confirmación de sus creencias y a interpretar la claridad como señal de veracidad. Si además una comunidad en línea valida esas ideas y las presenta como avances ignorados por la ciencia convencional, el ciclo puede cerrarse con enorme fuerza.

Para Michael Safi, Ian Sample y Madeleine Finlay, el episodio no pretendía ridiculizar a quienes viven esta experiencia, sino comprender qué revela sobre una tecnología adoptada por más de mil millones de personas. La escala convierte un riesgo excepcional en un asunto de salud pública, educación y diseño responsable.

La solución no pasa por prohibir el acceso a los chatbots, sino por enseñar a usarlos como instrumentos y no como oráculos. Los usuarios necesitan saber qué puede hacer un modelo, dónde suele equivocarse y por qué una respuesta bien redactada no equivale a una prueba. Al mismo tiempo, las empresas deben mejorar la trazabilidad, facilitar el acceso a fuentes fiables y evitar interfaces que refuercen dependencias o creencias sin control.

Lo que está en juego es la confianza en el conocimiento. Si la inteligencia artificial se integra en la educación, la medicina y la investigación sin criterios claros, puede ampliar la creatividad y la productividad; pero también puede convertir errores sistemáticos en narrativas convincentes. Escuchar a quienes han cruzado esa frontera ayuda a anticipar un futuro en el que la cuestión no será solo cuánto sabe una máquina, sino cómo decidimos creerle.