El lunes pasado, la escuela media de Lexington, Kentucky, tomó una medida drástica: enviaron a casa a sus alumnos después de la primera jornada de clases. La causa fue la entrega de materiales didácticos generados por una inteligencia artificial que, lejos de ofrecer contenido coherente, estaban plagados de alucinaciones que impedían cualquier uso pedagógico. Los docentes, al revisar los documentos, descubrieron errores grotescos, entre ellos un mapa que mostraba regiones inexistentes como “North Dahota” y “Olkchoma”, además de frases sin sentido que desafiaban cualquier interpretación lógica.

El contenido que los estudiantes recibieron incluía una serie de frases que nada tenían que ver con la materia curricular, como “Planetary distance are temporatory earth, equater the elenonts and regnestiom org toed dishlign.” Este tipo de texto, que en inglés ya era incoherente, se tradujo en español con la misma falta de sentido, generando confusión en los niños y sus padres. Además, la herramienta de IA que supuestamente había sido contratada para crear actividades interactivas y evaluaciones no había sido validada previamente por el equipo docente, lo que dejó a la escuela sin una vía de control para detectar los errores antes de distribuirlos.

Los llamados “hallucinations” de los modelos de IA son el resultado de la generación de texto basada en patrones estadísticos, no en comprensión real del mundo. Cuando el algoritmo recibe una solicitud sin datos suficientemente anclados, tiende a inventar conceptos, nombres o relaciones que no existen, como en este caso donde se fabricaron topónimos y descripciones geográficas falsas. Esta carencia de grounding, o conexión con fuentes verificables, es particularmente peligrosa en entornos educativos, donde la precisión del contenido influye directamente en la formación de los estudiantes y en la credibilidad de la institución.

El efecto inmediato fue el descontento de los padres, que acudieron a la dirección exigiendo explicaciones, y la interrupción del proceso de aprendizaje de los niños, quienes fueron enviados a casa sin material adecuado. Más allá del caso puntual, el incidente pone en relieve la creciente dependencia de herramientas automatizadas en la educación y el riesgo de que la confianza pública en la IA se vea erosionada si los errores no se controlan. La falta de supervisión humana y la ausencia de protocolos de validación generan un caldo de cultivo para que situaciones similares se repitan en otras instituciones.

Este episodio es sintomático de una tendencia global: la integración acelerada de la IA en la creación de contenidos educativos, desde plataformas de aprendizaje adaptativo hasta generadores de exámenes. Sin marcos regulatorios claros y sin procesos de revisión rigurosos, los sistemas pueden producir información errónea a gran escala, afectando a millones de alumnos. La incidentividad observada en Kentucky subraya la necesidad de establecer políticas que obliguen a los proveedores a garantizar la veracidad de sus outputs, así como a capacitar a docentes para critically assess AI‑generated material antes de su uso en el aula.

En definitiva, el caso de Lexington muestra que la IA, aunque potente, no sustituye la vigilancia humana ni la revisión crítica. Para que la tecnología sea una aliada eficaz en la educación, es imprescindible combinar la innovación con protocolos de control, formación docente y marcos normativos que aseguren la calidad y la seguridad del contenido. Solo así se podrá aprovechar el potencial de la IA sin poner en riesgo la confianza de los estudiantes y sus familias.