El medio Guardian AI publicó un informe exclusivo que pone en duda la solidez de un estudio encargado por el gobierno australiano para respaldar la prohibición de acceso a redes sociales a menores de 16 años. Según el análisis, una sección del documento contiene referencias a artículos académicos que no existen, lo que sugiere la presencia de alucinaciones generadas por inteligencia artificial durante su elaboración.\n\nEl informe en cuestión fue producido como parte del ensayo de tecnología de verificación de edad de 3,48 millones de dólares australianos, realizado el año pasado por la organización británica Age Check Certification Scheme (ACCS). Ese ensayo evaluó diversas soluciones de verificación de edad que podrían ser implementadas por las plataformas de redes sociales para cumplir con la norma que prohíbe el uso de estos servicios a usuarios menores de 16 años. El objetivo era determinar qué tecnologías resultaban más fiables y escalables para un despliegue a nivel nacional.\n\nLos autores del estudio reconocieron que utilizaron ChatGPT en la fase de edición del texto, pero rechazaron la idea de que las citaciones erróneas fueran producto de alucinaciones de la IA. Afirmaron que los errores se debieron a un proceso de revisión manual insuficiente y a la confusión entre fuentes similares. Sin embargo, expertos en IA señalan que los modelos de lenguaje grande, como GPT‑4, tienden a inventar referencias cuando se les pide generar bibliografía o respaldar afirmaciones, especialmente si no tienen acceso a una base de datos verificada en tiempo real.\n\nEste episodio ocurre en un momento crítico para la regulación digital en Australia. La ley que prohíbe el acceso a redes sociales para menores entró en vigor a finales de 2023 y obliga a plataformas como TikTok, Instagram y YouTube a implementar sistemas robustos de verificación de edad. El gobierno ha argumentado que dicha medida protege a los jóvenes de riesgos como el cyberacoso, la exposición a contenido dañino y la adicción digital. Por tanto, cualquier informe que sustente la política debe ser rigurosamente verificable para mantener la confianza pública y evitar posibles desafíos legales.\n\nLa controversia plantea preguntas importantes sobre el uso de herramientas de IA en la elaboración de documentos de política pública. Mientras que los modelos de lenguaje pueden acelerar la redacción y ayudar a sintetizar información, su tendencia a generar contenido ficticio —conocida como alucinación— representa un riesgo cuando se trata de citas, datos estadísticos o referencias académicas. La falta de transparencia sobre cuándo y cómo se empleó la IA puede erosionar la credibilidad de los informes y abrir la puerta a críticas de sesgo o manipulación.\n\nPara los profesionales tecnológicos, este caso sirve como recordatorio de la necesidad de establecer flujos de trabajo que incluyan verificaciones humanas obligatorias después de cualquier asistencia de IA. Además, subraya la importancia de documentar claramente el papel de la IA en la producción de contenidos, tal como exigen algunas guías de buena práctica en investigación y en la elaboración de normas regulatorias.\n\nEn última instancia, el episodio no invalida necesariamente los hallazgos del ensayo de verificación de edad, pero sí destaca la fragilidad de depender exclusivamente de modelos de lenguaje sin un riguroso control de calidad. A medida que más gobiernos exploren la IA para acelerar la elaboración de políticas, será crucial equilibrar la eficiencia con la integridad científica y la transparencia, garantizando que las decisiones que afecten a millones de usuarios se basen en evidencia verificable y no en artefactos generados por algoritmos.