Las presidencias de varios comités federales del Parlamento de Australia han puesto en alerta a los legisladores tras detectar un aumento significativo de presentaciones elaboradas con inteligencia artificial que contienen información errónea o incluso completamente inventada. Los presidentes advierten que esta ola de material generado por IA está ingresando al proceso de elaboración de políticas y podría afectar la calidad de las decisiones parlamentarias.
Un análisis realizado esta semana por Guardian Australia reveló que las consultas parlamentarias están siendo inundadas por textos producidos por modelos de lenguaje grandes (LLMs) que fabrican estudios, citan investigaciones inexistentes y atribuyen trabajos a académicos reales que nunca los realizaron. En algunos casos, los informes de los comités han incluido referencias cuya mayoría de fuentes resulta ser alucinaciones de la IA, es decir, contenidos que parecen auténticos pero que no tienen base en la realidad.
El fenómeno conocido como ‘alucinación’ ocurre cuando un LLM genera información que suena plausible pero que está desvinculada de cualquier dato verificable. Esto puede manifestarse como la invención de autores, la creación de revistas científicas ficticias o la formulación de conclusiones que nunca fueron respaldadas por evidencia empírica. Cuando estas alucinaciones se cuelan en documentos oficiales, el riesgo es que los legisladores basen sus argumentos y votos en premisas falsas, lo que compromete la integridad del proceso democrático.
Aunque el foco está en Canberra, el problema no es aislado. En los últimos años, organismos legislativos de Europa, América del Norte y Asia han reportado casos similares en los que ciudadanos o grupos de interés utilizan herramientas de IA generativa para producir masivamente comentarios, cartas y documentos de posición. La facilidad con que se pueden crear textos que aparentan rigor académico ha elevado el umbral de la desinformación en los espacios de deliberación pública.
Ante esta situación, los presidentes de los comités han pedido a los miembros del Parlamento que extremen la cautela al revisar cualquier presentación y que empleen herramientas de verificación de fuentes y detección de contenido generado por IA. Expertos en inteligencia artificial sugieren combinar la revisión humana con software que identifique patrones típicos de las alucinaciones, como referencias a DOI inexistentes o estilos de cita incoherentes. Asimismo, proponen capacitar a los asesores legislativos en alfabetización sobre IA para que puedan reconocer señales de alerta antes de que el material llegue al registro oficial.
Para el público hispanohablante, esta advertencia sirve como lección importante: la adopción acelerada de la IA en los procesos de toma de decisiones debe ir acompañada de marcos de responsabilidad y transparencia. Los reguladores de América Latina y España pueden anticipar desafíos similares y considerar la implementación de requisitos de divulgación cuando se utilice IA en aportes a consultas públicas, así como fomentar el desarrollo de estándares de calidad que protejan la veracidad de la información que alimenta la democracia.
