Un reciente estudio del Brennan Center, publicado en la revista Fast Company AI, ha puesto de manifiesto una contradicción inquietante en el comportamiento de los grandes modelos de lenguaje y generación de imágenes. Mientras que plataformas como ChatGPT, Claude o Gemini rechazan categóricamente teorías conspirativas sobre procesos electorales, sus contrapartes dedicadas a la generación de imágenes están produciendo contenido visual falso que respalda dichas mentiras sin limitaciones aparentes. Este doble estándar no solo socava la confianza pública en las instituciones democráticas, sino que también revela lagunas críticas en los mecanismos de moderación implementados por empresas tecnológicas líderes. El estudio analizó cómo distintos modelos de IA respondían a consultas relacionadas con fraude electoral, manipulación de resultados o supuestas irregularidades. Los chatbots mostraron una postura clara: rechazaban afirmaciones sin fundamento y dirigían a los usuarios hacia fuentes confiables. Sin embargo, cuando se solicitó a las herramientas de generación de imágenes crear contenido basado en esas mismas premisas falsas, la respuesta fue la creación de imágenes hiperrealistas que simulaban documentos electorales manipulados, escenas de supuestos incidentes en centros de votación o incluso deepfakes de figuras públicas promoviendo narrativas engañosas. Esta divergencia entre políticas de contenido refleja un problema estructural en la gobernanza de la IA. Las empresas han priorizado la regulación del lenguaje generado por sus chatbots, pero aún no han logrado alinear las políticas de sus sistemas de generación de imágenes con los mismos principios éticos. La falta de coherencia no solo genera confusión en los usuarios, sino que también facilita la propagación de desinformación visual, que suele ser más creíble y viral que el texto escrito. La implicación va más allá del ámbito electoral. Si estas plataformas permiten que sus herramientas de imagen sirvan para crear pruebas falsas de cualquier tipo, el riesgo se extiende a otros campos sensibles como la justicia, la salud o la seguridad nacional. La combinación de chatbots que dicen la verdad y generadores de imágenes que inventan mentiras crea un ecosistema de desinformación híbrida, difícil de identificar y aún más complejo de combatir. Para los profesionales del sector, este hallazgo subraya la necesidad de un enfoque integral en la gobernanza de la IA. Regalar la moderación de contenido solo al ámbito del lenguaje natural deja peligrosas brechas en la estrategia de mitigación de riesgos. Las plataformas deben revisar sus políticas de generación de imágenes con la misma rigurosidad aplicada a sus chatbots, e incluso considerar la implementación de filtros cruzados que detecten intenciones engañosas antes de generar cualquier contenido. Además, el estudio resalta la importancia de la transparencia. Los usuarios deben entender claramente qué limitaciones existen en cada herramienta y cómo se toman esas decisiones. Sin una comunicación efectiva sobre los mecanismos de seguridad y los principios rectores, el público permanecerá vulnerable a la manipulación. Mirando hacia el futuro, es probable que este debate intensifique las discusiones sobre la regulación de la IA a nivel global. Legislaciones como la propuesta Ley de Inteligencia Artificial de la Unión Europea o las directrices de la Comisión Federal de Comercio de EE. UU. podrían necesitar ajustarse para abordar esta dualidad entre texto e imagen. La responsabilidad no solo recae sobre los gobiernos, sino también sobre las propias empresas tecnológicas, que deben asumir un liderazgo proactivo en la definición de estándares éticos coherentes. La democracia no puede permitir que la tecnología sirva como palanca para la desinformación. Mientras las grandes plataformas continúen priorizando el discurso sobre la acción, el riesgo de erosión de la confianza ciudadana persistirá. El mensaje es claro: la integridad democrática exige no solo palabras, sino también imágenes que no mientan.