Minneapolis. La empresa xAI, fundada por Elon Musk y creadora del modelo de lenguaje Grok, ha presentado una demanda judicial contra el estado de Minnesota con el objetivo de bloquear la aplicación de una ley recién aprobada que prohíbe el desarrollo y la distribución de aplicaciones capaces de generar imágenes íntimas o de desnudado sin el consentimiento de las personas representadas.
La legislación, que entró en vigor este año en Minnesota, clasifica como delito el uso de herramientas de inteligencia artificial diseñadas para crear representaciones explícitas no consensuadas de individuos reales. La norma busca frenar la proliferación de lo que se conoce como 'nudify apps', aplicaciones que utilizan modelos generativos de imágenes para alterar fotografías de personas y añadir desnudos o contenido sexual sin su autorización.
En su demanda, xAI argumenta que la ley de Minnesota es inconstitucional y viola las protecciones de la Primera Enmienda estadounidense, además de imponer restricciones excesivas que podrían afectar el desarrollo legítimo de tecnologías de generación de imágenes. La compañía sostiene que la normativa es tan amplia en su redacción que podría aplicarse a herramientas de IA con usos legítimos, como la creación artística, los videojuegos o las plataformas de entretenimiento digital.
El contexto detrás de esta demanda es esencial para entender su magnitud. En los últimos dos años, las aplicaciones de 'deepfake nudity' se han multiplicado exponencialmente. Según diversos informes de organizaciones de derechos digitales, millones de personas —en su mayoría mujeres— han sido víctimas de la creación no consentida de imágenes íntimas generadas con inteligencia artificial. Plataformas como Telegram, redes sociales menores y foros en la dark web se han convertido en mercados activos para este tipo de contenido, generando una crisis global de privacidad y seguridad digital.
Varios estados de Estados Unidos ya habían comenzado a legislar contra esta práctica antes de Minnesota. Virginia fue pionera en 2019 al criminalizar los deepfakes sexuales no consentidos, y desde entonces más de una docena de estados han aprobado normativas similares. Sin embargo, la ley de Minnesota es una de las primeras en apuntar directamente a las herramientas de IA que facilitan la creación de este contenido, lo que la convierte en un precedente legislativo de enorme relevancia.
La demanda de xAI no ha pasado desapercibida en el ecosistema regulatorio. Organizaciones como la Electronic Frontier Foundation (EFF) y grupos defensores de los derechos de las mujeres han expresado preocupación por la estrategia legal de la compañía. Para estos expertos, el desafío judicial de xAI no es tanto sobre la libertad de expresión como sobre proteger un modelo de negocio que podría verse comprometido si se establecen barreras claras sobre qué tipo de generación de imágenes es legal y cuál no.
Desde la perspectiva del análisis tecnológico, este conflicto ilustra una tensión estructural que atraviesa a toda la industria de la inteligencia artificial generativa. Las empresas que desarrollan modelos fundamentales —como xAI con Grok, OpenAI con DALL·E, o Stability AI con Stable Diffusion— se encuentran en una encrucijada: sus modelos pueden usarse tanto para fines creativos legítimos como para la generación de contenido dañino. La responsabilidad sobre cómo se utiliza la tecnología se ha convertido en uno de los debates más álgidos del sector.
Mientras tanto, Europa avanza con pasos más decididos en esta dirección. El AI Act europeo, recientemente aprobado y en fase de implementación, clasifica los sistemas de IA que generan contenido íntimo no consensuado como de alto riesgo y establece sanciones significativas para quienes los desarrollen o distribuyan. La diferencia regulatoria entre EE.UU. y la Unión Europea es cada vez más evidente, y casos como el de Minnesota podrían influir en futuras legislaciones a nivel global.
Lo que está en juego en esta demanda va más allá de una batalla corporativa. El resultado determinará si los estados estadounidenses pueden establecer límites efectivos sobre el uso de la IA generativa para crear contenido sexual no consentido, o si las empresas tecnológicas pueden invocar la libertad de expresión para eludir regulaciones diseñadas para proteger a las víctimas. Para los profesionales del sector tecnológico hispanohablante, este caso es un termómetro esencial del futuro regulatorio de la IA generativa en todo el mundo.
El tribunal encargado de resolver la demanda de xAI aún no ha fijado una fecha de audiencia. Lo que sí es claro es que, sea cual sea el fallo, establecerá un precedente que resonará en las legislaciones de todo el continente americano y más allá, configurando los límites éticos y legales de una tecnología que avanza mucho más rápido que las normas que la regulan.
