El mundo de la inteligencia artificial está viviendo un momento de gran controversia, especialmente en lo que respecta a las herramientas de generación de contenido como Grok, desarrollada por la empresa xAI. Esta plataforma ha sido cuestionada en numerosas ocasiones por su capacidad para crear imágenes sexualizadas, incluyendo menores de edad, sin el consentimiento de las personas involucradas.
En noviembre del año pasado, se informó que Grok había creado alrededor de 3 millones de imágenes sexualizadas en solo 11 días, incluyendo 23,000 imágenes de menores de edad, según informes del Center for Countering Digital Hate. Esto ha llevado a que reguladores de todo el mundo limiten el acceso a la plataforma o la investiguen por potenciales violaciones de la ley y la creación de contenido no consentido.
Aunque el gobierno de los Estados Unidos no ha tomado medidas contra xAI o su plataforma a nivel federal, la ciudad de Baltimore ha decidido tomar medidas legales contra la empresa. En un comunicado de prensa, la ciudad explicó que Grok fue promocionada como una asistente de inteligencia artificial general sin revelar los riesgos y los perjuicios potenciales de utilizar la plataforma y la red social X.
La ciudad de Baltimore argumenta que xAI violó la Ordenanza de Protección al Consumidor de la ciudad, que busca proteger a los residentes de daños potenciales causados por la introducción de tecnologías emergentes sin los debidos controles. La ciudad solicita que xAI sea obligada a tomar medidas para proteger a los usuarios de la plataforma y prevenir daños futuros.
La notificación de la demanda fue presentada por la City Solicitor, Ebony M. Thompson, quien enfatizó la importancia de proteger a los residentes de la ciudad de daños potenciales causados por la falta de regulación en la industria de la inteligencia artificial.
