Bruselas, 27 de marzo de 2025 – La Comisión Europea ha anunciado la creación de un equipo dedicado a supervisar los modelos de inteligencia artificial y los contenidos generados por IA, como los deepfakes, en los vísperas del lanzamiento oficial del AI Act este fin de semana. Este organismo, que dependerá de la Dirección General de Mercado Interior, será responsable de monitorizar en tiempo real los algoritmos que se despliegan en territorio europeo y de identificar posibles infracciones a la normativa vigente.
El nuevo cuerpo llevará a cabo auditorías técnicas periódicas, revisará los registros de entrenamiento y de inferencia de los modelos, y coordinará con las autoridades nacionales de protección de datos para garantizar que se cumplan los principios de transparencia, trazabilidad y evaluación de riesgos que el AI Act obliga a implementar. Además, el equipo publicará informes trimestrales que detallen el estado de cumplimiento de los proveedores y señalarán desviaciones que pudieran derivar en sanciones.
En un contexto donde la generación de deepfakes se ha vuelto una herramienta accesible para cualquier individuo o grupo con intereses malintencionados, la UE ha considerado a este fenómeno como una amenaza directa a la integridad de la información y a la confianza social. Por ello, el AI Act incluye disposiciones específicas que prohíben la creación y difusión no consentida de contenidos sintéticos que puedan inducir a error o manipular opiniones públicas, y otorga a las autoridades competentes la facultad de ordenar la retirada de material ilícito y de aplicar sanciones económicas significativas.
La puesta en marcha de este equipo implica una carga operativa adicional para las empresas tecnológicas, ya que obligará a registrar cada modelo, a mantener documentación detallada de los datos de entrenamiento, a medir sesgos y a disponer de mecanismos de detección de deepfakes antes de su despliegue. No obstante, la normativa también brinda una hoja de ruta clara que puede acelerar la adopción de buenas prácticas de IA responsable, reducir riesgos legales y mejorar la reputación de los proveedores que demuestren cumplimiento.
Para los profesionales hispanohablantes del sector tecnológico, esta medida constituye una señal de que la regulación europea está avanzando hacia una supervisión proactiva y basada en evidencia, lo que les obliga a reforzar sus procesos de gobernanza de datos, a implementar auditorías internas de sesgo y a preparar documentación que responda a los requisitos de trazabilidad exigidos por el AI Act. Las startups y medianas empresas, en particular, deberán contar con recursos adecuados o buscar apoyo de consultoras especializadas para cumplir sin incurrir en sanciones.
En definitiva, la creación del equipo de supervisión en Bruselas representa un paso decisivo para que la Unión Europea consolide un ecosistema de IA más seguro, transparente y alineado con los valores democráticos. Al anticiparse a los desafíos de los deepfakes y de los modelos que pueden violar la normativa, la UE no solo protege a los ciudadanos, sino que también establece un marco de referencia que podría inspirar regulaciones similares en otras regiones y acelerar la adopción global de prácticas éticas en inteligencia artificial.
