Un informe exclusivo del proyecto Tech Transparency Project ha revelado una falla crÃtica en los sistemas de control parental de Apple y Google, permitiendo que adolescentes de 13 años accedan a aplicaciones capaces de generar imágenes sexualmente explÃcitas sin el consentimiento de las personas involucradas.
El estudio, llevado a cabo mediante cuentas de prueba simulando usuarios menores de edad, logró descargar 135 aplicaciones con funcionalidades para crear contenido sexual no consensuado. Estas apps, como Movely, utilizan inteligencia artificial para transformar fotos normales en videos y imágenes con contenido sexual explÃcito.
El caso que puso en evidencia esta problemática ocurrió en diciembre de 2025, cuando Morgan Dorfman recibió noticias devastadoras: un estudiante de la escuela secundaria de su hija en Pensilvania estaba creando material pornográfico generado por IA utilizando imágenes de su hija y cinco otras adolescentes más.
La aplicación Movely permitÃa al agresor crear videos sexuales realistas a partir de fotografÃas cotidianas de las vÃctimas, sin su conocimiento ni consentimiento. Este tipo de contenido, conocido como 'deepfake' sexual, representa una amenaza significativa para la privacidad y seguridad de los jóvenes en la era digital.
La normativa actual de las tiendas de aplicaciones establece restricciones para contenido para adultos, pero claramente existe un vacÃo en la implementación efectiva de estos controles. Apple y Google afirman tener sistemas robustos de verificación de edad y filtrado de contenido, sin embargo, el estudio demuestra que estos mecanismos son fácilesmente evitables.
Los expertos en ciberseguridad señalan que la proliferación de estas aplicaciones representa un nuevo frente en la lucha contra el ciberacoso y la explotación digital de menores. La tecnologÃa de generación de imágenes basada en IA ha avanzado a un ritmo tal que ahora permite crear contenido hiperrealista en cuestión de minutos, sin necesidad de conocimientos técnicos avanzados.
Desde el punto de vista legal, la creación y distribución de este tipo de contenido constituye un delito grave en muchas jurisdicciones, incluyendo acusaciones de difamación, acoso sexual y posesión de material sexual de menores. Sin embargo, la naturaleza anónima y distribuida de internet complica las investigaciones y persecuciones legales.
Las empresas tecnológicas enfrentan crecientes presiones regulatorias para implementar medidas más estrictas. En la Unión Europea, la normativa de servicios digitales (DSA) exige mayor responsabilidad en la moderación de contenido, mientras que en Estados Unidos se discute la aprobación de leyes estatales que obligen a las plataformas a verificar la edad de los usuarios.
La cuestión central no es solo técnica, sino ética: órganos internacionales y defensores de los derechos digitales abogan por una regulación que equilibre la innovación tecnológica con la protección de los derechos fundamentales, especialmente de los grupos más vulnerables como los adolescentes.
La falta de supervisión efectiva en las plataformas de distribución de aplicaciones revela la necesidad urgente de actualizar los marcos regulatorios existentes. Mientras tanto, padres, educadores y legisladores deben trabajar juntos para desarrollar estrategias comprensivas que protejan a los jóvenes en un entorno digital cada vez más complejo y potencialmente peligroso.
El debate sobre responsabilidad empresarial y protección de menores en la era de la IA acaba de comenzar, y su resolución tendrá implicaciones profundas para la sociedad digital futura.
