El pasado mes de mayo el Comité de Estudios Educativos del Congreso de Nuevo México presentó un informe que propone la creación de un organismo de supervisión especializado en inteligencia artificial (IA) para el sistema escolar del estado. La iniciativa surge en un contexto donde, en 2023, el Departamento de Educación Pública de Nuevo México (NMPED) emitió una serie de directrices opcionales para el uso de herramientas de IA en aulas, sin embargo, la ausencia de un marco regulatorio vinculante ha generado preocupación entre legisladores, padres y docentes.
Un panorama de incertidumbre
Durante el último año, la adopción de chatbots, generadores de contenido y plataformas de análisis de datos impulsadas por IA se ha disparado en colegios de todo el país. En Nuevo México, varios distritos escolares comenzaron a experimentar con soluciones como ChatGPT para redactar ensayos o con sistemas de detección de plagio basados en IA. Aunque estas herramientas prometen eficiencia y personalización del aprendizaje, también plantean riesgos: sesgos algorítmicos, vulneración de la privacidad de menores y la posibilidad de que los estudiantes dependan excesivamente de la tecnología para resolver problemas críticos.
El informe del comité señala que las directrices de 2023, aunque útiles como punto de partida, carecen de mecanismos de control, sanciones y de una estructura clara de rendición de cuentas. "Sin una autoridad que supervise la implementación y el cumplimiento, cualquier normativa queda en papel", afirmó la diputada Ana Martínez, presidenta del comité, durante la presentación del documento.
Propuesta de un organismo de supervisión
La recomendación central es la creación de la "Comisión de Ética y Supervisión de IA en Educación" (CESIA), un ente independiente que trabajaría en conjunto con el NMPED, los distritos escolares y expertos externos. Entre sus funciones principales se incluyen:
- Desarrollo de normas obligatorias que complementen las guías opcionales ya existentes, definiendo qué tipos de IA pueden usarse, en qué contextos y bajo qué condiciones.
- Auditorías periódicas a las plataformas tecnológicas contratadas por las escuelas, verificando cumplimiento de estándares de seguridad, privacidad y equidad.
- Capacitación continua para docentes y personal administrativo, garantizando que comprendan tanto el potencial como los límites de la IA.
- Mecanismos de reporte y sanción para casos de uso indebido, incluyendo la protección de datos de estudiantes y la prevención de discriminación algorítmica.
- Participación de la comunidad, mediante foros abiertos donde padres y estudiantes puedan expresar inquietudes y sugerir mejoras.
Por qué es crucial actuar ahora
La rapidez con la que la IA se ha integrado al aula plantea un desafío sin precedentes para los sistemas educativos tradicionales. En ausencia de regulación, se corre el riesgo de crear una brecha digital aún mayor, donde solo las escuelas con mayores recursos puedan acceder a soluciones avanzadas, mientras otras quedan rezagadas.
Además, la legislación federal aún no ha definido un marco específico para la IA en educación. Estados como Illinois y Texas han empezado a explorar normativas, pero la falta de consenso nacional convierte a iniciativas estatales como la de Nuevo México en laboratorios de políticas públicas. Un organismo regulador estatal podría servir de modelo para futuros marcos a nivel nacional.
Impacto en la comunidad educativa
Para los docentes, la propuesta representa una oportunidad de recibir apoyo técnico y pedagógico. Muchos profesores han manifestado que, sin una guía clara, la incorporación de IA genera incertidumbre y sobrecarga. "Quiero usar herramientas que me ayuden a personalizar la enseñanza, pero también necesito saber que no estoy comprometiendo la privacidad de mis alumnos", explicó la maestra de secundaria Laura Gómez, de Albuquerque.
Los padres, por su parte, han expresado preocupación por la exposición de sus hijos a datos sensibles. Según una encuesta realizada por la Universidad de Nuevo México, el 62 % de los padres encuestados considera que la información de sus hijos podría estar en riesgo si se utilizan plataformas de IA sin supervisión adecuada.
Desafíos y críticas
No todos los actores están de acuerdo con la creación de la CESIA. Algunos sindicatos de docentes argumentan que una entidad reguladora podría añadir burocracia y limitar la innovación pedagógica. Asimismo, proveedores de tecnología temen que regulaciones estrictas encarezcan sus productos y dificulten la implementación en escuelas con presupuestos limitados.
El comité reconoce estos puntos y sugiere que la CESIA opere bajo un modelo de "regulación colaborativa", donde los desarrolladores de IA participen en la elaboración de normas para evitar barreras innecesarias, al mismo tiempo que se garantice la protección de los derechos de los estudiantes.
Próximos pasos
El informe será sometido a votación en la próxima sesión legislativa, programada para el mes de julio. De aprobarse, la CESIA tendría un plazo de 12 meses para establecer sus protocolos y comenzar las auditorías. Mientras tanto, el NMPED ha anunciado una serie de talleres de capacitación para directores y docentes, con el objetivo de preparar al sistema educativo para una transición ordenada.
En conclusión, la iniciativa del Comité de Estudios Educativos de Nuevo México marca un hito en la manera en que los gobiernos estatales pueden abordar la rápida expansión de la IA en la educación. La creación de un organismo de supervisión no solo busca mitigar riesgos, sino también fomentar un uso responsable que potencie el aprendizaje y prepare a los estudiantes para un futuro cada vez más digital.
Reflexión final
A medida que la inteligencia artificial se convierte en una herramienta cotidiana en las aulas, la responsabilidad de garantizar su uso ético y seguro recae tanto en los legisladores como en la comunidad educativa. La propuesta de Nuevo México podría servir de referente para otros estados y, eventualmente, para la política federal, estableciendo un equilibrio entre innovación y protección de los derechos de los menores.
