El Tribunal Supremo de Nuevo México ha impuesto una multa y declarado en desacato al abogado defensor Stephen Aarons tras descubrir que un escrito de apelación en un caso de asesinato contenía testimonios policiales y testigos completamente fabricados por ChatGPT. La resolución, emitida el miércoles, subraya una advertencia que la comunidad legal tecnológica lleva tiempo señalando: la salida de un modelo de lenguaje no sustituye la verificación rigurosa que exige el ejercicio del derecho.

Aarons argumentó que utilizó la herramienta de OpenAI para elaborar un "resumen a prueba de balas" durante la apelación de la condena de su cliente. Sin embargo, el tribunal determinó que el abogado no realizó ninguna comprobación de los hechos generados por la IA, incumpliendo su deber de competencia y diligencia. La sanción incluye una multa económica y la obligación de completar un curso de ética legal, además de la remisión del expediente a la junta disciplinaria del colegio de abogados para posibles medidas adicionales.

Este episodio no es aislado. En 2023, el caso Mata v. Avianca en Nueva York ya puso en el foco mediático el fenómeno de las "alucinaciones" jurídicas cuando dos letrados citaron precedentes inexistentes generados por ChatGPT. Desde entonces, tribunales de todo Estados Unidos han emitido órdenes locales que exigen a los abogados certificar que no han delegado la redacción sustancial en IA sin supervisión humana, o que han verificado cada cita y dato. La Asociación Americana de Abogados (ABA) ha publicado opiniones formales recordando que la regla de competencia tecnológica obliga a entender los riesgos y limitaciones de estas herramientas.

El caso Aarons añade una dimensión crítica: la fabricación de pruebas testimoniales, no solo de jurisprudencia. Inventar declaraciones de policías o testigos oculares atenta directamente contra la integridad del proceso penal y los derechos del acusado. Los expertos en legaltech advierten que los modelos generativos, por su naturaleza probabilística, carecen de concepto de verdad fáctica; su función es predecir texto plausible, no recuperar información verificada. Usarlos como motores de búsqueda o bases de datos de hechos es un error de categoría que puede tener consecuencias profesionales severas y, lo que es más grave, poner en riesgo la libertad de una persona.

Para los despachos y departamentos legales que integran IA generativa en sus flujos de trabajo, la lección es clara: la tecnología debe operar bajo un protocolo de "humano en el bucle" estricto. Eso implica validar cada cita, cada fecha, cada nombre propio y cada afirmación fáctica contra fuentes primarias antes de presentar cualquier documento ante un tribunal. Algunas firmas ya implementan listas de verificación obligatorias y herramientas de verificación automatizada que cruzan referencias con bases de datos jurídicas oficiales.

A nivel regulatorio, la presión aumenta. La Unión Europea, con su Reglamento de IA, clasifica los sistemas de apoyo a la toma de decisiones judiciales como de alto riesgo, imponiendo requisitos de transparencia, supervisión humana y gestión de datos. En EE. UU., la Corte Suprema y los colegios de abogados estatales estudian normas que obliguen a revelar el uso de IA generativa en escritos judiciales. La tendencia apunta a que la opacidad en el uso de estas herramientas dejará de ser una opción defensiva.

En definitiva, el caso de Nuevo México refuerza la tesis de que la IA generativa es un potente asistente de redacción y análisis, pero nunca un sustituto del juicio profesional. La responsabilidad final —ética, legal y reputacional— recae siempre en el abogado que firma el escrito. Ignorar esa frontera no solo expone a sanciones; traiciona la confianza que el sistema de justicia deposita en sus operadores.