El Tribunal Supremo de Georgia ha revocado un fallo condenatorio por asesinato y amonestado a la fiscalía tras descubrirse que una orden judicial incluía múltiples citas jurisprudenciales inventadas. El documento, firmado en una instancia inferior, reproducía supuestos precedentes que nunca existieron, evidenciando cómo la adopción apresurada de herramientas de inteligencia artificial puede distorsionar la administración de justicia. La resolución no solo anula la sentencia, sino que subraya la necesidad de protocolos de verificación humana antes de que un algoritmo influya en la libertad de una persona.
Aunque el fallo no menciona explícitamente cuál fue el modelo utilizado, el patrón —conocido como alucinaciones en IA— coincide con comportamientos documentados en sistemas de lenguaje que priorizan la fluidez sobre la fidelidad. Estos motores, entrenados con vastas corpus de texto, son propensos a confabular referencias cuando se les solicita precisión bajo presión. En entornos legales, donde cada coma puede alterar vidas, esa asimetría entre confianza ciega y realidad matemática resulta explosiva. Georgia, con este precedente, obliga a fiscales y defensores a auditar rastros digitales con el mismo rigor que los peritajes forenses.
El caso también reaviva el debate sobre la cadena de custodia probatoria en la era algorítmica. Hasta ahora, los tribunales han lidiado principalmente con correos electrónicos hackeados o metadatos alterados; hoy enfrentan la posibilidad de que un párrafo entero sea sintetizado sin que medie intervención humana. La diferencia es sutil pero crítica: no se trata de manipulación maliciosa, sino de delegación negligente en sistemas que advierten, en letra pequeña, su propensión al error. La ética profesional exige preguntarse quién asume el costo de esa delegación cuando la balanza se inclina contra el acusado.
Para el ecosistema tech hispanohablante, la decisión funciona como un recordatorio práctico antes que moralista. Herramientas como generadores de texto avanzado pueden acelerar investigaciones y resúmenes procesales, pero su inserción en procesos formales requiere barreras de contención: verificación cruzada, trazabilidad de prompts y sellos de intervención humana. La innovación no está reñida con la prudencia; de hecho, su sostenibilidad depende de ella. Si los profesionales tecnológicos no exigen estas garantías, legisladores menos informados impondrán regulaciones torpes que frenarán el potencial transformador de estas plataformas.
En última instancia, lo ocurrido en Georgia proyecta sombras sobre la gobernanza algorítmica en sectores críticos. La inteligencia artificial no es culpable de cometer delitos, pero quienes la despliegan sí son responsables de mitigar riesgos sistémicos. A medida que más jurisdicciones revisen estándares probatorios, es probable que veamos listas de verificación obligatorias, auditorías externas y, muy posiblemente, certificaciones de conformidad para asistentes legales automatizados. El precedente sienta una línea roja: la tecnología puede sugerir, pero nunca decidir sin escrutinio. En ese equilibrio radica la diferencia entre asistencia y arbitrariedad.
