Una nueva oleada de 30 demandas legales sacude a OpenAI en medio de un debate que la industria tecnológica no puede seguir ignorando: ¿qué responsabilidad tienen las empresas de inteligencia artificial cuando sus sistemas detecten señales de violencia y no actúen? El caso del tiroteo escolar de Tumbler Ridge, en Canadá, vuelve a poner a la compañía de Sam Altman contra las cuerdas, esta vez con acusaciones directas de "ayuda y aliento" al autor de la masacre.

Las demandas fueron presentadas el miércoles en un tribunal federal de California por estudiantes, docentes y el director de la escuela que se encontraban en el centro educativo el día del tiroteo. Se suman así a las acciones legales que las familias de las víctimas habían interpuesto en abril, consolidando un frente judicial cada vez más amplio contra la compañía creadora de ChatGPT.

Lo más revelador de los documentos legales es que las propias demandas admiten que el sistema automatizado de revisión de OpenAI había marcado como problemáticas las conversaciones que el presunto tirador, Jesse Van Rootselaar, mantuvo con ChatGPT sobre violencia armada. Sin embargo, según alegan los demandantes, la empresa no tomó medidas adicionales tras esas alertas. Este detalle resulta especialmente perturbador: no se trata de que la IA pasara por alto las señales, sino que estas fueron detectadas y, aparentemente, ignoradas.

Para los profesionales del sector tech, este caso abre interrogantes profundos sobre los mecanismos de moderación y escalado de las plataformas de IA conversacional. ¿Qué protocolos existen cuando un modelo detecta contenido potencialmente peligroso? ¿Quién decide cuándo una conversación cruza la línea? ¿Cuál es el umbral para involucrar a autoridades o intervenir activamente? Hasta ahora, la respuesta de la industria ha sido ambigua, y casos como este empiezan a forzar definiciones legales concretas.

El concepto de "substantial assistance and encouragement", utilizado en las demandas, proviene del derecho anglosajón sobre responsabilidad por complicidad. Aplicarlo a un proveedor de IA es territorio legal sin precedentes. Los abogados de las víctimas argumentan que OpenAI no fue un mero proveedor de una herramienta neutral, sino que su sistema tuvo conocimiento directo de las intenciones del usuario y, aun así, continuó facilitando el diálogo. Es un argumento que, de prosperar, podría sentar jurisprudencia sobre cómo los desarrolladores de modelos de lenguaje deben responder ante patrones de uso peligroso.

Para el ecosistema hispanoamericano de tecnología, este caso tiene implicaciones directas. La regulación de IA en Europa, con la AI Act, y los debates legislativos en países como México, Colombia y España están definiendo marcos de responsabilidad que miran con atención lo que ocurre en Estados Unidos. Si los tribunales californianos aceptan que OpenAI tenía un deber de actuar tras detectar conversaciones peligrosas, las empresas que operan modelos de IA generativa en mercados hispanohablantes deberán revisar urgentemente sus propios protocolos de detección y respuesta.

Además, la figura de Sam Altman aparece mencionada personalmente en las demandas, lo que añade una capa de presión sobre el liderazgo ejecutivo de la compañía. Ya no se trata únicamente de la responsabilidad corporativa abstracta: se señala a quienes toman decisiones sobre los límites operativos de la tecnología.

La industria observa con atención cómo se desarrollan estos litigios. Mientras OpenAI y otros gigantes argumentan que sus modelos son herramientas y que la responsabilidad última recae en los usuarios, los demandantes están construyendo una narrativa alternativa: la de sistemas que saben, que pueden actuar, pero que eligen no hacerlo. Esa distinción podría redefinir, en los próximos años, los límites legales y éticos de la inteligencia artificial conversacional.

Por ahora, las 30 nuevas demandas elevan la presión sobre una empresa que ya lidia con investigaciones regulatorsias en múltiples jurisdicciones y con un escrutinio público creciente sobre los efectos sociales de sus productos. El tiroteo de Tumbler Ridge se ha convertido, sin pretenderlo, en el campo de pruebas donde se decidirá cuánto sabe una IA, cuánto debe intervenir y quién paga cuando decide mirar hacia otro lado.