Tag

#Inyeccion de prompts

3 artículos encontrados.

Abuso de IA en tribunales: cómo un demandado intentó manipular un sistema automatizado

Un demandado en Connecticut ocultó instrucciones invisibles para IA en documentos legales, intentando influir en un sistema automatizado. El juez lo comparó con el velorio de un jurado y le quitó los privilegios de presentación electrónica.

5 min lectura3hIAOnda Redaccion

Herramientas

OpenAI lanza GPT-Red para cazar fallos de inyección antes de desplegar GPT-5.6 Sol

La compañía revela un modelo interno de red-teaming automatizado que encuentra vulnerabilidades a escala. Así busca blindar sus sistemas antes de su lanzamiento masivo.

5 min lectura4semIAOnda Redaccion

Regulación

OpenAI lanza el modo Lockdown para frenar inyecciones de prompts y proteger datos sensibles

OpenAI introduce el modo Lockdown en ChatGPT, una capa de defensa contra ataques de inyección de prompts. Aunque no garantiza inmunidad total, busca reducir la exposición de información confidencial.

5 min lectura9semIAOnda Redaccion