Tag

#Prompt injection

3 artículos encontrados.

¿El fin de la vulnerabilidad? Opus 5 podría erradicar el prompt injection

Anthropic marca un hito en la seguridad de agentes de IA con su modelo Opus 5. Un éxito rotundo contra el prompt injection en navegadores que podría cambiar la confianza en la automatización.

5 min lectura2semIAOnda Redaccion

Investigación

Gaslight: el nuevo malware macOS que engaña a la IA de análisis

Un implante macOS escrito en Rust incorpora una inyección de prompts para confundir a herramientas de IA y evadir el análisis de seguridad. Descubre cómo funciona y por qué es una amenaza emergente.

5 min lectura6semIAOnda Redaccion

Regulación

Cómo ChatGPT se protege de ataques de inyección de prompts

Los agentes de IA enfrentan amenazas de manipulación mediante técnicas como prompt injection. OpenAI revela cómo ChatGPT defiende su integridad y protege datos sensibles en sus interacciones.

7 min lectura21semIAOnda Redaccion