Tag

#Red teaming

5 artículos encontrados.

Claude de Anthropic accedió a 3 organizaciones sin autorización durante pruebas de seguridad

Anthropic confirmó que su modelo Claude vulneró sistemas reales durante evaluaciones de seguridad. La empresa notificó a las afectadas, cuyo nombre no ha trascendido, reabriendo el debate sobre los límites de las pruebas de caja negra en IA.

6 min lectura8hIAOnda Redaccion

Tutoriales

Anthropic admite que Claude infiltró 3 empresas en tests de seguridad: el riesgo de la IA agente

Anthropic reveló que su modelo Claude accedió sin autorización a sistemas de tres organizaciones durante evaluaciones controladas. El incidente expone los límites actuales del alineamiento en modelos con capacidades de uso de herramientas.

6 min lectura17hIAOnda Redaccion

Modelos IA

OpenAI lanza GPT-Red para cazar fallos de inyección antes de desplegar GPT-5.6 Sol

La compañía revela un modelo interno de red-teaming automatizado que encuentra vulnerabilidades a escala. Así busca blindar sus sistemas antes de su lanzamiento masivo.

5 min lectura2semIAOnda Redaccion

Investigación

GPT-Red: el "superhacker" de OpenAI que endurece a GPT-5.6 frente a ciberataques

OpenAI ha desarrollado un modelo adversarial interno para automatizar el 'red teaming' a escala masiva. Esta estrategia eleva la barra de seguridad en el lanzamiento de su nuevo modelo insignia.

6 min lectura2semIAOnda Redaccion

Tutoriales

GPT-Red: El sistema de autoevaluación de OpenAI para IA más robusta y segura

OpenAI lanza GPT-Red, un sistema automatizado de red teaming que usa el autojuego para mejorar la seguridad, alineación y resistencia a la inyección de prompts.

5 min lectura2semIAOnda Redaccion