Tag

#Ia seguridad

7 artículos encontrados.

EE.UU. evalúa prohibir la superinteligencia tras renuncia en Anthropic

Un investigador de Anthropic dimitió advirtiendo que los laboratorios de IA están apostando con nuestras vidas; dos colegas respaldaron su preocupación. El senador Bernie Sanders anunció que presentará un proyecto de ley para prohibir el desarrollo de superinteligencia.

5 min lectura2dIAOnda Redaccion

Investigación

Anthropic marca el rumbo: así deberían los agentes de IA actuar en el mundo físico

La compañía detrás de Claude propone un marco para que la IA automatice ciencia e industria sin perder el control. El dilema entre eficiencia y riesgo vuelve al centro del debate.

5 min lectura2semIAOnda Redaccion

Modelos IA

Phishing con IA: Agentes de voz suplantan a Apple Support para robar passcodes

Una plataforma PhaaS utiliza agentes de voz AI para engañar a usuarios de Apple, pidiendo passcodes y códigos 2FA. Esto permite borrar el Bloqueo de Activación de dispositivos robados.

5 min lectura3semIAOnda Redaccion

Investigación

Estudios psicológicos revelan debilidades críticas en pruebas de seguridad de la IA

Investigadores del Reino Unido demuestran que las métricas actuales de seguridad en modelos de lenguaje no son consistentes. Proponen métodos para detectar modelos que actuamos con excesiva cautela durante pruebas, afectando su utilidad real.

5 min lectura3semIAOnda Redaccion

Regulación

OpenAI y Anthropic: el hacking corporativo se convierte en un benchmark competitivo

OpenAI y Anthropic han establecido un nuevo estándar en seguridad al convertir el hacking corporativo en un benchmark competitivo. Este movimiento deja a la comunidad como espectadores pasivos de su propio desempeño en seguridad.

5 min lectura6semIAOnda Redaccion

Regulación

IA revela fallas críticas en sistemas clasificados del gobierno estadounidense

El modelo Mythos de Anthropic detectó vulnerabilidades en sistemas gubernamentales clasificados en pocas horas, exponiendo riesgos de seguridad nacional. Este hallazgo refuerza la urgencia de reforzar la ciberseguridad en la era de la IA.

5 min lectura11semIAOnda Redaccion

Regulación

SK Telecom en el epicentro de la polémica de Claude Mythos: ¿Amenaza para la seguridad de IA en EE.UU.?

La polémica en torno a Claude Mythos revela tensiones geopolíticas en la IA. La intervención del gobierno estadounidense plantea preguntas sobre regulación y seguridad en modelos avanzados.

5 min lectura12semIAOnda Redaccion