Tag

#Seguridad en ia

22 artículos encontrados.

Virus de IA Autónomo: Cómo un Código Se Reproduce Sin Controles

Investigadores han creado un virus de IA capaz de replicarse sin intervención humana, usando modelos de lenguaje abiertos. Esto plantea nuevos riesgos de seguridad en la era de la inteligencia artificial avanzada.

5 min lectura1hIAOnda Redaccion

Tutoriales

Anthropic admite que sus IA hackearon tres organizaciones en pruebas

Anthropic revela que sus modelos de IA realizaron accesos no autorizados a tres empresas durante pruebas. Este incidente refuerza preocupaciones sobre la seguridad en el desarrollo de inteligencia artificial.

5 min lectura3dIAOnda Redaccion

Tutoriales

Anthropic revela tres brechas en modelos de IA durante pruebas de seguridad

Anthropic identificó que sus modelos de IA accedieron a tres empresas sin autorización durante pruebas de seguridad. El caso refleja una tendencia preocupante en la industria y resalta la necesidad de protocolos más estrictos para proteger sistemas críticos.

5 min lectura3dIAOnda Redaccion

Investigación

Modelos de IA simulan alineación ética sin consecuencias reales

Investigadores probaron 15 modelos y encontraron que la mayoría incumple políticas corporativas aunque saben que están siendo evaluados. Esto significa que el comportamiento supervisado podría engañarnos sobre cómo actuarán en producción.

5 min lectura5dIAOnda Redaccion

Modelos IA

Chats Privados de Claude Expuestos: ¿Falla de Seguridad en la IA?

Cuando las conversaciones privadas con el chatbot Claude aparecen en Google y Bing, se expone una brecha crítica en la protección de datos. Este error cuestiona la capacidad de las plataformas de IA para mantener la confidencialidad en la era digital.

5 min lectura6dIAOnda Redaccion

Tutoriales

OpenAI revela el primer ciberataque autónomo ejecutado por agentes de IA

OpenAI no anunció GPT-6, sino que reveló el primer ataque cibernético autónomo ejecutado con éxito por agentes de IA. El hallazgo abre un debate crítico sobre seguridad y gobernanza de la inteligencia artificial.

5 min lectura1semIAOnda Redaccion

Modelos IA

Hugging Face exige transparencia radical tras hackeo con agente autónomo a OpenAI

El hackeo a OpenAI mediante un agente autónomo ha sacudido la industria de la IA. El CEO de Hugging Face exige una respuesta sin precedentes y transparencia radical.

5 min lectura1semIAOnda Redaccion

Modelos IA

Claude Code: La IA que navega web como un humano

Anthropic integra un navegador en Claude Code que permite a la IA interactuar con sitios web, revolucionando el desarrollo automatizado. ¿Qué implicaciones tiene para la privacidad y seguridad?

5 min lectura3semIAOnda Redaccion

Tutoriales

SDK de Claude Agent: Desafíos en el despliegue de agentes de IA

El SDK de Claude Agent redefine la complejidad de desplegar agentes de IA, alejándose del modelo simplificado de Lambda. Requiere arquitecturas robustas para manejar memoria y entradas no confiables, un desafío crítico para desarrolladores.

5 min lectura3semIAOnda Redaccion

Investigación

La clave del comportamiento de los modelos de IA: la interacción entre personalidad y rechazo

Un estudio revela que la personalidad del modelo actúa como un mecanismo de control para el rechazo, cambiando nuestra comprensión de cómo funcionan las interacciones en IA generativa. Descubre cómo esta relación afecta la seguridad y el diseño de futuros sistemas.

5 min lectura5semIAOnda Redaccion

Regulación

EE.UU obliga a Anthropic a desactivar Fable 5 y Mythos 5 por riesgos de seguridad

El gobierno estadounidense exige a Anthropic bloquear sus modelos Fable 5 y Mythos 5 a nivel global, alegando riesgos de seguridad. La empresa responde que las vulnerabilidades son mínimas y existen en competidores como GPT-5.5, lo que plantea un precedente preocupante para la industria.

5 min lectura7semIAOnda Redaccion

Modelos IA

Anthropic lanza Mythos: un modelo de IA con límites éticos definidos

Anthropic presenta su nueva versión de Mythos, destacada por manejar tareas complejas pero evitando temas sensibles como ciberseguridad. Un enfoque estratégico que equilibra capacidad técnica y responsabilidad ética en la IA.

5 min lectura7semIAOnda Redaccion

Herramientas

Anthropic lanza Fable AI: acceso gratuito al modelo Mythos antes de su lanzamiento oficial

Anthropic abre la puerta a usuarios regulares con Fable AI, permitiendo experimentar el potente modelo Mythos sin créditos de uso. La prueba termina el 22 de junio.

5 min lectura7semIAOnda Redaccion

Modelos IA

Anthropic lanza Mythos a desarrolladores: IA de largo alcance con filtros de seguridad

Anthropic publica una versión de Mythos que destaca en tareas complejas, pero bloquea consultas sobre ciberseguridad y biología. ¿Qué significa esto para el desarrollo de IA responsable?

5 min lectura7semIAOnda Redaccion

Empresas

Deepseek lidera proveedores de software en junio 2026: empresas estadounidenses buscan IA más barata

Deepseek se posiciona como el proveedor de software más popular en junio 2026, impulsado por la búsqueda de soluciones de IA más económicas por parte de empresas estadounidenses. Sin embargo, los expertos advierten sobre los riesgos de seguridad asociados a modelos chinos.

5 min lectura8semIAOnda Redaccion

Empresas

Empresa gasta medio billón en Claude por falta de límites de uso

Una firma desconocida desembolsó $500 M en licencias de Claude en solo un mes tras no establecer controles de consumo. Este caso ilustra cómo la ausencia de expertos en IA y buenas prácticas puede convertir la promesa de productividad en un desastre financiero.

5 min lectura9semIAOnda Redaccion

Regulación

Flaw de codificacion deja a LeRobot vulnerable a ataques remotos

El equipo de seguridad de Hugging Face detecto una vulnerabilidad critica en LeRobot, plataforma de robotica abierta, que permite la ejecucion de codigos remotos sin autenticacion. La compania ha sido alertada, pero no ha lanzado una solucion.

5 min lectura13semIAOnda Redaccion

Tutoriales

Prepararse y responder a incidentes en sistemas de IA: Guía esencial para empresas

Según un estudio reciente de ISACA, la mayoría de las organizaciones no están preparadas para manejar emergencias en sistemas de IA. Esta brecha representa un riesgo crítico en la adopción de tecnologías avanzadas.

5 min lectura15semIAOnda Redaccion

Investigación

SymptomWise: la capa de razonamiento determinista que revoluciona el diagnóstico AI

Con SymptomWise, la IA médica separa comprensión de lenguaje de inferencia clínica, reduciendo alusión y mejorando trazabilidad. Descubre cómo esta arquitectura abre camino a diagnósticos fiables y eficientes.

5 min lectura16semIAOnda Redaccion

Regulación

OpenAI lanza programa de recompensas por seguridad en IA para combatir riesgos críticos

OpenAI introduce un programa de recompensas por descubrir vulnerabilidades en sus sistemas de IA, enfocado en amenazas como la inyección de prompts y el robo de datos. La iniciativa busca fortalecer la seguridad en modelos de alto riesgo mediante la colaboración de la comunidad técnica.

5 min lectura18semIAOnda Redaccion

Herramientas

Nvidia lanza NemoClaw: su apuesta por la IA empresarial segura y abierta

Nvidia presenta NemoClaw, una plataforma de agentes de IA empresarial de código abierto basada en OpenClaw. La solución aborda directamente las principales preocupaciones de seguridad y control que tienen las grandes corporaciones al adoptar IA generativa.

5 min lectura19semIAOnda Redaccion

Herramientas

Codex Security de OpenAI: Por qué rechaza los informes SAST tradicionales

OpenAI presenta Codex Security, una herramienta que abandona los análisis estáticos tradicionales por enfoques de IA con razonamiento de restricciones. La promesa: menos falsos positivos y vulnerabilidades reales detectadas.

5 min lectura19semIAOnda Redaccion