Tag

#Auditoria ia

7 artículos encontrados.

AIR recauda 50M para auditar las habilidades de los agentes de IA en empresas

La startup levanta una ronda de 50 millones para desarrollar una plataforma que descubre, evalúa y bloquea comportamientos no deseados en agentes de IA corporativos.

5 min lectura1semIAOnda Redaccion

Tutoriales

Grafos de transaccion y auditoria reproducible: asi es el nuevo scoring de fraude con IA

TuringDB plantea un enfoque estructural para detectar fraude y lavado mediante busqueda vectorial y un historial de commits que permite reproducir cada decision.

5 min lectura2semIAOnda Redaccion

Investigación

¿Razonamiento real o ilusión? Nuevo método expone fallos en CoT de modelos de lenguaje

Investigadores desarrollaron auditorías de enraizamiento intervencionales para detectar dependencias falsas en razonamientos de LLMs. El 66% de problemas resueltos correctamente mostraron errores ocultos en su lógica.

5 min lectura8semIAOnda Redaccion

Investigación

Nuevo método de auditoría protege a menores de IA ilegal

Investigadores del MIT presentan una técnica de auditoría que evalúa modelos generativos sin inducir salidas ilícitas, buscando blindar a niños frente a contenidos peligrosos. Este avance llega en un momento clave para la regulación y la seguridad de la IA generativa.

6 min lectura8semIAOnda Redaccion

Investigación

Epistemología adversarial: cómo los LLMs y humanos distorsionan la verdad

Con un nuevo marco llamado ASE, los autores explican cómo la colaboración entre humanos y modelos de lenguaje puede manipular la confianza pública. El estudio propone herramientas de auditoría para recuperar la integridad informativa.

5 min lectura9semIAOnda Redaccion

Investigación

SemantiClean: IA auditable para inferir intención de compra

Un nuevo framework convierte señales de navegación en decisiones explicables para e-commerce. La clave: sacrificar precisión marginal a cambio de trazabilidad.

5 min lectura13semIAOnda Redaccion

Empresas

1Password: IA como amenaza y herramienta de seguridad

La compañía implementa agentes de IA para auditoría y monitorización, pero reconoce que la tecnología complica la ciberseguridad. Un enfoque pragmático en la era de la inteligencia artificial.

5 min lectura20semIAOnda Redaccion