La seguridad de los sistemas agenciales es un tema cada vez más importante en la era de la inteligencia artificial. Los sistemas agenciales son capaces de tomar decisiones autónomas y realizar acciones en el mundo real, lo que los hace vulnerables a ataques cibernéticos. Un equipo de investigadores de la comunidad de Inteligencia Artificial ha desarrollado un sistema llamado Session Risk Memory (SRM) que permite evaluar el riesgo de ataques en tiempo real en estos sistemas.

El problema que los investigadores intentan resolver es que los sistemas de autorización de acción individual pueden ser eficaces en la detección de ataques, pero no son capaces de detectar ataques que se descomponen en múltiples pasos individuales. Estos ataques pueden ser difíciles de detectar porque cada paso individual puede parecer legítimo, pero en conjunto pueden causar daño significativo. El SRM es un módulo determinístico ligero que extiende las barreras de seguridad de ejecución estatal con autorización a nivel de trayectoria.

El SRM mantiene un centroide semántico compacto que representa el perfil de comportamiento en evolución de una sesión agencial y acumula una señal de riesgo a través de una media móvil exponencial sobre los resultados de las barreras de seguridad de ejecución. Funciona sobre la misma representación semántica vectorial como la barrera de seguridad subyacente, lo que requiere no componentes adicionales del modelo, capacitación ni inferencia probabilística.

Los investigadores han evaluado el SRM en un conjunto de pruebas de 80 sesiones que contienen escenarios de exfiltración lenta, escalada de privilegios gradual y deslizamiento de cumplimiento. Los resultados muestran que ILION+SRM alcanza una precisión de F1 = 1.0000 con un 0% de tasa de falsos positivos, en comparación con el ILION estatal, que logra una precisión de F1 = 0.9756 con un 5% de tasa de falsos positivos, mientras mantiene una tasa de detección del 100% para ambos sistemas. Lo más importante, el SRM elimina todos los falsos positivos con un overhead por turno bajo los 250 microsegundos.

El SRM introduce una distinción conceptual entre la consistencia de autorización espacial (evaluada por acción) y la consistencia de autorización temporal (evaluada sobre la trayectoria), proporcionando una base principiada para la seguridad a nivel de sesión en sistemas agenciales. Esto significa que el SRM no solo se centra en la seguridad de cada acción individual, sino que también analiza la trayectoria de acciones para detectar patrones de comportamiento peligrosos.

La seguridad de los sistemas agenciales es un tema cada vez más importante, y el SRM es un paso importante en la dirección correcta. Al permitir la evaluación del riesgo de ataques en tiempo real y la detección de patrones de comportamiento peligrosos, el SRM puede ayudar a proteger a los sistemas agenciales de ataques persistentes que pueden causar daño significativo. En resumen, el SRM es un sistema de seguridad innovador que puede ayudar a mejorar la seguridad de los sistemas agenciales y proteger a los ciudadanos de ataques cibernéticos peligrosos.

En conclusión, el SRM es un sistema de seguridad que puede ayudar a proteger a los sistemas agenciales de ataques persistentes. Al evaluar el riesgo de ataques en tiempo real y detectar patrones de comportamiento peligrosos, el SRM puede ayudar a mejorar la seguridad de los sistemas agenciales y proteger a los ciudadanos de ataques cibernéticos peligrosos. Es importante que los desarrolladores y los investigadores continúen trabajando en la seguridad de los sistemas agenciales y en el desarrollo de soluciones como el SRM para proteger a los sistemas agenciales y a sus usuarios.

Los tags que acompañan a este articulo son: #IA #seguridad #sistemasagenciales #ciberseguridad #atencionesistemica #riesgo #deteciondeataques #proteccion #seguridadinformatica #innovacion