La pregunta ya no es teórica. A medida que los sistemas de inteligencia artificial se despliegan en ámbitos críticos —desde diagnósticos médicos hasta decisiones financieras— los incidentes relacionados con IA se multiplican. Y con ellos, surge una cuestión jurídica y ética que ningún marco regulatorio ha resuelto del todo: ¿a quién señalamos cuando algo sale mal?

Un nuevo estudio publicado en ArXiv (arXiv:2603.13236v1) aborda esta pregunta desde un ángulo poco explorado: no lo que dicta la ley, sino lo que dicta nuestra intuición. Los investigadores diseñaron experimentos con participantes reales para medir cómo atribuyen causalidad, culpa y previsibilidad en cadenas causales donde intervienen humanos, desarrolladores y sistemas de IA.

Los hallazgos son reveladores, y a veces contradictorios.

La agencia importa más que la proximidad

Uno de los resultados más interesantes muestra que cuando la IA tiene agencia moderada —es decir, un humano fija el objetivo pero la IA decide cómo ejecutarlo— o alta —la IA define tanto el fin como los medios—, los participantes le atribuyen mayor responsabilidad causal al sistema. Tiene sentido intuitivo.

Pero aquí viene la sorpresa: cuando la agencia de la IA era baja (el humano controlaba tanto el objetivo como los medios), los participantes seguían asignándole mayor responsabilidad al humano, incluso cuando este estaba temporalmente lejano del resultado final. La autonomía, parece, pesa más que la cercanía en la cadena de eventos.

Esto tiene implicaciones profundas para cómo diseñamos sistemas semi-autónomos. Si la percepción pública de la culpa está ligada al control, entonces los desarrolladores deberían ser transparentes sobre qué decisiones delegan realmente a sus modelos.

El sesgo humano persiste

El segundo hallazgo es incómodo: cuando los investigadores invirtieron los roles —asignando a la IA y al humano las mismas acciones—, los participantes consistentemente juzgaron al humano como más causal. Es decir, hay un sesgo incorporado que nos hace ver a las personas como agentes más responsables, incluso en condiciones idénticas.

Este sesgo podría funcionar en ambas direcciones. Por un lado, protege a los sistemas de IA de juicios prematuros de culpa. Por otro, podría llevarnos a subestimar la contribución real de la tecnología en incidentes complejos, descargando injustamente a empresas y desarrolladores.

El desarrollador siempre en el punto de mira

Quizá el hallazgo con mayor peso práctico es este: los participantes juzgaron al desarrollador como altamente causal, incluso cuando este estaba lejos en la cadena de eventos. Y lo curioso es que esta atribución reducía la culpa asignada al usuario humano, pero no la asignada a la IA.

En otras palabras, el desarrollador actúa como un imán de responsabilidad en la percepción pública. Esto refuerza la tendencia regulatoria actual —visible en el AI Act europeo— de colocar obligaciones principales sobre quienes diseñan y entrenan los modelos, no sobre quienes los usan.

No toda IA es igual

Finalmente, el estudio descompuso la IA en dos componentes: un modelo de lenguaje grande y un componente agéntico (capaz de actuar en el mundo). Resulta que la parte agéntica fue juzgada como más causal en la cadena.

Este hallazgo refleja algo que la industria ya intuye: los sistemas que ejecutan acciones —no solo generan texto— plantean desafíos de responsabilidad cualitativamente diferentes. Un chatbot que recomienda mal es una cosa; un agente que ejecuta una transacción financiera errónea es otra completamente distinta.

¿Por qué importa?

Este estudio llega en un momento crucial. Legisladores en Europa, Estados Unidos y Asia-Pacifico están construyendo marcos de responsabilidad para IA, y lo hacen con datos limitados sobre cómo las personas realmente perciben la causalidad. Las intuiciones públicas no son ley, pero sí moldean la presión social y política que impulsa la regulación.

Comprender estos sesgos cognitivos —nuestra tendencia a culpar más al humano, a focalizar en el desarrollador, a distinguir entre niveles de agencia— no es un ejercicio académico. Es información que debería informar tanto el diseño de sistemas como la redacción de normativas.

Porque al final, la responsabilidad no es solo una cuestión legal. Es una cuestión de confianza pública en una tecnología que, nos guste o no, está redefiniendo quién toma las decisiones.