El debate sobre la ética de la inteligencia artificial ha girado durante décadas entre filósofos y científicos de datos, intentando capturar la esencia de la moral en algoritmos. Tradicionalmente, los modelos de moralidad en IA se han basado en la adopción de teorías éticas fijas, como el deontologismo, el utilitarismo o la ética de la virtud, traducidas en reglas estáticas o funciones de valor. Pero esa aproximación ha mostrado limitaciones cuando se enfrenta a la complejidad del mundo real y a la capacidad finita de los sistemas computacionales.

En un reciente preprint de arXiv (arXiv:2607.00002v1), los autores proponen una nueva perspectiva: la "Bounded Morality" (Moralidad Limitada). Inspirándose en la noción de racionalidad limitada de Herbert Simon, el marco formaliza las situaciones morales en dos dimensiones ortogonales –ancho moral y profundidad moral– y explora el espacio de computación moral viable bajo recursos finitos.

El "ancho moral" se refiere al número y tipo de entidades que un agente considera moralmente relevantes. En un escenario con alto ancho, la IA debe evaluar la moralidad de muchas personas, objetos y sistemas, lo que exige una gran capacidad de representación y actualización de estados. Por otro lado, la "profundidad moral" mide la complejidad de las inferencias necesarias para entender cómo interactúan esas entidades y qué implicaciones éticas surgen de esas relaciones. Un alto nivel de profundidad requiere modelos de razonamiento más complejos, mayor uso de memoria y mayor tiempo de cómputo.

La propuesta sostiene que, debido a recursos finitos (memoria, potencia de cómputo, tiempo de respuesta), no es posible maximizar simultáneamente ancho y profundidad. En vez de elegir entre una ética perfecta y una práctica realista, la IA debe encontrar un punto de equilibrio. Este punto define un "espacio de computación moral" donde las estrategias éticas son localmente eficientes según el régimen de demanda.

Desde este punto de vista, las teorías éticas tradicionales no compiten por la verdad moral, sino que se convierten en heurísticas adaptativas que funcionan mejor en ciertos nichos del espacio de recursos. Por ejemplo, un algoritmo con ancho moderado pero profundidad limitada puede emplear un enfoque de utilitarismo simplificado para decidir entre pocas opciones, mientras que un agente con gran profundidad pero ancho restringido puede usar reglas deontológicas para proteger a un conjunto pequeño de individuos.

El marco también introduce conceptos de "regret moral" (culpa ética) y "progreso moral bajo restricción". El regret moral mide la discrepancia entre la decisión tomada y la que se habría tomado con mayor capacidad computacional, ofreciendo una métrica de mejora continua. El progreso moral bajo restricción formaliza la idea de que la ética de un agente puede evolucionar a través de la mejora incremental de su capacidad de razonamiento, sin necesidad de replicar exactamente el juicio humano.

¿Por qué importa esto para la práctica de la IA? En la era de los sistemas autónomos, desde coches sin conductor hasta bots de atención al cliente, la capacidad de tomar decisiones éticamente informadas es crítica. La alineación moral –es decir, la concordancia entre los valores de la IA y los de la sociedad– ya no debe medirse por la similitud a los juicios humanos, sino por la habilidad de escalar y distribuir eficientemente la carga cognitiva moral.

Esto tiene implicaciones directas para el diseño de algoritmos y la asignación de recursos en infraestructuras de IA. Los ingenieros pueden optimizar la arquitectura de sus modelos para maximizar la eficiencia en el espacio de ancho y profundidad que su aplicación exige. Además, el marco ofrece una base teórica para la regulación: las normas podrían enfocarse en garantizar que los sistemas tengan la capacidad mínima necesaria para operar dentro del espacio moral exigido por su contexto.

En el contexto de la industria, empresas como OpenAI, DeepMind y Anthropic ya están experimentando con sistemas de razonamiento moral de forma iterativa. La Bounded Morality ofrece una brújula teórica que puede guiar a estos actores en la priorización de recursos y en la evaluación de la robustez ética de sus productos.

En conclusión, la Bounded Morality reconfigura el problema de la ética computacional en términos de recursos y límites prácticos. Al convertir las teorías éticas en estrategias adaptativas, abre la puerta a un enfoque más pragmático y escalable de la alineación moral, centrado en la mejora continua de la capacidad de razonamiento de la IA.