En el campo en constante evolución de la Inteligencia Artificial explicable, las explicaciones contrafácticas se han convertido en una herramienta crucial para entender cómo los modelos de machine learning toman decisiones. Recientemente, un nuevo enfoque llamado PACE (acrónimo de Plausible and Actionable Counterfactual Explanations) ha surgido como una solución prometedora para abordar las limitaciones de los métodos tradicionales. Desarrollado por un equipo de investigadores y presentado en arXiv, PACE combina la potencia de los modelos neurónicos con el razonamiento simbólico para generar explicaciones contrafácticas que no solo sean plausibles, sino también accionables en el contexto real.

El problema con las explicaciones contrafácticas tradicionales es que, aunque pueden identificar cambios mínimos en la entrada que alterarían la decisión de un modelo, muchas veces estas recomendaciones son irrealistas o inviables. PACE resuelve este problema integrando explícitamente conocimientos de dominio y restricciones de intervención. La clave de esta innovación radica en su arquitectura neuro-simbólica, que separa el proceso de predicción del razonamiento. Mientras que la red neuronal se encarga de la clasificación, la capa simbólica aplica reglas específicas del dominio durante la generación de contrafactuales.

El marco PACE es modular y agnostico al modelo, lo que lo hace adaptable a diversos dominios que requieren apoyo de decisión realista. En su estudio de caso con el conjunto de datos Adult Income, los investigadores combinaron un clasificador de tres capas con reglas de programación de conjuntos de respuestas (ASP) que codificaban modificaciones factibles en educación, ocupación y horas de trabajo, manteniendo atributos inmutables. Los resultados demostraron una tensión entre la validez de los contrafactuales y su plausibilidad, mostrando que las restricciones simbólicas producen explicaciones que mejor satisfacen los requisitos de viabilidad específicos del dominio.

Este avance tiene implicaciones significativas para la IA explicable, ya que permite a los profesionales no solo entender por qué un modelo toma una decisión, sino también identificar cambios realistas que podrían alterar esa decisión. La combinación de aprendizaje profundo con razonamiento simbólico representa un paso importante hacia sistemas de IA más transparentes y útiles en aplicaciones prácticas. A medida que la regulación alrededor de la IA exige mayor transparencia y justificación de decisiones automatizadas, marcos como PACE podrían convertirse en herramientas esenciales para los desarrolladores y los organismos reguladores.

La investigación subraya la importancia de incorporar conocimiento experto en los sistemas de IA, especialmente en situaciones críticas donde las recomendaciones deben ser no solo técnicamente correctas, sino también social y éticamente aceptables. Con PACE, los investigadores han dado un paso importante hacia una IA que no solo predice, sino que también explica de manera comprensible y aplicable.