Estudio de académicos UDP sobre Inteligencia Artificial explicable es aceptado en la revista líder mundial ACM Computing Surveys
El estudio analiza los últimos 10 años de avance de la Inteligencia Artificial y propone pautas para evaluar si las explicaciones de una inteligencia artificial ayudan a las personas a comprenderla y tomar mejores decisiones.
28 / 09 / 2026
El artículo “Evaluating Explainable AI with Humans: Trust, Reliance, Understanding, and Performance” fue aceptado para publicación en ACM Computing Surveys, revista que registra un factor de impacto de 30,4 y ocupa el primer lugar entre las revistas de la categoría Computer Science, Theory & Methods.
La investigación fue elaborada por Luciano Ahumada, Decano (i) y Director de la Escuela de Informática y Telecomunicaciones; Jonathan Frez, Director de Posgrado y Director Magister in Business Analytics and Data Science; Nelson Baloian; y Ashot Harutyunyan, vinculados a la Universidad Diego Portales, la Universidad de Chile, Yerevan State University e IIAP, Armenia, respectivamente.
La inteligencia artificial explicable, conocida como XAI, busca hacer comprensibles las recomendaciones y predicciones de los sistemas de IA. Su importancia es especialmente clara cuando estas herramientas apoyan decisiones en salud, educación o servicios públicos: las personas necesitan elementos para interpretar sus resultados, reconocer sus límites y decidir cuándo cuestionarlos. El desafío no consiste simplemente en ofrecer explicaciones convincentes, sino en comprobar que estas permiten un uso más informado y responsable de la tecnología.
En ese contexto, el artículo aborda una pregunta central: ¿cómo determinar si una explicación de IA realmente beneficia a quienes la utilizan? Para responderla, los autores revisaron cientos de artículos entre 2015 y 2025 concentrándose en las 119 publicaciones principales y distinguieron cuatro dimensiones: la confianza declarada en el sistema, el comportamiento frente a sus recomendaciones, la comprensión de su funcionamiento y el desempeño en una tarea.
La revisión destaca que estas dimensiones no necesariamente mejoran juntas. Una explicación puede aumentar la confianza sin ayudar a detectar errores o tomar mejores decisiones. Por ello, el estudio propone evaluar si las personas distinguen cuándo seguir una recomendación de la IA, cuándo verificarla y cuándo rechazarla.
Su principal aporte es una guía práctica para diseñar y reportar evaluaciones más claras, comparables y reproducibles. Las recomendaciones incluyen comprobar la comprensión mediante tareas concretas, documentar las características de los participantes y evaluar qué ocurre cuando el sistema falla. El trabajo también examina cómo aplicar estas pautas a modelos de lenguaje, respuestas acompañadas de citas y explicaciones conversacionales.
Estas orientaciones pueden ayudar a investigadores y desarrolladores a distinguir entre explicaciones que generan una impresión de transparencia y aquellas que aportan información útil para actuar. Así, el estudio conecta la evaluación técnica de la IA con sus efectos sobre las decisiones humanas.