Evaluación de Técnicas de Explicabilidad en Modelos de Aprendizaje Automático Aplicados a Decisiones Críticas en Instituciones

Resumen

El uso creciente de modelos de aprendizaje automático en instituciones públicas y privadas ha impulsado la automatización de procesos y la mejora en la toma de decisiones, pero también ha generado preocupaciones relacionadas con la transparencia y la capacidad de auditar decisiones críticas. En contextos donde las predicciones afectan directamente a personas o recursos institucionales, la falta de explicabilidad en modelos complejos puede limitar la confianza, dificultar la detección de sesgos y comprometer la validez de los resultados. El objetivo de este trabajo es evaluar diversas técnicas de explicabilidad aplicadas a modelos de aprendizaje automático utilizados en decisiones institucionales de alto impacto. La metodología incluye el entrenamiento de modelos predictivos sobre un conjunto de datos institucional y la aplicación sistemática de técnicas como SHAP, LIME, modelos sustitutos e Integrated Gradients, evaluando métricas de fidelidad, estabilidad, tiempo de cómputo y utilidad práctica para la auditoría algorítmica. Los resultados muestran diferencias significativas entre las técnicas analizadas, evidenciando que algunas ofrecen explicaciones más consistentes y útiles para la interpretación de decisiones críticas. Los hallazgos sugieren que la integración de técnicas de explicabilidad puede fortalecer la transparencia, mejorar la confianza institucional y apoyar la toma de decisiones informadas, en concordancia con los lineamientos éticos y metodológicos recomendados por APA 7