Una técnica de perturbación para la explicabilidad de la IA en PLN

Abstract

Los modelos basados en la arquitectura Transformer han dado lugar a un rendimiento sustancialmente mejor en el campo de la Inteligencia Artificial (IA) en distintas áreas como el Procesamiento del Lenguaje Natural (PLN). Sin embargo, la mayoría de estos modelos presentan una transparencia e interpretabilidad reducidas. Esta opacidad plantea riesgos significativos en muchos ámbitos, especialmente en ámbitos como el sanitario, donde las decisiones de los modelos deben ser comprensibles, fiables y éticamente fundamentadas. Para hacer frente a este reto, surgió la inteligencia artificial explicable (XAI). No obstante, la mayoría de los enfoques de XAI son bastante técnicos, lo que significa que están diseñados para satisfacer a los expertos en IA y no a los usuarios finales no expertos en IA, que son la mayoría en la sociedad. Por ello, hemos definido una técnica global, fácilmente aplicable y basada en la perturbación de los datos de entrada con el fin de arrojar luz sobre las razones que hay detrás de las decisiones de los modelos basados en texto. La técnica propuesta genera explicaciones modificando sistemáticamente los trigramas lingüísticamente significativos entre las predicciones de las clases del modelo y analizando su impacto en las nuevas predicciones del modelo. En consecuencia, la técnica propuesta proporciona información que es tanto analíticamente rigurosa como accesible para los usuarios no técnicos. Para validar nuestra propuesta, la hemos aplicado en un modelo BERT basado en la arquitectura Transformer que hemos implementado en el caso de estudio de la enfermedad del Alzheimer.