10/10/2024
Autor: Gereziher Weldegebriel Adhane
Programa: Doctorado en Tecnologías de la Informació y de Redes
Idioma: Inglés
Dirección: Dr. David Masip Rodó y Dr. Mohammad Mahdi Dehshibi
Departamento / Instituto: Esccuela de Doctorado UOC
Materias: Informática
Palabras clave: explicabilidad en la IA, transparencia, incertidumbre en los modelos, selección de muestras, explicabilidad visual
Área de conocimiento: Tecnologías de la Informació y de Redess
Resumen
En este trabajo, proponemos técnicas para mejorar el rendimiento y la transparencia de las redes neuronales convolucionales (CNN). Introducimos métodos novedosos para la selección de muestras informativas (ISS), la cuantificación de la incertidumbre y la explicación visual. Los dos métodos de ISS implican el uso del aprendizaje por refuerzo para filtrar muestras que podrían provocar un sobreajuste y un sesgo, y el empleo de una simulación de Monte Carlo para estimar la incertidumbre del modelo durante el entrenamiento y la inferencia. Además, presentamos dos técnicas de explicabilidad visual: ADVISE, que genera explicaciones visuales detalladas y cuantifica la relevancia de las unidades del mapa de características, y UniCAM, que explica la naturaleza opaca de la destilación del conocimiento. Estos métodos tienen como objetivo mejorar la precisión, solidez, equidad y explicabilidad del modelo, contribuyendo tanto a la investigación académica como a la transparencia de las CNN en aplicaciones de visión por computadora.