Resumen

En la actualidad, los sistemas de Inteligencia Artificial basados en el aprendizaje profundo se destacan en una serie de tareas complejas, que van desde la detección de objetos en imágenes y la comprensión de lenguajes naturales hasta el procesamiento de complejos patrones estadísticos. Esta tecnología tiene ya un gran impacto más allá del mundo académico y está dando lugar a cambios disruptivos la industria y la sociedad. Sin embargo, aunque estas tecnologías alcanzan precisiones muy altas, su estructura no lineal anidada las hace poco transparentes, es decir, no está claro qué información de los datos de entrada les hace llegar realmente a sus decisiones. En muchas aplicaciones, la imposibilidad de comprender y validar el proceso de decisión del sistema es un serio inconveniente. Por ejemplo, en el diagnóstico médico, sería irresponsable confiar por defecto en las predicciones de un sistema de caja negra. En su lugar, cada decisión trascendental debería ser accesible para una validación adecuada por parte de un humano experto. El objetivo general de este proyecto es contribuir a la evolución de la inteligencia artificial explicable mediante la definición e implementación de técnicas de interpretación y explicación del comportamiento de redes neuronales artificiales, basadas en una integración de la inteligencia artificial simbólica y no-simbólica. Se buscará construir soluciones que permitan: - confiar en las decisiones del sistema a partir de poder verificar su corrección, - habilitar la mejora de los sistemas al contar con una mejor comprensión de su funcionamiento y sus posibles puntos débiles, - aprender del sistema mediante la extracción del conocimiento aprendido y codificado, - y habilitar el cumplimiento a legislación que exige transparencia de los procesos. Dado que no existe una solución satisfactoria al problema de la explicabilidad, este proyecto se propone refinar formalismos y métodos que aporten a los criterios de calidad de la explicación provista. La definición de un formalismo (lógico-matemático) para explicaciones y de herramientas para medir su calidad mejorará la aplicabilidad práctica de estas tecnologías.