Análisis y aplicación de técnicas de explicabilidad en redes neuronales sobre problemas con imágenes

[ES] Este trabajo se enfoca en el análisis y la implementación de técnicas de explicabilidad destinadas a mejorar la comprensión de redes neuronales aplicadas a problemas que implican el procesamiento de imágenes. En primer lugar, se realiza una revisión exhaustiva del estado actual de la inteligenc...

Descripción completa

Detalles Bibliográficos
Autor: Poncelas Vargas, José David
Tipo de recurso: tesis de maestría
Fecha de publicación:2024
País:España
Institución:Universitat Politècnica de València (UPV)
Repositorio:RiuNet. Repositorio Institucional de la Universitat Politécnica de Valéncia
Idioma:español
OAI Identifier:oai:riunet.upv.es:10251/210948
Acceso en línea:https://riunet.upv.es/handle/10251/210948
Access Level:acceso abierto
Palabra clave:Explicabilidad
Interpretabilidad
Redes neuronales convolucionales
Procesamiento de imágenes
SHAP
LIME
Transparencia en la inteligencia artificial
Explainability
Interpretability
Convolutional neural networks
Image processing
Transparency in artificial intelligence
LENGUAJES Y SISTEMAS INFORMATICOS
Máster Universitario en Inteligencia Artificial, Reconocimiento de Formas e Imagen Digital-Màster Universitari en Intel·ligència Artificial, Reconeixement de Formes i Imatge Digital
id ES_a0f63dc98c9944d2c557bcc08cffd17f
oai_identifier_str oai:riunet.upv.es:10251/210948
network_acronym_str ES
network_name_str España
repository_id_str
dc.title.none.fl_str_mv Análisis y aplicación de técnicas de explicabilidad en redes neuronales sobre problemas con imágenes
Analysis and application of explainability techniques in neural networks on problems with images
Anàlisi i aplicació de tècniques d&apos
explicabilitat en xarxes neuronals sobre problemes amb imatges
title Análisis y aplicación de técnicas de explicabilidad en redes neuronales sobre problemas con imágenes
spellingShingle Análisis y aplicación de técnicas de explicabilidad en redes neuronales sobre problemas con imágenes
Poncelas Vargas, José David
Explicabilidad
Interpretabilidad
Redes neuronales convolucionales
Procesamiento de imágenes
SHAP
LIME
Transparencia en la inteligencia artificial
Explainability
Interpretability
Convolutional neural networks
Image processing
Transparency in artificial intelligence
LENGUAJES Y SISTEMAS INFORMATICOS
Máster Universitario en Inteligencia Artificial, Reconocimiento de Formas e Imagen Digital-Màster Universitari en Intel·ligència Artificial, Reconeixement de Formes i Imatge Digital
title_short Análisis y aplicación de técnicas de explicabilidad en redes neuronales sobre problemas con imágenes
title_full Análisis y aplicación de técnicas de explicabilidad en redes neuronales sobre problemas con imágenes
title_fullStr Análisis y aplicación de técnicas de explicabilidad en redes neuronales sobre problemas con imágenes
title_full_unstemmed Análisis y aplicación de técnicas de explicabilidad en redes neuronales sobre problemas con imágenes
title_sort Análisis y aplicación de técnicas de explicabilidad en redes neuronales sobre problemas con imágenes
dc.creator.none.fl_str_mv Poncelas Vargas, José David
author Poncelas Vargas, José David
author_facet Poncelas Vargas, José David
author_role author
dc.contributor.none.fl_str_mv Martínez Hinarejos, Carlos David
Departamento de Sistemas Informáticos y Computación
Escuela Técnica Superior de Ingeniería Informática
Centro de Investigación Pattern Recognition and Human Language Technology
Repositorio Institucional de la Universitat Politècnica de València Riunet
dc.subject.none.fl_str_mv Explicabilidad
Interpretabilidad
Redes neuronales convolucionales
Procesamiento de imágenes
SHAP
LIME
Transparencia en la inteligencia artificial
Explainability
Interpretability
Convolutional neural networks
Image processing
Transparency in artificial intelligence
LENGUAJES Y SISTEMAS INFORMATICOS
Máster Universitario en Inteligencia Artificial, Reconocimiento de Formas e Imagen Digital-Màster Universitari en Intel·ligència Artificial, Reconeixement de Formes i Imatge Digital
topic Explicabilidad
Interpretabilidad
Redes neuronales convolucionales
Procesamiento de imágenes
SHAP
LIME
Transparencia en la inteligencia artificial
Explainability
Interpretability
Convolutional neural networks
Image processing
Transparency in artificial intelligence
LENGUAJES Y SISTEMAS INFORMATICOS
Máster Universitario en Inteligencia Artificial, Reconocimiento de Formas e Imagen Digital-Màster Universitari en Intel·ligència Artificial, Reconeixement de Formes i Imatge Digital
description [ES] Este trabajo se enfoca en el análisis y la implementación de técnicas de explicabilidad destinadas a mejorar la comprensión de redes neuronales aplicadas a problemas que implican el procesamiento de imágenes. En primer lugar, se realiza una revisión exhaustiva del estado actual de la inteligencia artificial explicativa, explorando las principales metodologías y enfoques utilizados en este campo. Posteriormente, se procede a llevar a cabo una serie de experimentos prácticos con el propósito de profundizar en el funcionamiento interno de las redes neuronales, estudiando principalmente el comportamiento de redes neuronales convolucionales. Estos experimentos se centran en identificar cómo estas redes procesan y clasifican imágenes, destacando las características visuales que influyen significativamente en sus decisiones. Para llevar esto a cabo, se emplean diversas técnicas de explicabilidad, tales como SHAP (SHapley Additive exPlanations), que descompone el impacto de cada característica en la predicción o LIME (Local Interpretable Model-agnostic Explanations), que explica predicciones individuales mediante ajustes locales a los datos y modelos más simples, entre otras. El análisis detallado de estas técnicas proporciona una mayor comprensión sobre el comportamiento y el razonamiento de las redes neuronales en el contexto de problemas con imágenes, tratando así de promover el desarrollo de sistemas de inteligencia artificial más transparentes, interpretables y confiables. Esto, en un futuro puede ayudar a cumplir con las regulaciones gubernamentales en cuanto a la explicabilidad de la toma de decisiones automáticas, detectar sesgos indeseados, errores sistemáticos, fallas potenciales, mejorar la equidad de estos modelos o aumentar la confianza de los usuarios en las decisiones automáticas de estos sistemas.
publishDate 2024
dc.date.none.fl_str_mv 2024
2024-10-28
2024
2024-09-27
dc.type.none.fl_str_mv master thesis
http://purl.org/coar/resource_type/c_bdcc
dc.type.openaire.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
dc.identifier.none.fl_str_mv https://riunet.upv.es/handle/10251/210948
url https://riunet.upv.es/handle/10251/210948
dc.language.none.fl_str_mv Español
spa
language_invalid_str_mv Español
language spa
dc.rights.none.fl_str_mv open access
http://purl.org/coar/access_right/c_abf2
Reserva de todos los derechos
http://rightsstatements.org/vocab/InC/1.0/
dc.rights.openaire.fl_str_mv info:eu-repo/semantics/openAccess
rights_invalid_str_mv open access
http://purl.org/coar/access_right/c_abf2
Reserva de todos los derechos
http://rightsstatements.org/vocab/InC/1.0/
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universitat Politècnica de València
publisher.none.fl_str_mv Universitat Politècnica de València
dc.source.none.fl_str_mv reponame:RiuNet. Repositorio Institucional de la Universitat Politécnica de Valéncia
instname:Universitat Politècnica de València (UPV)
instname_str Universitat Politècnica de València (UPV)
reponame_str RiuNet. Repositorio Institucional de la Universitat Politécnica de Valéncia
collection RiuNet. Repositorio Institucional de la Universitat Politécnica de Valéncia
repository.name.fl_str_mv
repository.mail.fl_str_mv
_version_ 1869415088441524224
spelling Análisis y aplicación de técnicas de explicabilidad en redes neuronales sobre problemas con imágenesAnalysis and application of explainability techniques in neural networks on problems with imagesAnàlisi i aplicació de tècniques d&aposexplicabilitat en xarxes neuronals sobre problemes amb imatgesPoncelas Vargas, José DavidExplicabilidadInterpretabilidadRedes neuronales convolucionalesProcesamiento de imágenesSHAPLIMETransparencia en la inteligencia artificialExplainabilityInterpretabilityConvolutional neural networksImage processingTransparency in artificial intelligenceLENGUAJES Y SISTEMAS INFORMATICOSMáster Universitario en Inteligencia Artificial, Reconocimiento de Formas e Imagen Digital-Màster Universitari en Intel·ligència Artificial, Reconeixement de Formes i Imatge Digital[ES] Este trabajo se enfoca en el análisis y la implementación de técnicas de explicabilidad destinadas a mejorar la comprensión de redes neuronales aplicadas a problemas que implican el procesamiento de imágenes. En primer lugar, se realiza una revisión exhaustiva del estado actual de la inteligencia artificial explicativa, explorando las principales metodologías y enfoques utilizados en este campo. Posteriormente, se procede a llevar a cabo una serie de experimentos prácticos con el propósito de profundizar en el funcionamiento interno de las redes neuronales, estudiando principalmente el comportamiento de redes neuronales convolucionales. Estos experimentos se centran en identificar cómo estas redes procesan y clasifican imágenes, destacando las características visuales que influyen significativamente en sus decisiones. Para llevar esto a cabo, se emplean diversas técnicas de explicabilidad, tales como SHAP (SHapley Additive exPlanations), que descompone el impacto de cada característica en la predicción o LIME (Local Interpretable Model-agnostic Explanations), que explica predicciones individuales mediante ajustes locales a los datos y modelos más simples, entre otras. El análisis detallado de estas técnicas proporciona una mayor comprensión sobre el comportamiento y el razonamiento de las redes neuronales en el contexto de problemas con imágenes, tratando así de promover el desarrollo de sistemas de inteligencia artificial más transparentes, interpretables y confiables. Esto, en un futuro puede ayudar a cumplir con las regulaciones gubernamentales en cuanto a la explicabilidad de la toma de decisiones automáticas, detectar sesgos indeseados, errores sistemáticos, fallas potenciales, mejorar la equidad de estos modelos o aumentar la confianza de los usuarios en las decisiones automáticas de estos sistemas.[EN] This work focuses on the analysis and implementation of explainability techniques aimed at improving the understanding of neural networks applied to problems involving image processing. First, a comprehensive review of the current state of explainable artificial intelligence is conducted, exploring the main methodologies and approaches used in this field. Subsequently, a series of practical experiments are carried out to delve into the internal workings of neural networks, primarily studying the behavior of convolutional neural networks. These experiments focus on identifying how these networks process and classify images, highlighting the visual features that significantly influence their decisions. To accomplish this, various explainability techniques are employed, such as SHAP (SHapley Additive exPlanations), which decomposes the impact of each feature on the prediction, or LIME (Local Interpretable Model-agnostic Explanations), which explains individual predictions by making local adjustments to the data and simpler models, among others. The detailed analysis of these techniques provides a greater understanding of the behavior and reasoning of neural networks in the context of image problems, thus aiming to promote the development of more transparent, interpretable, and reliable artificial intelligence systems. This, in the future, may help comply with government regulations regarding the explainability of automatic decision-making, detect undesired biases, systematic errors, potential failures, improve the fairness of these models, or increase users' confidence in the automatic decisions of these systems.Universitat Politècnica de ValènciaMartínez Hinarejos, Carlos DavidDepartamento de Sistemas Informáticos y ComputaciónEscuela Técnica Superior de Ingeniería InformáticaCentro de Investigación Pattern Recognition and Human Language TechnologyRepositorio Institucional de la Universitat Politècnica de València Riunet20242024-10-2820242024-09-27master thesishttp://purl.org/coar/resource_type/c_bdccinfo:eu-repo/semantics/masterThesisapplication/pdfhttps://riunet.upv.es/handle/10251/210948reponame:RiuNet. Repositorio Institucional de la Universitat Politécnica de Valénciainstname:Universitat Politècnica de València (UPV)Españolspaopen accesshttp://purl.org/coar/access_right/c_abf2Reserva de todos los derechoshttp://rightsstatements.org/vocab/InC/1.0/info:eu-repo/semantics/openAccessoai:riunet.upv.es:10251/2109482026-06-13T07:49:27Z
score 15,811543

Similares en LA Referencia