The Many Facets of Hateful Content Detection: from Perspectivism to Bias
[ES] La detección del discurso del odio es un área crítica de investigación destinada a identificar contenidos dañinos y ofensivos. Sin embargo, la tarea se ve obstaculizada por problemas relacionados con el perspectivismo (perspectivism) y el sesgo (bias) , que comprometen la eficacia y la imparcia...
| Autor: | |
|---|---|
| Tipo de recurso: | tesis doctoral |
| Fecha de publicación: | 2025 |
| País: | España |
| Institución: | Universitat Politècnica de València (UPV) |
| Repositorio: | RiuNet. Repositorio Institucional de la Universitat Politécnica de Valéncia |
| Idioma: | inglés |
| OAI Identifier: | oai:riunet.upv.es:10251/219906 |
| Acceso en línea: | https://riunet.upv.es/handle/10251/219906 |
| Access Level: | acceso abierto |
| Palabra clave: | Perspectivism Bias Hate Speech Multimodal Meme Misogyny Learning With Disagreements Natural Language Processing DIscurso de odio Misoginia Procesamiento del Lenguaje Natural (PLN) Aprendizaje automático Estrategias de eliminación de sesgo Reconocimiento de memes Sesgo Análisis multimodal 05.- Alcanzar la igualdad entre los géneros y empoderar a todas las mujeres y niñas |
| Sumario: | [ES] La detección del discurso del odio es un área crítica de investigación destinada a identificar contenidos dañinos y ofensivos. Sin embargo, la tarea se ve obstaculizada por problemas relacionados con el perspectivismo (perspectivism) y el sesgo (bias) , que comprometen la eficacia y la imparcialidad de los sistemas de detección, especialmente en un escenario de caso real. El perspectivismo surge con frecuencia debido a la interpretación subjetiva de lo que constituye discurso de odio, en la que influyen factores culturales, lingüísticos y contextuales. Por otro lado, el sesgo se asocia con frecuencia a una distribución sesgada de elementos específicos en los conjuntos de datos que se utilizarán para entrenar los modelos de detección del discurso de odio. La tesis, que se centra tanto en contenidos unimodales (texto) como multimodales (memes) generados por los usuarios, aborda inicialmente el perspectivismo para modelar el desacuerdo en diferentes granularidades, es decir, a nivel de constituyente y de instancia. Posteriormente, se aborda la identificación y mitigación de los sesgos mediante nuevas métricas y estrategias de eliminación de sesgos. Al abordar estos retos, este trabajo pretende mejorar la fiabilidad e imparcialidad de los sistemas de detección de discursos de odio, allanando el camino para estrategias de moderación de contenidos más equitativas, capaces de captar múltiples perspectivas e interpretaciones. |
|---|