Exploring Cognitive Bias Impact, Detection and Mitigation in Large Language Models
[ES] Los modelos de lenguaje de gran tamaño (LLMs) han revolucionado numerosos ámbitos como la educación, la sanidad, el derecho o la industria al permitir la automatización de tareas complejas mediante capacidades avanzadas de comprensión y generación de lenguaje natural. No obstante, su despliegue...
| Autor: | |
|---|---|
| Tipo de recurso: | tesis de maestría |
| Fecha de publicación: | 2025 |
| País: | España |
| Institución: | Universitat Politècnica de València (UPV) |
| Repositorio: | RiuNet. Repositorio Institucional de la Universitat Politécnica de Valéncia |
| Idioma: | inglés |
| OAI Identifier: | oai:riunet.upv.es:10251/225644 |
| Acceso en línea: | https://riunet.upv.es/handle/10251/225644 |
| Access Level: | acceso abierto |
| Palabra clave: | Inteligencia artificial Sesgos cognitivos Modelos de lenguaje Aprendizaje automático Mitigación de sesgos Razonamiento humano Artificial intelligence Cognitive biases Language models Machine learning Bias mitigation Human reasoning Large Language Models (LLMs) Máster Universitario en Inteligencia Artificial, Reconocimiento de Formas e Imagen Digital-Màster Universitari en Intel·ligència Artificial, Reconeixement de Formes i Imatge Digital |
| Sumario: | [ES] Los modelos de lenguaje de gran tamaño (LLMs) han revolucionado numerosos ámbitos como la educación, la sanidad, el derecho o la industria al permitir la automatización de tareas complejas mediante capacidades avanzadas de comprensión y generación de lenguaje natural. No obstante, su despliegue generalizado ha planteado importantes preocupaciones éticas y prácticas, especialmente en relación con los sesgos presentes en sus respuestas. Mientras que los sesgos sociales en los LLMs han sido ampliamente estudiados, los sesgos cognitivos patrones sistemáticos de desviación del razonamiento normativo derivados de la cognición humana han recibido mucha menos atención. Estos sesgos suponen un reto singular, ya que pueden introducirse sutilmente, por ejemplo, a través del diseño del prompt o heredarse de los datos de entrenamiento. Por ello, su estudio representa una línea de investigación emergente y cada vez más relevante. Este trabajo ofrece una investigación estructurada sobre la presencia, detección y mitigación de los sesgos cognitivos en los LLMs. Se propone una estrategia experimental en tres fases: (1) evaluación de la influencia de los sesgos inducidos por prompts en las salidas del modelo, (2) exploración de métodos de detección basados en sistemas de generación aumentada con recuperación (RAG) enriquecidos con teoría cognitiva, y (3) mitigación de los efectos del sesgo mediante intervenciones basadas en advertencias. Los resultados buscan contribuir a una mejor comprensión del alineamiento entre los LLMs y la cognición humana, y proporcionar una base para el desarrollo de sistemas de IA más seguros y confiables. |
|---|