MentorEval: the largest benchmark for automated student grading
Los modelos de lenguaje de gran tamaño se utilizan cada vez más para la evaluación educativa, y estudios recientes destacan su capacidad para aproximarse a la calificación humana [1, 2, 3, 4, 5, 6]. Sin embargo, la mayoría de estos trabajos se basan en conjuntos de datos privados o muy específicos,...
| Author: | |
|---|---|
| Format: | master thesis |
| Publication Date: | 2025 |
| Country: | España |
| Institution: | Universidad Nacional de Educación a Distancia |
| Repository: | e-spacio. Repositorio Institucional de la UNED |
| Language: | English |
| OAI Identifier: | oai:e-spacio.uned.es:20.500.14468/31689 |
| Online Access: | https://hdl.handle.net/20.500.14468/31689 |
| Access Level: | Open access |
| Keyword: | 3304 Tecnología de los ordenadores Evaluación automática de exámenes LLMs Benchmark multilingüe Student assessment LLM evaluation Multilingual benchmark |
| Summary: | Los modelos de lenguaje de gran tamaño se utilizan cada vez más para la evaluación educativa, y estudios recientes destacan su capacidad para aproximarse a la calificación humana [1, 2, 3, 4, 5, 6]. Sin embargo, la mayoría de estos trabajos se basan en conjuntos de datos privados o muy específicos, y actualmente no existe un benchmark multilingüe que permita una evaluación sistemática y transparente a través de distintas tareas e idiomas [7]. Para abordar esta limitación, presentamos MentorEval, la colección más amplia existente de datasets con respuestas de alumnos y correcciones. Concebida como un proyecto en crecimiento, MentorEval integra seis conjuntos de datos públicos en inglés, portugués y árabe, estandarizados bajo un esquema común y disponibles en Hugging Face. Basándose en LightEval, define 203 tareas detalladas y permite la experimentación modular con prompts, modelos y métricas de evaluación. Los resultados se publican automáticamente en una página web de acceso abierto, garantizando reproducibilidad y fomentando contribuciones colaborativas. Para demostrar su utilidad, evaluamos gpt-4o-mini bajo distintas condiciones de prompting. Los experimentos muestran que la inclusión de rúbricas, ejemplos, respuestas ideales y razonamiento explicativo en los prompts mejora de manera consistente el rendimiento. |
|---|