Técnicas de aprendizaje por refuerzo para la delegación de tareas (Computation Offloading) en aplicaciones de vehículo conectado

Una de las tecnologías esenciales para ofrecer servicios relacionados con el vehículo conectado es MEC (Multi-Access Edge Computing). En ella, parte de los recursos de computación en la nube (cloud) se deslocalizan de los grandes centros de datos (datacenters) para situarse en una jerarquía que se e...

Descripción completa

Detalles Bibliográficos
Autor: Ferens Michalek, Mieszko Jan
Tipo de recurso: tesis de maestría
Fecha de publicación:2022
País:España
Institución:Universidad de Valladolid
Repositorio:UVaDOC. Repositorio Documental de la Universidad de Valladolid
OAI Identifier:oai:uvadoc.uva.es:10324/55582
Acceso en línea:https://uvadoc.uva.es/handle/10324/55582
Access Level:acceso abierto
Palabra clave:Aprendizaje por refuerzo
Deep Q-learning
ChainerRL
OpenAI Gym
Descripción
Sumario:Una de las tecnologías esenciales para ofrecer servicios relacionados con el vehículo conectado es MEC (Multi-Access Edge Computing). En ella, parte de los recursos de computación en la nube (cloud) se deslocalizan de los grandes centros de datos (datacenters) para situarse en una jerarquía que se extiende hasta el borde de la red de acceso radio (edge). Esto permite aumentar la capacidad de procesamiento del sistema en su conjunto y reducir la latencia de los servicios. Este Trabajo Fin de Máster se enmarca en la exploración del uso de MEC en aplicaciones de vehículo conectado en entornos metropolitanos centrándose en mecanismos de delegación de tareas de computación (computation offloading). Se trata de decidir si las tareas relacionadas con una cierta aplicación se realizarán de forma local en el equipo de usuario (embarcado en el vehículo) o si se delegará su realización, ya sea parcial o totalmente (y siempre que la aplicación lo permita), a la nube, un servidor MEC o un punto de acceso RSU (Roadside Unit). A la hora de delegar las tareas se busca la optimización de alguna métrica, como por ejemplo maximizar la tasa de éxito para procesar las aplicaciones, pero haciendo al mismo tiempo un uso eficiente de los recursos de cómputo y de los enlaces de comunicación. Concretamente, en el TFM se han propuesto e implementado distintos mecanismos de delegación de tareas basados en técnicas de aprendizaje por refuerzo (reinforcement learning), y se han comparado entre sí y con diversas heurísticas en un entorno de simulación. Especialmente se analiza el impacto que tiene la incertidumbre provocada por la variación de los tiempos de procesamiento en el rendimiento de distintos algoritmos.