Static PE antimalware evasion by using Reinforcement Learning

Malware detection is a critical capability which is usually deployed in any production system as a first step to increase the infrastructure security. Due to this widespread security measure, and with the intention of carrying out the actions for which it has been designed, malwareis constantly evol...

Descripción completa

Detalles Bibliográficos
Autor: Gómez Gálvez, Francisco Javier
Tipo de recurso: tesis de maestría
Fecha de publicación:2021
País:España
Institución:Universitat Oberta de Catalunya (UOC)
Repositorio:O2, repositorio institucional de la UOC
OAI Identifier:oai:openaccess.uoc.edu:10609/127010
Acceso en línea:http://hdl.handle.net/10609/127010
Access Level:acceso abierto
Palabra clave:reinforcement learning
deep learning
antimalware evasion
aprendizaje por refuerzo
aprendizaje profundo
evasión antimalware
aprenentatge de reforç
aprenentatge profund
evasió antimalware
Computer security -- TFM
Seguretat informàtica -- TFM
Seguridad informática -- TFM
id ES_b7170ea63844cf2db097ea99f27e2bf1
oai_identifier_str oai:openaccess.uoc.edu:10609/127010
network_acronym_str ES
network_name_str España
repository_id_str
dc.title.none.fl_str_mv Static PE antimalware evasion by using Reinforcement Learning
title Static PE antimalware evasion by using Reinforcement Learning
spellingShingle Static PE antimalware evasion by using Reinforcement Learning
Gómez Gálvez, Francisco Javier
reinforcement learning
deep learning
antimalware evasion
aprendizaje por refuerzo
aprendizaje profundo
evasión antimalware
aprenentatge de reforç
aprenentatge profund
evasió antimalware
Computer security -- TFM
Seguretat informàtica -- TFM
Seguridad informática -- TFM
title_short Static PE antimalware evasion by using Reinforcement Learning
title_full Static PE antimalware evasion by using Reinforcement Learning
title_fullStr Static PE antimalware evasion by using Reinforcement Learning
title_full_unstemmed Static PE antimalware evasion by using Reinforcement Learning
title_sort Static PE antimalware evasion by using Reinforcement Learning
dc.creator.none.fl_str_mv Gómez Gálvez, Francisco Javier
author Gómez Gálvez, Francisco Javier
author_facet Gómez Gálvez, Francisco Javier
author_role author
dc.contributor.none.fl_str_mv Prados Carrasco, Ferran
Torregrosa Garcia, Blas
dc.subject.none.fl_str_mv reinforcement learning
deep learning
antimalware evasion
aprendizaje por refuerzo
aprendizaje profundo
evasión antimalware
aprenentatge de reforç
aprenentatge profund
evasió antimalware
Computer security -- TFM
Seguretat informàtica -- TFM
Seguridad informática -- TFM
topic reinforcement learning
deep learning
antimalware evasion
aprendizaje por refuerzo
aprendizaje profundo
evasión antimalware
aprenentatge de reforç
aprenentatge profund
evasió antimalware
Computer security -- TFM
Seguretat informàtica -- TFM
Seguridad informática -- TFM
description Malware detection is a critical capability which is usually deployed in any production system as a first step to increase the infrastructure security. Due to this widespread security measure, and with the intention of carrying out the actions for which it has been designed, malwareis constantly evolving in order to evade common detection techniques, ranging from simple changes aimed to evade signature-based detection to complex variations involving malware virtualization which are able to evade behavioural-based detection. In this project, an experiment based on Reinforcement Learning is designed in order to improve the evasion capabilities of a given self-generated malware sample. Such design is carried out by defining the set of actions that can be taken in order to evade Static PE detection; an environment which evaluates the sample; a reward function that allows us to minimize thedetection rate, and an agent which coordinates the entire process. Tools used in the scope of this project are available for the general public, including those used for self-generating the samples as well as those used to emulate an environment with different antimalware solutions.
publishDate 2021
dc.date.none.fl_str_mv 2021
2021
2021
dc.type.none.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
dc.identifier.none.fl_str_mv http://hdl.handle.net/10609/127010
url http://hdl.handle.net/10609/127010
dc.language.none.fl_str_mv Inglés
language_invalid_str_mv Inglés
dc.rights.none.fl_str_mv CC BY-NC-ND
http://creativecommons.org/licenses/by-nc-nd/3.0/es/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv CC BY-NC-ND
http://creativecommons.org/licenses/by-nc-nd/3.0/es/
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
application/pdf
dc.publisher.none.fl_str_mv Universitat Oberta de Catalunya (UOC)
publisher.none.fl_str_mv Universitat Oberta de Catalunya (UOC)
dc.source.none.fl_str_mv reponame:O2, repositorio institucional de la UOC
instname:Universitat Oberta de Catalunya (UOC)
instname_str Universitat Oberta de Catalunya (UOC)
reponame_str O2, repositorio institucional de la UOC
collection O2, repositorio institucional de la UOC
repository.name.fl_str_mv
repository.mail.fl_str_mv
_version_ 1869417500383379456
spelling Static PE antimalware evasion by using Reinforcement LearningGómez Gálvez, Francisco Javierreinforcement learningdeep learningantimalware evasionaprendizaje por refuerzoaprendizaje profundoevasión antimalwareaprenentatge de reforçaprenentatge profundevasió antimalwareComputer security -- TFMSeguretat informàtica -- TFMSeguridad informática -- TFMMalware detection is a critical capability which is usually deployed in any production system as a first step to increase the infrastructure security. Due to this widespread security measure, and with the intention of carrying out the actions for which it has been designed, malwareis constantly evolving in order to evade common detection techniques, ranging from simple changes aimed to evade signature-based detection to complex variations involving malware virtualization which are able to evade behavioural-based detection. In this project, an experiment based on Reinforcement Learning is designed in order to improve the evasion capabilities of a given self-generated malware sample. Such design is carried out by defining the set of actions that can be taken in order to evade Static PE detection; an environment which evaluates the sample; a reward function that allows us to minimize thedetection rate, and an agent which coordinates the entire process. Tools used in the scope of this project are available for the general public, including those used for self-generating the samples as well as those used to emulate an environment with different antimalware solutions.La detecció de programari maliciós és una capacitat crítica que normalment es desplega en qualsevol sistema de producció com a primer pas per augmentar la seguretat de la infraestructura. A causa d'aquesta mesura de seguretat generalitzada, i amb la intenció de dur a terme les accions per a les quals ha estat dissenyat, el malware evoluciona constantment per eludir tècniques de detecció comunes, que van des de canvis senzills destinats a eludir la detecció basada en signatures fins a variacions complexes que impliquen malware. virtualització que és capaç d'evadir la detecció basada en el comportament. En aquest projecte, es dissenya un experiment basat en l'aprenentatge de reforç per tal de millorar les capacitats d'evasió d'una mostra de malware donada autogenerada. Aquest disseny es realitza definint el conjunt d'accions que es poden dur a terme per evitar la detecció de PE estàtic; un entorn que avalua la mostra; una funció de recompensa que ens permet minimitzar la taxa de detecció i un agent que coordina tot el procés. Les eines que s'utilitzen en l'àmbit d'aquest projecte estan disponibles per al públic en general, incloses les que s'utilitzen per autogenerar les mostres, així com les que s'utilitzen per emular un entorn amb diferents solucions antimalware.La detección de malware es una capacidad crítica que generalmente se implementa en cualquier sistema de producción como primer paso para aumentar la seguridad de la infraestructura. Debido a esta medida de seguridad generalizada, y con la intención de llevar a cabo las acciones para las que ha sido diseñado, el malware está en constante evolución para eludir las técnicas de detección habituales, que van desde simples cambios destinados a evadir la detección basada en firmas hasta complejas variaciones de malware virtualización que pueden evadir la detección basada en el comportamiento. En este proyecto, se diseña un experimento basado en el aprendizaje por refuerzo para mejorar las capacidades de evasión de una muestra de malware autogenerada determinada. Dicho diseño se lleva a cabo definiendo el conjunto de acciones que se pueden realizar para evadir la detección de PE estática; un entorno que evalúa la muestra; una función de recompensa que nos permite minimizar la tasa de detección, y un agente que coordina todo el proceso. Las herramientas utilizadas en el alcance de este proyecto están disponibles para el público en general, incluidas las utilizadas para autogenerar las muestras, así como las utilizadas para emular un entorno con diferentes soluciones antimalware.Universitat Oberta de Catalunya (UOC)Prados Carrasco, FerranTorregrosa Garcia, Blas202120212021info:eu-repo/semantics/masterThesisapplication/pdfapplication/pdfhttp://hdl.handle.net/10609/127010reponame:O2, repositorio institucional de la UOCinstname:Universitat Oberta de Catalunya (UOC)InglésCC BY-NC-NDhttp://creativecommons.org/licenses/by-nc-nd/3.0/es/info:eu-repo/semantics/openAccessoai:openaccess.uoc.edu:10609/1270102026-05-28T12:42:01Z
score 15,300724