Moderador de contenidos en aplicaciones de mensajería

Este trabajo tiene como finalidad implementar un sistema automatizado de moderación de contenido multimedia en plataformas de mensajería instantánea (Telegram en este caso), centrado en la detección y gestión de material sensible o NSFW (Not Safe For Work). Su objetivo es proteger a los usuarios, es...

Descripción completa

Detalles Bibliográficos
Autor: Tarí Gómez, Chrístopher
Tipo de recurso: tesis de maestría
Fecha de publicación:2025
País:España
Institución:Universitat Oberta de Catalunya (UOC)
Repositorio:O2, repositorio institucional de la UOC
OAI Identifier:oai:openaccess.uoc.edu:10609/153072
Acceso en línea:https://hdl.handle.net/10609/153072
Access Level:acceso abierto
Palabra clave:ciberseguridad
NSFW
moderador
Telegram
bot
Computer security -- FMDP
Seguretat informàtica -- TFM
id ES_7dfa3cdfec3a75d05f4a67a775c4236d
oai_identifier_str oai:openaccess.uoc.edu:10609/153072
network_acronym_str ES
network_name_str España
repository_id_str
spelling Moderador de contenidos en aplicaciones de mensajeríaTarí Gómez, ChrístopherciberseguridadNSFWmoderadorTelegrambotComputer security -- FMDPSeguretat informàtica -- TFMEste trabajo tiene como finalidad implementar un sistema automatizado de moderación de contenido multimedia en plataformas de mensajería instantánea (Telegram en este caso), centrado en la detección y gestión de material sensible o NSFW (Not Safe For Work). Su objetivo es proteger a los usuarios, especialmente a grupos con presencia de menores, garantizando un espacio digital seguro y respetuoso. El contexto de aplicación se basa en la integración de un bot de Telegram que actúa como intermediario entre los usuarios y un servicio centralizado. Este servicio es una API REST especializada en analizar imágenes y animaciones (GIFs) haciendo uso de modelos de inteligencia artificial especializados en la detección de contenidos NSFW, permitiendo una moderación efectiva y configurable en tiempo real. La metodología de trabajo adoptada fue el modelo en cascada, que estructura el desarrollo en fases secuenciales: análisis, diseño, implementación, pruebas y despliegue. Esta aproximación permitió planificar y controlar el proyecto con claridad, garantizando la calidad en cada etapa y facilitando la identificación y corrección temprana de errores. Los resultados evidencian una detección efectiva y configurable, con capacidad para filtrar y anonimizar contenido inapropiado, manteniendo una baja tasa de falsos positivos. Además, la solución facilita la administración y mejora los resultados en la moderación de comunidades y grupos de Telegram. En conclusión, el trabajo demuestra la viabilidad de un sistema automatizado que contribuye a un entorno digital más seguro y ético, con potencial de ampliación para cubrir múltiples plataformas y tipos de contenido.This project aims to implement an automated multimedia content moderation system for instant messaging platforms, focusing on the detection and management of sensitive or NSFW (Not Safe For Work) material. Its primary goal is to protect users, especially groups with minors, ensuring a safe and respectful digital environment. The application context involves the integration of a Telegram bot that acts as an intermediary between users and a centralized service. This service consists of a REST API specialized in analyzing images and animations (including GIFs) using artificial intelligence models trained for NSFW content detection, enabling effective and configurable real-time moderation. The development methodology followed the waterfall model, structuring the project into sequential phases: analysis, design, implementation, testing, and deployment. This approach allowed for clear planning and control, ensuring quality at each stage and facilitating early error detection and correction. The results demonstrate effective and customizable detection capabilities, with the ability to filter and anonymize inappropriate content while maintaining a low false positive rate. Additionally, the solution streamlines administration and improves moderation outcomes in Telegram communities and groups. In conclusion, this work validates the feasibility of an automated moderation system that contributes to a safer and more ethical digital space, with potential for extension to multiple platforms and content types.Universitat Oberta de Catalunya (UOC)Perea Paños, PauCaparrós Ramírez, Joan202520252025info:eu-repo/semantics/masterThesisapplication/pdfapplication/pdfhttps://hdl.handle.net/10609/153072reponame:O2, repositorio institucional de la UOCinstname:Universitat Oberta de Catalunya (UOC)EspañolCC BY-NC-ND https://creativecommons.org/licenses/by-nc-nd/4.0/info:eu-repo/semantics/openAccessoai:openaccess.uoc.edu:10609/1530722026-05-28T12:42:01Z
dc.title.none.fl_str_mv Moderador de contenidos en aplicaciones de mensajería
title Moderador de contenidos en aplicaciones de mensajería
spellingShingle Moderador de contenidos en aplicaciones de mensajería
Tarí Gómez, Chrístopher
ciberseguridad
NSFW
moderador
Telegram
bot
Computer security -- FMDP
Seguretat informàtica -- TFM
title_short Moderador de contenidos en aplicaciones de mensajería
title_full Moderador de contenidos en aplicaciones de mensajería
title_fullStr Moderador de contenidos en aplicaciones de mensajería
title_full_unstemmed Moderador de contenidos en aplicaciones de mensajería
title_sort Moderador de contenidos en aplicaciones de mensajería
dc.creator.none.fl_str_mv Tarí Gómez, Chrístopher
author Tarí Gómez, Chrístopher
author_facet Tarí Gómez, Chrístopher
author_role author
dc.contributor.none.fl_str_mv Perea Paños, Pau
Caparrós Ramírez, Joan
dc.subject.none.fl_str_mv ciberseguridad
NSFW
moderador
Telegram
bot
Computer security -- FMDP
Seguretat informàtica -- TFM
topic ciberseguridad
NSFW
moderador
Telegram
bot
Computer security -- FMDP
Seguretat informàtica -- TFM
description Este trabajo tiene como finalidad implementar un sistema automatizado de moderación de contenido multimedia en plataformas de mensajería instantánea (Telegram en este caso), centrado en la detección y gestión de material sensible o NSFW (Not Safe For Work). Su objetivo es proteger a los usuarios, especialmente a grupos con presencia de menores, garantizando un espacio digital seguro y respetuoso. El contexto de aplicación se basa en la integración de un bot de Telegram que actúa como intermediario entre los usuarios y un servicio centralizado. Este servicio es una API REST especializada en analizar imágenes y animaciones (GIFs) haciendo uso de modelos de inteligencia artificial especializados en la detección de contenidos NSFW, permitiendo una moderación efectiva y configurable en tiempo real. La metodología de trabajo adoptada fue el modelo en cascada, que estructura el desarrollo en fases secuenciales: análisis, diseño, implementación, pruebas y despliegue. Esta aproximación permitió planificar y controlar el proyecto con claridad, garantizando la calidad en cada etapa y facilitando la identificación y corrección temprana de errores. Los resultados evidencian una detección efectiva y configurable, con capacidad para filtrar y anonimizar contenido inapropiado, manteniendo una baja tasa de falsos positivos. Además, la solución facilita la administración y mejora los resultados en la moderación de comunidades y grupos de Telegram. En conclusión, el trabajo demuestra la viabilidad de un sistema automatizado que contribuye a un entorno digital más seguro y ético, con potencial de ampliación para cubrir múltiples plataformas y tipos de contenido.
publishDate 2025
dc.date.none.fl_str_mv 2025
2025
2025
dc.type.none.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
dc.identifier.none.fl_str_mv https://hdl.handle.net/10609/153072
url https://hdl.handle.net/10609/153072
dc.language.none.fl_str_mv Español
language_invalid_str_mv Español
dc.rights.none.fl_str_mv CC BY-NC-ND
https://creativecommons.org/licenses/by-nc-nd/4.0/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv CC BY-NC-ND
https://creativecommons.org/licenses/by-nc-nd/4.0/
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
application/pdf
dc.publisher.none.fl_str_mv Universitat Oberta de Catalunya (UOC)
publisher.none.fl_str_mv Universitat Oberta de Catalunya (UOC)
dc.source.none.fl_str_mv reponame:O2, repositorio institucional de la UOC
instname:Universitat Oberta de Catalunya (UOC)
instname_str Universitat Oberta de Catalunya (UOC)
reponame_str O2, repositorio institucional de la UOC
collection O2, repositorio institucional de la UOC
repository.name.fl_str_mv
repository.mail.fl_str_mv
_version_ 1869411703417995264
score 15,81155

Similares en LA Referencia