CCMM-Bigdata: an integrated data lake for marine sciences

The increasing complexity and volume of marine data, coupled with the rise of AI-driven workflows, demand more powerful and flexible data management solutions than traditional data repos- itories. In this work, we present the design and implementation of an integrated data lake platform developed in...

ver descrição completa

Detalhes bibliográficos
Autores: Cacheiro, Javier, Fernández, Carlos, Landeira, Francisco, Grela, Cecilia, Prieto, Pablo
Formato: artículo
Fecha de publicación:2025
País:España
Recursos:Universitat Politècnica de Catalunya (UPC)
Repositorio:UPCommons. Portal del coneixement obert de la UPC
Idioma:inglés
OAI Identifier:oai:upcommons.upc.edu:2117/449445
Acesso em linha:https://hdl.handle.net/2117/449445
https://dx.doi.org/10.5821/iwp.2025.24.14009
Access Level:acceso abierto
Palavra-chave:Oceanography -- Research
Oceanography -- Equipment and supplies
Artificial intelligence
Digital twins (Computer simulation)
Data lake
AI
HPC
Digital twin
Marine sciences
Oceanografia -- Investigació
Oceanografia -- Aparells i instruments
Intel·ligència artificial
Rèpliques digitals (Simulació per ordinador)
Àrees temàtiques de la UPC::Enginyeria civil::Geologia::Oceanografia
Àrees temàtiques de la UPC::Enginyeria electrònica::Instrumentació i mesura
Àrees temàtiques de la UPC::Informàtica::Intel·ligència artificial
Descrição
Resumo:The increasing complexity and volume of marine data, coupled with the rise of AI-driven workflows, demand more powerful and flexible data management solutions than traditional data repos- itories. In this work, we present the design and implementation of an integrated data lake platform developed in the context of the Galician Marine Sciences Program. Built on top of open- source technologies, it enables both large-scale simulations and advanced AI-driven workflows.