Value engineering for autonomous agents

Tesi amb menció de Doctorat Internacional

Detalles Bibliográficos
Autor: Montes Gómez, Nieves
Tipo de recurso: tesis doctoral
Estado:Versión publicada
Fecha de publicación:2024
País:España
Institución:CBUC, CESCA
Repositorio:TDR. Tesis Doctorales en Red
OAI Identifier:oai:www.tdx.cat:10803/691480
Acceso en línea:http://hdl.handle.net/10803/691480
https://dx.doi.org/10.5821/dissertation-2117-410409
Access Level:acceso abierto
Palabra clave:Value engineering
Values in autonomous agents
Norms
Normative multiagent systems
Theory of mind
Ingeniería de valores
Valores en agente autónomos
Normas
Sistemas multiagente normativos
Teoría de la mente
Enginyeria de valors
Valors en agents autònoms
Normes
Sistemes multiagent normatius
Teoria de la ment
Àrees temàtiques de la UPC::Informàtica
004
13
17
id ES_06bb0d270c17bb3b975b60a51be06fcd
oai_identifier_str oai:www.tdx.cat:10803/691480
network_acronym_str ES
network_name_str España
repository_id_str
dc.title.none.fl_str_mv Value engineering for autonomous agents
title Value engineering for autonomous agents
spellingShingle Value engineering for autonomous agents
Montes Gómez, Nieves
Value engineering
Values in autonomous agents
Norms
Normative multiagent systems
Theory of mind
Ingeniería de valores
Valores en agente autónomos
Normas
Sistemas multiagente normativos
Teoría de la mente
Enginyeria de valors
Valors en agents autònoms
Normes
Sistemes multiagent normatius
Teoria de la ment
Àrees temàtiques de la UPC::Informàtica
004
13
17
title_short Value engineering for autonomous agents
title_full Value engineering for autonomous agents
title_fullStr Value engineering for autonomous agents
title_full_unstemmed Value engineering for autonomous agents
title_sort Value engineering for autonomous agents
dc.creator.none.fl_str_mv Montes Gómez, Nieves
author Montes Gómez, Nieves
author_facet Montes Gómez, Nieves
author_role author
dc.contributor.none.fl_str_mv Sierra García, Carlos
Osman, Nardine
Angulo Bahón, Cecilio
Universitat Politècnica de Catalunya. Departament de Ciències de la Computació
dc.subject.none.fl_str_mv Value engineering
Values in autonomous agents
Norms
Normative multiagent systems
Theory of mind
Ingeniería de valores
Valores en agente autónomos
Normas
Sistemas multiagente normativos
Teoría de la mente
Enginyeria de valors
Valors en agents autònoms
Normes
Sistemes multiagent normatius
Teoria de la ment
Àrees temàtiques de la UPC::Informàtica
004
13
17
topic Value engineering
Values in autonomous agents
Norms
Normative multiagent systems
Theory of mind
Ingeniería de valores
Valores en agente autónomos
Normas
Sistemas multiagente normativos
Teoría de la mente
Enginyeria de valors
Valors en agents autònoms
Normes
Sistemes multiagent normatius
Teoria de la ment
Àrees temàtiques de la UPC::Informàtica
004
13
17
description Tesi amb menció de Doctorat Internacional
publishDate 2024
dc.date.none.fl_str_mv 2024
2024
2024
dc.type.none.fl_str_mv info:eu-repo/semantics/doctoralThesis
info:eu-repo/semantics/publishedVersion
format doctoralThesis
status_str publishedVersion
dc.identifier.none.fl_str_mv http://hdl.handle.net/10803/691480
https://dx.doi.org/10.5821/dissertation-2117-410409
url http://hdl.handle.net/10803/691480
https://dx.doi.org/10.5821/dissertation-2117-410409
dc.language.none.fl_str_mv Inglés
language_invalid_str_mv Inglés
dc.rights.none.fl_str_mv http://creativecommons.org/licenses/by-nc/4.0/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv http://creativecommons.org/licenses/by-nc/4.0/
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv 187 p.
application/pdf
application/pdf
dc.publisher.none.fl_str_mv Universitat Politècnica de Catalunya
publisher.none.fl_str_mv Universitat Politècnica de Catalunya
dc.source.none.fl_str_mv TDX (Tesis Doctorals en Xarxa)
reponame:TDR. Tesis Doctorales en Red
instname:CBUC, CESCA
instname_str CBUC, CESCA
reponame_str TDR. Tesis Doctorales en Red
collection TDR. Tesis Doctorales en Red
repository.name.fl_str_mv
repository.mail.fl_str_mv
_version_ 1869402935895523328
spelling Value engineering for autonomous agentsMontes Gómez, NievesValue engineeringValues in autonomous agentsNormsNormative multiagent systemsTheory of mindIngeniería de valoresValores en agente autónomosNormasSistemas multiagente normativosTeoría de la menteEnginyeria de valorsValors en agents autònomsNormesSistemes multiagent normatiusTeoria de la mentÀrees temàtiques de la UPC::Informàtica0041317Tesi amb menció de Doctorat InternacionalTesi en modalitat de compendi de publicacionsInclou una fe d’errates(English) The topic of this thesis is the engineering of values for autonomous agents. This is realised through the formulation, design and implementation of new functionalities for autonomous agents that enable reasoning in terms of values. In particular, we argue for the role of prescriptive norms as value-promoting mechanisms. Hence, value-driven agents should be able to autonomously determine which regulations (such as obligations, permissions or prohibitions) make the Multiagent System they inhabit better promote some values of interest. We lay the foundations of our work on Schwartz’s Theory of Basic Human Values to establish a consequential connection between values and norms, considering that norms are aligned with respect to values if the outcomes they incentivise satisfy the goals that capture the meaning of values in a particular context. Another feature of Schwartz’s theory that has been previously overlooked in the literature is the strong social dimension of values. That is, agents should be able to reason not just in terms of their own, but also of the values of others in their community. This points to Theory of Mind (i.e. the cognitive ability to perceive, interpret and reason about others in terms of their mental states) as an outstanding component of value-based reasoning. This thesis is structured around three main contributions (published in journal papers) plus their integration. The first contribution establishes the normvalue relationship as a consequential one in nature, and proposes a methodology for the automated synthesis and analysis of optimally value-aligned normative systems. The second contribution tackles the limitations of the first, and defines the Action Situation Language to systematically express a wide range of rules that may be implemented in a Multiagent System. This language is complemented by a game engine that automatically interprets interaction descriptions and builds their semantics as Extensive Form Games, which are later analysed with standard game-theoretical tools. This leads to a distribution over game outcomes, which are evaluated in terms of their desirability with respect to values. The third contribution introduces Theory of Mind-related functionalities into an existing Belief-Desire-Intention agent architecture, and combines them with abductive reasoning capabilities. The three contributions are integrated in a novel functionality that enables agents to reason about prescriptive norms in terms of dynamic values. This means that an autonomous agent can, at runtime, switch its value perspective to the one it estimates that another agent has. Such perspective-dependent value-based normative reasoning functionality, with its inherent social orientation, constitutes a novel contribution to the community of values for autonomous agents and paves the way for possible applications such as value-based negotiation over normative systems. In summary, value engineering is a principled and systematic approach to computational ethics, which provides an innovative tool set for integrating ethical values into the design of autonomous agents.(Català) El tema d’aquesta tesi és l’enginyeria de valors per a agents autònoms, aconseguida mitjançant la formulació, disseny i implementació de noves funcionalitats que permeten a agents autònoms raonar en termes de valors. En particular, defensem el paper de les normes prescriptives com a mecanismes de promoció de valors. Aleshores, els agents impulsats per valors deuen poder determinar de forma autònoma quines regulacions (com ara obligacions, permisos o prohibicions) promouen millor alguns valors d’interès en el Sistema Multiagent que habiten. Fonamentem el nostre treball a la Teoria de Schwartz de Valors Humans Bàsics per establir una connexió entre valors i normes basada en conseqüències, considerant que les normes estan alineades respecte als valors si els resultats que incentiven satisfan les metes que capten el significat d’aquests valors en un context determinat. Una altra característica de la teoria de Schwartz que ha estat passada per alt prèviament a la literatura és la forta dimensió social dels valors. És a dir, els agents haurien de poder raonar, no només en termes dels seus propis valors, sinó també dels d’altres a la seva comunitat. Això apunta a la Teoria de la Ment (és a dir, la capacitat cognitiva de percebre, interpretar i raonar sobre els altres en termes dels seus estats mentals) com un component destacat del raonament basat en valors. Aquesta tesi s’estructura al voltant de tres contribucions principals (publicades en revistes acadèmiques), a més de la seva integració. La primera contribució estableix la relació entre normes i valors mitjançant conseqüències, i proposa una metodologia per a la síntesi i anàlisi automatitzada de sistemes normatius òptimament alineats amb valors. La segona contribució aborda les limitacions de la primera, i defineix l’Action Situation Language per expressar sistemàticament una àmplia gamma de regles que es poden implementar en un Sistema Multiagent. Aquest llenguatge es complementa amb un intèrpret que processa automàticament la descripció de la interacció i construeix la seva semàntica com un joc en forma estesa, que després és analitzat amb eines estàndards de teoria de jocs. Això condueix a una distribució sobre estats finals del joc, que s’avaluen en termes de la seva conveniència respecte a certs valors. La tercera contribució presenta funcionalitats relacionades amb la Teoria de la Ment, integrant-les a l’arquitectura Belief-Desire-Intention existent i combinant-les amb raonament abductiu. Les tres contribucions s’'integren en una nova funcionalitat que permet a agents autònoms raonar sobre normes prescriptives en termes de valors dinàmics. Això vol dir que un agent autònom pot, durant la seva execució, canviar la seva perspectiva de valors a la que estima que té un altre agent. Aquest enfocament, basat en valors i amb una orientació social inherent, constitueix una contribució nova a la investigació de valors per a agents autònoms i aplana el camí a possibles aplicacions com la negociació automàtica sobre sistemes normatius basada en valors. En resum, l’'enginyeria de valors és un enfocament sistemàtic i de principis a l’'ètica computacional, que proporciona un conjunt d’'eines innovadores per integrar valors ètics al disseny d’'agents autònoms.DOCTORAT EN INTEL·LIGÈNCIA ARTIFICIAL (Pla 2012)Universitat Politècnica de CatalunyaSierra García, CarlosOsman, NardineAngulo Bahón, CecilioUniversitat Politècnica de Catalunya. Departament de Ciències de la Computació202420242024info:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/publishedVersion187 p.application/pdfapplication/pdfhttp://hdl.handle.net/10803/691480https://dx.doi.org/10.5821/dissertation-2117-410409TDX (Tesis Doctorals en Xarxa)reponame:TDR. Tesis Doctorales en Redinstname:CBUC, CESCAInglésL'accés als continguts d'aquesta tesi queda condicionat a l'acceptació de les condicions d'ús establertes per la següent llicència Creative Commons: http://creativecommons.org/licenses/by-nc/4.0/http://creativecommons.org/licenses/by-nc/4.0/info:eu-repo/semantics/openAccessoai:www.tdx.cat:10803/6914802026-06-14T12:46:07Z
score 15,811543

Similares en LA Referencia