POTDAI: A Tool to Evaluate the Perceived Operational Trust Degree in Artificial Intelligence Systems

Está demostrado que la confianza subjetiva de un usuario en un sistema basado en Inteligencia Artificial (IA) es crucial en su uso, incluso más decisiva que la eficacia y eficiencia objetivas del sistema. Por ello, se han propuesto diferentes métodos para analizar la confianza en la IA. En nuestra i...

Full description

Bibliographic Details
Authors: Martín Moncunill, David, García-Laredo, Eduardo, Nieves, Juan Carlos
Format: article
Publication Date:2024
Country:España
Institution:Universidad Camilo José Cela (UCJC)
Repository:Depósito Digital e-UCJC
OAI Identifier:oai:repositorio.ucjc.edu:20.500.12020/1375
Online Access:https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=10663721
http://hdl.handle.net/20.500.12020/1375
https://doi.org/10.1109/ACCESS.2024.3454061
Access Level:Open access
Keyword:Ingenierías
Inteligencia Artificial
Interacción Persona Computador
Technology Acceptance Model
Trustworthy Artificial Intelligence
1203.04 Inteligencia Artificial
id ES_b264a80a58868efe40bc532ff2a46ebb
oai_identifier_str oai:repositorio.ucjc.edu:20.500.12020/1375
network_acronym_str ES
network_name_str España
repository_id_str
spelling POTDAI: A Tool to Evaluate the Perceived Operational Trust Degree in Artificial Intelligence SystemsMartín Moncunill, DavidGarcía-Laredo, EduardoNieves, Juan CarlosIngenieríasInteligencia ArtificialInteracción Persona ComputadorTechnology Acceptance ModelTrustworthy Artificial Intelligence1203.04 Inteligencia ArtificialEstá demostrado que la confianza subjetiva de un usuario en un sistema basado en Inteligencia Artificial (IA) es crucial en su uso, incluso más decisiva que la eficacia y eficiencia objetivas del sistema. Por ello, se han propuesto diferentes métodos para analizar la confianza en la IA. En nuestra investigación, nos propusimos evaluar cómo el grado de confianza percibido en un sistema de IA podría afectar a la decisión final de un usuario de seguir las recomendaciones de la IA. Para ello, establecimos los criterios de confianza que debería cumplir dicha evaluación siguiendo un enfoque de cocreación con un grupo multidisciplinar de 10 expertos. Tras una revisión sistemática de 3.204 artículos, comprobamos que ninguna de las herramientas cumplía los criterios de inclusión. Así pues, presentamos la herramienta denominada ''Grado de Confianza Operativa Percibida en la IA'' (POTDAI) que se basa en las conclusiones del grupo de expertos y el análisis bibliográfico, con una metodología que añade rigor a la empleada anteriormente para crear herramientas de evaluación similares. Proponemos un cuestionario breve para una aplicación rápida y sencilla, inspirado en la versión original del Modelo de Aceptación de la Tecnología (TAM) con seis ítems tipo Likert. De esta forma, respondemos también a la necesidad señalada por autores como Vorm y Combs de ampliar el TAM para abordar cuestiones relacionadas con la percepción del usuario en sistemas con un componente de IA. Así, el POTDAI puede utilizarse solo o en combinación con el TAM para obtener información adicional sobre su utilidad y facilidad de uso.HumanE AI Network (HumanE-AI-Net) Research ProjectUmeå University - Computing Science Department & Umeå University - Police Education Unit,Comet Global Innovation S.L.Institut de Seguretat Pública de Catalunya -ISPCInstitute of Electrical and Electronics Engineers (IEEE)2024info:eu-repo/semantics/articlehttps://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=10663721http://hdl.handle.net/20.500.12020/1375https://doi.org/10.1109/ACCESS.2024.3454061reponame:Depósito Digital e-UCJCinstname:Universidad Camilo José Cela (UCJC)Inglésinfo:eu-repo/grantAgreement/EC/H2020/952026info:eu-repo/semantics/openAccessoai:repositorio.ucjc.edu:20.500.12020/13752026-05-27T07:36:51Z
dc.title.none.fl_str_mv POTDAI: A Tool to Evaluate the Perceived Operational Trust Degree in Artificial Intelligence Systems
title POTDAI: A Tool to Evaluate the Perceived Operational Trust Degree in Artificial Intelligence Systems
spellingShingle POTDAI: A Tool to Evaluate the Perceived Operational Trust Degree in Artificial Intelligence Systems
Martín Moncunill, David
Ingenierías
Inteligencia Artificial
Interacción Persona Computador
Technology Acceptance Model
Trustworthy Artificial Intelligence
1203.04 Inteligencia Artificial
title_short POTDAI: A Tool to Evaluate the Perceived Operational Trust Degree in Artificial Intelligence Systems
title_full POTDAI: A Tool to Evaluate the Perceived Operational Trust Degree in Artificial Intelligence Systems
title_fullStr POTDAI: A Tool to Evaluate the Perceived Operational Trust Degree in Artificial Intelligence Systems
title_full_unstemmed POTDAI: A Tool to Evaluate the Perceived Operational Trust Degree in Artificial Intelligence Systems
title_sort POTDAI: A Tool to Evaluate the Perceived Operational Trust Degree in Artificial Intelligence Systems
dc.creator.none.fl_str_mv Martín Moncunill, David
García-Laredo, Eduardo
Nieves, Juan Carlos
author Martín Moncunill, David
author_facet Martín Moncunill, David
García-Laredo, Eduardo
Nieves, Juan Carlos
author_role author
author2 García-Laredo, Eduardo
Nieves, Juan Carlos
author2_role author
author
dc.subject.none.fl_str_mv Ingenierías
Inteligencia Artificial
Interacción Persona Computador
Technology Acceptance Model
Trustworthy Artificial Intelligence
1203.04 Inteligencia Artificial
topic Ingenierías
Inteligencia Artificial
Interacción Persona Computador
Technology Acceptance Model
Trustworthy Artificial Intelligence
1203.04 Inteligencia Artificial
description Está demostrado que la confianza subjetiva de un usuario en un sistema basado en Inteligencia Artificial (IA) es crucial en su uso, incluso más decisiva que la eficacia y eficiencia objetivas del sistema. Por ello, se han propuesto diferentes métodos para analizar la confianza en la IA. En nuestra investigación, nos propusimos evaluar cómo el grado de confianza percibido en un sistema de IA podría afectar a la decisión final de un usuario de seguir las recomendaciones de la IA. Para ello, establecimos los criterios de confianza que debería cumplir dicha evaluación siguiendo un enfoque de cocreación con un grupo multidisciplinar de 10 expertos. Tras una revisión sistemática de 3.204 artículos, comprobamos que ninguna de las herramientas cumplía los criterios de inclusión. Así pues, presentamos la herramienta denominada ''Grado de Confianza Operativa Percibida en la IA'' (POTDAI) que se basa en las conclusiones del grupo de expertos y el análisis bibliográfico, con una metodología que añade rigor a la empleada anteriormente para crear herramientas de evaluación similares. Proponemos un cuestionario breve para una aplicación rápida y sencilla, inspirado en la versión original del Modelo de Aceptación de la Tecnología (TAM) con seis ítems tipo Likert. De esta forma, respondemos también a la necesidad señalada por autores como Vorm y Combs de ampliar el TAM para abordar cuestiones relacionadas con la percepción del usuario en sistemas con un componente de IA. Así, el POTDAI puede utilizarse solo o en combinación con el TAM para obtener información adicional sobre su utilidad y facilidad de uso.
publishDate 2024
dc.date.none.fl_str_mv 2024
dc.type.none.fl_str_mv info:eu-repo/semantics/article
format article
dc.identifier.none.fl_str_mv https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=10663721
http://hdl.handle.net/20.500.12020/1375
https://doi.org/10.1109/ACCESS.2024.3454061
url https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=10663721
http://hdl.handle.net/20.500.12020/1375
https://doi.org/10.1109/ACCESS.2024.3454061
dc.language.none.fl_str_mv Inglés
language_invalid_str_mv Inglés
dc.relation.none.fl_str_mv info:eu-repo/grantAgreement/EC/H2020/952026
dc.rights.none.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Institute of Electrical and Electronics Engineers (IEEE)
publisher.none.fl_str_mv Institute of Electrical and Electronics Engineers (IEEE)
dc.source.none.fl_str_mv reponame:Depósito Digital e-UCJC
instname:Universidad Camilo José Cela (UCJC)
instname_str Universidad Camilo José Cela (UCJC)
reponame_str Depósito Digital e-UCJC
collection Depósito Digital e-UCJC
repository.name.fl_str_mv
repository.mail.fl_str_mv
_version_ 1869417051011940352
score 15.811543

Similar Items