Artificial Intelligence and inclusion: an analysis of bias against the poor
La filòsofa Adela Cortina va encunyar el terme aporofòbia en 2017 per a descriure per què els estrangers rics són benvinguts mentre que els pobres són ignorats, rebutjats i fins i tot pateixen atacs verbals i físics. Mentre la eradicació de la pobresa és el primer dels Objectius de Desenvolupament S...
| Autor: | |
|---|---|
| Tipo de recurso: | tesis doctoral |
| Estado: | Versión publicada |
| Fecha de publicación: | 2022 |
| País: | España |
| Institución: | CBUC, CESCA |
| Repositorio: | TDR. Tesis Doctorales en Red |
| OAI Identifier: | oai:www.tdx.cat:10803/674378 |
| Acceso en línea: | http://hdl.handle.net/10803/674378 |
| Access Level: | acceso abierto |
| Palabra clave: | Poverty Bias Artificial Intelligence Discrimination Inclusion Sesgo Biaix Pobresa Pobreza Inteligencia Artificial Ciències socials, periodisme i documentació 004 1 17 3 316 |
| Sumario: | La filòsofa Adela Cortina va encunyar el terme aporofòbia en 2017 per a descriure per què els estrangers rics són benvinguts mentre que els pobres són ignorats, rebutjats i fins i tot pateixen atacs verbals i físics. Mentre la eradicació de la pobresa és el primer dels Objectius de Desenvolupament Sostenible de les Nacions Unides en l’Agenda 2030, aquesta pràctica discriminatòria ha passat desapercebuda malgrat que constitueix un fre per a l’èxit de les polítiques destinades a mitigar la pobresa i que té efectes devastadors per a la dignitat de les persones afectades. Actualment, la discriminació es produeix tant en l’àmbit tangible com en el digital; l’un reforça l’altre en la realitat onlife. La discriminació dels pobres en l’àmbit digital va acompanyada de factors agreujants perquè, entre altres motius, existeix una sobrevaloració de la informació proporcionada pels models d’intel·ligència artificial (IA), que tanmateix estan entrenats a partir de les dades històriques proporcionades pel comportament dels usuaris online. Mentre els models d’IA repliquen, reforcen i sovint agreugen els patrons de discriminació existents a la societat, els proveïdors d’IA no reconeixen obertament l’existència de biaixos en els seus models i resulta difícil assignar responsabilitats quan els sistemes d’IA aprenen a partir de milions de dades obtingudes d’usuaris anonimitzats. En aquest context, les Directrius Ètiques per a una IA Fiable de la Comissió Europea són part d’un marc regulador per als drets humans bàsics en l’entorn online. Però el personal tècnic especialitzat en IA no té les eines necessàries per a aplicar els principis conceptuals de “diversitat, no discriminació i justícia, incloent la prevenció del biaix injust” en la pràctica quan estan programant els models de IA. D’altra banda, la bibliografia en l’àmbit de la discriminació i IA tracta la temàtica des del punt de vista dels algoritmes y en un entorn controlat, sense recolzar-se en un marc teòric robust que clarifiqui la naturalesa i causes del fenomen i com lidiar amb la discriminació de manera efectiva i realista en el onlife. La necessitat d’un anàlisi acadèmic sobre com identificar i mitigar el biaix és fins i tot més urgent quan la pobresa és el motiu de discriminació, ja que l’aporofòbia no es considera un grup històricament discriminat en el marc europeu per a una IA Fiable ni un “atribut sensible” en la literatura d’IA. En aquest context, aquesta tesi doctoral té el propòsit d’explicar, proporcionar evidència empírica i mitigar el fenomen de l’aporofòbia en el onlife. L’estructura de la tesi doctoral consta dels següents capítols: els capítols 1 i 6 constitueixen la introducció i conclusions de la tesi; el capítol 2 proporciona un marc conceptual de l’aporofòbia, identificant les circumstàncies d’aquesta pràctica discriminatòria; el capítol 3 analitza la relativitat de la percepció de la justícia en IA explica com l’ordre de reconeixement social del capitalisme constitueix un agreujant de l’aporofòbia, afegint l’element de culpa pel fet de ser pobre, i de cóm l’aporofòbia es trasllada a l’àmbit de la IA; el capítol 4 proporciona evidència empírica sobre l’existència de l’apofobòbia en les xarxes social i també en els models de Processament de Llenguatge Natural en IA que s’utilitzen per a desenvolupar aplicacions digitals en sectors tan crítics com són els serveis de salut, educació i justícia; el capítol 5 proporciona un Procés de Mitigació del Biaix en la Intel·ligència Artificial (PMBIA) que té el propòsit d’aplicar el principi d’IA Fiable de “diversitat, no discriminació i justícia, incloent la prevenció del biaix injust” proposant accions pro-ètiques durant cada pas del procés de desenvolupament dels models de IA; per últim, el capítol 6 presenta una de les futures línies de recerca, concretament un enfocament normatiu d’optimització mitjançant IA per a generar simulacions que permetin preveure com l’aporofòbia afecta els nivells de pobresa, proporcionant informació que podria guiar una nova generació de polítiques contra la pobresa, actuant no només a nivell redistributiu sinó també en l’àmbit de la discriminació. |
|---|