Discriminació algorítmica: riscs, regulació, garanties jurisdiccionals i garanties institucionals
Aquesta tesi doctoral analitza els riscs de generar discriminació que presenta l’ús de la intel·ligència artificial i, per tant, d’afectar els drets de les persones, reproduint i en molts casos incrementant discriminacions preexistents. Estudiem les eines que proporciona la normativa europea tant pe...
| Autor: | |
|---|---|
| Tipo de recurso: | tesis doctoral |
| Estado: | Versión publicada |
| Fecha de publicación: | 2023 |
| País: | España |
| Institución: | CBUC, CESCA |
| Repositorio: | TDR. Tesis Doctorales en Red |
| OAI Identifier: | oai:www.tdx.cat:10803/690733 |
| Acceso en línea: | http://hdl.handle.net/10803/690733 |
| Access Level: | acceso abierto |
| Palabra clave: | Discriminació Discriminación Discrimination Intel·ligència artificial Inteligencia artificial Artificial Intelligence Dret Derecho Law Ciències Socials 342 |
| Sumario: | Aquesta tesi doctoral analitza els riscs de generar discriminació que presenta l’ús de la intel·ligència artificial i, per tant, d’afectar els drets de les persones, reproduint i en molts casos incrementant discriminacions preexistents. Estudiem les eines que proporciona la normativa europea tant per prevenir la discriminació algorítmica com perquè les persones que han patit discriminació arran de l'ús de la intel·ligència artificial puguin desafiar els sistemes amb els quals s'ha produït la discriminació. Per fer-ho abordem els punts febles i els punts forts que presenta tant la normativa antidiscriminació europea com la normativa europea de protecció de dades per donar eines a les persones que han patit discriminació per fer front a les decisions a les quals han estat subjectes. També analitzem què pot aportar en aquest sentit la futura regulació europea de la intel·ligència artificial. En aquesta anàlisi ens centrem en dues de de les problemàtiques principals que presenten aquestes normatives i com mitigar-les. En primer lloc, presenten problemes d’aplicació atesa la manca d’informació a la qual s’ha d’enfrontar qui s’ha vist subjecte de discriminació i, en segon lloc, s’articulen en base a la protecció individual de la persona perjudicada, obviant, des de la nostra perspectiva, l’element col·lectiu definitori d’una acció discriminatòria. Concloem que per com operen els sistemes algorítmics actualment es trasllueix que assumeixen perfectament els sistemes d’opressió/subordinació existents, els sistematitzen i els exploten tot beneficiant-se de l’absència d’una normativa capaç de facilitar la presentació d’indicis de discriminació; que algunes garanties que presenten les normatives estudiades, donades certes condicions, podrien ser vàlides per protegir les persones de la discriminació algorítmica (p. e. igualtat des del disseny, avaluacions d’impacte algorítmiques, documentació tècnica en virtut de la PRIA o la possibilitat de sol·licitar al tribunal que l’altra part en un litigi reveli certa informació); que la governança publicoprivada subjacent tant en l’RGPD com en la PRIA pot ser una fórmula deficient per protegir les persones de la discriminació produïda arran de sistemes algorítmics i la justificació per instaurar-la (aprofitar els recursos i l’expertesa del sector privat en la regulació pública) no compensa els riscs que genera (que el sector privat es converteixi de facto en autoregulat ja sigui perquè amb la seva expertesa i recursos pot definir i incidir discrecionalment en conceptes clau de la regulació, ja sigui perquè el poder públic no pot instaurar una rendició de comptes eficient). Proposem per millorar la protecció que es brinda actualment que s’exigeixi normativament que la precisió del sistema algorítmic per tots els grups de població concrets als quals s’aplicarà (incloent categories de dades combinades) no superi certa taxa d’error. En el cas que el sistema superi la taxa d’error establerta o bé sigui tan inescrutable que no es pugui demostrar que no la supera, s’hauria d’impossibilitar la seva comercialització o imposar la seva retirada del mercat. També proposem l’obligació a empreses, organitzacions i administracions públiques de publicar un catàleg dels sistemes algorítmics que estan utilitzant -prèviament s’hauria d’obligar a tots els proveïdors de sistemes d’IA que denominin el sistema algorítmic que pretenen comercialitzar- i una explicació de per a què els estant utilitzant (p. e. en una pàgina web accessible al públic general que s’especifiqui que s’està emprant el sistema algorítmic “x” per gestionar els processos de selecció de personal de l’empresa). Finalment, la instauració d’un sistema de protecció col·lectiva-institucional que instrumentalitzi els punts forts que ofereixen les normatives que regulen o poden regular col·lateralment la discriminació algorítmica i millori, d’aquesta manera, les possibilitats de desafiar les decisions preses mitjançant sistemes algorítmics que puguin causar discriminació. |
|---|