Discriminació algorítmica

Davant les discriminacions arran de les decisions automatitzades preses mitjançant sistemes algorítmics, la normativa antidiscriminatòria europea i la jurisprudència establerta fins ara, no semblen generar per si mateixes els mecanismes adequats per combatre-les. En aquest article repassem els tres...

Descripción completa

Detalles Bibliográficos
Autor: Capellà Ricart, Anna|||0000-0002-9898-8242
Tipo de recurso: artículo
Fecha de publicación:2022
País:España
Institución:Universitat Autònoma de Barcelona
Repositorio:Dipòsit Digital de Documents de la UAB
Idioma:catalán
OAI Identifier:oai:ddd.uab.cat:264616
Acceso en línea:https://ddd.uab.cat/record/264616
https://dx.doi.org/urn:doi:10.5565/rev/quadernsiee.26
Access Level:acceso abierto
Palabra clave:Unió Europea
Intel·ligència artificial
Discriminació indirecta
Algoritmes
Interseccionalitat
Igualtat de gènere
Unión Europea
Inteligencia artificial
Algoritmos
Discriminación indirecta
Interseccionalidad
Igualdad de género
European Union
Artificial intelligence
Algorithms
Indirect discrimination
Interseccionality
Descripción
Sumario:Davant les discriminacions arran de les decisions automatitzades preses mitjançant sistemes algorítmics, la normativa antidiscriminatòria europea i la jurisprudència establerta fins ara, no semblen generar per si mateixes els mecanismes adequats per combatre-les. En aquest article repassem els tres eixos que presenten les principals limitacions per poder abastar aquest nou repte: una protecció excessivament basada en els atributs protegits; massa centrada en la dualitat discriminació directa o indirecta (que amb les noves eines causants de la discriminació poden veure's difuminades); i les dificultats a nivell probatori que pot tenir algú que ha patit discriminació algorítmica, com per exemple, trobar un grup amb qui comparar-se, o alguna persona o entitat a qui responsabilitzar de l'acció discriminatòria. Cal identificar les mancances i les formes de discriminació que escapen a la regulació actual per poder proposar mecanismes que realment serveixin en la lluita envers la discriminació.