Prevención y reparación de daños ocasionados por la discriminación algorítmica

Son innumerables los sectores y actividades donde se están empleando sistemas de inteligencia artificial que, gracias al procesamiento y combinación de ingentes cantidades de datos personales y no personales, pueden decidir de forma automatizada y con cierto grado de autonomía, por ejemplo, quién merece ser destinatario de un crédito o de una ayuda pública, quién es apto para un determinado puesto de trabajo, quién puede acceder a un centro educativo, o qué probabilidades de reincidencia tiene un preso. Aunque los beneficios que conlleva esta tecnología son indiscutibles, en ocasiones se ven ensombrecidos por los riesgos que implica y que pasan desapercibidos para los ciudadanos. Además de amenazas a la intimidad o a la protección de datos personales, uno de los mayores peligros del uso de estos sistemas es la adopción de decisiones sesgadas y discriminatorias que lleven a reproducir, amplificar y consolidar estereotipos y desigualdades contra las que se lleva siglos luchando. De hecho, la perpetuación de patrones históricos de discriminación ha sido tenida en cuenta en el reciente Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial, para clasificar los sistemas inteligentes dentro de uno u otro nivel de riesgo. La presente monografía aborda los potenciales riesgos y daños al derecho a la igualdad de trato y no discriminación derivados del uso de sistemas de inteligencia artificial en la toma de decisiones. Se estudia, entre otras cuestiones, el concepto y las características de la discriminación algorítmica, las causas que pueden provocarla, los desafíos que plantea y las medidas que pueden adoptarse para hacerles frente. Todo ello mediante el análisis de la legislación sobre igualdad y no discriminación, sobre protección de datos y sobre inteligencia artificial, así como de otras soluciones propuestas desde el ámbito ético y tecnológico para prevenir los riesgos y reparar los daños que este fenómeno puede ocasionar.