¿Cuál es la capacidad predictiva de los algoritmos diseñados para prevenir la delincuencia? ¿Son eficaces? ¿Son lo suficientemente transparentes? ¿Tienen sesgos? Para responder a estas preguntas, este estudio analiza tres herramientas algorítmicas utilizadas por la Administración española para hacer...
¿Cuál es la capacidad predictiva de los algoritmos diseñados para prevenir la delincuencia? ¿Son eficaces? ¿Son lo suficientemente transparentes? ¿Tienen sesgos? Para responder a estas preguntas, este estudio analiza tres herramientas algorítmicas utilizadas por la Administración española para hacer estimaciones de riesgo en los ámbitos policial y penitenciario (VioGén, RisCanvi y VeriPol, esta última con inteligencia artificial) con la finalidad de evaluar su funcionamiento, en particular en términos de su respeto a los derechos fundamentales.
El estudio combina métodos cuantitativos y cualitativos, y ha sido realizado por profesores de la Universitat de València y de la Universitat Politècnica de València, expertos en distintas ramas del derecho (penal, administrativo y constitucional), así como en estadística y matemáticas. Los objetivos principales son analizar la capacidad predictiva de los tres sistemas y su eficacia para alcanzar el objetivo que pretenden (reducción de la delincuencia); valorar su grado de transparencia, tanto para la ciudadanía en general como para las personas directamente afectadas por su uso; identificar y discutir posibles sesgos, y comprobar si respetan el marco legal europeo y español vigente, prestando especial atención a la normativa sobre protección de datos personales y a la regulación del uso de sistemas automatizados de toma de decisiones.
También se analiza si los costes para los derechos fundamentales que conlleva el uso de estas herramientas exceden lo que sería legítimo, necesario y/o proporcionado en relación con el beneficio actual o probable en términos de prevención del delito. El estudio subraya la importancia de la transparencia para hacer posible el necesario debate público que debe existir sobre herramientas que, como las tres analizadas, son utilizadas por los poderes públicos como apoyo para tomar decisiones que pueden redundar en restricciones de derechos fundamentales.
Este sitio web almacena datos como cookies para habilitar la funcionalidad necesaria del sitio, incluidos análisis y personalización. Puede cambiar su configuración en cualquier momento o aceptar la configuración predeterminada.
Las cookies necesarias ayudan a hacer una página web utilizable activando funciones básicas como la navegación en la página y el acceso a áreas seguras de la página web. La página web no puede funcionar adecuadamente sin estas cookies.
Personalización
Las cookies de personalización permiten a la página web recordar información que cambia la forma en que la página se comporta o el aspecto que tiene, como su idioma preferido o la región en la que usted se encuentra.
Análisis
Las cookies estadísticas ayudan a los propietarios de páginas web a comprender cómo interactúan los visitantes con las páginas web reuniendo y proporcionando información de forma anónima.
Marketing
Las cookies de marketing se utilizan para rastrear a los visitantes en las páginas web. La intención es mostrar anuncios relevantes y atractivos para el usuario individual, y por lo tanto, más valiosos para los editores y terceros anunciantes.
