El futuro de justicia: ¿En manos del algoritmo? |
Imagínese que alguien revisa toda su historia y, con base en lo que hicieron otros que se le parecen, decide su futuro. No lo que usted hizo. No lo que usted es. Lo que estadísticamente tienden a hacer personas como usted. Eso, en términos llanos, es lo que algunos llaman inteligencia artificial aplicada a la justicia.
No es ciencia ficción. En Estados Unidos, un sistema llamado Compas lleva años ayudando a jueces a decidir si una persona sale libre o se queda presa mientras espera juicio. El problema es que el algoritmo aprendió a asociar el riesgo de reincidencia con la raza. La máquina no inventó ese prejuicio. Lo heredó de décadas de decisiones humanas........