Imagine que solicita una ayuda del Gobierno y un algoritmo decide si la recibe o no. Nadie le explica por qué, nadie revisa la decisión, simplemente “el sistema” dice que no es para usted. ¿Le parecería justo? ¿Democrático? Pues esto ya está ocurriendo en muchos países. Y es solo el principio.

La inteligencia artificial ha dejado de ser ciencia ficción para convertirse en algo tan cotidiano como pedir comida a domicilio o buscar información en Google. Pero cuando estos mismos sistemas empiezan a tomar decisiones que antes tomaba personal de la función pública, a quién conceder una beca, a quién investigar, qué información mostrarle sobre su gobierno…, surge una pregunta incómoda: ¿quién controla a los algoritmos que nos controlan?

Los gobiernos de todo el mundo están adoptando la IA a marchas forzadas. Prometen eficiencia, rapidez, mejores servicios. Y en parte tienen razón: un algoritmo puede analizar miles de solicitudes en minutos, detectar patrones de fraude o personalizar la información que cada persona necesita. El problema aparece cuando nadie puede explicar cómo se llegó a una determinada decisión.

A esto se le llama “la caja negra”: el algoritmo funciona, pero ni siquiera sus creadores saben exactamente por qué elige A en lugar de B. Es como tener un funcionario que toma decisiones importantes, pero se niega a dar explicaciones. Inaceptable en una democracia, ¿verdad? Pues con la IA está ocurriendo constantemente.

En varios países están empezando a tomarse esto en serio. España, por ejemplo, ha creado una Agencia de Supervisión de........

© The Conversation