El uso de IA en la administración pública erosiona la democracia |
Esto es lo que ha identificado un nuevo papel que analiza una amenaza democrática escondida en la eficiencia de los algoritmos que prometen facilitar las labores de las administraciones públicas.
Una investigación de Andrey J. Peterson revela cómo es que los gobiernos han aumentado el uso de Inteligencia Artificial para tomar decisiones administrativas de forma barata y consistente pero pagando un alto costo invisible que consiste en la erosión democrática.
El texto analiza los riesgos democráticos de implementar Inteligencia Artificial en la administración pública, centrándose en el fenómeno de la superficie de alineación. Aunque la automatización busca eficiencia y coherencia legal, el autor sostiene que una codificación excesiva crea reglas tan predecibles que futuros gobiernos autoritarios podrían explotarlas estratégicamente. Estas tecnologías permiten realizar una erosión dentro de la forma, donde se manipulan procedimientos legales para debilitar instituciones sin violar formalmente la ley. El estudio advierte que las reformas diseñadas para mejorar la fiscalización pueden, irónicamente, facilitar el aprendizaje de límites por parte de actores malintencionados tras un cambio de mando. Finalmente, se argumenta que estas infraestructuras son difíciles de revertir, lo que genera una vulnerabilidad heredada y duradera para la democracia.
La “superficie de alineación” se trata de la capa de cumplimiento formada por leyes, reglas, criterios de aprobación, registros y procedimientos de revisión, que los gobiernos construyen para que el uso de la IA sea legalmente defendible y consistente. México ha sido uno de los países que, sin producir su propia Inteligencia Artificial, le ha apostado a modelos predictivos especialmente para identificar redes de lavado de dinero, evasión fiscal y........