¿Qué pasa cuando la IA tramita expedientes o decide sanciones? Los juristas piden a la administración pública "transparencia y reglas" |
¿Qué pasa cuando la IA tramita expedientes o decide sanciones? Los juristas piden a la administración pública "transparencia y reglas"
Expertos en derecho administrativo debaten cómo ofrecer garantías a los ciudadanos cuando se automatizan procesos y decisiones
Oriol Mir Puigpelat, Mónica Álvarez (profesora de la Universidad de Oviedo) y Alejandro Huergo, en la inauguración del Congreso. / Irma Collín
La inteligencia artificial (IA) puede redactar un pliego para un concurso, detectar un posible fraude o abrir la puerta a un expediente sancionador, pero eso no significa que todo lo que la tecnología permite deba aceptarse sin más. «No todo lo tecnológicamente posible es jurídicamente viable», dice gráficamente Isaac Martín Delgado, catedrático de Derecho Administrativo de la Universidad de Castilla-La Mancha. El Aula Magna de la Facultad de Derecho acoge desde este jueves un congreso que analiza la aplicación de la IA en la Administración y cómo regularla. El encuentro está dirigido por el catedrático Alejandro Huergo y el profesor Gustavo Manuel Díaz, ambos de la Universidad de Oviedo.
Martín Delgado explica que la IA se utiliza ya en muchos procesos de la Administración, desde herramientas básicas (lectura de matrículas) a usos complejos que conllevan la toma de decisiones. Pero además, hay otro fenómeno difícil de medir: las prácticas sin regulación ni transparencia. «Se están elaborando ordenanzas municipales con IA generativa», afirmó.
A su juicio, el debate jurídico no se agota en comprobar si un acto administrativo adoptado con ayuda algorítmica se ajusta o no a la norma, sino que también las administraciones deben plantearse qué procesos automatizan y cómo. Y ha de ser una información que no puede ocultarse a los ciudadanos. Aunque un acto administrativo adoptado con apoyo de la IA siempre podrá someterse a recurso, Martín Delgado cree que la Administración debería dejar constancia del uso de cierta herramienta, cómo funciona y qué consecuencias tiene.
El objetivo, lograr un "buen uso"
¿Podría una IA dictar sentencias judiciales? «Técnicamente sería posible», refiere el catedrático, pero insiste en que no todo lo posible debería adoptarse. Defiende la necesidad de «regular con proporcionalidad»: «Un buen uso puede mejorar capacidades humanas, y uno malo puede dañar derechos e intereses públicos», destaca.
En la misma línea de ordenar la automatización antes de que se convierta en rutina, el catedrático Oriol Mir Puigpelat, de la Universidad Pompeu i Fabra, expuso el proyecto académico europeo en el que participa y que busca establecer un código de procedimiento administrativo de la UE. Se trata de una propuesta que «podría inspirar reformas en normas nacionales o autonómicas».
Mir Puigpelat defendió que, antes de utilizar un sistema automatizado con impacto relevante en un procedimiento, debería existir «una evaluación mínima» que permita comprobar que funciona adecuadamente, que cumple las exigencias legales y que deja claro que la Administración asume la responsabilidad. Además, planteó que se publique información básica sobre el sistema (sus características esenciales) y que el ciudadano tenga derechos claros: ser informado de que su procedimiento está total o parcialmente automatizado y poder solicitar intervención humana. «Podría pedirse que un funcionario revise la decisión si se cree que existe un error, o nombrar a una persona como responsable última del proceso y que también esa información sea pública».
Noticias relacionadas
A su juicio, es necesario «motivar de manera clara» el uso y el impacto de las herramientas utilizadas y cuál es su influencia en las decisiones finales. «No se trata de cortar las alas a la Administración, porque la IA supone muchas ventajas», señala, aunque cree que sí es necesario establecer «contrapesos» que legitimen su uso.
Suscríbete para seguir leyendo
Investigan la muerte de una anciana asfixiada con la cincha que la sujetaba a la cama en una residencia de Siero: un barandilla cedió y ella cayó fuera del lecho
Atasco sin precedentes en dermatología del HUCA: nueve meses de demora media (frente a los 14 días en Mieres) por el rechazo a trabajar con el responsable médico
Marina y Juan regresaron de Madrid a Asturias con sus hijas por efecto de la pandemia: 'Tienen naturaleza, hacen deporte al aire libre... No hay comparación
Una conocida quesería, primera víctima asturiana de las amenazas de Trump al comercio: 'Nos están hundiendo, es desesperante
Contratación 'histórica' y nuevas mejoras laborales en Alimerka: la cadena asturiana de supermercados incorporará a más de 500 profesionales
Luz verde del Gobierno a una obra clave que evitará atascos en Asturias
La desesperación de una ovetense atrapada en el aeropuerto de Doha con misiles sobrevolando: 'La respuesta de la embajada nos dejó peor de lo que estábamos
La odisea del panadero que todos los días cruza un argayo a pie para que un pueblo asturiano tenga pan (y un vecino le ayuda al otro lado)
¿Qué pasa cuando la IA tramita expedientes o decide sanciones? Los juristas piden a la administración pública "transparencia y reglas"
Martín Berasategui y Rafael García Santos, "dos grandes" de la cocina y la crítica gastronómica que recibirán premio en Asturias
"Hay un infradiagnóstico del asma: la falta de aire, la disnea, los pitidos torácicos o la tos, sobre todo de noche, debe hacer sospechar", dice el neumólogo José Antonio Gullón
Un arsenal de armas y 6.700 pastillas de éxtasis, cifra récord en Asturias: la caída del narco que inspiró a "Malamadre" y de "Toni el Portugués"
Consuelo Mangué e Ibrahim Tourret, los dos jóvenes residentes en un centro de acogida de Asturias que buscan una oportunidad: "Queremos un trabajo bueno y decente"
La Ley de Propiedad horizontal lo confirma: las comunidades de propietarios pueden prohibir mascotas en su edificio
Reorganización de horarios y nuevos recursos: las propuestas de los estudiantes de Medicina de Oviedo para mejorar la asistencia a las aulas
El acuerdo de las trabajadoras de las escuelinas sigue su curso (pese a la oposición de CC OO): las fechas para que pasen a formar parte del Grupo B de funcionarios