En nuestras grandes ciudades de Madrid y Barcelona se están desplegando actualmente cámaras con inteligencia artificial (IA) que no solo detectan las infracciones: las sancionan automáticamente. De esta manera, el ayuntamiento de Barcelona hace algún tiempo que viene equipando a sus autobuses municipales con cámaras que identifican precisamente las invasiones del carril bus. En Madrid se han instalado semáforos «inteligentes» y se ha anunciado la aplicación de sistemas para detectar y sancionar de forma automática a los conductores que circulan sin ir provistos del cinturón de seguridad. Por su parte, la Administración del Estado, a través de la DGT, ha dado un paso más mediante la instalación de cámaras en tramos de las autovías que comparan las matrículas de los vehículos, al inicio y al final de cada trayecto, y si entre ambos puntos se cruza una línea continua para cambiar de carril, la multa al ciudadano es de 200 euros.

En estos momentos estamos asistiendo también a un cambio de paradigma por la irrupción de estos instrumentos de inteligencia artificial en la actividad sancionadora de la Administración. El uso de esta tecnología sobre el ejercicio por parte de los ciudadanos de sus derechos fundamentales ante los órganos administrativos plantea novedosas cuestiones de gran relevancia y trascendencia práctica que tendremos que abordar en los próximos años. Ahora bien, hay que reconocer que, ciertamente, por medio de estos instrumentos de inteligencia artificial, hasta este momento la Administración no persigue grandes infracciones administrativas, ni tampoco las autoridades administrativas están procediendo a la reprensión de conductas individuales que pudieran ser calificadas de temerarias o sencillamente escandalosas. La Administración pública, singularmente a través de los ayuntamientos, se está dirigiendo hacia las pequeñas infracciones masivas que tradicionalmente han venido escapando al control que desarrollan sus agentes. De ahí que, por otra parte, el coste económico marginal que supone para los servicios de Administración municipal la imposición de este tipo de sanciones, se acerque a un valor que es prácticamente «cero»; y al mismo tiempo, la Administración local consigue obtener el resultado positivo de un índice de mayor cumplimiento de las normas por parte de los ciudadanos, empleando la Administración a un menor número de efectivos dedicados a estas tareas de controles administrativos. Sin embargo, las diferencias de estos nuevos instrumentos de inteligencia artificial, que actúan por medio de algorítmicos, con el radar clásico, por ejemplo, no son solo de naturaleza materialmente técnica, sino que también, y principalmente, adquieren una relevancia y significado jurídicos. Porque, pensemos que mientras que con la utilización del radar la Administración vigila y controla con la obligación de a la vez señalizar, homologar y someter los radares a periódicos controles metrológicos, eso mismo no sucede, en cambio, con el empleo de los mecanismos de inteligencia artificial. Con el uso de la IA se cambia incluso hasta la misma legitimidad jurídica de la actuación que la Administración municipal despliega a lo largo y lo ancho de toda la ciudad, convertida esta en un circuito cerrado de controles continuados y permanentes, en el que queda totalmente automatizada la persecución de las infracciones.

¿Cuál es la tasa de error de cada nuevo sistema de inteligencia artificial? ¿Qué porcentaje de infracciones se revisan humanamente antes de sancionar? ¿Cuánto tiempo se guardan las imágenes y matrículas de los vehículos? ¿Quién puede acceder a los expedientes y con qué trazabilidad? ¿Cómo recurre el ciudadano sin convertir la impugnación administrativa y contenciosa en un auténtico vía crucis? Toda actuación administrativa exige una necesaria e imprescindible proporcionalidad, que no deriva solo de la obligación para la Administración pública de cumplir la ley, sino de cómo se cumplen, por su parte, las normas, que solo puede realizarse mediante reglas precisas, con límites claros y con contrapesos efectivos. En este sentido, es muy importante destacar el hecho de que el uso por la Administración pública de estos instrumentos de IA no puede comportar jamás, como bien señala la doctrina jurídico-administrativa, «una delegación del ejercicio de la potestad en sentido estricto».

La IA ya está en la calle. La cuestión no es si nos multará –ya lo hace–, sino bajo qué condiciones y qué sesgos. La excepción a la prohibición de este tipo de tecnología en lugares públicos, a tiempo real, fue el principal escollo con el que se encontró la aprobación del Reglamento de inteligencia artificial en el seno de los propios órganos competentes en la materia de la Unión Europea. Tenemos, en definitiva, que establecer los límites y los controles efectivos en el uso de la inteligencia artificial por la Administración, para lograr un equilibrio entre el cumplimiento de las normas y la interdicción de la arbitrariedad en una tecnología que tiene que estar al servicio de la convivencia, no de la recaudación..

Alfonso Villagómez Cebrián,es magistrado y doctor en Derecho administrativo.

© La Razón