Es el título del informe provisional terminado por el Órgano Consultivo de Alto Nivel sobre IA de las Naciones Unidas (ONU) a finales de 2023. Esta instancia inició sus trabajos luego de ser convocada por el secretario general el 26 de octubre de 2023.
El informe final se terminará en agosto de 2024 antes de la Cumbre del Futuro. Se trata de un documento para discusión y sobre el cual se están recibiendo aportes hasta finales de marzo de 2024 (https://www.un.org/en/ai-advisory-body). Aquí, en esta nota, nos centraremos en los riesgos y retos; en los principios y en las principales funciones que debería tener el sistema de gobierno (regulación) a nivel internacional.
Justificación
Según el Órgano Consultivo las oportunidades y los riesgos de la IA para las personas y la sociedad son evidentes y han acaparado el interés público. También se manifiestan a escala mundial, con tensiones geoestratégicas sobre el acceso a los datos, la informática y el talento que alimentan la IA, y se habla de una nueva carrera armamentística de la IA. Ni los beneficios ni los riesgos se distribuyen equitativamente.
Esta tecnología exige gobernanza, no sólo para afrontar los retos y riesgos, sino también para garantizar que aprovechamos su potencial de forma que nadie quede excluido. Una medida clave del éxito es la medida en que las tecnologías de IA ayudan a alcanzar los Objetivos de Desarrollo Sostenible (ODS).
Objetivos y contenido
El Órgano Consultivo sobre IA se creó para analizar y proponer recomendaciones sobre la gobernanza internacional de la IA. Ellos interpretan este mandato no sólo como una reflexión sobre cómo gobernar la IA en la actualidad, sino también cómo preparar nuestras instituciones para un entorno en el que el ritmo del cambio no hará sino aumentar.
Por tanto, la gobernanza de la IA debe reflejar las cualidades de la propia tecnología y sus usos en rápida evolución -ágil, en red, flexible-, así como ser potenciadora e integradora, en beneficio de toda la humanidad.
En el informe se incluyen en primer lugar las oportunidades y los facilitadores que pueden ayudar a aprovechar los beneficios potenciales de la IA. En segundo lugar, se destaca los riesgos y desafíos que la IA presenta ahora y en un futuro previsible. En tercer lugar, se sostiene que para abordar el déficit de gobernanza mundial se necesitan principios claros, así como nuevas funciones y acuerdos institucionales. El informe concluye con recomendaciones preliminares y próximos pasos a seguir.
Riesgos y retos
Luego de mencionar algunas de sus oportunidades y principales beneficios, el Órgano Consultivo mapeo los principales riesgos de la IA. En primer lugar, desde la perspectiva de sus características técnicas. A continuación, analizan los riesgos desde el punto de vista del uso inadecuado, incluido el doble uso, y de consideraciones más amplias sobre la interacción hombre-máquina. Por último, examinan los riesgos desde la perspectiva de la vulnerabilidad.
Al respecto, algunos riesgos de la IA tienen su origen en las limitaciones técnicas de estos sistemas. Estos riesgos van desde los sesgos perjudiciales hasta diversos peligros de la información, como la falta de precisión, las “alucinaciones” que son problemas conocidos en la IA generativa.
Otros riesgos
Otros riesgos son más producto de los humanos que de la IA. Las falsificaciones profundas y las campañas de información hostiles no son más que el último ejemplo de tecnologías desplegadas con fines malévolos. Pueden plantear........