En días recientes, Jacob Coxon y Evan Hubinger, exinvestigadores de Anthropic, la compañía responsable de Claude, han hecho varias advertencias sobre el rápido avance de la inteligencia artificial, y su potencial capacidad para extinguir a los humanos en la próxima década. Inclusive, Dario Amodei, CEO de la compañía, publicó un ensayo de veinte mil palabras, donde señala los riesgos que este ve sobre la IA, donde propone un marco que podría ser un punto de partida para un acuerdo similar al del Tratado de Limitación de Armas Estratégicas (SALT) de 1972, con medidas desde lo voluntario hasta lo vinculante. Sin embargo, para entender por qué es necesario un acuerdo como SALT, es primero entender la coyuntura en la que se dio y el riesgo que, en ese momento, las armas nucleares presentaban.

En 1972, cuando el mundo vivía la tensión de la Guerra Fría, Estados Unidos y la Unión Soviética firmaron el Tratado de Limitación de Armas Estratégicas (SALT I). En medio del pánico nuclear, ambas superpotencias reconocieron algo fundamental: el miedo mutuo a la aniquilación podía convertirse en un incentivo para negociar. Aquella fue una de las diplomacias más arriesgadas y más exitosas del siglo XX.

Hoy enfrentamos un desafío análogo, pero sin los mecanismos de contención que construimos entonces. Mientras escribo este artículo, las potencias nucleares están integrando sistemas de inteligencia artificial en sus estructuras de mando y control nuclear—sin supervisión multilateral, sin tratados vinculantes y sin la arquitectura de diálogo que caracterizó a SALT. Es hora de preguntarse: ¿podemos aprender de aquella experiencia para construir un SALT para la era de la IA?

El problema es tan concreto como perturbador. Según el Instituto Internacional de Estudios Estratégicos (IISS), la integración de IA en sistemas de comando y control nuclear genera lo que los expertos llaman opacidad de escalada: no sabemos cómo responderá un sistema de IA ante una crisis. A diferencia del cálculo nuclear tradicional —donde al menos podíamos predecir decisiones humanas— la IA introduce variables impredecibles. Un algoritmo puede cometer errores que un general no cometería. Peor aún: puede cometer un error demasiado rápido para que un humano pueda actuar y corregir.

La........

© El País