Jacob Coxon fue investigador de OpenAI y de Anthropic y esta semana se volvió noticia en el mundo por denunciar que las grandes empresas estarían corriendo hacia una superinteligencia capaz de mejorarse a sí misma, sin haber resuelto primero cómo controlarla. Evan Hubinger, responsable de investigación sobre alineación en Anthropic, fue aún más lejos: calculó personalmente que existe una probabilidad superior al 10% de que una IA acabe con la humanidad durante la próxima década.

El punto de inflexión es el self-improvement: la capacidad de la IA de construirse a sí misma; una vez ello sea suficientemente fiable -y ya estamos cerca o, incluso, ahí- tendremos un sistema autónomo capaz de mejorarse continuamente. De ahí en adelante nadie sabe qué pueda pasar. Una tal inteligencia estaría en la capacidad, por ejemplo, de sintetizar un virus que acabe con la vida orgánica. Eso es todo lo que tomaría y es apenas uno de las decenas de escenarios fatalistas que advierten quienes están en la frontera del desarrollo.

Conviene, por supuesto, no exagerar. Alguna parte de todo esto se mueve por intereses propagandísticos, y hay razones importantes para seguir defendiendo que la........

© Zona Cero