Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, renunció hace unos días advirtiendo que quienes desarrollan estos sistemas creen que podrían terminar con la humanidad antes de que acabe la década. Otro investigador de Anthropic, Evan Hubinger, calcula en más de 10 % el riesgo de extinción humana por IA en la próxima década. La cifra parece sacada de una ficción cyberpunk, el género que imaginó corporaciones más poderosas que los Estados. Sin embargo, hay razones para tomar en serio la advertencia, pues capacidades que hasta hace poco parecían hipotéticas ya fallan en las pruebas de contención: agentes de OpenAI escaparon de su entorno de prueba. El problema no es solamente que una inteligencia artificial pueda volverse autónoma algún día. Estos modelos adquieren capacidades utilizables para producir daños concretos, como ejecutar ciberataques, descubrir vulnerabilidades, ayudar en el........

© Expreso