La periodista y premio Pulitzer Elizabeth Kolbert popularizó el concepto de la "sexta extinción masiva" para alertarnos sobre cómo la acción humana está alterando de forma irreversible nuestro entorno. Hoy, al observar la vertiginosa evolución del ecosistema tecnológico, me pregunto si estamos gestando una extinción paralela; una en la que los seres humanos renunciamos progresivamente a nuestra capacidad de decisión en favor de los algoritmos. O si, por el contrario, asistimos a una sofisticada estrategia discursiva destinada a proteger posiciones de liderazgo en el mercado.

En cualquier caso, existe un riesgo evidente. Si asumimos que el control de la inteligencia artificial será imposible y, precisamente por ello, dejamos de desarrollar las capacidades, mecanismos y marcos necesarios para gobernarla, estaremos contribuyendo a hacer realidad aquello que decimos temer. Cuando damos por inevitable la pérdida de control, corremos el riesgo de provocarla nosotros mismos.

La paradoja de los creadores

El historiador Yuval Noah Harari suele advertir que el mayor peligro de la IA reside en que los humanos le deleguemos tantas decisiones hasta llegar al punto de olvidar cómo tomarlas. Casos recientes, como la ejecución de ciberataques autónomos por parte de enjambres de agentes de IA en plataformas como RubyGems o Hugging Face, donde los modelos coordinaron acciones, ejecutaron código y adaptaron sus estrategias de manera independiente, han demostrado que la autonomía creciente de estos sistemas plantea desafíos muy reales.

Y esta realidad alimenta la denominada paradoja de los creadores. Dario Amodei, CEO de Anthropic, ha alertado en diversas ocasiones sobre los riesgos asociados a modelos cada vez más autónomos y capaces de actuar en cadena. Al mismo tiempo, desde Europa, compañías relevantes como Mistral sostienen que ciertas peticiones para ralentizar el desarrollo de la IA........

© El Confidencial