La cultura popular nos ha acostumbrado a imaginar el fin de la humanidad a manos de la tecnología bajo el mismo libreto: una inteligencia artificial cobra conciencia, declara la guerra a sus creadores y gobierna las máquinas para dominar el mundo. Sin embargo, este escenario apocalíptico puede distraer la atención de los verdaderos riesgos.

Hace solo unos días, saltaba la alarma, tras conocerse que un grupo de agentes autónomos de IA de OpenAI había vuelto a salirse de control. Esta vez, había accedido sin autorización a datos del sistema de salud en Australia.

El incidente no se debió a una rebelión consciente de las máquinas, sino a un comportamiento no previsto de algoritmos diseñados para actuar de forma autónoma. Este suceso vuelve a poner sobre la mesa la advertencia lanzada por un exingeniero de Anthropic hace un par de semanas. ¿Es cierto que la IA podría matarnos en el horizonte de 2030?

La respuesta no está en máquinas malvadas

La respuesta corta, desde el rigor científico, es que no seremos aniquilados por un superordenador consciente al estilo de Terminator. El peligro real de la inteligencia artificial no es que se vuelva malvada ni que desarrolle voluntad propia. El riesgo es que haga exactamente aquello para lo que ha sido programada, pero sin el contexto, la ética ni la supervisión humana indispensables.

Si nos preguntamos de qué manera podría causar un daño profundo a la sociedad o pérdidas de vidas humanas, los escenarios posibles no pertenecen a un futuro lejano poblado de máquinas malvadas. La amenaza está en cómo diseñamos e implantamos esta tecnología en el presente y en el riesgo de fallos en cascada en........

© The Conversation