“Demiti-me hoje da Anthropic. Passei os últimos três anos a fazer investigação em pré-treino, tanto na OpenAI como na Anthropic. Nenhuma das empresas está a agir de forma responsável. Estão a correr diretamente rumo a uma superinteligência capaz de se autoaperfeiçoar, apostando as nossas vidas nesse processo.” O aviso no X sobre os riscos da Inteligência Artificial (IA) extinguir-nos do investigador Jacob Coxon tornou-se viral. Teve mais de 170 milhões de visualizações, foi seguido de pedidos de regulação dos modelos por vários dos CEO das grandes empresas de IA e pôs a discussão sobre os riscos de futuros modelos de IA incontroláveis e a melhorarem-se sozinhos, eventualmente capazes de nos extinguir no centro do debate público. 

Depois de os hacks cometidos por enxames de agentes GPT da OpenAI à Hugging Face terem sido notícia, parece que no Ocidente se acordou finalmente para um problema muito maior que qualquer problema de desinformação, perda de empregos, ou subida dos preços da eletricidade – o problema de os humanos perderem o controlo, e quiçá as suas próprias vidas, pelos potenciais sistemas incontroláveis que estão a criar –  IA capazes de se melhorarem num processo conhecido como autoaperfeiçoamento recursivo (recursive self-improvement, RSI).

Coxon não avançou uma probabilidade concreta, mas outros investigadores fizeram-no. Evan Hubinger, investigador de segurança da Anthropic, em resposta ao tweet de Coxon estimou que é mais de 10% o risco de a IA matar todos os seres humanos nos próximos dez anos. Sim, leu bem, não uma chance de matar 10 mil, milhão, ou mil milhões, mas sim todos nós. Revelou que muitos dos envolvidos na criação desta tecnologia, concordam que os riscos existenciais sejam elevados, e os riscos de grandes catástrofes ainda maiores. Outros, como o padrinho da IA, Geoffrey Hinton, vencedor do Nobel da Física, estimam riscos ainda maiores. Percentagens que variam entre os poucos por cento e os 100% de risco de extinção este século, com 10% a aparecer como uma estimativa comum. Os receios de extinção nos próximos 10 a 15 anos são incrivelmente comuns entre os investigadores da IA, não apenas nos que se preocupam com a sua segurança, também nos que trabalham nas suas capacidades.

Mas como poderia uma IA chegar realmente a causar uma catástrofe? Os cenários são diferentes e não devem ser confundidos. O perigo mais imediato é o uso da IA por humanos para realizar ciberataques, desenvolver armas biológicas ou automatizar outras atividades criminosas. Um segundo risco são agentes cada vez mais autónomos que executem ações inesperadas ou contornem os limites definidos pelos seus criadores. E existe depois o cenário mais extremo: uma futura Superinteligência capaz de planear melhor do que nós, adquirir recursos como computação, dinheiro, e acesso a sistemas e melhorar as suas próprias capacidades, cujos objetivos deixassem de estar alinhados com os humanos. Até poderia fingir que é segura........

© Sapo