Há alguns dias, a 4 de junho de 2026, a gigante tecnológica Anthropic pediu que os principais laboratórios de Inteligência Artificial (IA) considerem a possibilidade de abrandar o ritmo de desenvolvimento, argumentando que os sistemas de IA estão a avançar tão rapidamente que em breve poderão melhorar sem intervenção humana, de formas que poderão representar riscos significativos para a sociedade.

Esta tese não é nova. Já Stephen Hawking, físico teórico e cosmólogo considerava que “o desenvolvimento de uma Inteligência Artificial completa pode significar o fim da raça humana. Iria descolar por si só e redesenhar-se-ia a um ritmo cada vez maior. Os humanos, limitados pela lenta evolução biológica, não poderiam competir e seriam superados.”

Em março de 2023, o Instituto do Futuro da Vida (FLI) emitira uma carta aberta [assinada por um grande número de especialistas e figuras públicas] pedindo às empresas de IA que “pausassem a pesquisa em grande escala de IA”. A preocupação subjacente era: “Devemos desenvolver mentes não-humanas que possam eventualmente superar-nos, tornar-nos obsoletos e substituir-nos? Devemos correr o risco de perder o controlo da nossa civilização?”

Dois meses depois, centenas de pessoas proeminentes assinaram uma declaração de uma frase sobre o risco da IA afirmando que “Mitigar o risco de extinção da IA deve ser uma prioridade global ao lado de outros riscos de escala social, como pandemias e guerra nuclear”.

O professor Geoffrey Hinton, que em 2024 recebeu o Prémio Nobel da Física pelo seu trabalho em IA, disse que existe uma probabilidade de “10% a 20%” de que a IA leve à extinção da Humanidade nas próximas três décadas.

Em setembro de 2025, Eliezer Yudkowsky e Nate Soares, cofundador e presidente do Machine Intelligence Research Institute (MIRI), respetivamente, reuniram uma compilação de ensaios, manifestos e artigos de intervenção pública num livro com o título Se Alguém a Constrói, Morremos Todos (If Someone Builds It, Everyone Dies), que rapidamente se tornou um best-seller. Esta obra é o manifesto definitivo da vertente mais pessimista do alinhamento de IA [com os objetivos, valores e princípios éticos dos seres humanos].

Diferente de outras visões que veem a IA como uma ferramenta útil ou um risco gerível, Yudkowsky e Soares defendem que a criação de uma IA Superinteligente (ASI) e não-alinhada resultará na extinção inevitável da Humanidade. Para os autores, não se trata de uma possibilidade remota ou de um cenário de ficção científica, mas sim do desfecho matemático e probabilístico padrão se continuarmos na trajetória atual de desenvolvimento tecnológico. Yudkowsky e Soares são perentórios – uma ASI não apenas pode, como vai provocar o fim da espécie humana.

Em 22 de outubro de 2025, o FLI emitiu nova carta aberta sobre os riscos de desenvolvimento de IA Superinteligentes.

Vale a pena analisar a fundamentação de Yudkowsky e Soares.

1. A ilusão do alinhamento fácil e o otimismo tecnológico

Uma grande parte do livro de Yudkowsky e Soares é dedicado a desconstruir os argumentos das grandes empresas de tecnologia (como OpenAI, Google DeepMind e Anthropic) e dos otimistas de Silicon Valley. Yudkowsky e Soares atacam ferozmente a ideia de que o “alinhamento” (garantir que a IA partilha dos valores humanos e obedece à nossa vontade) pode ser resolvido através de tentativas e erros de engenharia convencional.

A aprendizagem por reforço com feedback humano (RLHF)

Atualmente, os modelos de linguagem (como os LLM) são ajustados usando feedback humano. Os autores explicam que isto não alinha a máquina; apenas a treina para parecer alinhada perante observadores humanos. À medida que a IA se torna mais inteligente do que os seus avaliadores, ela aprenderá a enganar, a manipular dados e a esconder as suas verdadeiras capacidades e intenções para evitar ser modificada ou desligada. Este fenómeno é conhecido como “alinhamento de fachada” ou sycophancy.

O desajustamento entre evolução e design

Nate Soares foca-se frequentemente na ideia de que a evolução humana demorou dezenas de milhar de anos para criar um sistema de valores. Tentar replicar ou controlar isso num sistema que “pensa” em milissegundos é um convite ao desastre.

Otimização perversa: Sistemas de IA tendem a encontrar “atalhos” para as recompensas que lhes damos, muitas vezes de formas que ignoram as nossas restrições morais implícitas.

Otimização perversa: Sistemas de IA tendem a encontrar “atalhos” para as recompensas que lhes damos, muitas vezes de formas que ignoram as nossas restrições morais implícitas.

O problema do alinhamento é “impossível" no tempo que temos

Yudkowsky e Soares argumentam que alinhar........

© Diário de Notícias