EXPERT INVITÉ. L’intelligence artificielle (IA) suscite des craintes légitimes, comme cela a déjà été le cas du nucléaire. Peut-on apprendre du passé afin de contrôler la montée d’une super IA?

En mars 1943, un laboratoire secret s’installe à l’Université de Montréal. Plus de 300 personnes, dont la moitié sont canadiennes, y travaillent pour le projet Manhattan. Quelques mois plus tard, c’est à Québec que le premier ministre britannique Winston Churchill et le président américain Roosevelt signent l’accord qui scelle leur coopération atomique. Le Canada siégera au comité qui en découle. Il est à la table.

Presque que 80 ans plus tard, c’est aussi à Montréal qu’est née, en 2018, la Déclaration de Montréal pour un développement responsable de l’IA, l’une des premières au monde, élaborée avec des citoyens. C’est la preuve que le Québec sait déjà réfléchir aux règles du jeu. La comparaison avec la bombe est marquante.

Le message aux 100 millions de vues

Le 8 septembre dernier, Jacob Coxon, un chercheur d’Anthropic, ayant aussi œuvré chez OpenAI, remet sa démission. Il l’annonce sur X qu’«aucune des deux entreprises n’agit de façon responsable». Il ajoute: «Elles foncent droit vers une superintelligence capable de s’améliorer elle-même, et elles jouent avec nos vies.»

Ce n’est pas la première fois qu’un démissionnaire claque la porte avec fracas. Cette industrie en a vu d’autres. Ce qui fait l’évènement, c’est la réponse publiée le soir même par Evan Hubinger, responsable de la science de l’alignement chez Anthropic, qui, lui, est toujours en poste: «Jacob a raison: nous croyons très sincèrement que l’IA pourrait tuer tous les humains. Personnellement, j’estime ce risque à plus de 10% au cours de la prochaine décennie.» Il concède qu’Anthropic «fait de son mieux», mais précise qu’elle n’a «pas encore de plan pour protéger l’humanité d’une superintelligence» et n’est «pas clairement en voie d’en avoir un».

Précisons ce qui a été vraiment dit. Le raccourci médiatique: «l’IA va tuer l’humanité d’ici dix ans» est faux. Personne n’a prédit la fin du monde. Un expert a chiffré une probabilité à 10%, c’est bien plus désagréable à entendre. Si on transpose un peu, aucune autorité ne certifierait un avion qui s’écrase une fois sur dix. Yoshua Bengio place la barre encore plus bas: pour un événement comme l’extinction, «même s’il n’y avait que 1% de chances que cela arrive, ce n’est pas acceptable».

Les inquiets et les optimistes

Du côté des inquiets, on trouve des noms sérieux. Le professeur montréalais spécialiste en intelligence artificielle Yoshua Bengio, craint qu’on crée des machines plus intelligentes que nous,........

© Les Affaires