Dernier (?) avertissement
« La plupart d’entre vous dans cette salle, lorsque vous mourrez, ce sera probablement dû à un accident lié à l’intelligence artificielle (IA). » Le conférencier a fait cette déclaration au début d’une présentation qui allait se dérouler sur trois soirs. Il l’a fait sur un ton ferme mais nullement angoissé. C’était un fait parmi d’autres. Il y avait aussi la question du calendrier. Mourir de l’IA à la fin d’une longue existence, pourquoi pas ? Mais ce ne sera pas si long, a ajouté le conférencier : « J’estime qu’il existe un risque significatif au cours des six à douze prochains mois. » Oui, mais, a-t-il ajouté, peut-être seulement d’ici trois ans. On respire. À peine.
Quoi qu’il en soit, « nous avons déjà observé les signes avant-coureurs d’une catastrophe imminente. La trajectoire observée dans ce domaine, ces trois à six derniers mois, est extrêmement alarmante pour ceux qui suivent la situation de près. À mon avis, nous avons assisté, en gros, à des phénomènes auxquels on pourrait s’attendre juste avant qu’un événement très grave ne survienne. »
L’homme s’appelle Paul Christiano. Naguère chargé de s’assurer que l’IA produite par le géant OpenAI restait « alignée » — c’est-à-dire qu’elle ne déviait pas de la volonté de ses créateurs —, l’homme est à la tête de l’Alignment Research Center de San Francisco. Il étudie donc à plein temps le croissant désalignement de ces étranges créatures.
Il était invité la semaine dernière à Toronto par l’un des créateurs de l’IA, Geoffrey Hinton, qui, comme son collègue montréalais Yoshua Bengio,........
