La tuerie de Tumbler Ridge, en Colombie-Britannique, dont l’autrice avait échangé des scénarios de violence armée avec ChatGPT des mois avant de passer à l’acte, n’était pas le premier avertissement. Il y eut précédemment des conseils de suicide donnés par le robot conversationnel à un adolescent californien. De même que des recommandations pour l’élaboration d’un attentat suicide prévu devant le Trump International Hotel de Las Vegas (abandonné par le tueur, qui s’est enlevé la vie dans son véhicule bourré d’explosifs).

Les dérives possibles de ces outils d’intelligence artificielle (IA) générative conçus pour alimenter les conversations les plus intimes et même les plus sombres avec leurs interlocuteurs, en les confortant pour les retenir comme utilisateurs, ne sont plus à prouver. L’urgence d’agir pour les encadrer est largement outrepassée.

Sermonner les géants du Web ou de l’IA, comme l’ont fait cette semaine le ministre canadien de l’Intelligence artificielle, Evan Solomon, et ses collègues, ne suffit plus. Les OpenAI et autres acteurs de ce Far West numérique ont maintes fois démontré qu’ils n’agiraient pas seuls, privilégiant à tout prix innovation et profits au détriment de l’humain client.

Que l’entreprise créatrice de ChatGPT annonce un resserrement de ses protocoles de........

© Le Devoir