Microsoft et OpenAI sont probablement les deux entreprises à qui l’engouement pour les intelligences artificielles (IA) génératives comme ChatGPT profite le plus… après certains pirates parrainés par la Chine, la Russie, l’Iran et la Corée du Nord, qui utilisent l’IA pour peaufiner leurs cyberattaques.
Ça a les airs de la sombre prophétie d’une IA malveillante que répète depuis des mois Yoshua Bengio… « Nous venons de mettre fin aux activités de cinq acteurs parrainés par des gouvernements qui cherchaient à utiliser nos applications d’IA pour soutenir leurs activités malveillantes », a déclaré la semaine dernière la société OpenAI, créatrice du modèle de langage GPT et de l’agent ChatGPT.
Selon OpenAI, deux de ces acteurs sont des groupes de cyberpirates dont les activités seraient dictées par le gouvernement chinois, alors que les trois autres répondraient respectivement aux gouvernements de la Russie, de l’Iran et de la Corée du Nord.
Pas besoin d’être un expert en géopolitique pour comprendre que ce sont là des États où le sentiment anti-occidental est fort. Et que font-ils avec l’IA générative que leur fournissait jusque-là si gentiment OpenAI ? Ils nous arnaquent. « Ces acteurs cherchaient généralement à utiliser nos services pour accéder à des données libres d’accès pour traduire, corriger des erreurs de programmation et automatiser certaines tâches informatiques. »
Les données libres d’accès portent sur la réputation et la technologie de protection contre les cybermenaces des entreprises nord-américaines de cyberdéfense. La traduction est utilisée pour peaufiner les messages utilisés dans des campagnes d’hameçonnage auprès du public ou d’entreprises dans divers pays. Ne vous surprenez pas si les faux courriels contenant un rançongiciel que vous recevez aux couleurs d’institutions bancaires canadiennes sont écrits dans un français soudainement impeccable. C’est l’IA qui fait ça.
Les talents de programmation de l’IA permettent enfin aux pirates de donner forme rapidement à des services ou à des sites Web sur mesure pour du harponnage, une forme d’hameçonnage qui cible un groupe très précis d’individus. Les pirates ont aussi sondé l’IA générative d’OpenAI sur les moyens à employer pour éviter que leurs activités malveillantes soient repérées par les nombreux systèmes de détection et de protection contre les cybermenaces.
OpenAI ne veut effrayer personne et ajoute l’information suivante dans l’espoir de rassurer ceux que tout ceci inquiète : « GPT-4 n’offre qu’une capacité limitée et incrémentale aux activités malveillantes de cybersécurité par rapport aux outils qui ne sont pas de l’IA et qui sont déjà accessibles publiquement. »
D’un côté, les promoteurs de l’IA générative vantent ses mérites révolutionnaires pour la productivité des entreprises et des travailleurs en particulier, et de la société en général. De l’autre, dans un cas où elle est utilisée probablement à son potentiel le plus élevé, mais à des fins illicites, on dit que sa valeur n’est pas beaucoup plus élevée que celle des logiciels déjà existants.
Il faudrait bien se brancher.
Microsoft et OpenAI, qui sont deux proches partenaires d’affaires dans cette industrie encore toute naissante de l’IA grand public, ont publié en même temps la semaine dernière une paire d’études sur l’évolution des cybermenaces à l’ère de ChatGPT. Ils félicitent les gouvernements qui, comme ceux du Canada et des États-Unis, ont l’ambition d’encadrer le développement de cette technologie pour éviter les dérapages.
En revanche, ils voient bien que le pouvoir législatif s’arrête aux frontières des pays qui votent ces lois. De lois qui, comme d’habitude dans le secteur technologique, pourraient bien arriver une fois que le mal sera fait.
Microsoft constate la même chose qu’OpenAI : les groupes de pirates étrangers sont parmi les utilisateurs les plus pressés à se ruer sur leurs outils de génération automatisée de contenu numérique. Ce sont aussi leurs utilisateurs les plus prolifiques et, cela va de soi, les moins respectueux des règles.
Le président américain, Joe Biden, a publié son décret pour une IA sûre et sécuritaire l’an dernier, à la fin octobre, mais ça n’empêchera pas des outils d’IA d’être utilisés de façon abusive lors de la campagne présidentielle, qui se terminera par un vote le 5 novembre prochain. Au Canada, on n’a pour le moment qu’un code de conduite volontaire pour se défendre contre la contrefaçon permise par l’IA. Le Québec aussi avance en matière de cyberdéfense, mais pas beaucoup plus vite.
Le problème devrait pourtant être pris avec plus de sérieux. Microsoft dit pister présentement quelque 300 groupes de cyberpirates dans le monde, dont 160 seraient des agents d’un État qu’on peut soupçonner inamical envers les démocraties occidentales. Et une cinquantaine sont des experts en rançongiciels. Cette forme d’attaque en ligne connaît ces jours-ci la croissance la plus fulgurante étant donné qu’elle est très payante pour les malfaiteurs. Bien des victimes paient la rançon demandée ou ont une police d’assurance qui couvre ce montant à leur place.
À l’ère du lancement du vote par Internet et de la mise en ligne du dossier de santé numérique, Microsoft et OpenAI ne vont pas ralentir leur développement de l’IA générative : c’est payant pour elles aussi. Mais d’autres organisations devraient peut-être réagir avec plus de prudence à leur signal d’alarme.
Ce texte fait partie de notre section Opinion, qui favorise une pluralité des voix et des idées. Il s’agit d’une chronique et, à ce titre, elle reflète les valeurs et la position de son auteur et pas nécessairement celles du Devoir.
La Chine, la Russie, l’Iran et la Corée du Nord aiment l’IA américaine
6
0
19.02.2024
Microsoft et OpenAI sont probablement les deux entreprises à qui l’engouement pour les intelligences artificielles (IA) génératives comme ChatGPT profite le plus… après certains pirates parrainés par la Chine, la Russie, l’Iran et la Corée du Nord, qui utilisent l’IA pour peaufiner leurs cyberattaques.
Ça a les airs de la sombre prophétie d’une IA malveillante que répète depuis des mois Yoshua Bengio… « Nous venons de mettre fin aux activités de cinq acteurs parrainés par des gouvernements qui cherchaient à utiliser nos applications d’IA pour soutenir leurs activités malveillantes », a déclaré la semaine dernière la société OpenAI, créatrice du modèle de langage GPT et de l’agent ChatGPT.
Selon OpenAI, deux de ces acteurs sont des groupes de cyberpirates dont les activités seraient dictées par le gouvernement chinois, alors que les trois autres répondraient respectivement aux gouvernements de la Russie, de l’Iran et de la Corée du Nord.
Pas besoin d’être un expert en géopolitique pour comprendre que ce sont là des États où le sentiment anti-occidental est fort. Et que font-ils avec l’IA générative que leur fournissait jusque-là si gentiment OpenAI ? Ils nous arnaquent. « Ces acteurs cherchaient généralement à utiliser nos services pour accéder à des données libres d’accès pour traduire, corriger des erreurs de programmation et automatiser certaines tâches informatiques. »
Les données........
© Le Devoir
visit website
login
who are we?
contact us
qosheapp
Toi Staff
Gideon Levy
Belen Fernandez
Andrew Mitrovica
Mort Laitner
Nikkei Editorial
Rami G Khouri
Ali Fathollah-Nejad
