L’IA exerce illégalement la médecine
Au Québec, seuls les professionnels qualifiés peuvent faire des gestes à portée diagnostique ou thérapeutique, rappellent les auteurs, pour qui il est temps de réagir face aux agents d’IA qu’ils comparent à des charlatans.
Sam Altman, le PDG d’OpenAI, disait en juillet dernier lors d’un évènement organisé par la Réserve fédérale américaine1 que les capacités diagnostiques de l’intelligence artificielle (IA) surpassaient dorénavant celles des médecins. Il y a, en effet, des développements importants, voire spectaculaires, pour plusieurs applications d’IA spécialisées en santé.
Toutefois, comme l’indiquent des études récentes, les applications destinées au grand public, tant pour la santé mentale2 que pour la santé physique3, présentent des risques encore très mal maîtrisés. Et ce, c’est sans compter les évènements tragiques rapportés régulièrement par les médias, dont des suicides4, qui apparaissent liés à des interactions avec des agents conversationnels alimentés par l’IA, comme Gemini ou ChatGPT, en vue d’obtenir du soutien psychologique.
Cette réalité soulève une question fondamentale : qui devrait encadrer les applications destinées au grand public qui permettent d’obtenir des avis diagnostiques ou thérapeutiques ?
En principe, on sait que dès qu’il s’agit d’instruments........
