Le jury d’un tribunal civil de Santa Fe, au Nouveau-Mexique, a déclaré la société Meta responsable d’avoir mis en danger des utilisateurs mineurs de ses plateformes. Le tribunal a jugé que le réseau social était responsable des problèmes de santé mentale éprouvés par une adolescente à la suite de sa fréquentation addictive de ces plateformes numériques. De telles décisions de justice pourraient sonner le glas du statut privilégié dont bénéficient les grands réseaux sociaux.

Dans plusieurs États américains, Google et Meta sont poursuivis devant les tribunaux civils. On leur reproche d’avoir sciemment configuré leurs plateformes en ligne de façon à maximiser l’engagement des usagers. Et ces configurations ont été mises en place même si les entreprises savaient que cela pouvait engendrer des conséquences dommageables pour les usagers aux prises avec des problèmes psychologiques. Des familles américaines affirment que les plateformes de Meta et de YouTube nuisent aux enfants. Une fois accros, les jeunes, selon les plaignants, sont sujets à la dépression, aux troubles alimentaires, à l’automutilation et à d’autres détresses.

Trois fonctionnalités considérées comme particulièrement « addictives » sont visées. D’abord, le scrolling, soit le défilement ininterrompu de contenus, puis le lancement automatique de vidéos et enfin l’envoi répété de notifications. La conception des algorithmes de recommandation serait aussi de nature à engendrer des accoutumances nocives.

En Europe, une enquête de la Commission européenne indique, à titre préliminaire, que TikTok n’a pas évalué de manière adéquate la manière dont ces caractéristiques addictives pourraient nuire au bien-être physique et mental de ses utilisateurs, y compris les mineurs et les adultes vulnérables.

La Commission soutient qu’en « récompensant » constamment les utilisateurs avec de nouveaux contenus, certaines caractéristiques de conception de TikTok alimentent l’envie de continuer à défiler et contribuent à déplacer l’attention des utilisateurs en « mode pilote automatique ». La recherche scientifique montre que cela peut conduire à un comportement compulsif et réduire la maîtrise de soi des utilisateurs. En outre, dans son évaluation, TikTok n’aurait pas tenu compte d’indicateurs importants de l’utilisation compulsive de l’application, tels que le temps que les mineurs y passent la nuit, la fréquence à laquelle les utilisateurs ouvrent l’application et d’autres indicateurs potentiels.

Évidemment, les réseaux sociaux font valoir que les dispositifs de recommandation sont principalement activés par les préférences des usagers eux-mêmes. Sans surprise, ils font appel des décisions qui leur sont défavorables.

La multiplication des recours à l’encontre des décisions relatives à la configuration des plateformes des réseaux sociaux vient toutefois ouvrir une brèche dans le régime privilégié dont ils bénéficient depuis 1995. À cette époque, le Congrès américain, soucieux de prévenir les conflits qui pourraient découler des actions ou des omissions des fournisseurs de services en ligne, a édicté l’article 230 de la Communications Decency Act, loi qui procure une immunité aux sites qui diffusent du contenu émanant de tiers. Les tribunaux ont donné une interprétation large à cette immunité. Une telle disposition protégeait les réseaux sociaux contre les poursuites fondées sur le caractère présumément illégal des contenus partagés sur les plateformes de réseaux sociaux.

Mais les décisions rendues la semaine dernière ne visent pas les contenus circulant dans les environnements en ligne, mais plutôt l’architecture algorithmique et la conception des environnements caractéristiques des réseaux sociaux. Les poursuivants entendent démontrer que la façon dont sont configurées les plateformes est fautive. En configurant leurs algorithmes de manière à maximiser l’engagement des usagers, les réseaux sociaux auraient, en connaissance de cause, engendré de l’accoutumance nocive et d’autres détresses chez les usagers.

En somme, les poursuivants reprochent aux réseaux sociaux de se comporter comme les fabricants de produits du tabac qui, dans la seconde moitié du XXe siècle, avaient camouflé et nié le caractère addictif et nocif de leurs produits. Ils peuvent s’appuyer sur des documents internes et autres renseignements émanant de Meta et d’autres plateformes en ligne. Ces poursuites ont d’ailleurs été entreprises à la suite de révélations de lanceurs d’alerte au sein des entreprises, qui ont affirmé que ces dernières savaient que leurs produits nuisaient aux enfants et n’ont rien fait pour y remédier.

Les décisions de la semaine dernière émanent d’un tribunal de première instance. Il faudra attendre encore quelques années avant que les tribunaux aient statué de façon définitive sur la responsabilité de ces géants d’Internet. Mais l’existence de ces poursuites en justice démontre que les règles de droit finissent par reconnaître la responsabilité des entreprises qui font le choix d’ignorer les torts que peuvent engendrer les dispositifs qu’elles mettent à la disposition du public. Cela tend à indiquer que les citoyens semblent plus rapides que les autorités gouvernementales pour contester les conséquences désastreuses de l’absence de régulation étatique sérieuse des géants du Web.

On constate désormais au quotidien les effets du fonctionnement non régulé des espaces connectés. À ce jour, les autorités gouvernementales semblent attendre que les citoyens demandent aux juges de reconnaître le caractère fautif des pratiques des réseaux sociaux. Ils doivent plutôt se concerter pour imposer aux services en ligne des obligations d’anticiper et de gérer adéquatement les risques auxquels leurs puissantes technologies exposent les populations.

Ce texte fait partie de notre section Opinion, qui favorise une pluralité des voix et des idées. Il s’agit d’une chronique et, à ce titre, elle reflète les valeurs et la position de son auteur et pas nécessairement celles du Devoir.

© Le Devoir