Les entreprises technologiques sont-elles responsables lorsque leurs algorithmes proposent et recommandent des contenus terroristes ? La réponse de la Cour Suprème des Etats Unis pourrait bouleverser le fonctionnement d’Internet.
Beatrice Gonzalez travaillait au salon de coiffure qu’elle dirige à Whittier, en Californie, lorsqu’elle a reçu la nouvelle. Sa fille, Nohemi Gonzalez, était l’une des 130 personnes sauvagement abattures par des terroristes islamistes le 13 novembre 2015, à Paris. Nohemi, étudiante de la California State University à Long Beach, était à Paris dans le cadre d’un programme d’échange. Elle a été assassinée avec 19 autres personnes dans un bistrot ou elle était allée diner avec des amis. L’État islamique avait revendiqué la responsabilité de l’attentat.
Nohemi était la fille unique de Béatrice. Lorsqu’elle a été assassinée, sa mère a failli sombrer dans la dépression. « J’avais mal, j’étais dans une bulle », a-t-elle déclaré au Washington Post.
C’est à ce moment que les avocats de Shurat Hadin, un centre juridique israélien spécialisé dans les poursuites judiciaires contre les entreprises qui aident directement ou indirectement les terroristes, ont toqué à sa porte. Ils lui ont demandé si elle était intéressée par une action en justice liée à la mort de sa fille. La mère de Nohémi a dit oui sans hésiter.
Shurat Hadin a été créé au début des années 2000 et a mené des poursuites contre une multitude de banques, d’entreprises et de pays.
Shurat HaDin dit avoir gagné plus de 2 milliards de dollars en jugements et obtenu des centaines de millions de dollars en compensation pour les victimes d’attaques terroristes violentes. L’organisation est entièrement financée par des dons privés et ne reçoit pas d’argent de l’État israélien ou d’autres gouvernements, a déclaré Darshan-Leitner.
En 2015, l’organisation a poursuivi Facebook pour avoir hébergé des posts, messages et images qui encourageaient les jeunes Palestiniens à attaquer les citoyens israéliens. Mais les tribunaux ont refusé de poiursuivre.
En 2023, huit ans après le meurtre de Nohemi, Béatrice Gonzalez est aux côtés de Shurat Hadin à Washington, pour suivre l’affaire de sa fille qui sera plaidée devant la Cour suprême. L’association Shurat HaDin, qui se traduit de l’hébreu par « lettre de la loi », a passé des années à poursuivre des entreprises (des banques notamment qui acceptent les fonds et transferts de fonds de groupes terroristes par exemple) qui viennent en aide, directement ou indirectement, aux terroristes. Mais Shurat Hadin a toujours été déboutée chaque fois qu’elle a voulu poursuivre des entreprises de High Tech parce que les réseaux sociaux véhiculent des messages de propagande, de haine islamique ou de recrutement pour le compte d’organisations terroristes et militantes.
En 2017, la famille Gonzalez et les avocats ont déposé leur plainte, arguant que les algorithmes de YouTube, filiale de Google, avaient enfreint la loi antiterroriste américaine en faisant la promotion de vidéos de propagande de l’État islamique. Google affirme que l’affaire est sans fondement car la loi protège les sociétés Internet de toute responsabilité pour les contenus publiés par leurs utilisateurs. Les tribunaux se sont rangés du côté de Google, mais la famille a fait appel et, en octobre dernier, la Cour suprême a accepté d’entendre l’affaire.
La décision de la Cour suprême pourrait avoir des ramifications majeures à la fois pour Internet tel que nous le connaissons et pour les géants de la technologie qui le dominent. Pendant près de trois décennies, l’article 230 a protégé les sociétés Internet contre toute responsabilité pour le contenu publié par leurs utilisateurs. C’est cet article qui a permis à des plateformes comme Facebook et YouTube de se développer dans le domaine culturel et de devenir les mastodontes qu’ils sont aujourd’hui.
Les entreprises de High Tech affirment que cette disposition légale est vitale pour un Internet libre et ouvert. Les détracteurs de la loi disent qu’elle donne aux entreprises technologiques un laissez-passer pour se soustraire à leurs responsabilités ou s’engager dans une censure injuste. Soixante-dix-neuf entreprises extérieures, organisations professionnelles, politiciens et organisations à but non lucratif ont présenté des arguments dans l’affaire.
José Castañeda, porte-parole de Google, a refusé de commenter l’affaire, mais dans un article de blog de janvier, l’avocate générale de Google, Halimah Delaine Prado a estimé que la décision de la Cour Suprême « pourrait modifier radicalement la façon dont les Américains utilisent Internet ». La modification de l’article 230 pourrait rendre difficile pour les entreprises d’utiliser des algorithmes pour recommander n’importe quel contenu, des chansons sur Spotify aux articles de petites entreprises sur des plateformes de commerce électronique comme Etsy, a-t-elle déclaré.
Les politiques de YouTube interdisent le contenu terroriste, mais les algorithmes de modération de l’entreprise manquent souvent de réactivité par rapport aux nouvelles vidéos.
Les avocats de la famille Gonzalez ont concentré leur argumentation sur les algorithmes de recommandation de YouTube. En recommandant spécifiquement les vidéos de l’État islamique, YouTube a franchi les bornes de ce qui est protégé par l’article 230, affirment-les avocats de Shurat Hadin.
L’article 230 est au fondement de la puissance des géants du Net, mais nombreux sont ceux qui, aujourd’hui estiment qu’il est obsolète, car il a été écrit avant qu’une grande partie du monde ne devienne dépendante d’Internet.
Google, d’autres entreprises technologiques et une multitude d’organisations de liberté sur Internet ont tous soutenu que réduire les protections offertes par l’article 230 aurait un effet presque apocalyptique sur Internet.
« Les enjeux ne pourraient pas être plus élevés », a déclaré Delaine Prado, l’avocat général de Google dans le billet de blog. « Une décision portant atteinte à l’article 230 obligerait les sites Web soit à supprimer le contenu potentiellement controversé, soit à fermer les yeux sur le contenu répréhensible pour éviter d’en avoir connaissance. »
Les avocats de la famille Gonzalez affirment que l‘affaire est simple : les entreprises les plus importantes et les plus rentables au monde ne devraient pas être autorisées à recommander des contenus terroristes, et devraient en être tenues responsables lorsqu’elles le font.
En faisant la promotion du terrorisme, elles n’agissent pas différemment d’une banque qui accepte de transférer de l’argent entre groupes terroristes, a déclaré Nitsana Darshan-Leitner, présidente et fondatrice de Shurat HaDin. L’article 230 aurait peut-être eu du sens lorsqu’il a été adopté, mais les entreprises sont devenues des géants qui devraient être tenus responsables, a-t-elle déclaré.
Pour la famille Gonzalez l’enjeu est de lier la mémoire de leur fille à des initiatives qui permettent de lutter contre le terrorisme. C’est aussi ce qui fait le prix du procès intenté à Google aujourd’hui.
