Alerte sur les deepfakes pornos : "Les réseaux pédocriminels s’emparent de cette pratique"

"Je viens de tomber sur un truc horrible". Sur le siège passager de la voiture de son ami Marcus, la créatrice de contenus Léna Mahfouf observe, consternée, l’écran de son téléphone. La YouTubeuse aux 2,68 millions d’abonnés vient de tomber sur une photo d’elle nue, publiée sur Internet sans son consentement. Ou plutôt sur un montage photo intégrant son visage sur un corps de femme nu, qui n’est pas le sien. Le trucage est si bien réalisé que le cliché paraît authentique. La jeune femme décidera de ne pas couper cette séquence au montage de son fameux "vlog d’août" - ces courtes vidéos de son quotidien publiées durant l’été sur YouTube, qui réalisent chaque année des records d’audience. Un mois après sa publication, la vidéo a déjà été vue par 1,6 million de personnes.

Alors que les progrès de l’intelligence artificielle permettent désormais d’intégrer le visage ou la voix de n’importe quel internaute - célèbre ou non - sur n’importe quelle vidéo, cette séquence n’a rien d’anecdotique. Le phénomène du "deepfake porn", qui utilise cette manipulation audiovisuelle dans des montages pornographiques ou pédopornographiques, explose. "On s’inquiète aujourd’hui de la croissance rapide du "deepfake porn". Des sites entiers y sont dédiés afin de nuire et d’humilier les personnes reconnaissables", souligne ainsi le Haut Conseil à l’égalité entre les femmes et les hommes dans un rapport choc sur la pornocriminalité publié le 27 septembre dernier. "Personne n’est à l’abri de subir des chantages, humiliations, ou violences liées à ce phénomène. La pratique n’a jamais été aussi accessible et banalisée, ce qui est extrêmement inquiétant", déplore Johanna-Soraya Benamrouche, co-fondatrice de l’association Féministes contre le cyber-harcèlement. "Ça ne touche pas que les personnes célèbres, et la loi doit s’adapter rapidement à ce phénomène qui monte en puissance", ajoute Rachel Flore-Pardo, avocate spécialisée dans les affaires de cyber-harcèlement et co-fondatrice de l’association d’aide aux victimes Stop Fisha. Entretien croisé entre les deux spécialistes.

L’Express : Comment définir concrètement le "deepfake porn", et comment expliquer le développement exponentiel de cette pratique ?

Johanna-Soraya Benamrouche. Le deepfake porn est un montage photo, vidéo ou sonore à caractère sexuel, qui reprend les caractéristiques physiques ou vocales d’une personne, qui a l’air réel, et qui est diffusé sans son consentement et sans mentionner que c’est un trucage. Les montages existent évidemment depuis que l’image elle-même existe, à des fins humoristiques, d’humiliation ou de propagande pour tromper ou manipuler l’opinion. Ce qui nous inquiète particulièrement dans le phénomène du deepfake généré par l’intelligence artificielle, c’est que les technologies utilisées sont toujours plus performantes, et que les algorithmes s’améliorent. Leur diffusion devient un phénomène de masse, extrêmement viral, populaire et accessible. Il est désormais facile de générer un deepfake grâce à l’intelligence artificielle, et leur publication est devenue banale.

Selon une enquête de Deeptrace datant de 2019, 96 % des contenus de deepfake appartiennent ainsi au genre pornographique, et 99 % ciblent les femmes. Les quatre plus gros sites pornographiques dédiés au deepfake comptabilisaient alors 134 millions de vues… Et cela n’a fait qu’augmenter, à mesure que les vidéos se sont professionnalisées. Via certains logiciels ou applications, on peut ainsi créer 25 images pour 10 euros, en quelques minutes. Il existe également des groupes sur Discord, WhatsApp ou Telegram, ou des forums privés, sur lesquels les agresseurs s’échangent "les bonnes pratiques", les meilleures méthodes pour générer ces images, pour rester le plus anonyme possible lorsqu’elles sont publiées, les diffuser à grande échelle… Les réseaux pédocriminels s’emparent de cette pratique et un grand nombre de contenus à caractère pédopornographiques se retrouvent hébergés sur des sites français.

Des personnalités comme les actrices Emma Watson ou Scarlett Johnsson ont notamment été victimes de ces pratiques. En France, Léna Mahfouf ou Enora Malagré ont communiqué publiquement sur le sujet… Le phénomène touche-t-il plus facilement les personnes exposées médiatiquement ?

Rachel Flore-Pardo : Comme pour tous les autres types de cyber-violences, si la victime est célèbre, il peut y avoir une démultiplication des vues, de la viralité, de la portée de ces images, dont la production est facilitée par le nombre de vidéos ou de photos déjà existantes. Mais le deepfake porn ne s’arrête évidemment pas là, et peut toucher absolument tout le monde : de plus en plus de victimes qui n’ont rien à voir avec le monde médiatique nous contactent pour ces types de faits, cela augmente à mesure que les outils se démocratisent.

Dans quel but ces victimes sont-elles exposées, et quelles sont les conséquences sur leur vie personnelle ?

Johanna-Soraya Benamrouche : Il y a, à chaque fois, une volonté de l’agresseur de soumettre, d’intimider, de menacer, de s’emparer gratuitement du corps d’autrui et de capitaliser dessus. Ces images sont sensationnalistes, elles génèrent du trafic et solidarisent des espaces masculinistes. Elles touchent tout type de femmes, selon qu’elles soient célèbres, reconnues médiatiquement, portent une voix politique, ou tout simplement qu’elles aient l’audace d’exister sur Internet. Les deepfake nuisent à l’intégrité des victimes mais aussi à leur réputation, leur travail ou leur vie scolaire, leurs relations familiales et amoureuses. Elles déconcentrent et déstabilisent, peuvent pousser à sortir de l’espace numérique, voire à en disparaître complètement.

L’impact de ces cyber-violences sur la santé des victimes est tout aussi réel : troubles anxieux, dépressifs, insomnies, risques suicidaires… Comme pour d’autres phénomènes de cyber-violences à caractère sexuel, le but est de créer un climat de peur, de défiance, extrêmement anxiogène. En échange d’une vidéo montée de toutes pièces mais extrêmement réaliste, les agresseurs peuvent par exemple demander du chantage sexuel, de l’argent, ou tout simplement soumettre au silence. Les cibles sont exactement les mêmes que pour les autres types de cyber-violences : en majorité des femmes de moins de 30 ans.

Comment la loi protège-t-elle actuellement les victimes ?

Rachel Flore-Pardo : Aujourd’hui, certains types de montage peuvent tomber sous le coup de l’article 226-8 du Code pénal. En l’état, cet article punit d’un an d’emprisonnement et de 15 000 euros d’amende le fait de publier, par quelque voie que ce soit, un montage réalisé avec les paroles ou l’image d’une personne sans son consentement. Mais les faits ne sont sanctionnés que s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention, ce qui laisse un vide juridique. C’est précisément ce vide juridique auquel vient répondre le projet de loi porté par le ministre du Numérique Jean-Noël Barrot, qui a déjà été voté par le Sénat et qui sera discuté en séance publique à l’Assemblée Nationale le 4 octobre prochain. Le but est de créer un article qui mentionne concrètement le deepfake porn, et prenne en compte la montée en puissance du phénomène.

L’article 226-8-1 de ce projet de loi prévoit ainsi que sera puni de deux ans d’emprisonnement et de 60 000 euros d’amende le fait de publier, sans son consentement, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne, et présentant un caractère sexuel. Le fait de publier ce type de contenus en utilisant un service de communication au public en ligne sera puni de 3 ans d’emprisonnement et 75 000 euros d’amende.

Ces dispositions prévoient de punir les auteurs des contenus. Mais qu’en est-il de tous les autres harceleurs, agresseurs ou consommateurs, qui les diffusent parfois à grande échelle ?

Rachel Flore-Pardo : Avec l’association Stop Fisha, nous avons justement porté un amendement qui a été voté en commission spéciale et vient s’assurer que ce nouvel article pourra sanctionner tous les autres envois de deepfake porn : que ce soit une publication grand public ou envoyée à des tiers dans des conversations privées. Nous demandons que l’article appréhende véritablement la manière dont ces montages sont publiés, c’est-à-dire sur les réseaux sociaux, dans des canaux de conversations privées sur WhatsApp, Snapchat ou Telegram.

Quid des hébergeurs de contenus ?

Johanna-Soraya Benamrouche : Le Digital Service Act, qui vise à lutter contre la haine en ligne et la désinformaton à l’échelle européenne, vient justement d’entrer en vigueur le 25 août dernier. Il vise notamment à responsabiliser grandement les plateformes, et nous en attendons beaucoup. Il n’est pas souhaitable que la diffusion de deepfake soit considérée comme inévitable et incontrôlable. Il faut évidemment sanctionner les applications, responsabiliser tous les hébergeurs de contenus, permettre à la loi telle qu’elle existe déjà d’être appliquée et aux procédures d’aboutir. Moins de la moitié des plaintes pour cyber-violences (47 %) ont donné lieu à des poursuites judiciaires selon notre enquête cyberviolences conduites par Ipsos en 2022.

Ces lois sont-elles suffisantes pour protéger les victimes ?

Rachel Flore-Pardo : Que ces faits soient sanctionnés par notre droit et par la loi pénale reste une priorité absolue, mais ce n’est en effet pas suffisant. La prévention est essentielle, et il faut qu’il y ait suffisamment de moyens dédiés à l’application de ces lois : actuellement, une grande partie des dispositions visant à lutter contre la haine en ligne ne sont pas appliquées faute de moyens. Il faut par exemple augmenter les moyens effectifs de Pharos, allouer aux juridictions et aux services de police les moyens nécessaires pour traiter ces affaires, assurer la formation des officiers de police judiciaire chargés de récolter ces plaintes. Trop souvent, les victimes sont découragées, entendent dire que leur plainte ne servira à rien… Et c’est absolument inacceptable.

Johanna-Soraya Benamrouche : Il y a également un sujet sur le repérage, à l’avenir, des vraies et fausses images. Quelque chose se joue évidemment sur l’éducation, via des campagnes d’information, en allouant des moyens conséquents à la sensibilisation et à la prévention des cyber-violences, et en soutenant l’accompagnement et l’orientation des victimes. Des moyens conséquents doivent être attribués pour lutter à la hauteur de la menace numérique que représentent les deepfake porn.