De faux nus aux conséquences bien réelles – .

La création d’images hyper fausses et sexuellement explicites chez les jeunes suscite des inquiétudes.

La création de faux nus à l’aide de l’intelligence artificielle, en utilisant la technique du deepfake, ou faux profondsprend de l’ampleur dans les écoles secondaires du pays. Un phénomène aux conséquences graves pour les victimes, qui inquiète les acteurs de terrain.

Dans une école secondaire de Montréal, des membres de la direction et des enseignants reçoivent des photos dénudées d’adolescentes de l’établissement. Elles ont été envoyées par des élèves de la même année. Les images sont trompeuses. Elles semblent réelles à première vue. Le Service de police de la Ville de Montréal (SPVM) ouvre une enquête. Le verdict est tombé : les images ont été générées par l’intelligence artificielle à partir de photos habillées des victimes mineures. Mais les visages sont réels.

Maya Alieh est sergente-détective et superviseure de l’unité de cyberenquête du SPVM. Son équipe a enquêté sur ce dossier il y a quelques années. L’événement était en avance sur son temps, dit-elle. Mais depuis, de nombreux autres cas de ce type ont été rapportés dans les écoles. Et plusieurs experts tirent la sonnette d’alarme.

« Le phénomène se produit toujours de la même manière. J’ai eu un cas similaire cette année », souligne Maya Alieh.

Rien que pour cette année, le policier s’attend à ce que le SPVM recense environ 10 à 12 cas de faux nus créés par des adolescentes et montrant une ou plusieurs adolescentes.

Le Centre canadien de protection de l’enfance (CCPE) note également une augmentation des signalements au Canada. Au cours des 12 derniers mois, 4 000 cas d’images sexuellement explicites hyper-explicites de mineurs ont été signalés, dont des cas de pédopornographie, de sextorsion et de faux nus créés par des adolescents, selon le porte-parole René Morin.

Le même constat a été fait au bureau du Directeur des poursuites criminelles et pénales (DPCP). M^e Maxime Ouellette, procureur et instigateur du projet SEXTO mis sur pied en 2016, constate qu’une « tendance s’installe ». Il y a 12 à 18 mois, il entendait peu parler de cas de faux nus entre adolescents.

Phénomène récent

Pour moi^et Ouellette et M.^e Pour Joanny St-Pierre, également procureure à la DPCP, les chiffres ne sont pas encore « alarmants », mais le phénomène l’est.

Le phénomène est récent et les images ne sont pas toujours reconnues comme fausses. Si des images sont créées mais non signalées, les chiffres ne sont pas compilés.

« On a souvent l’image du gars qui est un peu gêné dans son sous-sol, qui n’ose pas entrer en contact avec les autres », mais c’est rarement le cas, explique M.^et St-Pierre. Selon les procureurs, il y a autant de raisons pour créer ces images qu’il y a d’adolescents. Un adolescent pourrait télécharger des images profondément retouchées de sa petite amie « pour rire » ; une autre, une camarade de classe pour la harceler ou l’intimider.

Les sites et applications, souvent gratuits, permettant de créer ce type d’images se développent et se multiplient ; les restrictions qui encadrent les entreprises et l’éducation des jeunes ne le sont pas. « Nous ramons à contre-courant des nouvelles technologies », souligne M^moi Alieh.

Certains sites ou applications n’ont pas été créés pour l’hyperfaking. D’autres ont des pare-feu. Toutefois, le sergent-détective du SPVM estime que « les jeunes n’ont aucune difficulté à utiliser les sites ».

Selon René Morin, le phénomène actuel des faux nus dans nos écoles n’est pas sans rappeler celui du sexting à ses débuts, lorsqu’il surprenait les écoles.

De nombreuses conséquences

Angoisse, pensées suicidaires, isolement, quête constante pour supprimer les photos de nus du Web : les conséquences pour les victimes sont aussi graves que si les photos étaient réelles.

Les images étant d’abord jugées réelles, la pression repose sur les épaules des victimes, explique M.^et Saint-Pierre. Le traitement des victimes par les écoles ou la police peut prendre plusieurs jours, voire plusieurs semaines, et entraîner de graves conséquences.

Si les faux nus correspondent à de la pédopornographie, les jeunes réalisent rarement que leurs actes ont des implications criminelles.

Julie Miville-Dechêne est sénatrice indépendante et instigatrice du projet de loi fédéral sur l’exposition des jeunes à la pornographie. Pour elle, la popularité du phénomène du faux nu auprès des adolescents est la conséquence directe de la normalisation de la pornographie.

Actuellement, il n’existe aucune loi fédérale réglementant les fausses photos, audio ou vidéo. Les projets de loi C-27 sur l’intelligence artificielle et C-63 sur les méfaits en ligne sont en première lecture à la Chambre des communes. Ces deux lois réguleraient le phénomène.

Laurent Charlin, professeur agrégé à HEC Montréal et titulaire d’une Chaire Canada-CIFAR en IA, reconnaît qu’il est essentiel de mettre en place des lois. Il souligne toutefois que cela ne semble pas suffisant puisque les pays n’ont pas toujours la capacité de les mettre en œuvre et de poursuivre les entreprises contrevenantes. «Pendant longtemps, nous n’avons pas réfléchi à l’intelligence artificielle éthique ni aux garde-fous», explique-t-il.

La meilleure façon de lutter contre le phénomène du faux nu est de sensibiliser les jeunes aux nouvelles technologies et à leur impact. “En 2024, nous devrions assurer la sécurité numérique de nos enfants comme nous leur apprenons à nager”, estime M.^e Saint-Pierre.