De faux nus avec des conséquences bien réelles

La création d’images hyper fausses et sexuellement explicites chez les jeunes suscite des inquiétudes.

La création de faux nus grâce à l’intelligence artificielle, en utilisant la technique du deepfake, ou faux profondLe phénomène prend de l’ampleur dans les écoles secondaires du pays. Un phénomène aux conséquences graves pour les victimes, qui inquiète les acteurs du secteur.

Dans une école secondaire de Montréal, des membres de l’administration et des enseignants reçoivent des photos nues d’adolescentes de l’établissement. Ils ont été envoyés par des étudiants de la même année. Les images sont trompeuses. Ils semblent réels à première vue. Le Service de police de la ville de Montréal (SPVM) ouvre une enquête. Le verdict est tombé : les images ont été générées par l’intelligence artificielle à partir de photos habillées des victimes mineures. Mais les visages sont réels.

Maya Alieh est sergente-détective et superviseure du module d’enquête cybernétique du SPVM. C’est son équipe qui a enquêté sur cette affaire il y a quelques années. L’événement était en avance sur son temps, dit-elle. Mais depuis, de nombreux autres cas du genre ont été rapportés dans les écoles. Et plusieurs experts tirent la sonnette d’alarme.

« Le phénomène se produit toujours de la même manière. J’ai eu un cas similaire cette année », souligne Maya Alieh.

Pour cette année seulement, le policier s’attend à ce que le SPVM reçoive environ 10 à 12 cas de faux nus créés par des adolescents et montrant une ou des adolescentes.

Le Centre canadien de protection de l’enfance (CCPE) constate également une augmentation des signalements au Canada. Au cours des 12 derniers mois, 4 000 signalements d’images sexuellement explicites de mineurs, notamment de pornographie juvénile, de sextorsion et de fausses photos nues créées par des adolescents, ont été recensés, selon le porte-parole René Morin.

Même constat au cabinet du Directeur des poursuites criminelles et pénales (DPCP). M^e Maxime Ouellette, procureur et instigateur du projet SEXTO mis sur pied en 2016, constate qu’une « tendance s’installe ». Il y a 12 à 18 mois, il entendait peu parler de cas de faux nus entre adolescents.

Phénomène récent

Pour moi^e Ouellette et M^e Joanny St-Pierre, également procureure au DPCP, les chiffres ne sont pas encore « alarmants », mais le phénomène l’est.

Le phénomène est récent et les images ne sont pas toujours reconnues comme fausses. Si les images sont créées mais non signalées, les chiffres ne sont pas compilés.

“On a souvent l’image du gars un peu gêné dans sa cave, qui n’ose pas entrer en contact avec les autres”, mais c’est rarement le cas, explique M.^e St-Pierre. Selon les procureurs, il y a autant de raisons pour créer ces images qu’il y a d’adolescents. Un adolescent pourrait télécharger des images profondément retouchées de sa petite amie « pour rire » ; une autre, une camarade de classe pour la harceler ou l’intimider.

Les sites et applications, souvent gratuits, permettant la création de ce type d’image se développent et se multiplient ; les restrictions régissant les entreprises et l’éducation des jeunes ne le sont pas. “Nous ramons à contre-courant des nouvelles technologies”, souligne M.^moi Alieh.

Certains sites ou applications n’ont pas été créés pour l’hyperfaking. D’autres sont dotés de pare-feu. Toutefois, le sergent-détective du SPVM estime que « les jeunes n’ont aucune difficulté à utiliser les sites ».

Selon René Morin, le phénomène actuel des faux nus dans nos écoles rappelle celui du sexting à ses débuts, lorsqu’il prenait les écoles par surprise.

De nombreuses conséquences

Angoisse, pensées suicidaires, isolement, quête perpétuelle pour éliminer les photos de nus sur le web : les conséquences pour les victimes sont aussi graves que si les photos étaient réelles.

Les images étant d’abord jugées réelles, la pression repose sur les épaules des victimes, explique M^e St-Pierre. La prise en charge des victimes par les écoles ou la police peut prendre plusieurs jours, voire plusieurs semaines, et avoir de graves conséquences.

Si les faux nus correspondent à de la pédopornographie, les jeunes réalisent rarement que leurs actes ont des implications criminelles.

Julie Miville-Dechêne est sénatrice indépendante et instigatrice du projet de loi fédéral sur l’exposition des jeunes à la pornographie. Pour elle, la popularité du phénomène du faux nu chez les adolescents est la conséquence directe de la normalisation de la pornographie.

Actuellement, il n’existe aucune loi fédérale réglementant les fausses photos, audio ou vidéo. Les projets de loi C-27 sur l’intelligence artificielle et C-63 sur les méfaits en ligne sont en première lecture à la Chambre des communes. Ces deux lois réguleraient le phénomène.

Laurent Charlin, professeur agrégé à HEC Montréal et titulaire d’une Chaire Canada-CIFAR en IA, reconnaît qu’il est essentiel de mettre en place des lois. Il souligne toutefois que cela ne semble pas suffisant puisque les pays n’ont pas toujours la capacité de les mettre en œuvre et de poursuivre les entreprises contrevenantes. «Pendant longtemps, nous ne pensions pas à l’intelligence artificielle éthique ni aux garanties», explique-t-il.

La meilleure façon de lutter contre le phénomène du faux nu est d’éduquer les jeunes sur les nouvelles technologies et leur impact. “En 2024, nous devrions assurer la sécurité numérique de nos enfants comme nous leur apprenons à nager”, estime M.^e Saint-Pierre.