De faux nus aux conséquences bien réelles – .

La création d’images hyper fausses et sexuellement explicites chez les jeunes suscite des inquiétudes.


Publié à 1h52

Mis à jour à 5h00



La création de faux nus à l’aide de l’intelligence artificielle, en utilisant la technique du deepfake, ou faux profondsprend de l’ampleur dans les écoles secondaires du pays. Un phénomène aux conséquences graves pour les victimes, qui inquiète les acteurs de terrain.

Ce qu’il faut savoir

La création de faux nus grâce à l’intelligence artificielle prend de l’ampleur dans les lycées du pays, et les experts tirent la sonnette d’alarme.

Les sites et applications, souvent gratuits, permettant de créer ce type d’images se développent et se multiplient, alors que les restrictions qui encadrent les entreprises et l’éducation des jeunes ne le sont pas.

Si les faux nus constituent de la pédopornographie, les jeunes se rendent rarement compte que leurs actes ont des implications criminelles.

Dans une école secondaire de Montréal, des membres de la direction et des enseignants reçoivent des photos dénudées d’adolescentes de l’établissement. Elles ont été envoyées par des élèves de la même année. Les images sont trompeuses. Elles semblent réelles à première vue. Le Service de police de la Ville de Montréal (SPVM) ouvre une enquête. Le verdict est tombé : les images ont été générées par l’intelligence artificielle à partir de photos habillées des victimes mineures. Mais les visages sont réels.

Maya Alieh est sergente-détective et superviseure de l’unité de cyberenquête du SPVM. Son équipe a enquêté sur ce dossier il y a quelques années. L’événement était en avance sur son temps, dit-elle. Mais depuis, de nombreux autres cas de ce type ont été rapportés dans les écoles. Et plusieurs experts tirent la sonnette d’alarme.

PHOTO HUGO-SÉBASTIEN AUBERT, LA PRESSE ARCHIVES

Maya Alieh, sergente-détective et superviseure du module de cyberenquête du Service de police de la Ville de Montréal, en octobre dernier

« Le phénomène se produit toujours de la même manière. J’ai eu un cas similaire cette année », souligne Maya Alieh.

Rien que pour cette année, le policier s’attend à ce que le SPVM recense environ 10 à 12 cas de faux nus créés par des adolescentes et montrant une ou plusieurs adolescentes.

Le Centre canadien de protection de l’enfance (CCPE) note également une augmentation des signalements au Canada. Au cours des 12 derniers mois, 4 000 cas d’images sexuellement explicites hyper-explicites de mineurs ont été signalés, dont des cas de pédopornographie, de sextorsion et de faux nus créés par des adolescents, selon le porte-parole René Morin.

Le même constat a été fait au bureau du Directeur des poursuites criminelles et pénales (DPCP). Me Maxime Ouellette, procureur et instigateur du projet SEXTO mis sur pied en 2016, constate qu’une « tendance s’installe ». Il y a 12 à 18 mois, il entendait peu parler de cas de faux nus entre adolescents.

Phénomène récent

Pour moiet Ouellette et M.e Pour Joanny St-Pierre, également procureure à la DPCP, les chiffres ne sont pas encore « alarmants », mais le phénomène l’est.

Je pense que nous sommes vraiment sur le point [d’un phénomène] qui s’accompagne d’une explosion, mais je ne suis pas convaincu que nous le constations encore dans les enquêtes policières et judiciaires.

Met Joanny St-Pierre, procureure à la DPCP

Le phénomène est récent et les images ne sont pas toujours reconnues comme fausses. Si des images sont créées mais non signalées, les chiffres ne sont pas compilés.

« On a souvent l’image du gars qui est un peu gêné dans son sous-sol, qui n’ose pas entrer en contact avec les autres », mais c’est rarement le cas, explique M.et St-Pierre. Selon les procureurs, il y a autant de raisons pour créer ces images qu’il y a d’adolescents. Un adolescent pourrait télécharger des images profondément retouchées de sa petite amie « pour rire » ; une autre, une camarade de classe pour la harceler ou l’intimider.

Les sites et applications, souvent gratuits, permettant de créer ce type d’images se développent et se multiplient ; les restrictions qui encadrent les entreprises et l’éducation des jeunes ne le sont pas. « Nous ramons à contre-courant des nouvelles technologies », souligne Mmoi Alieh.

Certains sites ou applications n’ont pas été créés pour l’hyperfaking. D’autres ont des pare-feu. Toutefois, le sergent-détective du SPVM estime que « les jeunes n’ont aucune difficulté à utiliser les sites ».

Selon René Morin, le phénomène actuel des faux nus dans nos écoles n’est pas sans rappeler celui du sexting à ses débuts, lorsqu’il surprenait les écoles.

De nombreuses conséquences

Angoisse, pensées suicidaires, isolement, quête constante pour supprimer les photos de nus du Web : les conséquences pour les victimes sont aussi graves que si les photos étaient réelles.

Les images étant d’abord jugées réelles, la pression repose sur les épaules des victimes, explique M.et Saint-Pierre. Le traitement des victimes par les écoles ou la police peut prendre plusieurs jours, voire plusieurs semaines, et entraîner de graves conséquences.

Si les faux nus correspondent à de la pédopornographie, les jeunes réalisent rarement que leurs actes ont des implications criminelles.

Julie Miville-Dechêne est sénatrice indépendante et instigatrice du projet de loi fédéral sur l’exposition des jeunes à la pornographie. Pour elle, la popularité du phénomène du faux nu auprès des adolescents est la conséquence directe de la normalisation de la pornographie.

Actuellement, il n’existe aucune loi fédérale réglementant les fausses photos, audio ou vidéo. Les projets de loi C-27 sur l’intelligence artificielle et C-63 sur les méfaits en ligne sont en première lecture à la Chambre des communes. Ces deux lois réguleraient le phénomène.

PHOTO FRANÇOIS ROY, LA PRESSE ARCHIVES

La sénatrice Julie Miville-Dechêne, instigatrice du projet de loi fédéral sur l’exposition des jeunes à la pornographie

Le Canada traîne les pieds. Il faut légiférer et c’est urgent.

La sénatrice Julie Miville-Dechêne, instigatrice du projet de loi fédéral sur l’exposition des jeunes à la pornographie

Laurent Charlin, professeur agrégé à HEC Montréal et titulaire d’une Chaire Canada-CIFAR en IA, reconnaît qu’il est essentiel de mettre en place des lois. Il souligne toutefois que cela ne semble pas suffisant puisque les pays n’ont pas toujours la capacité de les mettre en œuvre et de poursuivre les entreprises contrevenantes. «Pendant longtemps, nous n’avons pas réfléchi à l’intelligence artificielle éthique ni aux garde-fous», explique-t-il.

La meilleure façon de lutter contre le phénomène du faux nu est de sensibiliser les jeunes aux nouvelles technologies et à leur impact. “En 2024, nous devrions assurer la sécurité numérique de nos enfants comme nous leur apprenons à nager”, estime M.e Saint-Pierre.

Prévention et conseils

Comment empêcher les adolescents de créer ou d’être victimes de faux nus ? Voici les conseils de la sergente-détective Maya Alieh du SPVM et de Met Maxime Ouellette et Met Joanny St-Pierre, procureurs du DPCP.

Mesures préventives

  • Limitez votre exposition en ligne et les photos de votre visage (utilisez un filtre social pour déterminer qui peut accéder à votre profil et voir vos publications).
  • En cas de doute, analysez les détails d’une photo pour tenter de détecter la présence d’aberrations et d’anomalies.
  • Ne partagez pas d’images que vous n’avez pas prises puisque vous n’en connaissez pas la source.
  • N’envoyez pas de photos intimes de vous, même à un amoureux.

Conseils aux parents

  • Rappelez aux jeunes qu’ils sont responsables de leurs actes en ligne de la même manière que dans la vraie vie.
  • Parlez à vos enfants des risques et des conséquences de la création d’images hyper falsifiées représentant d’autres élèves, notamment dans un contexte sexuel. Les conséquences sont criminelles.
  • Accueillez avec bienveillance une victime si elle se confie sur les faux nus ou l’hyperfaçon dont elle a été victime.
  • Contactez l’école et la police lorsque vous connaissez une victime de faux nus ou de deep fakes afin qu’une enquête soit ouverte et que vous soyez orienté vers les ressources appropriées.
 
For Latest Updates Follow us on Google News
 

PREV «J’ai toujours été un peu baveur.» – .
NEXT Benoît-Olivier Groulx à Laval : le scénario parfait