Omniprésentes sur les réseaux sociaux depuis des années, les publicités frauduleuses usurpant l’image de personnalités connues comme Normand Brathwaite et Guy A. Lepage passent à un autre niveau.
Récemment, au moins quatre publicités similaires présentant un montage photo non censuré de la nudité frontale de l’animatrice Maripier Morin sont restées en ligne pendant une semaine sur Facebook avant d’être supprimées.
Comme c’est généralement le cas avec ces publicités frauduleuses, elles se sont présentées comme un article provenant d’un média bien connu, en l’occurrence Le Journal du Québec. Le titre du faux article, resté en ligne du 11 au 18 novembre, était Guy A. Lepage a forcé Maripirer Morin à se déshabiller en direct
.
J’aimerais croire que la modération par l’intelligence artificielle y a échappé, mais il est si facile d’identifier des images de nudité que je ne comprends tout simplement pas ce qui s’est passé.
» affirme Laurence Grondin-Robillard, spécialiste des réseaux socionumériques et professeure agrégée à l’École des médias de l’UQAM.
Les politiques (Nouvelle fenêtre) de la société mère de Facebook, Meta, interdisent la diffusion d’images de nudité sauf si elles sont publiées dans un contexte médical, éducatif ou de sensibilisation. Ses normes publicitaires (Nouvelle fenêtre) interdisent également les escroqueries.
Il est déjà assez grave que ces escrocs puissent se faire passer pour des personnes connues en exploitant la confiance que les gens accordent à quelqu’un qu’ils voient à la télévision. Mais le fait qu’ils utilisent désormais la nudité est dégoûtant.
déplore Naira Bellio d’AlgorithmWatch, une organisation à but non lucratif qui vise à améliorer la transparence et la gouvernance des algorithmes.
La diffusion d’images explicites d’une personne sans son consentement – même s’il s’agit d’un montage photo ou d’une image générée par l’intelligence artificielle – peut être considérée comme un acte criminel au Canada.
Ce n’est pas parce que la photo est modifiée que les lois ne s’appliquent plus : toutes les lois sur la vie privée s’appliquent, les problèmes de réputation s’appliquent et les infractions pénales s’appliquent.
a expliqué l’avocate Éloïse Gratton à Décrypteurs l’année dernière.
Maripier Morin n’a pas répondu à nos demandes d’entrevue.
La modération automatique des méta critiquée
Pour les experts interrogés, cet incident prouve que le processus de révision des publicités de Meta, qui repose principalement sur la technologie automatisée
selon l’entreprise (Nouvelle fenêtre)est déficient.
L’automatisation n’a pas encore atteint un niveau permettant de supprimer, de filtrer ou même simplement de signaler efficacement le contenu problématique. Et pourtant, il reste le principal outil utilisé par les plateformes pour contrôler ce type de contenu
appelée Naiara Bellio.
Si la modération se fait uniquement via des algorithmes, cela ne fonctionnera jamais. Nous l’avons constaté ces dernières années et nous continuerons de le constater dans les années à venir.
Le compte qui a posté les images explicites de Maripier Morin semble avoir été piraté. Celui-ci comporte une coche d’authentification bleue que les utilisateurs de Facebook peuvent obtenir en échange de frais mensuels. Cela aurait pu lui permettre d’échapper à toute modération humaine immédiat
pense Laurence Grondin-Robillard.
Le spécialiste constate inquiétant
que l’annonce est restée en ligne pendant une semaine.
A moins d’un changement radical chez Meta, on se dirige vers un mur très inquiétant
maintains Laurence Grondin-Robillard.
Meta n’a pas répondu à nos demandes d’entretien.
