Alors que les réseaux sociaux sont régulièrement accusés de ne pas suffisamment protéger les mineurs en ligne, Meta a annoncé jeudi de nouvelles mesures sur Instagram pour protéger les jeunes du chantage aux photos de nu.
Le géant américain va mettre en place un « contrôleur de nudité » sur Instagram, paramétré par défaut sur les comptes des mineurs. Cet outil détectera automatiquement les images de nudité reçues sur la messagerie de l’application et les floutera.
« De cette manière, le destinataire n’est pas exposé de manière non désirée à un contenu intime et a le choix de voir ou non cette image », explique Capucine Tuffier, chargée de protection de l’enfance chez Meta France.
Des messages de sensibilisation au chantage sexuel aux photos, également appelé « sextorsion », seront envoyés simultanément à l’expéditeur et au destinataire des images, leur rappelant que ces contenus sensibles peuvent donner lieu à des captures d’écran et à des transferts par des personnes malveillantes.
Testé à partir de mai
« Il s’agit de réduire la création et le partage de ce type d’images », résume Mme Tuffier. Ces nouvelles mesures seront testées à partir de mai dans une poignée de pays d’Amérique centrale et latine avant un déploiement mondial dans les prochains mois.
“C’est plutôt bien qu’ils donnent par défaut les moyens de se protéger de ce type d’agression ou de harcèlement” indique Olivier Ertzscheid, chercheur à l’université de Nantes en sciences de l’information.
Selon lui, « compte tenu du flux et du volume de contenus photographiques qui circulent sur les plateformes, nous sommes obligés de passer par une automatisation qui passe par l’IA ».
Meta précise que lorsqu’un compte aura été identifié par ses outils d’intelligence artificielle comme étant potentiellement à l’origine de ce type de chantage, ses interactions avec des utilisateurs mineurs seront fortement limitées.
Seulement maintenant
Un potentiel compte « criminel » ne pourra donc pas envoyer de messages privés vers le compte d’un mineur, n’aura pas accès à sa liste complète d’abonnés (les comptes des mineurs étant masqués) et les comptes des mineurs n’apparaîtront plus dans la recherche. bar, détaille Capucine Tuffier.
Meta avertira également un jeune utilisateur s’il est entré en contact avec un potentiel maître chanteur. Le mineur sera alors dirigé vers un site dédié « Stop Sextorsion » et aura accès à une ligne d’écoute téléphonique en partenariat avec des associations.
« La question est de savoir pourquoi ne l’ont-ils pas fait jusqu’à présent ? » » demande Olivier Ertzscheid, qui estime que ce type de technologie existe déjà depuis plusieurs années. Il pointe également les risques d’écarts et de « faux positifs », et prend l’exemple de photos de femmes en maillot de bain qui, par le passé, ont déjà mis en défaut ces algorithmes.
Modération humaine
“Ces faux positifs ont un impact car ils instaurent de nouvelles formes de normativité”, explique-t-il, poussant les utilisateurs des réseaux sociaux à se restreindre dans certains usages. Pour lui, l’intervention d’un modérateur peut éviter certains de ces écueils mais « toutes ces plateformes manquent aujourd’hui de modération humaine ».
Meta, accusé aux Etats-Unis et en France de nuire à la santé mentale des adolescents, avait déjà annoncé en janvier une première salve de mesures pour mieux protéger les jeunes utilisateurs.
Parmi ceux-ci, un utilisateur mineur aura désormais besoin d’une autorisation explicite de ses parents pour faire passer son compte de privé à public, accéder à des contenus plus dits « sensibles » ou avoir la possibilité de recevoir des messages de personnes qu’il ne suit pas déjà sur la plateforme.
La Commission européenne a ouvert des enquêtes distinctes sur Meta, Snap (Snapchat), TikTok, YouTube sur les mesures mises en œuvre pour protéger la « santé physique et mentale » des mineurs.
/ATS
