Meta a annoncé jeudi de nouvelles mesures sur Instagram pour protéger les jeunes du chantage aux photos nues, les plateformes étant de plus en plus scrutées en Europe et aux Etats-Unis pour la protection des mineurs en ligne.
Meta va ainsi mettre en place un « vérificateur de nudité » sur Instagram, paramétré par défaut sur les comptes de mineurs, qui détectera automatiquement les images de nudité reçues sur la messagerie de l’application et les floutera. “De cette manière, le destinataire n’est pas exposé de manière non désirée à un contenu intime et a le choix de voir ou non cette image”, explique à l’AFP Capucine Tuffier, chargée de protection de l’enfance chez Meta France.
Des messages de sensibilisation au chantage photo à caractère sexuel, également appelé « sextorsion », seront envoyés simultanément à l’expéditeur et au destinataire des images, leur rappelant que ces contenus sensibles peuvent donner lieu à des captures d’écran et à des transferts par des personnes malveillantes. « Il s’agit de réduire la création et le partage de ce type d’images », résume Mme Tuffier. De plus, lorsqu’un compte aura été identifié par les outils d’intelligence artificielle de Meta comme étant potentiellement à l’origine de ce type de chantage, ses interactions avec des utilisateurs mineurs seront fortement limitées. Un potentiel compte « criminel » ne pourra donc pas envoyer de messages privés vers le compte d’un mineur, n’aura pas accès à sa liste complète d’abonnés (les comptes des mineurs étant masqués) et les comptes des mineurs n’apparaîtront plus. dans la barre de recherche, détaille Capucine Tuffier.
Santé mentale
Meta avertira également un jeune utilisateur s’il est entré en contact avec un potentiel maître chanteur. Le mineur sera alors dirigé vers un site dédié « Stop Sextorsion » et aura accès à une ligne de crise téléphonique en partenariat avec des associations. Ces nouvelles mesures seront testées à partir de mai dans une poignée de pays d’Amérique centrale et latine avant un déploiement mondial dans les prochains mois.
Meta, accusé aux Etats-Unis et en France de nuire à la santé mentale des adolescents, avait déjà annoncé en janvier une première salve de mesures pour mieux protéger les jeunes utilisateurs. Parmi ceux-ci, un utilisateur mineur aura désormais besoin d’une autorisation explicite de ses parents pour faire passer son compte de privé à public, accéder à des contenus plus dits « sensibles » ou encore avoir la possibilité de recevoir des messages de personnes qu’il ne suit pas déjà sur la plateforme. La Commission européenne a lancé des enquêtes distinctes sur Meta, Snap (Snapchat), TikTok, YouTube sur les mesures mises en œuvre pour protéger la « santé physique et mentale » des mineurs.
