Meta a récemment dévoilé sur Instagram une série de nouvelles mesures visant à renforcer la protection des jeunes contre le chantage lié aux photos intimes, une préoccupation croissante en matière de sécurité en ligne des mineurs. L’une de ces mesures clés est la mise en place d’un « vérificateur de nudité » sur Instagram.
Ce dispositif sera activé par défaut sur les comptes des utilisateurs mineurs. Son rôle principal sera de détecter automatiquement les images contenant de la nudité envoyées via la messagerie de l’application, et de les flouter avant que le destinataire ne les visualise. Cette initiative vise à prévenir l’exploitation et le chantage des photos intimes, en offrant une couche de protection supplémentaire aux jeunes utilisateurs de la plateforme.
“De cette manière, le destinataire n’est pas exposé de manière non désirée à un contenu intime et a le choix de voir ou non cette image”, explique à l’AFP Capucine Tuffier, chargée de protection de l’enfance chez Meta France.
Parallèlement à la mise en place du « vérificateur de nudité » sur Instagram, Meta prévoit également d’envoyer des messages de sensibilisation concernant le chantage sexuel aux photos, également connu sous le nom de « sextorsion ». Ces messages s’adresseront à la fois à l’expéditeur et au destinataire des images, dans le but de les sensibiliser aux dangers liés à la diffusion de contenus sensibles en ligne. En effet, ces messages rappelleront aux utilisateurs que des photos à caractère intime peuvent être capturées au travers de captures d’écran et potentiellement transférées par des individus malveillants.
Cette initiative vise à sensibiliser les utilisateurs aux risques liés à la divulgation de contenus sensibles et à encourager des comportements en ligne plus sûrs, en particulier auprès des utilisateurs plus jeunes qui peuvent être plus vulnérables à ce type d’exploitation.
De plus, Meta a annoncé que lorsqu’un compte est identifié par ses outils d’intelligence artificielle comme potentiellement impliqué dans un chantage sexuel aux photos, ses interactions avec des utilisateurs mineurs seront considérablement restreintes. Cette mesure vise à protéger activement les jeunes utilisateurs en réduisant leur exposition à des comptes pouvant constituer une menace pour leur sécurité en ligne.
Un potentiel compte « criminel » ne pourra donc pas envoyer de messages privés vers le compte d’un mineur, n’aura pas accès à sa liste complète d’abonnés (les comptes des mineurs étant masqués) et les comptes des mineurs n’apparaîtront plus dans la recherche. bar, détaille Capucine Tuffier.
Meta ira encore plus loin en prévenant directement un jeune utilisateur s’il entre en contact avec un potentiel maître chanteur. Dans ce cas, le mineur sera immédiatement dirigé vers un site dédié appelé « Stop Sextorsion », où il pourra trouver des ressources et des conseils pour faire face à la situation. Par ailleurs, Meta mettra à disposition des jeunes utilisateurs une ligne d’écoute téléphonique en partenariat avec des associations spécialisées, offrant ainsi un accompagnement direct et professionnel pour faire face à cette forme d’exploitation en ligne.
Ces mesures préventives et de soutien seront dans un premier temps testées à partir du mois de mai dans quelques pays d’Amérique centrale et latine, avant d’être déployées à l’échelle mondiale dans les mois à venir. Ce déploiement progressif permettra à Meta d’évaluer l’efficacité de ces initiatives et d’adapter ses stratégies en fonction des retours d’expérience afin de mieux protéger la communauté des utilisateurs, notamment les plus vulnérables.
