Alerte sur les fausses vidéos d’idéologie dangereuse que vos enfants pourraient voir sur TikTok, Instagram et X

Avec les récents développements dans matièrematière De l’intelligence artificielle, les deepfakes sont de plus en plus nombreux et crédibles. Le Washington Post vient de tirer la sonnette d’alarme sur une multiplication des deepfakes d’Adolf Hitler par l’extrême droite américaine. Sur la base d’un rapport duInstitut pour le dialogue stratégiquel’article met en garde contre les vidéos négationnistes créées avec l’IA et obtenant des millions de vues.

Le rapport s’est notamment concentré sur des vidéos où l’IA était utilisée pour dupliquer la voix d’Hitler pour le faire parler en anglais, contenu qui a obtenu plus de 25 millions de vues sur X (ex-GazouillementGazouillement), Tik TokTik Tok et InstagramInstagram depuis le 13 août. Sans surprise, les chercheurs ont découvert que les vidéos étaient plus visibles sur émissionémission par Tucker Carlson, ancien présentateur de la chaîne Fox Nouvellesqui diffuse désormais sur le réseau X. Il avait invité le podcasteur Daryl Cooper, qui tenait des propos négationnistes. Elon MuskElon Musk le patron de ça vaut le coup d’être regardé », avant de le supprimer par la suite. ” Si ces commentaires ont suscité une vive controverse en ligne, ils ont généré une grande quantité de contenus glorifiant Hitler et le présentant comme un « artisan de la paix ». », dit le rapport.

Contenu créé en quelques minutes

Un utilisateur, qui s’identifie comme un créateur de contenu néo-nazi, avait publié un tutoriel sur Odysee sur l’utilisation du logiciel d’ElevenLabs pour créer des deepfakes audio d’Hitler en seulement cinq minutes. Il suffit de quelques secondes pour lire un discours d’Hitler YouTubeYouTube dupliquer sa voix et pouvoir lui faire prononcer une traduction d’un de ses discours ou de tout autre texte. Ces vidéos sont souvent publiées sur TikTok, Instagram ou X sans référence explicite à Hitler ou à un logo extrémiste, l’audio étant accompagné de visuels sans rapport. Cela les rend très difficiles à détecter pour les équipes de modération du site. réseaux sociauxréseaux sociaux.

Les chercheurs l’ont également souligné sur le fil d’actualité. Ils s’inquiètent de la montée des contenus négationnistes et révisionnistes en général, et du manque de réactivité des plateformes.