Une tendance virale et dangereuse
Ces vidéos ont plusieurs points communs : ils ont été réalisés à l’aide d’outils d’IA comme Runway, et s’inspirent d’événements réels. Ils remplacent les êtres humains impliqués dans des événements tragiques par des personnages animés, ce qui rend les scènes d’autant plus troublantes.
Dans l’une des vidéos les plus virales, on peut voir un Minion assis devant un ordinateur, qui met fin à ses jours en reproduisant en direct le suicide de Ronnie McNutt en 2020. Un autre reprend les éléments visuels du Fusillade de Christchurch en 2019perpétrés dans deux mosquées en Nouvelle-Zélande. Ces reconstitutions, bien que stylisées, reprennent les décors et les sons des incidents originaux, amplifiant leur impact psychologique.
Initialement lancé en Russiecette tendance s’est rapidement étendue à des plateformes comme TikTok et Instagram, où certaines vidéos cumulent des centaines de milliers de vues. Ces vidéos semblent innocentes au premier abord, mais leur tournure révèle un profond inconfortce que soulignent de nombreux créateurs de contenu comme Noah Glenn Carter. Des vidéos qui ne seraient jamais autorisées avec des humains sont postées avec ces personnages animés. Cela vous permet de publier des choses qui ne devraient pas exister
.
Un appel à la vigilance
Interrogé par nos confrères de 404médiasTikTok a déclaré qu’il supprimait tout le contenu qui viole (ses) règles communautaires, qu’il ait été modifié ou non par l’intelligence artificielle. Cela inclut les contenus haineux, sanglants ou extrêmement violents.
. La plateforme – qui n’est pourtant pas en odeur de sainteté aux USA – affirme également travaille sur des mises à jour de ses algorithmes pour détecter plus efficacement les vidéos générées par l’IA et empêcher la distribution de contenus inappropriés.
Face à la montée de cette tendance, il faut donc démontrer vigilance accrue. Derrière l’apparente légèreté des Minions se cachent des vidéos qui, en plus de normaliser la violence, peuvent heurter les plus jeunes spectateurs fans des Minions en l’occurrence. Au-delà de cela, ces vidéos soulèvent plusieurs questions sur la gestion des contenus : comment les plateformes doivent (peuvent-elles ?) gérer les nouvelles formes de contenus générés par l’intelligence artificielle tout en protégeant leurs communautés ? Un problème qui, à l’ère de l’IA, semble loin d’être résolu.
