Les médias sociaux ont toujours été un terrain fertile pour les contenus viraux, mais une nouvelle tendance alarmante émerge, mettant en évidence leutilisation cynique des images générées par l’intelligence artificielle (IA) attirer l’attention et obtenir aimeen particulier de la génération de baby-boomers (personnes nées entre 1946 et 1954, au moins), qui semblent être des cibles privilégiées.
La verticale Slate.fr dédiée aux nouvelles technologies, Korii, rapporte une enquête menée par le site d’investigation américain 404 Media. Ce dernier révèle que Facebook, le géant des médias sociaux, abrite désormais une profusion d’images virtuelles représentant des enfants dans des situations de leur choix, des exploits incroyables, toutes dents blanches découvertes, ou au contraire une détresse extrême, allant de la maladie à la mutilation.
Des enfants maigres et déformés…
Ces images, aussi troublantes que réalistes, mettent en scène des enfants maigres, déformés ou équipés de respirateurs, luttant pour leur survie sur des plages désolées ou mendiant au bord des routes. Parfois au contraire, ils les montrent tous souriants et fiers d’avoir construit un petit chalet en bois ou un labrador fabriqué avec des bouteilles en plastique recyclées.
Leur aspect irréel ne semble pas toujours évident à certains utilisateurs, soit trompés par ces montages, soit indifférents à leur authenticité.
Le phénomène suscite un vif débat sur les réseaux sociaux, certains utilisateurs exprimant leur malaise face à cette exploitation du misérabilisme, associé à une esthétique étrange et inquiétante.
Si certains posts précisent qu’il s’agit d’images générées par l’IA, d’autres omettent cette information crucialecontribuant ainsi à la confusion et à la crédulité des utilisateurs.
Recevez de bons vœux adressés à ces enfants virtuels
Ces derniers vont même jusqu’à adresser des vœux de rétablissement à ces enfants virtuels, ignorant totalement leur caractère artificiel.
Les pages incriminées pourraient potentiellement ouvrir la porte à des escroqueries en ligneavec des utilisateurs bien intentionnés mais trompés qui pourraient être incités à faire un don pour ces faux enfants.
Face à cette menace croissante, Facebook prévoit d’introduire des mesures pour identifier clairement le contenu généré par l’IArendant obligatoire la mention « généré par une IA ».
Meta, le groupe propriétaire de Facebook, envisage une approche combinant détection automatique et signalement volontaire par les créateurs de contenusmais il est peu probable que cela suffise à mettre fin au problème.
Interrogé par 404 Media, la société de la Silicon Valley n’a pas fait de commentaire supplémentaires pour le moment, laissant planer le doute sur les actions concrètes à venir pour contrer cette nouvelle forme d’abus des réseaux sociaux.
