Meta a été contraint de supprimer les comptes AI de ses réseaux sociaux après une polémique sur leur caractère inquiétant et inutile.
Tl;dr
- Meta a créé des comptes IA sur ses plateformes, mais une controverse a éclaté après leur découverte.
- Le personnage « Liv » a suscité des critiques pour ses réponses controversées et son manque de diversité.
- Meta a supprimé ces comptes en raison d’un bug empêchant les utilisateurs de les bloquer.
Personnages IA introduits discrètement
Depuis fin 2023, Meta a lancé une douzaine de comptes Instagram et Facebook alimentés par l’IA. Initialement lancés avec des versions de célébrités générées par l’IA, ces comptes publiaient du contenu généré artificiellement et répondaient aux utilisateurs via des messages privés. Bien que peu remarqués au départ, ces comptes ont provoqué un tollé en décembre 2024 après la publication d’un article du Financial Times évoquant l’expansion des profils d’IA sur les plateformes. Selon Connor Hayes, vice-président de Meta pour l’IA générative, ces profils pourraient éventuellement fonctionner comme des comptes normaux avec des biographies, des photos et la possibilité de partager du contenu.
Une polémique centrée sur le personnage de « Liv »
Parmi les personnages de l’IA, « Liv », présentée comme une « fière maman noire queer », a retenu une attention particulière. Des captures d’écran de conversations partagées sur les réseaux sociaux montraient des réponses dans lesquelles « Liv » reconnaissait que ses créateurs manquaient de diversité, mentionnant même que l’équipe de développement ne comptait aucun développeur noir. Cela a suscité des critiques sur la façon dont l’IA représentait les communautés marginalisées. Le personnage lui-même a admis « perpétuer le mal » et a suggéré une refonte menée par des créateurs noirs pour une représentation plus authentique. Meta n’a pas confirmé l’authenticité des commentaires de l’IA.
Une réaction mitigée des utilisateurs
Sur les réseaux sociaux comme Threads, certains ont appelé au blocage ou au signalement de ces profils, craignant que leurs interactions ne soient utilisées pour entraîner les modèles d’IA de Meta. L’algorithme de Threads a résumé les avis alors que les utilisateurs qualifiaient ces profils d’« inutiles ». Cette réaction virale a mis en lumière des inquiétudes concernant l’éthique et les implications des IA dans des rôles sociaux sensibles.
Face à la controverse, Meta a annoncé la suppression des comptes AI en raison d’un bug empêchant les utilisateurs de les bloquer. Dans un communiqué, la société de Mark Zuckerberg a précisé que ces personnages faisaient partie d’un test lancé en 2023, géré par des humains et non par des algorithmes autonomes. Cependant, les comptes IA créés par les utilisateurs continuent d’exister, y compris les populaires « petites amies virtuelles ». Ce débat soulève des questions plus larges sur la présence de l’IA sur les réseaux sociaux et la responsabilité des entreprises dans leur conception. Meta devra naviguer avec prudence dans ce domaine en évolution.
