Elle s’appelle Aitana Lopez, elle est mannequin, voyage beaucoup et poste sur son compte InstagramInstagram des photos d’elle à travers le monde. Quelque 350 000 personnes suivent Aitana. Mais, dans ce nom d’Aitana, il y a un indice : Ai, comme l’intelligence artificielle… Car Aitana Lopez n’existe pas. Elle est le produit d’une IA, tout comme ses photos. Il en va de même pour Kimochii, une influenceuse également populaire sur Instagram. Ces deux personnages fictifs permettent à leurs créateurs de générer plusieurs milliers de dollars réels par mois avec leurs photos et publications qui n’existent pas dans la réalité.
Ce type de compte généré par l’IA inonde Instagram et FacebookFacebook et, jusqu’à la semaine dernière, cela était parfaitement assumé par Meta. « Était », car, à partir du moment où les utilisateurs des réseaux de Meta ont pu constater que ces centaines de milliers de personnages virtuels existaient réellement et que Meta entendait amplifier le mouvementmouvement pour multiplier les interactions, des critiques ont surgi.
Ces comptes générés par l’IA font bel et bien partie des produits proposés par Meta. Il est donc possible de créer un profil de ce type pour publier des publicités et du contenu généré par l’IA. Ce type d’outil est principalement utilisé pour créer des chatbots, mais comme ils sont associés à un profil utilisateur, c’est souvent l’équivalent d’un vrai compte.
Les contenus créés par l’IA doivent être clairement indiqués sur toutes ses plateformes, mais les risques de désinformation et de tromperie restent néanmoins importants. Elles provoquent parfois de véritables drames. Mais il y a pire encore, de son côté depuis 2023, Meta gère également sa propre horde de profils générés par l’IA.
Euthanasie robotique
Cette évolution des profils d’IA en était venue à inquiéter l’un des dirigeants de la firme. Dès juillet, il imaginait que ces bots finiraient par devenir l’avenir de Meta. Il faut dire qu’il y a un peu plus d’une semaine, Futura rapportait cette intention clairement exprimée par Connor Hayes, vice-président produit pour l’IA générative de Meta. Lors d’un entretien avec Temps Financier. Il a dit que ces comptes générés par l’IA « aurait une biographie et des photos de profil, et serait capable de générer et de partager du contenu alimenté par l’IA « . De quoi créer un universunivers rempli de robots alimentant d’autres robots avec du contenu généré automatiquement, en d’autres termes.
Face aux critiques, à l’inquiétude des utilisateurs et à leur migration vers Bluesky et Reddit en raison de l’invasion des robots, Meta a soudainement décidé de supprimer ces profils gérés par l’IA. Une sorte deeuthanasieeuthanasie en masse de ces faux profils inquiétants, en d’autres termes.
Mais Meta affirme avoir été mal comprise quant à ses intentions avec ces profils d’IA. Il s’agissait à l’origine d’un test lancé en 2023 et ces profils étaient de toute façon gérés par des humains selon Meta. En tout cas, expérimentation ou pas, cette histoire de profils d’IA, ne ressemblant en rien aux fameuses fermes à trolls de Saint-Pétersbourg, restait suffisamment inquiétante pour que Meta ne puisse pas poursuivre l’aventure. Quant aux comptes comme Aitana Lopez gérés par des particuliers ou des entreprises, ils devraient continuer à alimenter les plateformes de Meta et poursuivre leurs interactions avec des individus du monde réel.
