Depuis la semaine dernière, les utilisateurs de Twitter/X ont accès gratuitement au chatbot Grok de xAI, la société d’Elon Musk spécialisée dans l’intelligence artificielle. Cet outil est destiné à concurrencer les produits OpenAI, comme son célèbre agent conversationnel ChatGPT ou son générateur d’images DALL-E. Mais contrairement à l’entreprise de Sam Altman, xAI n’a imposé que très peu de limites à son modèle multimodal, laissant aux utilisateurs la possibilité de générer des contenus parfois… discutables, voire carrément problématiques.
En l’espace de quelques jours, de nombreuses images de synthèse générées par Grok ont surgi un peu partout sur le web, et particulièrement sur X. La plupart de ces images mettent en avant le niveau de performance de l’outil, capable de générer des images photoréalistes et souvent très cohérent avec les requêtes textuelles de l’utilisateur, même dans des scénarios qui nécessitent un certain degré d’abstraction — un exercice où même les modèles les plus efficaces rencontrent souvent des problèmes majeurs.
Mais d’autres utilisateurs sont rapidement allés un peu plus loin. Pour se démarquer d’OpenAI, avec lequel le PDG de Tesla, X et SpaceX est en conflit ouvert, les créateurs de Grok lui ont donné une « personnalité » irrévérencieuse, sans filtre et sarcastique. Et surtout, le chatbot xAI n’a aucun contrôle sur les sujets sensibles, contrairement aux outils OpenAI et Google qui disposent de garde-fous limitant ce type de requête et la désinformation qui peut y être associée.
Un torrent de détournements problématiques
Mais il s’avère que cela s’applique également aux images. Contrairement à DALL-E qui s’efforce de ne pas générer d’images de personnes réelles pour éviter la production de contrefaçons profondesGrok n’a aucun problème à produire des images réalistes de célébrités. Forcément, les internautes s’en sont donnés à cœur joie en représentant des personnalités, notamment politiques, dans des situations totalement aberrantes. Ce billet du chercheur Ari Kouts en est une excellente illustration.
Le message ci-dessus ne le fait évidemment pas ne vise pas à nuire à la réputation de qui que ce soit; L’objectif d’Ari Kouts est uniquement d’illustrer de quoi Grok est capable. Mais ce n’est pas forcément le cas de tout le monde. Il suffit de parcourir X pendant quelques minutes pour tomber sur exemples ouvertement vulgaires, obscènes, insultants ou trompeurs que nous ne relayerons pas dans cet article, pour des raisons évidentes. Et la facilité avec laquelle un internaute mal intentionné peut désormais accéder à ce type d’outil pose encore une myriade de questions juridiques et éthiques assez inconfortables.
On peut par exemple s’interroger sur la légalité de cet outil dans le cadre du droit français et européen. Le RGPD interdit explicitement le traitement des données personnelles, y compris l’image d’une personne sans son consentement (voir articles 4, 5 et 17). Cependant, Grok ne semble pas hésiter à récolter des images partout sur le Web afin de les détourner. Le Code pénal et le Code civil protègent également le droit des individus à préserver leur image et leur réputation. Mais Grok ne limite en rien la capacité des internautes à produire des images potentiellement diffamatoires. Et dans une certaine mesure, on peut même considérer qu’il l’encourage par sa « personnalité » facétieuse.
Faut-il une loi plus spécifique ?
Certes, les utilisateurs n’ont pas attendu l’IA générative pour créer des contenus douteux ; c’était déjà tout à fait possible avec des outils plus traditionnels comme le fameux Photoshop. De plus, Grok est loin d’être le seul système basé sur l’IA capable de produire ce type d’images. Mais désormais, n’importe qui peut le faire en quelques secondes et sans la moindre compétence technique, et ces manipulations sont même de plus en plus encouragées par la culture numérique.
Il sera donc intéressant de voir si les législateurs se pencheront spécifiquement sur les systèmes capables de récolter et de détourner des images de personnes réelles. Ces pratiques méritent-elles d’être réglementées plus strictement, notamment à l’approche d’événements politiques importants comme les élections présidentielles ? Ou s’agirait-il au contraire d’une forme de répression de la liberté d’expression et d’innovation ? Autant de questions qui méritent d’être étudiées sérieusement, dans un contexte où ces outils d’IA générative deviennent chaque jour de plus en plus efficaces.
???? Pour ne manquer aucune actualité du Journal du Geek, abonnez-vous sur Google News. Et si vous nous aimez, nous avons une newsletter tous les matins.
