OpenAI, la société qui crée des logiciels d’intelligence artificielle (IA) générative (ChatGPT et DALL-E), vient de lancer un outil permettant aux chercheurs de détecter si des images numériques ont été créées par des programmes d’IA. Il s’agit d’une fonctionnalité attendue car l’origine des contenus mis en ligne est devenue une préoccupation majeure suite à l’explosion de l’IA générative.
Depuis plusieurs mois, cette nouvelle technologie est au cœur des discussions en raison des nombreux risques de création de fausses photographies ou de faux enregistrements audio, notamment à des fins de fraude ou pour réaliser des deepfakes.
Un outil uniquement pour DALL-E3
Pour le moment, ce programme est limité aux images générées par DALL-E3. « Il identifie correctement environ 98 % des images DALL-E3. Moins de 0,5 % des images non générées par l’IA ont été incorrectement attribuées à DALL-E3 », a indiqué la start-up californienne, après avoir réalisé des tests internes sur une version antérieure de l’outil. Évidemment, tout n’est pas encore parfait comme l’a précisé l’entreprise. Selon elle, ce programme voit ses performances réduites lorsque les images créées avec DALL-E3 ont été retouchées ou lorsqu’elles ont été générées par d’autres modèles.
OpenAI a également annoncé l’ajout de filigranes aux images issues de l’IA générative. L’objectif est de répondre aux normes de la Coalition for Content Provenance and Authenticity (C2PA). Cette « Coalition » a été fondée par des acteurs majeurs de l’industrie technologique pour établir des normes techniques permettant de connaître la provenance et l’authenticité du contenu numérique.
OpenAI s’inscrit ainsi dans un mouvement initié par des poids lourds de la tech comme le groupe Meta (Facebook, Instagram) et Google. Depuis mai, Meta étiquete le contenu généré par l’IA sur la base de la norme C2PA.
