Une photo ultra-réaliste créée par l’IA a été partagée sur Reddit. Même si les internautes ont pu repérer des bizarreries en l’analysant de près, cette photo constitue un nouvel avertissement : il devient de plus en plus difficile de repérer les faux visuels.
C’est peut-être une image que vous avez rencontrée en parcourant Reddit ce week-end. Dans la sous-communauté dédiée à ChatGPT, un internaute a ouvert un fil de discussion intitulé « Croyez-le ou non, cette image provient de l’IA », dans lequel il publie un visuel très spectaculaire, qui pourrait être confondu avec une photographie.
Un faux accident avec une voiture Tesla, par Midjourney
La scène montre un accident de la route survenu la nuit dans une ville des États-Unis. Nous comprenons que la voiture a heurté très violemment l’avant, puisque tout le capot a été détruit et des débris ont été éparpillés sur le sol. On pourrait supposer que la photo a été prise par le conducteur (il n’y a plus personne à bord) ou par un témoin, après le crash.
Ce « cliché » ayant été partagé dans une rubrique dédiée à l’intelligence artificielle générative, les internautes qui ont commenté se sont montrés très vigilants – leur présence dans ce sous-forum indique que nous avons affaire à un public plus formé à l’IA générative. De toute façon, qui s’y intéresse et qui a sans doute un œil plus « exercé » ?
Ainsi, une lecture plus attentive des détails de la photo a révélé plusieurs bizarreries. Les internautes ont rapporté :
- la double ligne jaune sur la piste, qui devient alors une ligne blanche discontinue ;
- aucun airbag visible dans l’habitacle ;
- le pare-brise avant intact ;
- l’absence d’autres feux au carrefour, en arrière-plan (en dehors de ceux face à la « caméra ») ;
- l’intérieur anormal du capot et du bloc moteur (les mécaniciens ont constaté l’absence de tel ou tel élément) ;
- les portes et vitres latérales sont visiblement intactes, tout comme les roues avant, malgré l’apparente violence du choc.
Notre journaliste spécialisée dans le secteur automobile, Raphaëlle, a également relevé d’autres étrangetés. Par exemple, la carrosserie n’est pas censée finir en morceaux : elle n’est pas en carbone. Il doit s’agir de tôle froissée. Il peut certes y avoir des débris, mais le capot n’aurait pas dû se fragmenter ainsi (à moins de supposer qu’il est hors écran).
L’espèce de tige posée au sol, au premier plan, n’a également aucun sens. La position de toutes les voitures face aux différents feux, rouge et vert, est également suspecte. Certains véhicules semblent orientés dans la mauvaise direction sur l’image, compte tenu de la grande largeur de la voie. Enfin, la signalisation routière est imparfaitement rendue.
Cette image a été générée sur Midjourney, un puissant outil de création d’IA. La plateforme prépare actuellement la sortie de la version 6 de son générateur (il est disponible en alpha depuis décembre). La version 1 date de février 2022. En l’espace de deux ans, la progression de Midjourney a été phénoménale, avec des rendus désormais photoréalistes.
En réalité, cette image avait déjà circulé une première fois le 26 mars dernier, mais dans la sous-communauté dédiée à Midjourney. Cependant, elle n’a pas reçu la même attention qu’aujourd’hui : 582 votes et 39 commentaires, contre 16 000 votes et 1 800 commentaires sur l’image envoyée au sous-Reddit ChatGPT.
Impossible d’avoir un haut degré de vigilance en permanence, sur tous les sujets
Cette photo ultra réaliste n’est évidemment pas la première du genre à apparaître sur internet pour montrer à quel point l’IA générative a progressé. Ce ne sera pas non plus le dernier. En tout cas, les commentaires des internautes laissent entendre combien il devient compliqué de ne pas se laisser tromper au premier coup d’oeil par une fausse image.
Ici, les commentaires ont collectivement trouvé de nombreux indices qui ne correspondent pas à la réalité, car ceux qui les ont rédigés traînent sur des forums spécialisés dans l’IA générative. Idem pour mon collègue, qui connaît très bien les voitures. Son œil est habitué à voir les véhicules, intacts ou non.
Et si cette photo apparaissait dans un fil de discussion sur Twitter ou dans une publication moyenne sur Facebook, Instagram ou Reddit ? Tous les indices mentionnés ci-dessus seraient-ils visibles ? Ou est-ce juste l’un d’entre eux ? On peut franchement en douter, étant donné le temps relativement court que l’on passe devant une image.
Ce contenu est bloqué car vous n’avez pas accepté les cookies et autres traceurs. Ce contenu est fourni par YouTube.
Pour pouvoir le visualiser, vous devez accepter l’utilisation faite par YouTube de vos données qui pourront être utilisées aux fins suivantes : vous permettre de visualiser et de partager du contenu avec les réseaux sociaux, promouvoir le développement et l’amélioration des produits de Humanoid et de ses partenaires, vous afficher des publicités personnalisées en fonction de votre profil et de votre activité, définir un profil publicitaire personnalisé, mesurer les performances des publicités et des contenus de ce site et mesurer l’audience de ce site (en savoir plus)
j’accepte tout
Gérer mes choix
Il faut aussi imaginer ce problème en le transposant dans un domaine que nous ne maîtrisons pas. Un fan de voitures ne tombera peut-être pas dans le panneau. Mais si on lui présente une fausse image d’un pont généré par l’IA, cette fois il pourrait se laisser berner. Idem si on lui montre un bouleau pubescent. Il n’aura pas forcément l’oeil.
Dans le premier fil de discussion qui a partagé l’image, l’invite initiale a été donnée. Voici la consigne :
Photo Snapchat sur iPhone du cybertruck Tesla qui vient d’avoir un accident de voiture, l’avant de la voiture est détruit, Californie – AR 3: 2 – style brut
Débarrassons-nous tout de suite du point faible de cette notice : Midjourney n’a pas réussi à générer un Cybertruck, au look si caractéristique, tout en métal et angles saillants. Ici, il s’agit plutôt d’un modèle classique, comme le Model Y ou le Model 3, compte tenu des poignées de porte. On note également l’absence de règles techniques.
L’invite donne simplement le rapport d’image (ar 3:2) et l’ordre d’utilisation du mode brut. Le reste est essentiellement une description de la scène prévue, avec une voiture Tesla venant de s’écraser, en Californie, avec l’avant de la voiture détruit. Il est précisé qu’elle doit ressembler à une photo prise par un iPhone, via l’application Snapchat.
C’est tout. Il n’y a aucune indication sur l’éclairage ni la nécessité de viser un rendu ultra réaliste, d’orienter le rendu dans telle ou telle direction. Dans d’autres cas, les sollicitations pour obtenir des rendus ultra réalistes – et très difficiles à discerner – se sont révélées bien plus complexes. C’est le cas de ces visuels artificiels montrant une série de visages.
L’invite utilisée était :
photo amateur prise à l’aube d’un enfant de (insérer) ans (insérer la nationalité ou l’origine ethnique) (insérer le sexe), plan moyen, regardant directement dans l’objectif de l’appareil photo, capturée avec une caméra Arri Live à l’aide d’un objectif 23 mm F2.8 pendant une période dorée heure, en utilisant le film Kodak Portra 400 pour améliorer l’éclairage naturel chaud et doux qui embrasse la scène. L’arrière-plan est simple et sans fioritures, offrant une vue claire et non filtrée du sujet, similaire au style des images sur thispersondoesnotexist.com. –style brut –styliser 0 –v 6
Abonnez-vous à Numerama sur Google Actualités pour ne manquer aucune actualité !
