La version basée sur l’IA de Google génère des réponses complètement invraisemblables

La version basée sur l’IA de Google génère des réponses complètement invraisemblables
La version basée sur l’IA de Google génère des réponses complètement invraisemblables

Nouvelle polémique pour la firme de Mountain View. La fonctionnalité AI Overviews, qui fournit des réponses basées sur l’intelligence artificielle (IA) dans le moteur de recherche Google, génère de nombreuses erreurs depuis son récent déploiement.

De fausses informations inquiétantes

En quelques jours seulement, un flot de publications dénonçant des résultats de recherche faux, voire grotesques, d’AI Overview a inondé la toile. Annoncé en grande pompe lors de Google I/O, l’outil génère des synthèses d’informations au-dessus des résultats de recherche traditionnels, évitant ainsi à l’internaute de devoir naviguer sur plusieurs liens pour obtenir la réponse souhaitée. .

Mais pour l’instant, force est de constater qu’elle reste très imprécise. Par exemple, il recommandait d’insérer de la colle dans une recette de pizza ou d’ingérer de la roche pour en extraire les nutriments. Des contrevérités d’autant plus inquiétantes qu’elles touchent directement la santé. L’IA a même conseillé de « fumer deux à trois cigarettes par jour pendant la grossesse « .

La plupart des exemples que nous avons vus concernaient des requêtes peu courantes, et nous avons également vu des exemples falsifiés ou que nous n’avons pas pu reproduire. », défend Google dans le sens de Le bord. L’entreprise maintient que sa fonctionnalité offre « informations de très haute qualité », mais est contraint de désactiver manuellement l’outil pour des recherches spécifiques, car des captures d’écran compromettantes sont publiées sur les réseaux sociaux.

Google traverse une période tumultueuse

Cette nouvelle polémique met en lumière les difficultés rencontrées par la firme de Mountain View pour rester à la page dans la course à l’IA générative. Fin 2022, elle a été surprise par le lancement de ChatGPT puis, quelques mois plus tard, par l’intégration de l’IA dans Bing.

L’entreprise a alors accéléré pour concurrencer ces deux groupes, d’autant que son principal secteur d’activité, les moteurs de recherche, était directement menacé. Le déplacement des jeunes utilisateurs vers TikTok ou Instagram pour les recherches a accru la pression sur les épaules de Google.

Le lancement rapide de Bard a été fortement critiqué en interne et moqué en ligne. La version plus récente de Gemini a également provoqué un tollé car l’outil générait des images historiquement erronées. Il a depuis été suspendu. La mésaventure d’AI Overviews ne fait qu’empirer la situation, alors que Google est reconnu pour son avance technologique et ses produits de pointe.

Le géant du Web ne peut pas échouer, car la recherche Google est utilisée par des milliards de personnes pour rechercher des informations exactes, précises et de qualité. Cette situation rappelle également que l’IA générative est encore loin d’être totalement fiable, ses fournisseurs ayant encore du mal à lutter contre leur propension à halluciner.

 
For Latest Updates Follow us on Google News
 

PREV L’écran PC gaming Samsung Odyssey G5 34 pouces est en promotion à 25% chez ce marchand
NEXT Echoes of Wisdom, une aventure inédite et originale