Actualités JVTech Nous savons enfin pourquoi les résultats de recherche Google ont été catastrophiques ces derniers temps. Le manager a tout clarifié et indique que des changements vont venir
Publié le 03/06/2024 à 20h20
Partager :
Google explique les aperçus de l’IA entachés de réponses étranges et parfois dangereuses.
La recherche Google a récemment fait l’objet d’une polémique suite à des dysfonctionnements de son système AI Insights, qui génère des réponses automatisées aux requêtes des utilisateurs. Ces réponses, parfois « étrange, inexact ou inutile », ont exprimé des inquiétudes concernant la fiabilité de cette nouvelle fonctionnalité.
Des exemples alarmants
Certains des exemples les plus préoccupants incluent des conseils dangereux, comme affirmer qu’il est sécuritaire de laisser des chiens dans des voitures chaudes ou recommander de boire de grandes quantités d’urine pour dissoudre un calcul rénal. Ces réponses, relayées par des captures d’écran virales, ont mis en avant les risques potentiels liés à l’usage aveugle de l’IA.. D’autres exemples, bien que moins dangereux, étaient tout aussi farfelus, comme la suggestion d’utiliser de la colle pour coller du fromage sur une pizza. Ces réponses illustrent les limites de l’IA face à des requêtes ambiguës ou humoristiques, sources de confusion pour les utilisateurs..
Crédit photo : Freepik
Liz Reid, responsable de la recherche Google, reconnu les problèmes rencontrés et a fourni des explications sur les causes possibles de ces erreurs. Elle a notamment évoqué la quantité limitée de données sur lesquelles l’IA a été entraînée avant son déploiement généralisé.. En effet, la question « Combien de pierres dois-je manger ? » »qui a généré une réponse absurde, n’avait presque jamais été posée à Google auparavant. L’IA s’est donc appuyée sur les informations disponibles, en l’occurrence un article satirique, pour générer sa réponse.
Les mesures correctives de Google
Face à ces dysfonctionnements, Google a mis en place des mesures correctives pour améliorer la précision des AI Previews. L’IA a été améliorée pour mieux détecter l’humour et le contenu satirique, limitant ainsi la propagation des réponses trompeuses.. De plus, la société a réduit l’intégration des réponses générées par les utilisateurs dans les aperçus, privilégier des sources plus fiables comme les sites officiels et les articles de presse. Enfin, Google a ajouté des restrictions pour certaines requêtes, comme les sujets de santé, pour lesquelles les aperçus IA ne se sont pas révélés très utiles.
Malgré ces efforts, il est probable que d’autres erreurs se produiront à l’avenir. L’IA, par nature, est un système en constante évolution qui apprend de ses interactions avec les utilisateurs.. Google devra donc continuer à surveiller de près les performances des AI Previews et à procéder à des ajustements au fur et à mesure.
