Il y a quelques semaines, les experts ont souligné que nous avons atteint la limite des données de formation pour l’intelligence artificielle. Suite à la popularité de ChatGPT, de nombreuses entreprises ont cherché à imiter ses capacités, notamment Google, Apple et Meta, qui s’efforcent de proposer des assistants d’IA génératifs.
Cependant, la voix la plus reconnue de l’industrie technologique a révélé que les données nécessaires à la formation des modèles d’intelligence artificielle ne sont plus disponibles et qu’il est urgent de trouver une solution.
>> Vous n’allez pas le croire : Elon Musk et Mark Zuckerberg s’unissent contre les créateurs de ChatGPT !
Comme le souligne TechCrunch, Elon Musk a affirmé que nous avions atteint la limite des données du monde réel pour entraîner des modèles d’IA. Il précise cependant que cette situation ne s’est pas produite maintenant, mais qu’elle s’est produite il y a quelques mois, toujours en 2024. Elon Musk souligne ainsi les propos d’Ilya Sutskever, ancien scientifique en chef d’OpenAI, qui indiquait déjà en 2022 que le l’industrie avait atteint une situation qu’il appelait « données de pointe ». Au vu de ce qui s’est passé, le milliardaire en conflit avec les créateurs de ChatGPT a donc proposé une solution temporaire pour continuer à entraîner les modèles d’IA.
Les grandes entreprises utilisent déjà des données synthétiques
Pour Elon Musk, une excellente option consiste à utiliser les données générées par l’intelligence artificielle elle-même, un aspect connu sous le nom de « données synthétiques ». Cela aidera à créer des pipelines d’apprentissage automatique et à suivre les traces d’entreprises comme Microsoft, Meta, OpenAI et Anthropic qui suivent déjà cette voie. En fait, selon certaines estimations, d’ici 2024, 60 % des données utilisées seront synthétiques, car à tout ce qui précède il y aura d’autres avantages comme la réduction des coûts.
>> “Je devais le supplier à chaque fois…» : Un ancien employé de Tesla décrit ce que signifie travailler au quotidien avec Elon Musk
Cependant, certaines recherches suggèrent que l’utilisation de données synthétiques pourrait conduire à l’effondrement de différents modèles, réduisant ainsi la créativité et augmentant les biais dans les résultats. En effet, si les données générées présentent des biais ou des limites, les modèles entraînés avec ces données reproduiront ces mêmes problèmes dans leurs résultats. Cependant, cela ne semble pas être une limitation ni pour Elon Musk ni pour des entreprises comme Microsoft, Google ou Anthropic, étant donné qu’elles les ont utilisés dans des modèles tels que Phi-4, Gemma et Claude 3.5 Sonnet.
Article rédigé nos confrères de 3dJeux.
