Meta Platforms a publié jeudi des versions préliminaires de son dernier modèle de langage majeur, Llama 3, et d’un générateur d’images qui met à jour les images en temps réel à mesure que les utilisateurs saisissent des messages, dans le but de rattraper le leader du marché de l’IA générative, OpenAI.
Les modèles seront intégrés à l’assistant virtuel Meta AI, que la société présente comme le plus sophistiqué de ses homologues gratuits. L’assistant figurera plus en évidence dans les applications Facebook, Instagram, WhatsApp et Messenger de Meta, ainsi que dans un nouveau site Web autonome qui lui permettra de concurrencer plus directement ChatGPT, le grand succès d’OpenAI soutenu par Microsoft.
Cette annonce intervient alors que Meta s’efforce de proposer des produits d’IA générative à ses milliards d’utilisateurs pour contester la position dominante d’OpenAI dans la technologie, ce qui implique une refonte de l’infrastructure informatique et la consolidation d’équipes de recherche et de produits auparavant distinctes.
Le géant des médias sociaux a doté Llama 3 de nouvelles capacités de codage informatique et lui a fourni cette fois des images ainsi que du texte, même si pour l’instant le modèle ne produit que du texte, a déclaré Chris Cox, directeur général des produits chez Meta, dans une interview.
Un raisonnement plus avancé, comme la possibilité d’élaborer des plans plus longs en plusieurs étapes, suivra dans les versions ultérieures, a-t-il ajouté. Les versions prévues pour les mois à venir seront également capables de « multimodalité », ce qui signifie qu’elles seront capables de générer à la fois du texte et des images, a déclaré Meta dans des articles de blog.
“L’objectif est de vous faciliter la vie, qu’il s’agisse d’interagir avec des entreprises, d’écrire quelque chose ou de planifier un voyage”, a déclaré Cox.
M. Cox a déclaré que l’inclusion d’images dans la formation du Llama 3 améliorerait une mise à jour des lunettes intelligentes Ray-Ban Meta, un partenariat avec le fabricant de lunettes Essilor Luxoticca, qui permet à Meta AI d’identifier les objets vus par le porteur et de répondre aux questions à leur sujet.
Meta a également annoncé un nouveau partenariat avec Google (Alphabet) pour inclure les résultats de recherche en temps réel dans les réponses de l’assistant, complétant ainsi un accord existant avec Bing (Microsoft).
Meta AI Assistant s’étend à plus d’une douzaine de marchés en dehors des États-Unis avec cette mise à jour, notamment l’Australie, le Canada, Singapour, le Nigeria et le Pakistan. Meta « travaille toujours sur la bonne façon de procéder en Europe », a déclaré Cox, où les règles de confidentialité sont plus strictes et où la prochaine loi sur l’IA est sur le point d’imposer des exigences telles que la divulgation. modéliser les données de formation.
Le besoin vorace de données provenant de modèles d’IA génératifs est devenu une Source de tension majeure dans le développement de la technologie.
Dans le cadre de ses efforts de rattrapage, Meta a mis des modèles tels que Llama 3 à la disposition des développeurs pour une utilisation commerciale gratuite, car le succès d’une option gratuite puissante pourrait contrecarrer les plans des concurrents visant à extraire des revenus de leur technologie propriétaire. Cette stratégie a également suscité des inquiétudes en matière de sécurité de la part des critiques qui craignent que des développeurs peu scrupuleux n’utilisent le modèle pour construire.
Le PDG de Meta, Mark Zuckerberg, a fait un clin d’œil à ce concours dans une vidéo accompagnant l’annonce, dans laquelle il a qualifié Meta AI de « l’assistant d’intelligence artificielle le plus intelligent que vous puissiez utiliser librement ». .
Mark Zuckerberg a déclaré que la plus grande version de Llama 3 est actuellement entraînée avec 400 milliards de paramètres et obtient déjà 85 MMLU, citant les mesures utilisées pour exprimer la force et la qualité des performances des modèles d’IA. Les deux versions plus petites actuellement déployées comportent 8 milliards de paramètres et 70 milliards de paramètres, et cette dernière a obtenu un score d’environ 82 MMLU (Massive Multitask Language Understanding), a-t-il déclaré.
Les développeurs se sont plaints du fait que la version précédente du modèle Llama 2 manquait de contexte de base, confondant les requêtes sur la façon de « tuer » un programme informatique avec les demandes d’instructions sur la façon de commettre un meurtre. Le concurrent Google a été confronté à des problèmes similaires et a récemment suspendu l’utilisation de son outil de génération d’images Gemini AI après avoir été critiqué pour avoir produit des représentations inexactes de personnages historiques.
Meta a déclaré avoir réduit ces problèmes dans Llama 3 en utilisant des « données de haute qualité » pour que le modèle reconnaisse les nuances. L’entreprise n’a pas fourni de détails sur les ensembles de données utilisés, mais a déclaré qu’elle avait mis sept fois plus de données dans Llama 3 que dans Llama 2 et qu’elle avait utilisé des données « synthétiques », c’est-à-dire créées par l’IA, pour renforcer les zones. comme le codage et le raisonnement.
M. Cox a déclaré qu’il n’y avait « aucun changement majeur » dans la manière dont l’entreprise s’approvisionne en données de formation. (Reportage de Katie Paul, édité par Nick Zieminski)
