Google AI a commencé à donner aux développeurs l’accès à des fenêtres contextuelles étendues et à des fonctionnalités de réduction des coûts, à commencer par le grand modèle de langage (LLM) Gemini 1.5 Pro. Auparavant disponible sur liste d’attente, la fenêtre contextuelle complète de 2 millions de jetons est désormais ouverte à tous les développeurs. Google introduit également la mise en cache contextuelle pour réduire les coûts des tâches qui réutilisent des informations similaires dans plusieurs invites.
Avec la nouvelle mise à jour, les modèles Gemini 1.5 Pro et Flash peuvent désormais générer et exécuter dynamiquement du code Python. Les modèles peuvent également utiliser l’analyse de données et les mathématiques pour résoudre efficacement les problèmes de raisonnement. Selon Google, l’environnement d’exécution du code est sécurisé et n’a pas d’accès Internet ; la société précise également que les développeurs ne seront facturés que pour le résultat final généré par le modèle. Le modèle léger Gemma 2 est désormais également disponible pour une utilisation dans Google AI Studio. Les personnes intéressées peuvent y accéder sous « Paramètres avancés » dans Google AI Studio.
Plusieurs entreprises utilisent déjà Google Gemini 1.5 Flash. La liste des applications utilisant cette technologie comprend Envision, qui aide les utilisateurs malvoyants, l’analyse des politiques de Plural, le traitement vidéo de Zapier et le système de mémoire AI personnalisé de Dot. L’autre chose qui est actuellement déployée auprès des développeurs est ce que le message de Google appelle le « réglage du texte », dont l’accès complet est prévu pour la mi-juillet.
