En mai dernier, Ilya Sutskever, co-fondateur et ancien scientifique en chef d’OpenAI, a quitté l’entreprise avec éclat, invoquant de profonds désaccords sur les priorités de l’entreprise.
Mais ce leader très respecté du machine learning, qui a grandement contribué au développement de ChatGPT tel que nous le connaissons aujourd’hui, n’a pas encore écrit sa dernière ligne de code. Il vient d’officialiser le lancement de Safe Superintelligence Inc (SSI)une nouvelle startup spécialisée dans – vous l’aurez deviné – l’intelligence artificielle.
La sécurité à tout prix
Le nom de cette nouvelle société est loin d’être anodin. En effet, la sécurité des modèles d’IA a toujours été à la fois la spécialité et la principale préoccupation de Sutskever. Chez OpenAI, il était notamment à la tête de la célèbre équipe de superalignementdont la mission était de « contrôle » les modèles du cabinet et garantir leur « alignement avec les valeurs humaines ».
C’est d’ailleurs cet aspect de la recherche en IA qui aurait précipité son départ. Selon plusieurs sources américaines, ses relations avec le PDG Sam Altman se seraient considérablement détériorées. Il est de notoriété publique que ce dernier ne partageait pas franchement son goût pour le principe de précaution. Il se concentre davantage sur les performances de ses modèles. Une philosophie qui a porté ses fruits sur le plan commercial, puisqu’elle a notamment ouvert la voie à un accord de plus de 10 milliards de dollars avec Microsoft – au grand dam d’Elon Musk.
Mais ce manque de souci de sécurité, bien documenté, a également créé une fracture irréparable au sein de l’entreprise. C’est l’un des principaux arguments invoqués en novembre 2023, lorsqu’Altman a été évincé du conseil d’administration… où siégeait Ilya Sutskever.
Il n’est donc pas étonnant de voir que cette thématique occupe une place centrale dans le pitch de sa nouvelle startup. ” Nous avons lancé le premier laboratoire SSI au monde, avec un seul objectif et un seul produit : une superintelligence sûre. C’est notre mission, notre nom et toute notre feuille de route produit, car c’est notre seul objectif », explique le premier communiqué de la firme.
« Nous abordons la sécurité et les capacités en tandem, comme des problèmes techniques que nous souhaitons résoudre grâce à une ingénierie révolutionnaire et à des avancées scientifiques majeures. Nous prévoyons de développer nos capacités le plus rapidement possible tout en garantissant que notre sécurité reste toujours en avance. Nous pouvons ainsi avancer en toute sérénité. »
Le texte contient même une fouille à peine dissimulée dans son ancienne écurie. ” Cette approche résolue signifie que nous ne souffrirons pas de distractions telles que les frais de gestion ou les cycles de produits, et notre modèle commercial signifie que la sûreté, la sécurité et le progrès sont à l’abri des pressions commerciales à court terme. » Sam Altman et Satya Nadella ont probablement les oreilles qui bourdonnent.
Le “superintelligence», un concept encore nébuleux
Pour l’instant, SSI n’a pas révélé beaucoup d’informations sur sa feuille de route. On sait seulement que la firme ambitionne de construire un «superintelligence» – un terme nébuleux dont les implications sont encore vagues pour le moment. Intuitivement, cela ressemble au concept deintelligence artificielle généraleL’objectif revendiqué par Sam Altman depuis le début d’OpenAI.
Pour rappel, cela désigne un système capable de réaliser toutes les tâches intellectuelles dont l’humain est capable, voire de surpasser notre espèce dans ces exercices. Mais le communiqué du SSI évite soigneusement d’utiliser ce terme. Et c’est un détail qui, encore une fois, est tout sauf anodin. Est-ce simplement un tour de passe-passe sémantique pour marquer sa différence avec OpenAI, ou cette terminologie se cache-t-elle de réelles différences technologiques et philosophiques ? SSI marchera-t-il sur le terrain de Sam Altman ou opérera-t-il dans un espace différent ? L’avenir nous le dira.
Enfin, il convient également de noter que ce n’est pas la première fois qu’une startup d’intelligence artificielle tient ce genre de discours axé sur la sécurité. Il s’agit d’un domaine lexical très en vogue qui a notamment l’avantage de contribuer à attirer les investisseurs, dans un contexte où de nombreux spécialistes s’inquiètent des conséquences potentielles d’une recherche débridée en IA. Il sera donc intéressant de voir si Sutskever et ses co-fondateurs, dont l’ancien ingénieur OpenAI Daniel Levy, prêcheront par l’exemple… ou si la réalité impitoyable de ce marché ultra-compétitif obligera SSI à changer de direction. comme son ancienne équipe l’a fait. À suivre.
Pour ne manquer aucune actualité du Journal du Geek, abonnez-vous sur Google News. Et si vous nous aimez, nous avons une newsletter tous les matins.
