Ilya Sutskever, co-fondateur d’OpenAI, qui a démissionné de son poste de directeur scientifique le mois dernier, a dévoilé son nouveau projet. Il vient de créer sa propre startup baptisée SSI pour Safe SuperIntelligence. Chez OpenAI, il est entré en conflit avec Sam Altman sur la politique suivie en matière de gestion de la sécurité de l’IA. En novembre dernier, il faisait partie des membres du conseil d’administration qui cherchaient à l’évincer, ce qu’il a ensuite regretté.
Lorsqu’il co-dirigeait l’équipe de superalignement d’OpenAI, Ilya Sutskever estimait qu’une superintelligence, capable de surpasser l’esprit humain, pourrait apparaître d’ici une décennie. Il a mis en garde contre ses conséquences possibles :
« La superintelligence sera la technologie la plus impactante que l’humanité ait jamais inventée et pourrait nous aider à résoudre bon nombre des problèmes les plus importants du monde. Mais le vaste pouvoir de la superintelligence pourrait également être très dangereux et conduire à la perte de pouvoir de l’humanité, voire à son extinction. »
C’est inspiré par cette idée qu’Ilya Sutskever lance son nouveau projet. Daniel Gross et Daniel Levy, deux chercheurs ayant travaillé dans les laboratoires Apple et OpenAI, le rejoignent en tant que co-fondateurs.
« Construire une superintelligence sécurisée (SSI) est le problème technique le plus important de notre époque »écrivent-ils sur le site de la startup, précisant qu’elle aura « un objectif et un produit : une superintelligence sûre ».
Pour cela, SSI entend « aborder la sécurité et les capacités en tandem »en cherchant à faire progresser les capacités le plus rapidement possible tout en veillant à ce que la sécurité reste la priorité.
« Notre objectif unique signifie qu’il n’y a aucune distraction liée aux frais généraux de gestion ou aux cycles de produits, et notre modèle commercial signifie que la sûreté, la sécurité et le progrès sont tous protégés des pressions commerciales à court terme. »disent les fondateurs.
L’entreprise n’en dit pas plus sur la manière dont elle va financer son développement, mais sa mission est claire. Elle appelle les ingénieurs qui veulent « Concentrez-vous sur SSI et rien d’autre » pour venir grossir ses rangs. La startup américaine ouvre ses premiers bureaux à Palo Alto et Tel Aviv.
Un appel qui trouvera peut-être un écho auprès des employés d’OpenAI et de Google DeepMind qui ont publié au début du mois une lettre ouverte avertissant des dangers de l’IA.
