Sam Altman a fondé OpenAI en 2015 avec une mission ambitieuse : développer une intelligence artificielle générale qui « profite à toute l’humanité ».
Il a choisi de devenir une organisation à but non lucratif pour soutenir cette mission.
Mais à mesure que l’entreprise se rapproche du développement de l’intelligence artificielle générale, une version encore largement théorique de l’IA capable de raisonner aussi bien que les humains, et que l’argent des investisseurs enthousiastes afflue, certains craignent qu’Altman perde de vue la partie « bénéfice pour toute l’humanité » de l’objectif.
Il s’agit d’un changement progressif mais peut-être inévitable.
OpenAI a annoncé en 2019 qu'elle ajoutait une branche à but lucratif – pour aider à financer sa mission à but non lucratif – mais que, fidèle à son esprit d'origine, l'entreprise limiterait les bénéfices que les investisseurs pourraient rapporter.
« Nous souhaitons accroître notre capacité à lever des capitaux tout en continuant à remplir notre mission, et aucune structure juridique préexistante à notre connaissance ne permet d’atteindre le bon équilibre », a déclaré OpenAI à l’époque. « Notre solution consiste à créer OpenAI LP, un hybride entre une société à but lucratif et une société à but non lucratif, que nous appelons une société à « but lucratif plafonné ». »
Il s’agissait d’une démarche astucieuse qui, à première vue, semblait destinée à satisfaire les employés et les parties prenantes soucieux de développer la technologie en toute sécurité, et ceux qui souhaitaient voir l’entreprise produire et commercialiser des produits de manière plus agressive.
Mais à mesure que les investissements affluaient vers le secteur à but lucratif et que la notoriété de l'entreprise — et celle d'Altman — augmentait, certains sont devenus nerveux.
L'année dernière, le conseil d'administration d'OpenAI a brièvement évincé Altman de son poste, car il craignait que l'entreprise ne commercialise ses produits de manière trop agressive, sans accorder la priorité à la sécurité. Les employés, et notamment Microsoft (avec son investissement de plusieurs milliards de dollars), sont venus à la rescousse d'Altman. Altman a repris son poste quelques jours plus tard.
Le fossé culturel avait cependant été mis en évidence.
Deux des meilleurs chercheurs de l'entreprise, Jan Leike et Ilya Sutskever, ont tous deux démissionné peu de temps après. Le duo était à la tête de l'équipe dite de superalignement de l'entreprise, qui avait pour mission de veiller à ce que l'entreprise développe l'intelligence artificielle générale en toute sécurité, le principe central de la mission d'OpenAI.
OpenAI a ensuite dissous l’équipe de superalignement dans son intégralité plus tard dans le mois. Après son départ, Leike a déclaré sur X que l’équipe « naviguait contre le vent ».
« OpenAI doit devenir une entreprise AGI axée sur la sécurité », a écrit Leike sur X, ajoutant que la création d'une IA générative est « une entreprise intrinsèquement dangereuse », mais qu'OpenAI était désormais davantage préoccupée par la création de « produits brillants ».
Il semble maintenant qu'OpenAI ait presque achevé sa transformation en un mastodonte de type Big Tech « va vite et casse des choses ».
Fortune a rapporté qu'Altman a déclaré aux employés lors d'une réunion la semaine dernière que la société prévoyait de s'éloigner du contrôle du conseil d'administration des organisations à but non lucratif, qu'elle a « dépassé », au cours de l'année prochaine.
Samedi, Reuters a rapporté qu'OpenAI était sur le point d'obtenir un investissement supplémentaire de 6,5 milliards de dollars, ce qui valoriserait l'entreprise à 150 milliards de dollars. Mais des sources ont indiqué à Reuters que cet investissement s'accompagne d'un inconvénient : OpenAI doit renoncer à son plafond de bénéfices pour les investisseurs.
Cela placerait OpenAI idéologiquement loin de ses premiers jours de rêve, lorsque sa technologie était censée être open Source et bénéficier à tous.
OpenAI a déclaré à Business Insider dans un communiqué qu'elle restait concentrée sur « la création d'une IA qui profite à tous » tout en continuant à travailler avec son conseil d'administration à but non lucratif. « L'association à but non lucratif est au cœur de notre mission et continuera d'exister », a déclaré OpenAI.
Related News :