Les ambitions d’OpenAI en matière d’intelligence artificielle à l’échelle humaine semblent faiblir. Avec la dissolution de l’équipe AGI Readiness et le départ d’un dirigeant influent, le chemin vers l’intelligence artificielle générale (AGI) pourrait être plus compliqué qu’on ne l’imaginait. Devons-nous reconsidérer nos attentes ou persister dans ce rêve ?
L’annonce récente d’OpenAI pourrait surprendre les passionnés de technologie. Apparemment, l’équipe AGI Readiness, dédiée à la préparation à l’IA au niveau humain, est en plein désarroi. Miles Brundage, l’un des principaux consultants sur ce projet, a décidé de quitter l’entreprise. La réduction de cette équipe stratégique révèle donc une division interne au sein d’OpenA. La course à l’innovation s’accélère au détriment des préoccupations de sécurité.
L’intelligence artificielle générale d’OpenAI ne verra pas le monde ?
Ainsi, OpenAI a récemment fait un choix. Ils ont dissous leur équipe Préparation à l’AGI. Celle qui aurait dû ouvrir la voie à l’arrivée de l’intelligence artificielle générale (AGI). Miles Brundagele responsable de cette équipe a quitté le navire le 23 octobre. Il a été très clair, car selon lui « ni OpenAI ni aucun autre laboratoire de pointe ne sont prêts [pour l’AGI]et le monde n’est pas prêt non plus ».
Miles Brundage est décédé six ans pour travailler sur la sécurité de l’IA chez OpenAI. Il estime même que les managers au sein de l’entreprise partagent cette conscience. J’ai l’impression qu’il ne s’agit pas seulement d’un changement de carrière. En outre, il a souligné que la société limite de plus en plus ses liberté de recherche. Pour lui, il est essentiel que des voix indépendantes s’expriment Politiques d’intelligence artificiellesans préjudice ni conflits d’intérêts. Ainsi, selon ses mots, c’est en dehors d’OpenAI qu’elle pourra avoir le plus grand impact sur la gouvernance mondiale de l’IA.
Si l’on ajoute à cela les récents départs de figures emblématiques comme Jan LeikeUn autre chercheur éminent et également co-fondateur Ilya Sutskever, cela commence à ressembler à une fissure majeure dans la culture d’entreprise d’OpenAI. Leike a également déclaré que « la culture et les processus de sécurité ont été relégués au second plan face à des produits brillants « . Je dirais que l’obsession des produits à succès a pris le dessus. OpenAI a alors mis la sécurité de côté.
L’équilibre entre recherche et rentabilité, un dilemme difficile
OpenAI n’est plus la petite organisation à but non lucratif dont rêvaient les fans. Jour 2019est passée à un modèle hybride, oscillant entre recherche fondamentale et pression commerciale. L’entreprise doit donc devenir rentable d’ici deux ans pour éviter de rembourser une partie de son financement de 6,6 milliards de dollars. Cette situation n’a fait qu’exacerber les tensions au sein de l’équipe.
Pour Miles Brundage, cette évolution vers la commercialisation est une réelle préoccupation. Il avait déjà fait part de ses craintes en 2019. L’exécutif craint que la mission initiale d’OpenAI, dédiée à Une IA bienveillante accessible à tousou mis en danger.
Même s’il a quitté OpenAI, l’entreprise lui a quand même proposé un soutien à ses projets avenir. En particulier de côté financement, les crédits API et accès anticipé aux modèles, sans contraintes. Je sais qu’il est difficile de dire s’il acceptera cette offre. Mais cela montre qu’il n’y a pas de ligne de démarcation claire entre cela et OpenAI.
Selon vous, les ambitions d’OpenAI sont-elles encore réalisables ? Avec tous ces départs, pensez-vous qu’AGI soit encore à portée de main ou est-ce un rêve lointain ? Dites-nous ce que vous en pensez dans les commentaires !
Partagez l’article :
Facebook
Gazouillement
LinkedIn
Notre blog est alimenté par les lecteurs. Lorsque vous achetez via des liens sur notre site, nous pouvons gagner une commission d’affiliation.
