Dario Amodei, PDG d’Anthropic, affirme que d’ici l’année prochaine, les modèles d’intelligence artificielle pourraient être capables de « se reproduire et de survivre dans la nature ». Il ajoute : « Je peux me tromper, mais je pense que cela pourrait arriver à court terme.
Dario Amodei est un chercheur et entrepreneur italo-américain spécialisé en intelligence artificielle. Il est le co-fondateur et PDG d’Anthropic, la société à l’origine de la grande série de modèles de langage Claude AI. Il était vice-président de la recherche chez OpenAI.
Alors que l’IA semble devenir chaque jour plus puissante, l’une des personnes clés qui s’investissent pour la rendre plus intelligente affirme qu’elle pourrait même bientôt devenir autonome et se répliquer. Dans une interview avec Ezra Klein du New York Times, le PDG d’Anthropic, Dario Amodei, a parlé de «mise à l’échelle responsable» technologie et explique qu’en l’absence de gouvernance, elle pourrait commencer à se reproduire.
Comme M. Amodei l’a expliqué à M. Klein, Anthropic utilise les niveaux de biosécurité des laboratoires de virologie comme analogie avec l’IA. Selon lui, le monde est actuellement en ASL 2, et en ASL 4, ce qui comprendrait «autonomie“et le”persuasion“, c’est peut-être nos portes.
“L’ASL 4 visera davantage, du point de vue des abus, à permettre aux acteurs étatiques d’étendre considérablement leurs capacités, ce qui est beaucoup plus difficile que de permettre à des personnes aléatoires», a déclaré M. Amodei. “Nous craignons donc que la Corée du Nord, la Chine ou la Russie puissent renforcer significativement leurs capacités offensives dans divers domaines militaires grâce à l’IA, ce qui leur donnerait un avantage géopolitique substantiel.“
En matière d’autonomie, ses prédictions sont encore plus audacieuses. “Diverses mesures de ces modèlesil continue, sont sur le point de pouvoir se reproduire et survivre dans la nature.
Lorsque Klein lui a demandé combien de temps il faudrait pour atteindre ces différents niveaux de menace, Amodei a répondu qu’il pensait “en exponentielles“, dit-il, il pensait au niveau “se reproduire et survivre dans la nature“pourrait être réalisé”entre 2025 et 2028“.”Je parle vraiment du futur proche. je ne parle pas de 50 ans», a déclaré le PDG d’Anthropic. “Dieu m’accorde la chasteté, mais pas maintenant. Mais « pas maintenant » ne signifie pas quand je serai vieux et gris. Je pense que cela pourrait être à court terme« .
M. Amodei est une personnalité sérieuse dans ce domaine. En 2021, lui et sa sœur Daniela ont quitté OpenAI en raison de divergences d’orientation suite à la création de GPT-3, que le PDG et co-fondateur a contribué à construire, et au partenariat de l’entreprise avec Microsoft. Peu de temps après, les frères et sœurs ont fondé Anthropic avec d’autres expatriés d’OpenAI pour poursuivre leurs efforts de développement responsable.
“Je ne sais pas“, a-t-il poursuivi lors de l’interview de Klein.”Je peux me tromper. Mais je pense que ça pourrait être un projet à court terme« .
Alors que les propos alarmistes à propos de l’IA sont monnaie courante de nos jours, le point de vue d’Amodei ajoute beaucoup de poids à son argument et fait de la mission d’Anthropic «pour garantir que l’IA transformatrice aide les individus et la société à prospérer« d’autant plus digne d’intérêt.
Source : Entretien avec Ezra Klein du New York Times dans un podcast
Et toi ?
Pensez-vous que ces déclarations sont crédibles ou pertinentes ?
Pensez-vous que ses fantasmes sont réalistes ? Ou plutôt une manière d’attirer l’attention sur lui ? Ou vaudrait-il mieux qu’il écrive des livres de science-fiction ?
Voir aussi :
Quand arrivera l’intelligence artificielle supérieure AGI, quand les humains seront totalement remplacés par l’IA, la fin du monde par l’IA. Découvrez toutes les prédictions de 2 778 chercheurs
Elon Musk prédit que l’IA dépassera l’humain le plus intelligent en 2025 ou dès 2026 et que les capacités de l’IA dépasseront celles de tous les humains au cours des 5 prochaines années.
Sam Altman, PDG d’OpenAI, déclare que l’IA au niveau humain est imminente, mais qu’elle ne changera pas le monde autant que nous le pensons et que les craintes autour de l’AGI sont exagérées.
