Prix Nobel de physique 2024, Geoffrey Hinton, pionnier de l’intelligence artificielle, est aujourd’hui terrifié par ses propres créations. Il met en garde contre le risque d’une intelligence artificielle incontrôlable, capable de surpasser l’intelligence humaine et de menacer l’humanité.
Ils sont les architectes de l’intelligence artificielle et pourtant ils préviennent
L’attribution du prix Nobel de physique 2024 à Geoffrey Hinton, aux côtés de John Hopfield, consacre toute sa vie à la recherche fondamentale sur les réseaux de neurones artificiels, ces structures mathématiques et informatiques qui permettent aux machines d’apprendre. Ironiquement, cette distinction couronne un homme hanté par les implications potentiellement catastrophiques de ses propres découvertes. Hinton, surnommé « le parrain de l’intelligence artificielle », a non seulement contribué à jeter les bases de l’intelligence artificielle moderne, mais est également devenu l’un de ses critiques les plus féroces, avertissant l’humanité des dangers qu’elle représente.
L’Académie royale des sciences de Suède a récompensé Hinton et Hopfield pour leurs « découvertes et inventions fondamentales permettant l’apprentissage automatique à l’aide de réseaux de neurones artificiels ». Ces travaux, entamés il y a plusieurs décennies, ont ouvert la voie à l’explosion actuelle de l’intelligence artificielle, qui a touché des domaines aussi divers que la médecine, la finance ou l’industrie. Toutefois, Hinton, professeur émérite à l’Université de Toronto, ne savoure pas pleinement ce triomphe. Sa démission dramatique de Google en 2023, motivée par des inquiétudes croissantes quant à la trajectoire de développement de l’intelligence artificielle, démontre la profondeur de ses inquiétudes.
Un prix qui les inquiète
La reconnaissance de l’importance de ses travaux par l’institution Nobel, loin de le rassurer, amplifie son inquiétude. “Nous n’avons aucune expérience de ce que signifie avoir des objets plus intelligents que nous”, a-t-il déclaré lors de l’annonce de son prix, exprimant une inquiétude partagée par de nombreux experts. Alors que l’intelligence artificielle promet des avancées remarquables dans des domaines comme la santé, Hinton craint que l’humanité ne perde le contrôle de sa création. Imaginez un futur proche dans lequel des machines, dotées d’une intelligence supérieure à la nôtre, pourraient se retourner contre leurs créateurs, un scénario digne des dystopies hollywoodiennes.
Regardez ce que c’était il y a cinq ans et ce que c’est aujourd’hui. Pour l’instant, les systèmes d’IA ne sont pas plus intelligents que nous, mais je pense qu’ils le seront bientôt
Selon lui, d’ici cinq à vingt ans, la probabilité que l’intelligence artificielle tente de prendre le contrôle de nos vies est importante.
Au cœur des préoccupations de Hinton se trouve la diffusion massive de fausses informations. L’intelligence artificielle, capable de générer des contenus synthétiques de plus en plus réalistes, pourrait inonder Internet de faux textes, images et vidéos, rendant impossible pour le citoyen moyen de distinguer la réalité de la fiction. Cette manipulation de l’information, combinée à la puissance des chatbots, pourrait être exploitée par de « mauvais acteurs » pour influencer l’opinion publique et déstabiliser les démocraties.
La course effrénée à l’innovation entre les géants de la technologie, notamment Google et Microsoft, accentue les craintes de Hinton. Il regrette que la concurrence ait pris le pas sur la prudence, créant une dynamique difficile à contrôler. Si Hinton reconnaît le rôle « responsable » joué par Google jusqu’en 2022, il regrette que l’arrivée de ChatGPT et l’intégration des chatbots dans les moteurs de recherche aient déclenché une dangereuse escalade. C’est aussi pour pouvoir s’exprimer librement sur ces dangers, sans être lié par son poste chez Google, qu’il a choisi de quitter l’entreprise.
L’intelligence artificielle en polémique
Au-delà de la désinformation, l’impact de l’intelligence artificielle sur le marché du travail est une autre Source d’inquiétude pour Hinton. Si l’automatisation promet d’éliminer les tâches fastidieuses, elle risque de rendre de nombreux emplois obsolètes, en remplaçant les humains par des machines plus efficaces et moins coûteuses. Enfin, la perspective de voir l’IA utilisée pour développer des armes autonomes, Des « robots tueurs » capables de prendre des décisions de vie ou de mort sans intervention humaine, est un cauchemar que Hinton ne peut ignorer.
L’attribution le lendemain du prix Nobel de chimie à Hinton et Demis Hassabis, co-fondateur de DeepMind (filiale de Google), soulève également des questions sur la concentration de la recherche sur l’IA au sein des grandes entreprises technologiques. Certains observateurs s’interrogent sur l’influence de ces géants sur l’orientation de la recherche et l’accès aux données, éléments essentiels au progrès de l’IA.
Face à ces menaces potentielles, Hinton appelle à une collaboration internationale entre scientifiques pour trouver des solutions pour contrôler l’intelligence artificielle et limiter ses dangers. Il appelle à une réglementation mondiale, similaire à celle régissant l’utilisation de l’énergie nucléaire, pour éviter une course aux armements technologiques incontrôlée. Le « parrain de l’intelligence artificielle » il espère que son appel sera entendu avant qu’il ne soit trop tard. L’humanité se trouve à un carrefour crucial : exploitera-t-elle l’incroyable puissance qu’elle a créée ou l’avalera-t-elle ?
Source 1
Source 2
