« Je peux imaginer l’IA générale d’ici 10 ans »

Eric Sibony (co-fondateur et Chief Science Officer de Shift Technology, start-up française spécialisée dans la détection de fraude à l’assurance par intelligence artificielle) : Shift propose des solutions de détection de fraude par intelligence artificielle. Cela permet d’analyser toutes les données disponibles pour détecter si une réclamation ou un comportement est suspect. Notre produit fournit des indicateurs, ce n’est jamais une conclusion, qui fait toujours référence à un humain pour l’investigation finale. Il ne s’agit pas de profiler les gens, nous analysons réellement la situation.

Paris Match : Pourquoi Paris est-elle devenue une place forte de l’IA ?

Le reste après cette annonce

Eric Sibony : Je dirais même la France dans son ensemble. Cela vient de la spécificité de la formation technique et pluridisciplinaire des ingénieurs français, les poussant à travailler dans des domaines scientifiques comme les mathématiques, tout en voulant résoudre des problèmes concrets. L’IA nécessite de fortes compétences scientifiques et technologiques mais l’objectif reste de s’attaquer à des problèmes « réels ». C’est la raison de notre choix de nous installer en France : avoir accès à ce vivier de personnes très fortes et désireuses de résoudre des problèmes concrets.

Paris Match : En 2024, l’investissement mondial dans l’IA serait de 150 milliards, dont une centaine rien que pour les « Sept Magnifiques » (Alphabet, Amazon, Apple, Meta, Microsoft, Nvidia, Tesla). L’Europe peut-elle jouer un rôle déterminant auprès de ses « petites » start-up ?

Eric Sibony : Oui, si ces start-up et ces licornes deviennent aussi des géants de la tech. Il semble difficile aujourd’hui de déloger les 7 acteurs dont vous parlez, mais OpenAI a montré avec Chat GPT qu’il était possible de passer d’une petite start-up à un acteur technologique majeur en quelques années. Certes, OpenAI est américaine mais elle n’est pas réservée aux entreprises américaines. D’un autre côté, nous avons besoin d’une stratégie « à l’américaine », d’ambition maximale et d’investissements colossaux.

Paris Match : Quelles sont les principales avancées technologiques qui ont permis l’essor récent de l’IA ?

Eric Sibony : La croissance récente est clairement liée aux grands modèles de langage (LLM). Le terme IA est devenu courant en 2016 lorsqu’une IA a battu le champion du monde de Go, et il était basé sur l’apprentissage profond. Les LLM sont une sous-catégorie du deep learning, ils utilisent donc ses avancées. Mais ils s’appuient sur une découverte de 2017 qui a mis du temps à devenir impactante car elle nécessitait de très grands modèles, entraînés sur beaucoup de données. D’ici 2022, la taille des modèles et des données a atteint un niveau suffisant pour provoquer une rupture.

Paris Match : Comment définiriez-vous l’intelligence artificielle et qu’est-ce qui la distingue des autres formes d’automatisation ?

Eric Sibony : Un bon exemple est la distinction entre un métro automatique et un véhicule autonome. Un métro automatique va tout droit, suit les rails, s’arrête au bon endroit, il n’impressionne plus personne. Un véhicule autonome doit rouler dans le monde réel et faire face à des milliards de situations. L’intelligence artificielle, même lorsqu’elle est utilisée pour automatiser des processus, est utile dans sa capacité à improviser face à de multiples situations, intelligemment, comme le fait un humain. Historiquement, l’automatisation gérait des règles de base dans un environnement stable. L’intelligence artificielle est capable de s’adapter à un environnement changeant.

Paris Match : L’IA est-elle la plus grande révolution technologique qui ait jamais existé ?

Eric Sibony : Sans aucun doute, même si on peut aussi dire ça de la roue ! Ce qui est sûr, c’est que l’IA actuelle, en progressant vers l’intelligence artificielle générale puis la superintelligence, pourrait conduire à une IA capable de s’améliorer. Son intelligence exploserait alors et tout le futur deviendrait possible, faisant naître une forme de singularité. C’est en ce sens qu’on peut dire que cela changerait profondément les choses.

Paris Match : Elon Musk pense qu’en 2029, l’IA serait supérieure à tous les cerveaux humains réunis, permettant ainsi l’IA généralisée. Quel est votre avis sur ce calendrier ?

Eric Sibony : C’est sûr que ça va arriver, la question est quand. Elon Musk aime les phrases choquantes. Personnellement, quand on regarde tous les progrès, l’IA irrigue tout, de la biotechnologie aux puces cérébrales. On peut imaginer qu’une puce nous projette dans une réalité augmentée avec l’IA, nous conférant des capacités « Terminator » tout en restant humain. Cela ne semble pas être si lointain, pas dans 50 ans en tout cas. Pour donner une fenêtre temporelle, je dirais d’ici 10 ans pour l’IA générale.

Paris Match : La conscience et les émotions sont-elles nécessaires à la véritable intelligence ou l’IA pourrait-elle s’en passer ?

Eric Sibony : C’est un vrai débat. Quand on voit comment les humains, même les bébés, captent très vite les intentions des autres en se projetant par rapport à eux-mêmes, on se rend compte qu’il s’agit là d’un mode d’apprentissage puissant. Les IA n’ont pas ces émotions aujourd’hui. En ont-ils besoin pour devenir intelligents ? Dur à dire. Certains le pensent, d’autres que les LLM deviendront suffisamment grands pour développer des émotions. Mais nous ne savons même pas vraiment ce qui se passe chez un humain lorsqu’il ressent des émotions, donc dans une machine, c’est une véritable question ouverte.

Paris Match : Des données massives suffiront-elles à permettre l’émergence d’une super IA ou faudra-t-il d’autres ingrédients ?

Eric Sibony : Je ne pense pas que les données seront une limite. Plus les modèles sont performants, plus ils génèrent de données pour s’entraîner. Chez Open AI, pour Chat GPT3.5, ils devaient beaucoup étiqueter pour obtenir de bonnes réponses. Ils n’en avaient plus besoin pour GPT4. Car cette dernière a su apprendre du comportement des utilisateurs. Les goulots d’étranglement pourraient être liés à la puissance de calcul, à l’énergie, comme le souligne Elon Musk, ou au fait que nous n’avons pas encore trouvé la bonne architecture de réseau neuronal qui résoudra tout.

Paris Match : Elon Musk ou Sam Altman pensent que nous serons limités par la puissance purement électrique dans le développement de l’IA. Qu’en penses-tu ?

Eric Sibony : C’est pourquoi Altman a son énorme projet avec 7 milliards d’investissements pour construire des usines de puces dédiées à l’IA. Nvidia est très demandé et devient un goulot d’étranglement. Mais le progrès peut venir de n’importe où. Sam Altman a également investi dans une start-up de fusion nucléaire. Chaque année apporte son lot de nouveautés géniales.

Paris Match : L’émergence de l’IA généralisée représente-t-elle automatiquement un risque existentiel pour l’humanité ?

Eric Sibony : Je n’ai jamais compris ce qui s’est passé dans 2001 : L’Odyssée de l’espace, et pourquoi HAL 9000 s’est révolté. Mais le risque n’est pas forcément que l’IA veuille tuer tout le monde. Dans le film Her, à la fin, les IA s’en vont parce qu’elles trouvent les humains inintéressants. Le risque existentiel n’est donc pas forcément là où on l’attend. Entre-temps, les grands acteurs de l’IA ont signé des pétitions pour une régulation mondiale, car il est certain que dès qu’on laisse une IA agir dans le monde réel pour exploiter son potentiel économique, il y aura des risques. encadrer.

Paris Match : Que pensez-vous de la récente loi européenne sur l’IA si elle ne s’applique pas au reste du monde ?

Eric Sibony : Je ne l’ai pas analysé en détail mais c’est toute la complexité d’une telle réglementation. Si cela ne contraint que les Européens, mais pas les Américains ou les Chinois, cela pourrait poser problème. Si une IA développée aux États-Unis sans ces contraintes réglementaires finit par dominer l’Europe, elle n’aura pas servi à grand-chose. Cela dépendra de la manière dont les autres régions du monde évolueront sur ces sujets.

Paris Match : Comment pourrait-on vérifier qu’une IA est consciente d’elle-même selon vous ?

Eric Sibony : C’est une très bonne question ! Le test de Turing visant à déterminer si une machine peut se faire passer pour un être humain semble déjà avoir été résolu. Quand nous voyons les agents conversationnels et le fait que les gens y trouvent de la valeur, voire en tombent amoureux, nous avons atteint un stade d’illusion de conscience.

Or, savoir si l’IA a une vraie conscience ou non est aussi difficile que pour les humains ou les animaux. Nous ne savons même pas comment l’expliquer ici.

Paris Match : Quels sont les enjeux d’explicabilité et de transparence des algorithmes d’IA ?

Eric Sibony : La question se pose un peu différemment avec les grands modèles de langage. Il y a plusieurs aspects. Lorsqu’un système automatisé prend des décisions très importantes, nous devons savoir pourquoi, sinon nous n’avons pas confiance. Vous devez être capable d’expliquer chaque décision. C’est ce que nous faisons dans nos produits et c’est un réel besoin opérationnel. Si les utilisateurs ne comprennent pas l’alerte, cela ne leur est d’aucune utilité.

En revanche, expliquer comment le système appris est différent. Un humain sait expliquer son raisonnement mais pas comment depuis son enfance il a acquis tel ou tel concept. De même, la question n’est pas tant d’expliquer comment l’IA apprend mais plutôt, lorsqu’elle prend une décision critique, qu’elle puisse la justifier.

Paris Match : L’IA va détruire de nombreux emplois, mais pensez-vous qu’elle en créera beaucoup plus à long terme ?

Eric Sibony : Je pense que cela va en créer beaucoup mais aussi les éliminer rapidement. Par exemple, le métier d’ingénieur prompteur lié à l’utilisation d’agents conversationnels pourrait disparaître d’ici un ou deux ans si l’IA devient plus facile à utiliser pour le grand public. Un scénario possible serait un monde dans lequel l’IA automatiserait tellement de choses qu’une grande partie de la population n’aurait plus besoin de travailler et de bénéficier d’un revenu universel. Mais même dans ce scénario, il y aurait sans doute de fortes inégalités, avec en premier lieu ceux qui dirigent l’IA et qui y gagneraient énormément. Si nous ne sommes pas dans ce monde, ce sera sans aucun doute comme les révolutions industrielles précédentes : des emplois supprimés et d’autres créés.

Paris Match : l’IA sera-t-elle notre assistante ou notre remplaçante ?

Eric Sibony : Je pense que ce sera les deux. Nous voudrons laisser à l’IA tout le travail de base que nous ne voulons pas faire. Je vois encore un avenir dans le divertissement. Dans un monde où une grande partie du travail est déléguée, les gens voudront toujours faire quelque chose et l’IA les aidera inévitablement. Un bon exemple est cette Japonaise qui a remporté le prix du meilleur roman avec beaucoup d’aide de GPT, mais avec une maîtrise de l’outil impressionnante par rapport aux autres auteurs. Si nous imaginons des puces IA dans le cerveau, n’importe quel athlète pourrait avoir une IA qui lui indiquerait le meilleur mouvement à effectuer, rendant ainsi tout le monde très fort. Mais certains intégreront cela mieux que d’autres. L’IA deviendra un assistant, un super outil pour augmenter les humains.