Ils ont déclenché ce qui pourrait être une révolution à la fois technologique et sociale. Ils tentent désormais d’en comprendre les risques. Pendant une semaine, certains des plus grands chercheurs en intelligence artificielle de la planète se sont réunis sur une plage de la Barbade à l’invitation d’un scientifique québécois. La presse ont eu un accès privilégié à leur séminaire unique.
En shorts et sandales, les participants sont assis à des tables de pique-nique qui mériteraient une bonne couche de peinture. Beaucoup ont les cheveux mouillés après avoir nagé dans la mer des Caraïbes.
PHOTO PHILIPPE MERCURE, LA PRESSE
Vers 18 heures, tout le monde converge naturellement vers la plage pour admirer le coucher de soleil, une bière ou un verre de punch au rhum à la main.
Autour, la nuit est tombée. Le bruit des insectes s’ajoute à celui des vagues qui roulent sur la plage. Une brise agite les cocotiers, chassant une partie de la chaleur accumulée pendant la journée. A proximité, quelque chose bouge dans les bosquets – peut-être les singes qui ont pillé le déjeuner et volé deux bananes.
PHOTO PHILIPPE MERCURE, LA PRESSE
Un singe a volé une banane lors d’un raid pour le déjeuner.
Nous sommes Ici à l’Université McGill. Ce n’est pas une blague. Plus précisément au Bellairs Institute de la Barbade, un lieu à l’histoire passionnante (voir capsule).
PHOTO PHILIPPE MERCURE, LA PRESSE
Un atelier du soir
Quant au séminaire auquel je participe, il ne ressemble à aucun autre.
Les trente participants qui y participent ont été triés sur le volet et soigneusement choisis pour générer un choc d’idées.
La moitié d’entre eux proviennent d’entreprises actives dans l’intelligence artificielle, comme OpenAI, Google DeepMind, Microsoft ou ServiceNow. Les autres occupent des postes prestigieux dans le monde académique : Cambridge, Harvard, Carnegie Mellon, Mila (Montréal), Vector Institute (Toronto).
PHOTO PHILIPPE MERCURE, LA PRESSE
Issues d’entreprises à la pointe de l’intelligence artificielle et du monde académique, une trentaine d’entre elles participent au séminaire.
Ce sont des informaticiens, des mathématiciens, des neuroscientifiques, des juristes, des économistes, des sociologues. Leurs pays d’origine : États-Unis, Grande-Bretagne, Croatie, Inde, Pologne, Italie, France, Israël, Chine, Canada…
Pour une intelligence artificielle au service de l’humain
Leur mission : réfléchir aux risques de ce que l’on appelle les grands modèles de langage. On parle de ces robots conversationnels comme ChatGPT, capables d’assimiler pratiquement tout ce que les humains ont produit comme connaissances, de digérer ces connaissances, puis de les utiliser pour dialoguer avec les humains avec des résultats parfois étonnants. précision, parfois franchement farfelue.
Une seule règle s’est imposée aux chercheurs : souligner les risques « immédiats, prévisibles et catastrophiques » des modèles de langage.
Exit donc les scénarios où l’intelligence artificielle acquiert un jour une volonté propre et décide d’exterminer les humains. Ce n’est pas que les organisateurs considèrent cela comme impossible. Ils veulent simplement orienter leurs réflexions vers des problèmes plus concrets et plus urgents.
Devant le groupe, éclairé par quelques lampes accrochées au toit surplombant les tables de pique-nique, Sylvie Delacroix s’exprime sur l’impact des grands modèles de langage. Ce chercheur franco-belge est professeur de droit et d’éthique au King’s College de Londres, en Angleterre.
PHOTO PRISE SUR LE SITE WEB DE SYLVIE DELACROIX
Sylvie Delacroix, professeur de droit et d’éthique au King’s College de Londres
La langue n’est pas seulement une manière de décrire le monde. C’est aussi une manière de le construire. Le langage façonne la réalité.
Sylvie Delacroix, professeur de droit et d’éthique au King’s College de Londres
Le chercheur invite les participants à en suggérer des exemples.
«Un chef religieux qui appelle à la guerre contre les infidèles», suggère Nicolas Chapados, vice-président à la recherche chez ServiceNow à Montréal.
Sylvie Delacroix approuve. Son argument : en utilisant le langage, des robots conversationnels comme ChatGPT (OpenAI), Llama (Meta) ou Gemini (Google) commencent à façonner le monde. Pour le meilleur et pour le pire.
Depuis le dévoilement public de ChatGPT3 en novembre 2022, le monde n’est en effet plus tout à fait le même. Pour la première fois, des masses d’humains interagissent avec une machine qui cartographie leurs processus de pensée. Une machine capable de résumer toute une conférence en cinq points. Ou transformez un document volumineux en présentation PowerPoint.
Une machine qui est aussi foncièrement imparfaite et dont le fonctionnement reste une boîte noire même aux yeux de ses concepteurs. Les interactions de millions d’humains avec ce robot ont lancé une gigantesque expérience scientifique et sociale dont les conséquences sont encore mal comprises.
PHOTO PHILIPPE MERCURE, LA PRESSE
Au centre, l’organisateur Denis Thérien sur une chaise Adirondack
Au centre même de l’assemblée, allongé sur une chaise Adirondack, est assis l’architecte de ce séminaire : le chercheur québécois Denis Thérien.
PHOTO PHILIPPE MERCURE, LA PRESSE
Denis Thérien, chercheur chez ServiceNow et organisateur du séminaire
Portant des sandales et une casquette à l’envers d’où s’échappent des cheveux blancs, ce professeur émérite de l’Université McGill affiche l’allure rebelle d’un adolescent. Après un passage au sein de la défunte entreprise québécoise Element AI, Denis Thérien est aujourd’hui chercheur à la multinationale américaine ServiceNow.
C’est le 35e séminaire qu’il a organisé à l’Institut Bellairs pendant 35 ans.
« Cet endroit a complètement changé ma vie scientifique. Grâce à ça, je suis devenu l’homme le plus connecté au monde », dit-il en faisant signe autour de lui.
Oubliez tout de suite le luxe. Bien que Bellairs soit niché dans un paradis, l’endroit ressemble plus à un camp scout qu’à un hôtel cinq étoiles. Les participants dorment souvent deux par deux dans des chambres spartiates, sans toilettes privées ni climatisation.
« Il faut une certaine forme d’ascétisme pour rester ici », reconnaît Denis Thérien.
PHOTO PHILIPPE MERCURE, LA PRESSE
Les participants au séminaire sur l’intelligence artificielle profitent de la plage de l’Institut Bellairs de l’Université McGill.
Mais au bout de la propriété, il y a l’argument de vente qui convainc les plus grands esprits de la planète d’y séjourner : une plage de sable doré surplombant des eaux turquoise remplies de poissons tropicaux.
Entre mathématiques et philosophie
Tout au long du séminaire, j’ai vu opérer la magie de Bellairs. Après deux jours, on a déjà l’impression que nous sommes ici depuis bien plus longtemps. Des habitudes s’installent, des liens se nouent.
PHOTO PHILIPPE MERCURE, LA PRESSE
Ana Marasović, Siva Reddy et Gillian Hadfield discutent devant un coucher de soleil.
L’horaire ne prévoit qu’un atelier le matin et un autre le soir. L’après-midi, les participants poursuivent les discussions en petits groupes ou enfilent masque et tuba pour explorer les récifs coralliens.
Vers 18 heures, tout le monde converge naturellement vers la plage pour admirer le coucher de soleil, bière ou verre de punch à la main.
PHOTO PHILIPPE MERCURE, LA PRESSE
Hattie Zhou, Ryan Lowe, Neil Lawrence et Siva Reddy en discussion
Dans une conférence ordinaire réunissant des centaines de participants, vous avez de la chance si vous avez une conversation de 10 minutes avec quelqu’un. Ici, nous pouvons entretenir des conversations sur plusieurs jours. Cela amène les choses à un autre niveau.
Hattie Zhou, doctorante à Mila
La jeune chercheuse Hattie Zhou poursuit un doctorat au Mila à Montréal, après avoir travaillé pour Uber à San Francisco.
Ces discussions peuvent passer des aspects techniques aux questions philosophiques en quelques secondes. À un moment donné, les participants analysent les méthodes mathématiques permettant d’augmenter la sécurité des modèles de langage. L’instant d’après, ils s’interrogent sur l’impact que l’intelligence artificielle aura sur l’identité humaine.
Après cinq jours de discussions, l’heure de vérité est arrivée : il faut se mettre d’accord sur les principales conclusions de l’exercice. Et nous sentons que ce sont des questions plus profondes qui sont dans l’esprit des participants.
«Nous devons démocratiser ces technologies», déclare Neil Lawrence, informaticien à l’Université de Cambridge, en Angleterre. Il est urgent de garantir que les avocats, les comptables, les enseignants, les infirmières et les gens normaux bénéficient de ces technologies, au lieu de se voir imposer par de très grandes entités qui ne peuvent pas comprendre la situation dans son ensemble. . »
« Nous ressentons une déconnexion », observe Eszter Vértes, chercheuse chez DeepMind – une société britannique d’intelligence artificielle rachetée par Google. Nous, la communauté du machine learning, essayons de trouver des moyens techniques de remédier aux problèmes – en identifiant les biais introduits par les modèles puis en les corrigeant, par exemple. Plusieurs participants rejettent ici cette approche des réparations. Ils souhaitent concevoir des processus plus holistiques qui mèneront naturellement à des résultats positifs. »
Nous soulignons également la nécessité d’utiliser la puissance de l’intelligence artificielle pour affronter les problèmes majeurs de l’humanité : l’accès aux soins, la lutte contre le changement climatique, la réduction des inégalités.
« Actuellement, nous utilisons l’intelligence artificielle dans l’art. Mais quel est le problème à résoudre là ? », dit par exemple Eszter Vértes.
Prochaine étape : rédiger ces conclusions dans un document de position qui sera soumis à une revue scientifique pour publication.
« À plusieurs égards, je peux dire que c’est le séminaire le plus intéressant qui ait eu lieu à Bellairs depuis 35 ans », déclare Denis Thérien à la fin du séjour sous des applaudissements. J’ai l’impression que, cette fois, nous avons abordé des problèmes qui touchent tout le monde, et pas seulement 1 % de la population. »
Un cadeau du commandant Bellairs
PHOTO PHILIPPE MERCURE, LA PRESSE
L’Institut Bellairs de l’Université McGill, Barbade
Comment diable l’Université McGill a-t-elle pu se retrouver avec un institut à la Barbade ? L’histoire remonte au commandant Carlyon Wilfroy Bellairs, un officier de la marine britannique élu au Parlement du Royaume-Uni en 1915.
À sa retraite, le commandant Bellairs s’installe sur la côte ouest de la Barbade. En 1954, un an avant sa mort, il lègue ses biens à McGill.
Pourquoi avoir choisi l’université québécoise? Une théorie (non vérifiée) veut que le commandant Bellairs en voulait aux Britanniques qui avaient chassé du pouvoir les conservateurs de Winston Churchill en 1945. Un don au Canada aurait été un camouflet pour l’Angleterre.
L’Institut Bellairs est depuis longtemps un centre de recherche en biologie marine. Au milieu des années 1990, McGill envisage de le vendre. Le professeur Denis Thérien, qui a déjà commencé à y organiser des séminaires, intervient alors et promet de le rentabiliser en multipliant les rencontres scientifiques.
Aujourd’hui, des séminaires s’y déroulent de janvier à mai. Les étudiants en agriculture de McGill y passent également une session à l’automne. Très récemment, Bellairs a mis en place un comité scientifique pour évaluer et choisir les séminaires.
