Alors que les risques de l’intelligence artificielle (IA) pour nos démocraties augmentent, le professeur à l’Université de Montréal et autorité mondiale en la matière, Yoshua Bengio, soutient que nos élus ne sont pas suffisamment outillés pour faire face aux défis du phénomène.
« Les politiques ne sont pas suffisamment conscients de la vitesse à laquelle les choses bougent et de l’importance des décisions collectives qui seront prises par nos parlements au cours des prochaines années », soutient d’emblée le professeur en entrevue à La Presse. Canadien.
L’Institut Mila, fondé par Yoshua Bengio, propose des formations sur l’IA, notamment aux élus. «Nous voulons nous assurer que les politiciens de toutes nos juridictions et de tous les partis puissent mieux comprendre les enjeux», explique celui qui a reçu mardi la Médaille d’honneur de l’Assemblée nationale du Québec.
« Nous avons commencé ce genre de choses avec le gouvernement fédéral. Nous serions tout à fait intéressés à le faire avec notre Parlement québécois», ajoute-t-il.
L’Assemblée nationale indique qu’elle n’a pas organisé de formation sur l’IA jusqu’à présent, mais que des activités sur le sujet sont parfois organisées.
Interférence, désinformation, hyperfaking
Les dangers liés à l’IA pour les démocraties sont de plus en plus présents et nombreux : ingérence dans les élections, désinformation ou encore hyper-truquage (faux profond). On peut notamment penser à une fausse entrevue entre le premier ministre Justin Trudeau et l’animateur américain controversé Joe Rogan. Même si les voix étaient très réalistes, elles ont été générées par l’IA.
Tel un roman dystopique, le professeur à l’Université de Montréal imagine un scénario où des partis politiques pourraient entraîner des IA qui dialogueraient sur un réseau social avec des électeurs dans le but d’influencer leur opinion politique et leur vote.
«Imaginez que des hommes politiques qui tentent de convaincre les citoyens puissent entrer dans tous les salons et discuter pendant des mois et des mois. Évidemment, avec les êtres humains, cela n’est pas possible, mais avec l’IA, cela l’est », affirme M. Bengio, ajoutant que les électeurs ne sauraient pas qu’ils discutent avec l’intelligence artificielle.
Et le discours de l’IA serait personnalisé. « Chaque personne pourrait être ciblée différemment », ajoute le professeur.
On sait déjà que les politiques adaptent leur discours en fonction de la clientèle politique qu’ils courtisent, mais le scénario imaginé par Yoshua Bengio pourrait conduire à des déviations importantes.
« Il faut encadrer ce genre de choses dans une perspective éthique et revenir au sens premier de la démocratie, c’est-à-dire un partage équitable du pouvoir entre tous, que nous puissions tous participer aux décisions collectives et que ces décisions soient le résultat d’une réflexion collective. un débat éclairé, rationnel et inclusif », déclare celui qui a été nommé parmi les 100 personnes les plus influentes au monde par le prestigieux magazine « Time ».
Et si l’on pousse encore plus loin le scénario d’anticipation, peut-on imaginer que nos élus puissent être remplacés par l’IA ?
« Même si nous avions des IA plus intelligentes que nous, il n’est pas sûr qu’elles représenteraient fidèlement la volonté générale d’une population. Il n’est pas question que des décisions importantes soient prises par les IA. Pour moi, c’est quelque chose de dangereux et qu’il faut éviter », dit-il.
Les bénéfices de l’IA pour la démocratie
Yoshua Bengio tient encore à souligner que l’IA pourrait apporter des choses positives au débat public et à la démocratie.
« À la vitesse à laquelle les choses évoluent, on pourrait envisager que l’IA nous aide à identifier si un discours ou une réponse est véritablement un apport à la discussion et non une répétition de choses qui ne sont pas des réponses à des questions par exemple », explique le chercheur.
« Cela pourrait imposer une certaine discipline de débat orientée vers quelque chose de constructif plutôt que vers une jeu le hockey », ajoute-t-il.
L’IA peut également être utilisée pour effectuer des recherches plus efficaces afin que les députés soient bien préparés lorsqu’ils se présenteront aux commissions parlementaires.
On pourrait aussi imaginer qu’il synthétise un texte juridique afin de le rendre plus clair, ou de permettre de le comparer avec d’autres lois. «La capacité d’analyser un contenu textuel est déjà très avancée», affirme le professeur, tout en rappelant qu’il y a encore du travail à faire.
Les outils d’IA comme ChatGPT peuvent être utilisés pour la recherche, mais ils doivent être utilisés avec parcimonie car ils peuvent produire des réponses incorrectes.
« Des robots viennent nous tuer »
Le chercheur affirme que les sondages montrent que les citoyens sont généralement favorables à un plus grand contrôle sur l’IA.
Cependant, cette question figure souvent en bas de leur liste de priorités. « Ce n’est donc pas une priorité pour les gouvernements », ajoute Yoshua Bengio.
Il fait un parallèle entre l’IA et le changement climatique sur le fait que les impacts les plus concrets se feront sentir dans le futur. « Quand nous regardons dans la rue, nous ne voyons pas de robots venir nous tuer. On ne voit pas non plus le climat qui est complètement démoli», illustre-t-il.
Ainsi, même s’il s’agit d’un enjeu majeur, le professeur affirme que les choses n’avancent pas assez vite pour encadrer l’usage de l’IA.
