BARI, Italie (AP) — Le pape François a mis vendredi les dirigeants des démocraties riches du monde au défi de donner la priorité à la dignité humaine dans le développement et l’utilisation de l’intelligence artificielle, avertissant qu’une technologie aussi puissante risque de transformer les relations humaines elles-mêmes en de simples algorithmes.
François a exercé son autorité morale sur le Groupe des Sept, invité par l’Italie hôte à prendre la parole lors d’une session extraordinaire lors de leur sommet annuel sur les périls et les promesses de l’IA. Ce faisant, il est devenu le premier pape à participer au G7, offrant une vision éthique d’une question qui figure de plus en plus à l’ordre du jour des sommets internationaux, des politiques gouvernementales et des conseils d’administration des entreprises.
Francis a déclaré que les politiciens doivent prendre l’initiative de rendre l’IA centrée sur l’humain, afin que les décisions humaines restent toujours prises par des humains et non par des machines.
« Nous condamnerions l’humanité à un avenir sans espoir si nous supprimions aux individus la capacité de prendre des décisions concernant eux-mêmes et leur vie, en les condamnant à dépendre des choix des machines », a-t-il déclaré. « Nous devons garantir et sauvegarder un espace de contrôle humain adéquat sur les choix effectués par les programmes d’intelligence artificielle : la dignité humaine elle-même en dépend. »
Francis avait l’intention de profiter de l’occasion pour rejoindre le chœur des pays et des organismes mondiaux qui réclament des garde-fous plus forts en matière d’IA suite au boom de l’intelligence artificielle générative lancé par le chatbot ChatGPT d’OpenAI.
Le pape argentin a utilisé son message de paix annuel cette année pour appeler à un traité international garantissant que l’IA soit développée et utilisée de manière éthique. Il soutient qu’une technologie dépourvue des valeurs humaines de compassion, de miséricorde, de moralité et de pardon est trop périlleuse pour se développer sans contrôle.
La Première ministre italienne Giorgia Meloni a invité François et a annoncé sa participation, connaissant l’impact potentiel de son pouvoir de star et de son autorité morale sur le G7.
“Le pape est une célébrité très particulière”, a déclaré John Kirton, politologue à l’Université de Toronto et qui dirige le groupe de réflexion du G7 Research Group.
Kirton a rappelé que le dernier sommet ayant eu ce genre de pouvoir de star était celui de 2005 à Gleneagles, en Écosse, où les membres avaient décidé d’effacer les 40 milliards de dollars de dettes dues par 18 des pays les plus pauvres du monde envers la Banque mondiale et le Fonds monétaire international. .
Ce sommet a été précédé par un concert Live 8 à Londres mettant en vedette Sting, The Who et un Pink Floyd réformé et a attiré plus d’un million de personnes dans une démonstration de solidarité contre la faim et la pauvreté en Afrique.
“Gleneagles a en fait réussi un coup de circuit et pour certains, c’est l’un des sommets les plus réussis”, a déclaré Kirton.
Aucune pression populaire de ce type n’est exercée sur les dirigeants du G7 dans la région italienne des Pouilles, mais François peut user de sa propre autorité morale pour renouveler ses exigences en faveur de garanties pour l’IA et souligner les menaces qu’elle représente pour la paix et la société.
La technologie de l’IA générative a ébloui le monde avec sa capacité à produire des réponses semblables à celles des humains, mais elle a également suscité des craintes quant à la sécurité de l’IA et conduit à un fouillis d’efforts mondiaux pour la maîtriser.
Certains s’inquiètent des risques catastrophiques mais lointains pour l’humanité en raison de son potentiel de création de nouvelles armes biologiques et d’amplification de la désinformation. D’autres s’inquiètent de ses effets sur la vie quotidienne, à travers des biais algorithmiques qui entraînent des discriminations ou des systèmes d’IA qui suppriment des emplois.
Dans son message de paix, François a fait écho à ces préoccupations et en a soulevé d’autres. Il a déclaré qu’Amnesty International devait se préoccuper avant tout de garantir les droits humains fondamentaux, de promouvoir la paix et de se prémunir contre la désinformation, la discrimination et les distorsions.
Sur le plan réglementaire, François fera d’une certaine manière la leçon aux convertis, car les membres du G7 ont été à l’avant-garde du débat sur la surveillance de l’IA.
Le Japon, qui a assuré la présidence tournante du G7 l’année dernière, a lancé son processus Hiroshima AI pour élaborer des principes directeurs internationaux et un code de conduite pour les développeurs d’IA. En plus de ces efforts, le Premier ministre Fumio Kishida a dévoilé le mois dernier un cadre pour la réglementation mondiale de l’IA générative, qui sont des systèmes capables de produire rapidement de nouveaux textes, images, vidéos et audio en réponse à des invites et des commandes.
L’Union européenne a été l’un des premiers à adopter une loi de grande envergure sur l’IA, qui devrait entrer en vigueur au cours des deux prochaines années et pourrait servir de modèle mondial. La loi cible tout produit ou service d’IA proposé dans les 27 pays du bloc, avec des restrictions basées sur le niveau de risque qu’ils posent.
Aux États-Unis, le président Joe Biden a publié un décret sur les garanties en matière d’IA et a appelé à une législation pour la renforcer, tandis que certains États comme la Californie et le Colorado ont tenté d’adopter leurs propres projets de loi sur l’IA, avec des résultats mitigés.
Les autorités antitrust des deux côtés de l’Atlantique ont interrogé de grandes sociétés d’IA, notamment Microsoft, Amazon et OpenAI, pour savoir si leurs positions dominantes étouffaient la concurrence.
La Grande-Bretagne a lancé un dialogue mondial sur la maîtrise des dangers les plus extrêmes de l’IA lors d’un sommet l’automne dernier. Lors d’une réunion de suivi à Séoul, les entreprises se sont engagées à développer cette technologie en toute sécurité. La France devrait accueillir une autre réunion de la série au début de l’année prochaine. Les Nations Unies ont également apporté leur contribution avec leur première résolution sur l’IA.
En marge de son discours sur AI, François consacre une journée entière à des réunions bilatérales. Il a rencontré le président ukrainien Volodymyr Zelenskyy, ainsi que des dirigeants invités d’Algérie, du Brésil, d’Inde, du Kenya et de Turquie. Il rencontrera également les membres du G7, dont Biden, le Premier ministre canadien Justin Trudeau et le président français Emmanuel Macron.
___
Chan a rapporté de Londres.
Nicole Winfield et Kelvin Chan, Associated Press
