D’importants instituts de recherche chinois liés à l’Armée populaire de libération ont utilisé le modèle Llama de Meta, accessible au public, pour développer un outil d’IA destiné à des applications militaires potentielles, selon des articles universitaires et des analystes.
Dans un article de juin examiné par Reuters, six chercheurs chinois de trois institutions, dont deux relevant de la principale branche de recherche de l’Armée populaire de libération (APL), l’Académie des sciences militaires (AMS), expliquent comment ils ont utilisé une première version du lama de Meta comme modèle. base de ce qu’ils appellent « ChatBIT ».
Les chercheurs ont utilisé le Llama 2 13B Large Language Model (LLM) que Meta a publié en février 2023, incorporant leurs propres paramètres pour créer un outil d’IA de niveau militaire pour collecter et traiter des renseignements, et fournir des informations précises et fiables pour la prise de décision opérationnelle.
ChatBIT a été affiné et « optimisé pour les tâches de dialogue et de réponse aux questions dans le domaine militaire », selon le document. Il a surpassé les autres modèles d’IA dont les capacités représentaient environ 90 % du puissant ChatGPT-4 d’OpenAI. Les chercheurs n’ont pas précisé comment ils définissaient la performance ni si le modèle d’IA avait été mis en œuvre.
“C’est la première fois qu’il existe des preuves substantielles que les experts militaires de l’APL en Chine ont systématiquement recherché et tenté d’exploiter la puissance des LLM open Source, en particulier ceux de Meta, à des fins militaires”, a déclaré Sunny Cheung, chercheur associé au Jamestown. Fondation spécialisée dans les technologies émergentes et à double usage en Chine, notamment l’IA.
Meta a adopté la publication ouverte de plusieurs de ses modèles d’IA, y compris le Lama. Il impose des restrictions sur leur utilisation, notamment en exigeant que les services comptant plus de 700 millions d’utilisateurs en obtiennent une licence.
Les termes de l’accord interdisent également l’utilisation de ces modèles à des fins « militaires, de guerre, d’industries ou d’applications nucléaires, d’espionnage » et d’autres activités soumises aux contrôles américains sur les exportations de défense, ainsi que pour le développement d’armes et de contenus destinés à « inciter et encourager ». violence”.
Cependant, les modèles de Meta étant publics, la société dispose de moyens limités pour faire respecter ces dispositions.
En réponse aux questions de Reuters, Meta a cité sa politique d’utilisation acceptable et a déclaré qu’elle prenait des mesures pour prévenir les abus.
“Toute utilisation de nos modèles par l’Armée populaire de libération est non autorisée et contraire à notre politique d’utilisation acceptable”, a déclaré Molly Montgomery, directrice des politiques publiques de Meta, dans un entretien téléphonique avec Reuters.
Parmi les chercheurs chinois figurent Geng Guotong et Li Weiwei du Centre de recherche sur l’information scientifique militaire de l’AMS et de l’Institut national d’innovation des technologies de défense, ainsi que des chercheurs de l’Institut de technologie de Pékin et de l’Université de Minzu.
“À l’avenir, avec les progrès technologiques, ChatBIT ne sera pas seulement appliqué à l’analyse du renseignement, mais également à la planification stratégique, à la formation par simulation et à la prise de décision par le commandement”, indique le document.
Le ministère chinois de la Défense n’a pas répondu à une demande de commentaires, pas plus que les institutions ou les chercheurs.
Reuters n’a pas pu confirmer les capacités et la puissance de calcul de ChatBIT, bien que les chercheurs aient noté que son modèle n’intégrait que 100 000 enregistrements de dialogues militaires, un nombre relativement faible par rapport aux autres LLM.
“C’est une goutte d’eau dans l’océan par rapport à la plupart de ces modèles (qui) sont entraînés avec des milliards de jetons… Je me demande ce qu’ils réalisent réellement en termes de différentes capacités”, a déclaré Joelle Pineau, vice-présidente de la recherche en IA chez Meta et professeur d’informatique à l’Université McGill au Canada.
Cette recherche intervient au milieu d’un débat houleux au sein des communautés américaines de sécurité nationale et de technologie sur la question de savoir si des entreprises telles que Meta devraient rendre leurs modèles accessibles au public.
En octobre 2023, le président américain Joe Biden a signé un décret visant à réglementer les développements de l’IA, soulignant que si l’innovation peut présenter des avantages substantiels, elle présente également des risques de sécurité importants, tels que la suppression des mesures de protection au sein du modèle.
Cette semaine, Washington a annoncé qu’il finalisait les règles visant à freiner les investissements américains dans l’intelligence artificielle et d’autres secteurs technologiques en Chine qui pourraient menacer la sécurité nationale.
Le porte-parole du Pentagone, John Supple, a déclaré que le ministère de la Défense reconnaît que les modèles open Source présentent à la fois des avantages et des inconvénients, et que « nous continuerons à surveiller et à évaluer de près les capacités des concurrents ».
BISCUIT EN POT
Certains observateurs estiment que les progrès de la Chine dans le développement de l’IA locale, notamment la création de dizaines de laboratoires de recherche, ont déjà empêché le pays de réduire l’écart technologique qui le sépare des États-Unis.
Dans un autre article universitaire examiné par Reuters, deux chercheurs de l’Aviation Industry Corporation of China (AVIC) – que les États-Unis ont désigné comme une entreprise liée à l’APL – décrivent l’utilisation de Llama 2 pour « s’entraîner aux interférences de guerre électronique aérienne ». stratégies.
L’utilisation par la Chine de l’IA développée en Occident s’est également étendue à la sécurité intérieure. Un article publié en juin décrit l’utilisation de Llama à des fins de « renseignement policier » afin de traiter de grandes quantités de données et d’améliorer la prise de décision de la police.
En avril, le quotidien d’État PLA Daily a publié un commentaire sur la manière dont l’IA pourrait contribuer à « accélérer la recherche et le développement d’armes et d’équipements », à développer des simulations de combat et à améliorer l’efficacité de l’entraînement militaire.
« Pouvez-vous les empêcher (la Chine) d’entrer dans la boîte à biscuits ? Non, je ne vois pas comment vous pourriez faire cela », a déclaré à Reuters William Hannas, analyste principal au Centre pour la sécurité et les technologies émergentes (CSET) de l’Université de Georgetown. Dans un document publié en 2023, le CSET a identifié 370 institutions chinoises dont les chercheurs ont publié des articles sur l’intelligence artificielle générale, contribuant ainsi à la stratégie nationale de la Chine visant à devenir le leader mondial en matière d’IA d’ici 2030.
“Il y a trop de collaboration entre les meilleurs scientifiques chinois et les meilleurs scientifiques américains dans le domaine de l’IA pour qu’ils soient exclus des développements”, a ajouté Hannas.
