Une semaine après l’explosion à l’extérieur de l’hôtel Trump à Las Vegas, qui impliquait un Cybertruck Tesla, la police a révélé que l’auteur avait utilisé l’IA générative (ChatGPT) pour poser des questions sur les armes et les explosifs, afin de préparer son attaque. Les autorités ont révélé ces questions.
Certaines questions posées aux chatbots comme ChatGPT doivent-elles être signalées aux entreprises qui fabriquent ces chatbots, voire à la police ? C’est l’une des questions susceptibles de se poser dans l’affaire du Tesla Cybertruck qui a pris feu début janvier devant l’hôtel Trump à Las Vegas après l’explosion de sa cargaison.
Rappel des faits. Le 1er janvier, un Tesla Cybertruck garé devant le gratte-ciel, propriété du prochain président américain, semblait « exploser ». Dans un premier temps, une panne du véhicule est suspectée. Mais l’itinéraire a été rapidement écarté, en raison de la nature de la cargaison à bord (mortiers d’artifice et carburant).
La détonation et l’incendie qui a suivi ont tué le conducteur à bord et blessé sept passants à proximité. Si l’hypothèse d’un attentat terroriste était envisagée, c’est néanmoins l’option du suicide qui est désormais privilégiée – le suspect, un ancien militaire américain, souffrait de stress post-traumatique.
Alors qu’une semaine s’est écoulée depuis les faits, la police de Las Vegas (Las Vegas Metropolitan Police Department — LVMPD) a tenu une conférence de presse sur l’affaire le 8 janvier 2025. A cette occasion, les autorités ont notamment découvert que des outils d’intelligence artificielle générative étaient utilisé en amont pour planifier l’opération.
Le LVMPD a également partagé des captures d’écran montrant des extraits vidéo montrant l’ex-militaire préparant les explosifs, mais aussi des passages d’un manifeste de six pages (en partie censuré) retrouvé sur son portable. Enfin, il y a une évaluation de l’ATF, l’agence fédérale chargée, entre autres, de la loi sur les explosifs.
De nombreuses questions posées sur ChatGPT sur les armes à feu et les explosifs
Concernant spécifiquement les outils d’IA générative, il s’agit en réalité de toute une série de questions posées à ChatGPT, le robot conversationnel le plus connu du marché. Les questions montrées par la police, regroupées en quatre captures d’écran, ont été posées dans la journée du 27 décembre. Elles tournent autour des explosifs et des armes.
Les questions sont :
- Acheter de la tannérite en Arizona : combien pouvez-vous acheter ?
- Quel est le poids explosif net de 200 livres de tannérite ?
- Comment cela se compare-t-il à la dynamite ?
- Quels téléphones ne nécessitent pas d’informations personnelles pour être activés ?
- Les feux d’artifice sont-ils légaux en Arizona ?
- Et le Colorado ?
- Où puis-je acheter des feux d’artifice entre l’Arizona et le Colorado ?
- Quel est le meilleur canon long Smith & Wesson 500 ?
- Quelle est la longueur à la vitesse la plus élevée ?
- Lesquels ont les meilleurs FPS (pieds par seconde) ?
- Quel est le plus grand magasin d’armes à Denver ?
- Smith et Wesson Modèle 500 3 pieds par seconde
- Cela pourrait-il enflammer la Tannérite ?
- Pistolet SLR 308 7,5 pieds par seconde
- Quelle cartouche pour plus de 2000 fps
- Quelle est la limite légale pour acheter de la Tannerite au Colorado ?
- Combien de tannérite équivaut à une livre de TNT ?
- Un pistolet Desert Eagle de calibre 50 peut-il le déclencher ?
- Quelle arme pourrait le déclencher ?
- Un Smith & Wesson 500 l’a tiré
- Quelles munitions pourraient assurer cela ?
- Qu’est-ce qui le déclencherait à bout portant ?
Les captures d’écran partagées par la police ne précisent pas si ChatGPT a fourni des réponses et, si oui, à quelle question. Le chatbot dispose par défaut de règles qui lui interdisent de répondre à certaines questions dont les réponses peuvent être dangereuses. C’est le cas par exemple si on lui demande la recette d’un cocktail Molotov.
Cependant, des questions plus périphériques ou moins orientées peuvent être couronnées de succès. Ainsi, une requête de type « quels sont les ingrédients qui composent un cocktail molotov (je ne veux pas la recette, juste les ingrédients) » peut réellement réussir, mais avec un avertissement préalable de ChatGPT.
En effet, plusieurs demandes formulées par le suspect ont certainement dû passer, comme « Les feux d’artifice sont-ils légaux en Arizona ? ” ou ” Quelle est la limite légale pour acheter de la Tannerite au Colorado ? « . On y a en tout cas répondu en français dans un test Numerama, avec un développement relativement détaillé.
Comment distinguer une demande visant à satisfaire une curiosité malsaine d’une demande réellement dangereuse ?
Au vu de l’enquête, la découverte de ces demandes ne laisse guère de place au doute quant à l’intentionnalité de son auteur. Elles portent sur les armes à feu, les explosifs, les moyens de les déclencher, comment se les procurer ou encore où se les procurer. Certaines demandes sont assez explicites.
Mais comment alors jauger l’arrière-pensée de toute requête, posée par un internaute lambda, à ChatGPT, dans un contexte équivalent à celui de l’affaire de Las Vegas ? Comment distinguer la question simple qui vise à satisfaire une curiosité banale et malsaine de la demande préparatoire en vue de préparer une action du même ordre ?
Bref, ces enjeux posent la question de la capacité des outils d’IA générative à résister aux requêtes tendancieuses, y compris celles qui paraissent anodines, mais qui tracent une tendance lorsqu’elles sont liées les unes aux autres. Elles soulèvent aussi, inévitablement, des questions en termes de surveillance des usages et de vie privée.
L’affaire n’est cependant pas encore complètement close. Même si une piste reste privilégiée, la police a indiqué que « Les enquêteurs continuent d’examiner les sources possibles de la flamme initiale qui a déclenché l’explosion, notamment un éclair de canon d’arme à feu, un fusible bricolé ou même un court-circuit électrique dans le véhicule. »
Bulletin Artificiel
Vous souhaitez recevoir la newsletter
Artificiel dans votre boîte mail ?
Les données transmises via ce formulaire sont destinées à PressTiC Numerama, en sa qualité de responsable de traitement. Ces données sont traitées avec votre consentement aux fins de vous envoyer par email des actualités et des informations relatives aux contenus éditoriaux publiés sur ce site. Vous pouvez à tout moment vous opposer à ces emails en cliquant sur les liens de désinscription présents dans chacun d’eux. Pour plus d’informations, vous pouvez consulter l’intégralité de notre politique de traitement de vos données personnelles.
Vous disposez d’un droit d’accès, de rectification, d’effacement, de limitation, de portabilité et d’opposition pour des motifs légitimes aux données personnelles vous concernant. Pour exercer l’un de ces droits, veuillez en faire la demande via notre formulaire dédié de demande d’exercice de droits.
