Axon affirme que son intelligence artificielle permettra à davantage de policiers de quitter le bureau et de descendre dans la rue. Les critiques affirment que le système risque de rendre les policiers paresseux et d’introduire des erreurs dans des preuves cruciales. Les débats portent également sur les avantages et les inconvénients de l’utilisation de la transcription audio-texte pour les besoins des forces de l’ordre.
Les policiers américains utilisent de plus en plus l’intelligence artificielle pour les aider dans leur travail, qu’il s’agisse de modèles d’intelligence artificielle qui analysent les schémas criminels ou de drones capables de voler de manière autonome. Désormais, une IA basée sur GPT-4 peut effectuer l’une de leurs tâches les moins attrayantes : rédiger des rapports.
Axon, la société de 22 milliards de dollars connue pour fabriquer l’arme électrique Taser, est à l’origine de ce nouvel outil appelé Draft One. Il sert à la transcription automatique du son de la caméra corporelle dans les rapports de police. Axon affirme qu’un des premiers testeurs de l’outil, le service de police de Fort Collins au Colorado, a constaté une réduction de 82 % du temps passé à rédiger des rapports. « Si un policier passe la moitié de sa journée à rédiger des rapports et que nous pouvons réduire ce temps de moitié, nous avons la possibilité de libérer 25 % du temps du policier pour qu’il puisse à nouveau faire son travail de policier », explique un responsable du entreprise.
Ces rapports sont utilisés comme preuve dans les procès pénaux, et les critiques craignent que l’utilisation de l’IA puisse mettre les gens en danger en s’appuyant sur des modèles de langage connus pour leurs « hallucinations » ou leurs inventions. , ainsi que pour leurs préjugés raciaux, qu’ils soient manifestes ou inconscients.
C’est une sorte de cauchemar. La police, qui n’est pas spécialisée dans l’intelligence artificielle et qui ne sera pas spécialisée dans la reconnaissance des problèmes liés à l’IA, utilisera-t-elle ces systèmes pour générer des contenus susceptibles de toucher des millions de personnes lors de procès criminels ? , s’inquiète Dave Maass, directeur des enquêtes sur les technologies de surveillance à l’Electronic Frontier Foundation. Axon se veut néanmoins rassurant en soulignant que la police peut examiner les documents générés par l’intelligence artificielle pour s’assurer de leur exactitude.
Les critiques recommandent aux policiers de ne pas utiliser l’intelligence artificielle pour rédiger des rapports sur des incidents aussi graves qu’une fusillade, dans lesquels des informations vitales pourraient être omises : Une fusillade impliquant un policier est probablement un scénario dans lequel elle ne serait pas utilisée, et je déconseillerais probablement aux gens de le faire. l’utiliser, simplement parce qu’il y a tellement de complexité, que les enjeux sont si élevés.
L’outil sera accompagné d’une piste d’audit répertoriant toutes les actions effectuées par un utilisateur, afin que les forces de l’ordre puissent garantir qu’un rapport a été examiné et validé. Toutes les informations sont stockées et traitées sur les serveurs Microsoft Azure.
Certains responsables de l’application des lois estiment que si la police utilisait l’intelligence artificielle pour rédiger des rapports, les services auraient besoin de politiques, de procédures et d’une surveillance clairement définies. Il est nécessaire de s’assurer que le processus d’audit est réel. Si ces règles sont respectées, l’IA pourrait gagner du temps, estime un ancien directeur de la police de Boston.
Source : Axone
Et toi ?
Pour ou contre l’utilisation de tels appareils par les forces de l’ordre ?
Voir aussi :
La reconnaissance faciale comme méthode de sécurité est inutile pour 4 smartphones sur 10, selon une étude
La reconnaissance faciale du Samsung Galaxy S10 peut facilement être trompée par une photo ou une vidéo du propriétaire du téléphone
Le propriétaire d’un téléphone Android trouve accidentellement un moyen de contourner l’écran de verrouillage et reçoit 70 000 $ de Google pour avoir signalé un problème
Une tête imprimée en 3D a réussi à tromper le système de reconnaissance faciale de plusieurs smartphones Android populaires lors d’un test
