Bob Mackin
La société mère de YouTube affirme qu’elle prend des mesures pour mettre fin aux publicités truquées montrant la ministre canadienne des Finances, Chrystia Freeland, en train de fouetter un stratagème pour s’enrichir rapidement.
Le ministre libéral des Finances dans des vidéos deepfake vues sur YouTube (YouTube)
theBreaker.news a rapporté le 11 juin les publicités trouvées par inadvertance le 31 mai sur YouTube. Les clips montrent Freeland, qui est également vice-premier ministre de Justin Trudeau, dans des publicités présentées sous forme de reportages sur les chaînes d’information télévisées. Mais ils ont été générés par l’intelligence artificielle (IA). Un porte-parole de Freeland a qualifié les vidéos et les sites Web associés de faux et regorgeant d’informations fausses et trompeuses. (VOIR LES CLIPS DEEPFAKE CI-DESSOUS.)
Un porte-parole de Google, citant la politique de l’entreprise, a fourni des commentaires sous couvert d’anonymat.
“La protection de nos utilisateurs est notre priorité absolue et nous avons des politiques strictes qui régissent les publicités et le contenu de notre plateforme”, indique le communiqué de Google. « Ces escroqueries sont interdites et nous mettons fin aux comptes publicitaires et aux chaînes derrière elles. Nous investissons massivement dans notre détection et notre lutte contre les publicités frauduleuses qui usurpent l’identité de personnalités publiques et des mauvais acteurs derrière elles.
La vidéo source de l’un des clips de Freeland était une conférence de presse du 7 avril à Toronto, où elle a ironiquement annoncé un financement public de 2,4 milliards de dollars pour stimuler le secteur canadien de l’IA. En novembre dernier, Google a accepté de verser 100 millions de dollars par année, plus l’inflation, aux médias canadiens afin d’être exemptés de la Loi sur les informations en ligne du gouvernement libéral. La loi controversée est également connue sous le nom de taxe sur les liens Web.
Google affirme avoir interdit depuis longtemps l’utilisation de deepfakes et d’autres formes de contenu falsifié visant à tromper, frauder ou induire les utilisateurs en erreur sur des questions politiques. Il nécessite une vérification par l’utilisateur et emploie des réviseurs humains et l’apprentissage automatique pour surveiller et appliquer les politiques. Sur les 5,5 milliards de publicités supprimées l’année dernière, 206,5 millions contrevenaient à la politique de l’entreprise en matière de fausses déclarations. Il a également suspendu plus de 12,7 millions de comptes d’annonceurs.
Mac Boucher, expert en génération de contenu IA et partenaire de KNGMKR, basé à Los Angeles, a pris la parole le 12 juin lors de la conférence Journalism Under Siege de la Trace Foundation et du Vancouver Anti-Corruption Institute, à Vancouver.
Boucher a montré une bobine de vidéos deepfake réalisées avec des images et des clips audio de célébrités telles que Christopher Walken et Morgan Freeman. Il a cité comme exemple le programme populaire PlayHT.
«Vous lui fournissez un fichier vidéo ou un fichier audio que je viens d’extraire d’Internet. Cela prend une seconde à traiter et parfois ça fait des erreurs », a déclaré Boucher. « Mais, essentiellement, vous avez un modèle TTS, qui est de la synthèse vocale, dans lequel vous pouvez taper tout ce que vous voulez, vous pouvez y ajouter des sentiments, heureux, triste, craintif, surpris, etc. capable de générer des générations, souvent assez mauvaises, mais il faut un peu de réglage, d’ajustement et d’édition pour que cela ressorte beaucoup plus naturellement.
Boucher, le frère du musicien Grimes, a déclaré que l’IA était peu coûteuse à produire. La désinformation est un inconvénient, mais elle est plus efficace lorsque « les gens ne croient plus en un système qui ne fonctionne pas vraiment dans leur intérêt, ou qui semble fonctionner dans leur intérêt ».
« À l’heure actuelle, Internet va probablement ressembler beaucoup à Times Square, qui n’est pas vraiment un endroit où les gens passent beaucoup de temps. Cela attire simplement des tonnes de touristes et de gens de passage », a déclaré Boucher. « Ensuite, il y aura de petits quartiers qui auront des normes d’excellence quelles que soient les données. »
Mac Boucher (LinkedIn)
Certains gouvernements réfléchissent lentement à la réglementation de cette technologie en évolution rapide. Le sénateur de l’État de Californie, Bill Dodd, a déposé l’AI Accountability Act pour réglementer l’utilisation de l’IA par les agences d’État, y compris la transparence de son utilisation et la promotion d’une éducation à l’IA financée par l’État.
Le Centre antifraude du Canada (CAFC) a averti dans un bulletin de mars que les deepfakes utilisaient «des algorithmes d’apprentissage automatique pour créer de fausses vidéos ou enregistrements audio d’apparence réaliste. Cela se voit le plus souvent dans les fraudes aux investissements et aux marchandises, où de fausses mentions de célébrités et de fausses nouvelles sont utilisées pour promouvoir les offres frauduleuses.
En mai, la Commission fédérale des communications des États-Unis a proposé une amende de 6 millions de dollars au consultant politique Steve Kramer, responsable d’appels automatisés deux jours avant la première primaire présidentielle du pays dans le New Hampshire. Ces appels automatisés contenaient de faux sons utilisant la voix du président Joe Biden pour encourager les citoyens à s’abstenir de la primaire et à conserver leur vote pour l’élection présidentielle de novembre.
Kramer a également été arrêté dans le New Hampshire pour corruption, intimidation et suppression d’électeurs.
Marcus Kolga, de DisinfoWatch.org, basé à Toronto, s’inquiète du fait que la technologie progresse si rapidement que les vidéos deepfake pourraient devenir indétectables et finalement être utilisées par de mauvais acteurs pour provoquer des manipulations financières et des perturbations géopolitiques à grande échelle.
“Cette technologie ne fait que s’améliorer et elle ne s’améliore pas chaque année, elle s’améliore chaque mois”, a déclaré Kolga.
Soutien leBriseur.nouvelles pour aussi peu que 2 $ par mois sur Patreon. Trouver comment. Cliquez ici.
