Ces contenus sont des montages générés avec de l’intelligence artificielle dans lesquels les visages d’individus sont placés sur des photos ou dans des vidéos à caractère sexuel.
La police sud-coréenne a annoncé lundi 2 septembre avoir ouvert une enquête sur le service de messagerie Telegram, qu’elle accuse de :“encourager” la diffusion de faux contenus pornographiques utilisant notamment l’image de mineurs. Ces contenus, appelés « deepfake porn », sont des montages pornographiques générés par l’intelligence artificielle dans lesquels les visages d’individus sont placardés sur des photos ou dans des vidéos à caractère sexuel.
« Telegram n’a pas répondu à nos précédentes demandes d’informations sur les comptes [d’utilisateurs] dans des enquêtes précédentes sur des crimes liés à Telegram »a déclaré le chef du Bureau national d’enquête de la police, Woo Jong-soo. « À la lumière de ces crimes, la police nationale de Séoul a ouvert une enquête la semaine dernière (…) pour complicité de ces crimes. »a-t-il ajouté lors d’une conférence de presse dont l’AFP a obtenu la transcription.
Six victimes sur dix sont des filles mineures
La police a reçu 88 signalements au cours de la semaine dernière et a identifié 24 suspects, a déclaré Woo Jong-soo. Les créateurs de ce type de contenu illégal récupèrent souvent des photos de leurs victimes sur les réseaux sociaux. La police a déclaré que la plupart des victimes sont des filles, dont 60 % sont mineures.
Selon les militants, la criminalité en ligne est monnaie courante en Corée du Sud, notamment l’exploitation de caméras espionnes et la publication de « revenge porn », c’est-à-dire de contenu pornographique privé partagé sans consentement comme moyen de vengeance.
«Deepfakes porno»
Fin août, un média sud-coréen Hankyoreh La police de Séoul a déclaré que des étudiants universitaires organisaient un groupe de discussion sur Telegram qui partageait des « deepfake porn » de leurs camarades de classe féminines, déclenchant une vague d’indignation publique. L’enquête de la police de Séoul intervient après l’arrestation du patron de Telegram, Pavel Durov, en France, le 28 août.
Après quatre jours de mise en examen, le milliardaire a été remis en liberté mais est soumis à un contrôle judiciaire lourd, notamment une interdiction de quitter le territoire français. Selon le parquet de Paris, il est notamment mis en examen pour « refus de communiquer des informations nécessaires aux interceptions autorisées par la loi » et complicité dans le crime organisé et les délits mineurs via la plateforme. La police sud-coréenne s’est engagée à coopérer avec « divers organismes d’enquête, dont la France“, a assuré Woo à Jong-soo.
