SynthID, l’arme ultime de Google pour une détection à 100 % des contenus générés par l’IA

SynthID, l’arme ultime de Google pour une détection à 100 % des contenus générés par l’IA
SynthID, l’arme ultime de Google pour une détection à 100 % des contenus générés par l’IA

La frontière entre le contenu créé par les humains et celui généré par l’intelligence artificielle (IA) devient de plus en plus floue. Dans ce contexte, la technologie SynthID représente une innovation majeure. Il propose des solutions techniques pour filigraner et identifier le contenu produit par l’IA, essentiel pour instaurer la confiance dans l’information numérique. Cette suite d’outils est actuellement en version bêta et continue d’évoluer pour inclure une gamme croissante de produits.

Comment fonctionne SynthID ?

SynthID utilise une variété de modèles et algorithmes d’apprentissage profond pour l’insertion de filigranes invisibles mais détectables dans le contenu généré par l’IA, qu’il soit textuel, musical, visuel ou vidéo. Le processus se décompose en deux phases principales : le tatouage et l’identification.

Le filigrane consiste à intégrer un filigrane numérique directement dans le contenu généré par l’IA, sans altérer le contenu original. L’identification permet ensuite de scanner les images, l’audio, le texte ou les vidéos à la recherche de ces filigranes, aidant ainsi les utilisateurs à déterminer si le contenu, ou une partie de celui-ci, a été généré par les outils d’IA de l’entreprise. Google.

SynthID pour le texte généré par l’IA

L’expansion de SynthID pour inclure le filigrane et l’identification de texte générée par l’IA est remarquable. Le défi consistait à trouver une solution robuste pour filigraner le texte généré par l’IA sans compromettre la qualité, la précision et la créativité. La solution développée consiste à intégrer un filigrane directement dans le processus utilisé par un grand modèle de langage (LLM) pour générer du texte.

Un LLM génère du texte jeton par jeton, ces jetons peuvent représenter un caractère, un mot ou une partie de phrase. Pour créer une séquence de texte cohérente, le modèle prédit le jeton le plus susceptible de suivre. Ces prédictions sont basées sur les mots précédents et les scores de probabilité attribués à chaque jeton potentiel.

SynthID ajuste le score de probabilité des jetons générés par le LLM. Ce processus est répété dans le texte généré, de sorte qu’une seule phrase puisse contenir dix scores de probabilité ajustés ou plus, et qu’une page puisse en contenir des centaines. Le modèle final de choix de mots du modèle combiné aux scores de probabilité ajustés constitue le filigrane. Cette technique peut être utilisée pour seulement trois phrases et sa robustesse et sa précision augmentent avec la longueur du texte.

SynthID pour la musique générée par l’IA

En novembre 2023, SynthID a été étendu pour filigraner et identifier la musique et l’audio générés par l’IA. La première utilisation de SynthID a eu lieu avec Lyria, notre modèle de génération de musique IA le plus avancé à ce jour, et tous les fichiers audio générés par l’IA publiés par notre modèle Lyria ont un filigrane SynthID intégré directement dans sa forme audio. ‘vague.

SynthID ajoute un filigrane numérique à l’audio généré par l’IA qui est imperceptible à l’oreille humaine. Premièrement, SynthID convertit l’onde audio, une représentation unidimensionnelle du son, en spectrogramme. Cette visualisation bidimensionnelle montre comment le spectre de fréquences d’un son évolue au fil du temps.

Une fois le spectrogramme calculé, le filigrane numérique y est ajouté. Ensuite, le spectrogramme est reconverti en forme d’onde. Au cours de cette étape de conversion, SynthID exploite les propriétés audio pour garantir que le filigrane reste inaudible, préservant ainsi l’expérience d’écoute.

SynthID pour les images et vidéos générées par l’IA

SynthID intègre un filigrane numérique imperceptible à l’œil humain directement dans les pixels d’une image générée par l’IA ou dans chaque image d’une vidéo générée par l’IA. Cette technologie permet au filigrane de rester visible, même après des modifications telles que le recadrage, l’ajout de filtres, les changements de couleur, les changements de fréquence d’images (pour les vidéos) et l’enregistrement avec divers schémas de compression avec perte (couramment utilisés pour les images JPEG).

Disponibilité de SynthID

Cette technologie est disponible pour les clients Vertex AI qui utilisent nos modèles de génération d’images textuelles, Imagen 3 et Imagen 2, qui créent des images de haute qualité dans une grande variété de styles artistiques. La technologie SynthID est également utilisée pour filigraner la sortie d’image vers ImageFX.

SynthID est également intégré à Veo, le modèle de génération vidéo le plus performant à ce jour, disponible pour certains créateurs sur VideoFX. SynthID peut également numériser une seule image ou des images individuelles d’une vidéo pour détecter le filigrane numérique. Les utilisateurs peuvent identifier si une image, ou une partie de celle-ci, a été générée par les outils d’IA de Google grâce à la fonctionnalité « À propos de cette image » dans la recherche Google ou Chrome.

 
For Latest Updates Follow us on Google News
 

NEXT BMW va copier Hyundai pour ses voitures de sport électriques – .