Google ouvre le détecteur SynthID à tout le monde
Chacun peut désormais téléverser des images, des vidéos et des fichiers audio pour vérifier la présence de filigranes de génération par IA, même si une connexion est requise et si la couverture a des limites.
Points clés
- Google a mis son outil de détection de contenu généré par IA entre les mains de tous.
- Le site permet à chacun de téléverser une photo, une vidéo ou un fichier audio pour vérifier s'il porte un filigrane SynthID indiquant une génération par IA.
- SynthID est la technologie de filigrane de Google pour les médias générés par IA, et le détecteur recherche les filigranes d'une liste croissante d'entreprises.
Google a mis son outil de détection de contenu généré par IA entre les mains de tous. Le 7 octobre, l'entreprise a rendu son détecteur SynthID accessible au public dans le monde entier en anglais, ouvrant un outil qui était auparavant limité aux membres des médias.
Le site permet à chacun de téléverser une photo, une vidéo ou un fichier audio pour vérifier s'il porte un filigrane SynthID indiquant une génération par IA. Les formats pris en charge comprennent JPG pour les images, MP4 pour la vidéo, et WAV et MP3 pour l'audio. L'interface est simple par conception : vous téléversez un fichier, et le détecteur indique s'il trouve le filigrane.
Ce qu'il détecte
SynthID est la technologie de filigrane de Google pour les médias générés par IA, et le détecteur recherche les filigranes d'une liste croissante d'entreprises. Il peut identifier les contenus créés avec la technologie SynthID de Google, OpenAI, Nvidia et Kakao. Apple prévoit de prendre en charge SynthID plus tard cette année, ce qui étendrait la portée de la technologie aux images produites par l'une des plateformes d'appareils photo les plus populaires au monde.
La même technologie de détection est aussi intégrée aux produits de Google, dont Search, Gemini et Chrome, ce qui signifie que les utilisateurs pourraient commencer à rencontrer des vérifications SynthID dans des lieux où ils naviguent et cherchent déjà.
Les limites
Google est prudent sur ce que l'outil ne peut pas faire. Le détecteur ne peut pas faire la différence entre un média créé par IA et un média qui a simplement été retouché avec l'aide de l'IA. Ce n'est pas un détecteur d'IA à usage général ; il ne reconnaît que les contenus portant un filigrane SynthID, et tout ce qui est généré par un système qui n'utilise pas SynthID lui échappera.
L'outil exige aussi que les utilisateurs se connectent, ce qui limitera sa portée chez les personnes qui ne veulent pas lier un compte Google à leurs téléversements. Et comme l'adoption de SynthID est encore en croissance, la couverture par le détecteur des contenus d'IA qui circulent en ligne aujourd'hui est incomplète.
Pourquoi c'est important
Le lancement public intervient quelques semaines avant les élections de mi-mandat aux États-Unis, dans une année où les médias synthétiques sont passés de la curiosité à la réalité des campagnes. Les deepfakes et les vidéos modifiées par IA ont déjà figuré dans des élections dans le monde entier, et les États-Unis n'ont pas de cadre fédéral complet pour étiqueter les contenus générés par IA.
Un détecteur public et gratuit ne résout pas ce problème. Les filigranes peuvent être supprimés, et la plupart des systèmes d'IA ne mettent toujours aucun filigrane. Mais le lancement marque l'entrée dans le grand public d'une contre-mesure qui, jusqu'ici, vivait derrière des portes closes. Pour les journalistes, les chercheurs et les électeurs ordinaires qui cherchent à vérifier ce qu'ils voient, une vérification de filigrane est désormais un outil de plus dans la boîte.
Le travail le plus difficile, intégrer le filigrane dans chaque grand système d'IA et rendre la détection fiable dans tous les formats, est encore à venir. Le détecteur public de Google est un début, pas une fin.