Google et l’application Gemini : un outil contre les deepfakes, mais avec des limites

Dans un monde où les images numériques peuvent être facilement manipulées, Google introduit une nouvelle fonctionnalité pour aider les utilisateurs à identifier les images générées par intelligence artificielle. Mais cette technologie, bien qu’innovante, présente certaines limites. Découvrez comment Gemini pourrait transformer votre smartphone en détecteur de deepfakes, tout en gardant à l’esprit que tous les défis ne sont pas encore relevés.

Résumé en 3 points

• Google a lancé Gemini, une application qui permet de détecter les images générées par son IA grâce à la technologie SynthID.
• Gemini recherche un filigrane numérique invisible pour authentifier les images provenant des systèmes de Google.
• Cependant, l’application ne peut pas identifier les images créées par d’autres générateurs d’images comme Midjourney.

La technologie derrière Gemini

Google a développé l’application Gemini pour aider les utilisateurs à identifier les images générées par intelligence artificielle. La clé de cette technologie repose sur SynthID, une méthode de filigrane numérique invisible. Ce filigrane est intégré dans les images générées par les outils de Google, permettant à Gemini de confirmer leur origine. L’application offre une interface utilisateur simple, ne nécessitant qu’un clic pour vérifier une image.

Les limites de l’outil

Bien que Gemini soit un outil puissant, il présente des restrictions notables. Il est conçu pour reconnaître uniquement les images créées par les systèmes de Google. Ainsi, les images provenant d’autres générateurs d’IA comme Midjourney ou Grok ne peuvent pas être authentifiées par Gemini. Cette limitation rappelle un antivirus qui ne détecterait que les menaces venant de son propre éditeur.

Une avancée, mais pas une solution complète

Gemini représente une avancée significative en termes de détection de deepfakes, mais il ne résout pas complètement le problème de la désinformation. Pour que cette bataille contre les images manipulées soit efficace, l’industrie technologique doit collaborer pour établir un standard commun de marquage des images. Actuellement, Gemini fonctionne en circuit fermé, ce qui limite sa portée en tant qu’outil universel de détection.

Contexte : Google et la lutte contre la désinformation

Google est un acteur majeur dans le domaine des technologies de l’information et de la communication, souvent à l’avant-garde des innovations pour lutter contre la désinformation. Avec l’essor des deepfakes et autres contenus manipulés, l’entreprise a redoublé d’efforts pour offrir des solutions techniques efficaces. Le lancement de Gemini s’inscrit dans cette démarche, bien que l’outil ne soit qu’une étape dans un combat plus large nécessitant une collaboration entre les différents acteurs de la tech.