Google retire la fonction de génération d'images par IA de Google Earth un jour seulement après son lancement
Google a suspendu la fonction de génération d'images par IA sur la version web de Google Earth, un jour seulement après son déploiement, suite à son utilisation pour superposer de fausses images sur des coordonnées réelles, soulevant des inquiétudes en matière de désinformation.
Google venait de lancer une fonction de génération d'images par IA sur la version web de Google Earth, alimentée par le modèle Nano Banana 2, permettant aux utilisateurs de saisir des invites textuelles (prompts) pour simuler des superpositions sur des coordonnées et des photos satellites réelles. Cependant, le résultat a rapidement posé problème, la fonction ayant été suspendue un seul jour après son lancement.
La raison : des chercheurs et des utilisateurs ont découvert que la fonction était utilisée pour créer des images truquées réalistes (deepfakes) superposées à de véritables lieux, telles que des cratères de guerre, de fausses centrales nucléaires ou des zones sinistrées inexistantes. Cela a suscité des inquiétudes quant au risque que ces images soient diffusées comme de la désinformation et nuisent à la crédibilité de Google Earth en tant que source de référence d'images satellites utilisée par des personnes et des organisations du monde entier.
Google a expliqué avoir constaté que certains utilisateurs créaient des images violant ses politiques d'utilisation, et a donc décidé de suspendre temporairement le service afin de renforcer les systèmes de sécurité et les garde-fous (guardrails). L'entreprise a également confirmé que toutes les images générées intégraient un filigrane SynthID (une technologie signalant qu'une image a été créée par IA) et qu'elles n'avaient en aucun cas été intégrées dans la base de données cartographique réelle de Google Earth.
Cet événement met en lumière un problème de conception auquel sont confrontés de nombreux outils d'IA générative : lorsqu'ils sont connectés à des données du monde réel auxquelles les gens font confiance, la capacité de « simulation » peut facilement devenir un canal pour créer des images trompeuses impossibles à distinguer de la réalité.
Cette actualité montre que même les géants technologiques peinent à maîtriser les risques de l'IA générative lorsqu'elle est liée à des données du monde réel. Pour les utilisateurs qui recourent à Google Earth comme référence pour l'imagerie satellite, il convient de toujours se méfier des images vues sur les réseaux sociaux et d'en vérifier la source.