ทันเอไอ

Google убирает ИИ-функцию генерации изображений из Google Earth спустя всего день после запуска

Google приостановил работу ИИ-функции генерации изображений в веб-версии Google Earth всего через день после запуска из-за опасений по поводу дезинформации после того, как инструмент начали использовать для наложения фейковых картинок на реальные координаты

Google недавно представил функцию генерации изображений с помощью ИИ в веб-версии Google Earth на базе модели Nano Banana 2, которая позволяла пользователям вводить текстовые запросы (промпты) для наложения визуализаций на реальные координаты и спутниковые снимки. Однако функция быстро столкнулась с проблемами и была отключена всего через день после релиза.

Причиной стало то, что исследователи и пользователи обнаружили: функция используется для создания реалистичных подделок (дипфейков), накладываемых на реальные места — например, воронки от взрывов, модели атомных электростанций или несуществующие зоны бедствий. Это вызвало опасения, что такие изображения могут распространяться как дезинформация и подорвать доверие к Google Earth как к источнику спутниковых снимков, которым пользуются люди и организации по всему миру.

Google пояснил, что некоторые пользователи создавали изображения, нарушающие политику использования, поэтому компания решила временно отключить функцию для доработки систем безопасности и более строгих защитных механизмов (guardrails). При этом компания подтвердила, что все созданные изображения содержат водяные знаки SynthID (технология маркировки контента, созданного ИИ) и не были добавлены в реальную базу данных карт Google Earth.

Этот инцидент отражает проблемы проектирования, с которыми сталкиваются многие инструменты генерации изображений на базе ИИ: при интеграции с данными о реальных объектах способность к «моделированию» может легко превратиться в канал для создания правдоподобных фальшивок.