ทันเอไอ

Google 从 Google Earth 中撤下 AI 图像生成功能，距发布仅一天

Google 在网页版 Google Earth 上推出 AI 图像生成功能仅一天后便将其叫停，此前该功能被用于在真实坐标上叠加虚假图像，引发了对虚假信息的担忧。

Google 最近在网页版 Google Earth 上推出了由 Nano Banana 2 模型驱动的 AI 图像生成功能，允许用户输入文本提示词（prompt），在真实坐标和卫星照片上生成模拟叠加图。然而，该功能在发布仅一天后就被下架，引发的问题也随之显现。

原因在于，研究人员和用户发现该功能被用来生成逼真的假图（deepfake），并叠加在真实地点上，例如战争弹坑、模拟核电站或从未发生过灾害的地区。这引发了人们的担忧，即这些图像可能被传播为虚假信息，并破坏 Google Earth 作为全球个人和组织信赖的卫星图像参考来源的信誉。

Google 解释称，发现部分用户生成的图像违反了使用政策，因此决定暂时将其关闭，以便开发更严格的安全系统和防护措施（guardrails）。同时，Google 确认所有生成的图像都嵌入了 SynthID 水印（用于识别图像由 AI 生成的技术），并且这些图像并未被整合到 Google Earth 的实际地图数据库中。

这一事件反映了许多 AI 图像生成工具在与人们信任的现实世界数据相结合时所面临的设计缺陷。当“模拟”能力与现实挂钩时，它很容易成为制造真假难辨的欺诈图像的渠道。