ทันเอไอ

Google remove recurso de geração de imagens por IA do Google Earth um dia após o lançamento

O Google suspendeu o recurso de geração de imagens por IA na versão web do Google Earth apenas um dia após o lançamento, após ser usado para criar imagens falsas sobrepostas a coordenadas reais, gerando preocupações sobre desinformação.

O Google havia acabado de lançar um recurso de geração de imagens por IA na versão web do Google Earth, alimentado pelo modelo Nano Banana 2, que permitia aos usuários digitar comandos de texto (prompts) para simular imagens sobrepostas a coordenadas e imagens de satélite reais. No entanto, o resultado se tornou um problema em um piscar de olhos, com o recurso sendo suspenso apenas um dia após o lançamento.

A razão foi que pesquisadores e usuários descobriram que o recurso estava sendo usado para criar imagens falsas hiper-realistas (deepfakes) sobrepostas a locais reais, como crateras de explosões de guerra, usinas nucleares simuladas ou áreas de desastres que nunca ocorreram. Isso levantou preocupações de que essas imagens pudessem ser espalhadas como desinformação e prejudicar a credibilidade do Google Earth como uma fonte de referência de imagens de satélite usada por pessoas e organizações em todo o mundo.

O Google esclareceu que alguns usuários criaram imagens que violavam as políticas de uso, decidindo desativar o recurso temporariamente para aprimorar os sistemas de segurança e as barreiras de proteção (guardrails). A empresa também confirmou que todas as imagens geradas contêm marcas d'água SynthID (tecnologia para identificar imagens geradas por IA) e que essas imagens não foram incluídas no banco de dados de mapas reais do Google Earth.

Este incidente reflete um problema de design que muitas ferramentas de IA generativa enfrentam: quando combinadas com dados do mundo real em que as pessoas confiamos, a capacidade de 'simular' pode facilmente se tornar um canal para criar imagens falsas indistinguíveis da realidade.