ทันเอไอ

Google retira la función de generación de imágenes por IA de Google Earth apenas un día después de su lanzamiento

Google suspendió la función de generación de imágenes por IA en la versión web de Google Earth un solo día después de su lanzamiento, tras ser utilizada para crear imágenes falsas superpuestas en coordenadas reales, lo que desató preocupación por la desinformación.

Google acaba de lanzar una función de generación de imágenes por IA en la versión web de Google Earth, impulsada por el modelo Nano Banana 2, que permite a los usuarios introducir comandos de texto (prompts) para simular imágenes superpuestas en coordenadas y fotos satelitales reales. Sin embargo, los resultados se convirtieron en un problema en un abrir y cerrar de ojos, ya que la función fue suspendida apenas un día después de su debut.

El motivo fue que investigadores y usuarios descubrieron que la función se estaba utilizando para crear imágenes falsas hiperrealistas (deepfakes) superpuestas en lugares reales, como cráteres de guerra, simulaciones de plantas nucleares o zonas de catástrofes inexistentes. Esto generó preocupación de que dichas imágenes pudieran difundirse como desinformación y socavar la credibilidad de Google Earth como fuente de referencia de imágenes satelitales utilizada por personas y organizaciones de todo el mundo.

Google explicó que detectó a algunos usuarios creando imágenes que violaban las políticas de uso, por lo que decidió desactivar temporalmente la función para desarrollar sistemas de seguridad y medidas de protección (guardrails) más estrictas. Asimismo, confirmó que todas las imágenes generadas incluyen marcas de agua SynthID (tecnología para marcar imágenes creadas por IA) y que estas imágenes no se integraron en la base de datos cartográfica real de Google Earth.

Este incidente refleja un problema de diseño al que se enfrentan varias herramientas de IA generativa: al combinarlas con datos del mundo real en los que la gente confía, la capacidad de "simular" puede convertirse fácilmente en un canal para crear imágenes engañosas que son difíciles de distinguir de la realidad.