ทันเอไอ

Google, 출시 하루 만에 Google Earth에서 AI 이미지 생성 기능 철회

Google이 실제 좌표 위에 가짜 이미지를 겹쳐 허위 정보 우려가 제기된 후, 웹 버전 Google Earth의 AI 이미지 생성 기능을 출시 하루 만에 중단했습니다.

Google은 최근 웹 버전 Google Earth에 Nano Banana 2 모델 기반의 AI 이미지 생성 기능을 도입했습니다. 사용자가 프롬프트를 입력하면 실제 좌표 및 위성 사진 위에 이미지를 시뮬레이션해 겹쳐 보여주는 기능이었으나, 출시 하루 만에 중단되면서 순식간에 논란이 되었습니다.

원인은 연구원들과 사용자들이 이 기능을 악용해 전쟁 폭격구, 가상의 원전, 실제로 발생하지 않은 재난 지역 등 실제 장소 위에 그럴듯한 가짜 이미지(딥페이크)를 생성해 냈기 때문입니다. 이는 해당 이미지들이 허위 정보로 유포되어, 전 세계 개인과 조직이 신뢰하는 위성 사진 참고 자료로서 Google Earth의 신뢰성을 훼손할 수 있다는 우려를 낳았습니다.

Google 측은 일부 사용자가 이용 정책을 위반하는 이미지를 생성한 것을 확인하여, 보안 시스템과 안전장치(guardrails)를 더욱 엄격히 개선하기 위해 일시적으로 기능을 차단했다고 밝혔습니다. 또한 생성된 모든 이미지에는 SynthID 워터마크(AI 생성 이미지 식별 기술)가 내장되어 있으며, 이 이미지들은 Google Earth의 실제 지도 데이터베이스에 통합되지 않는다고 강조했습니다.

이번 사건은 이미지 생성 AI 도구들이 실제 장소 데이터와 결합될 때 여전히 위험 통제에 한계가 있음을 보여줍니다. '시뮬레이션' 능력이 자칫 실제와 구분하기 어려운 가짜 이미지 생성 통로로 악용될 수 있다는 설계상의 문제를 시사합니다.