구글어스, AI 위성사진 생성 하루 만에 철회…"가짜 정보 우려"

404미디어 "LA 폭발 크레이터 등 손쉽게 합성“

구글 "정책위반 이미지 확인"…안전장치 보강

ⓒAP/뉴시스

구글이 지도 서비스 '구글어스(Google Earth)'에 AI 위성사진 생성 기능을 도입했다가 허위정보 악용 우려가 커지자 하루도 안 돼 철회했다. 언론과 정보분석 기관이 사실 확인의 기준으로 활용해온 구글어스의 신뢰를 훼손할 수 있다는 비판이 잇따른 데 따른 조치다.

알파벳의 자회사인 구글은 지난 30일(현지시간) 구글 어스에 자사 AI 이미지 생성 도구 '나노 바나나 2'를 통합해 제공한다고 발표했다. 사용자들은 이 기능을 이용해 구글 어스의 위성·항공·3D 지도 데이터를 바탕으로 특정 위치를 확대한 뒤, 문구를 입력하는 것만으로 몇 초 만에 실사에 가까운 이미지를 만들어낼 수 있었다. 웹 버전에 한해 전 세계에서 대기명단 없이 무료로 즉시 제공됐다.

구글 어스의 제품관리자(PM) 브라이언 호로위츠는 발표문에서 이 기능을 통해 "역사를 시각화해 되살리고", "전문적인 부동산 계획을 작성하고", "착공 전에 건설계획을 시각화하는" 등 다양한 작업이 가능해졌다고 소개했다.

그러나 공개출처정보(OSINT) 전문가들과 허위정보 연구자들은 즉각 반발했다. 실제 지형·건물 이미지 위에 그럴듯한 가짜 장면을 자연스럽게 덧씌울 수 있어 사실확인 작업 자체를 어렵게 만들 수 있다는 우려에서다. 구글 어스는 그동안 전쟁 지역이나 접근이 제한된 현장의 피해 상황, 군사시설, 재난 현장 등을 검증할 때 언론인과 연구자들이 기준 자료로 삼아온 서비스다.

미국 매체 404미디어는 가장 먼저 이 기능의 악용 가능성을 지적했다. 이 매체 기자는 로스앤젤레스의 폭발 크레이터, 구글 본사 앞 시위대 이미지 등을 실제 위성사진 위에 손쉽게 합성해낼 수 있음을 보여줬다. 영국 파이낸셜타임스(FT)에 따르면 이후 소셜미디어 엑스(X)에는 이 기능으로 만든 가자지구 폭탄 분화구와 이란 핵시설, 암스테르담 거리 자동차 사고 장면 등의 가짜 이미지가 올라왔다. AFP통신도 자체 시험에서 파리 폭발 장면, 이란 핵시설, 러시아의 폭탄 분화구, 시리아의 이슬람국가(IS) 훈련장 등 국제적으로 민감한 사안을 연상시키는 가짜 위성 이미지를 만들어낼 수 있었다고 전했다.

논란이 커지자 호로위츠 PM은 기능 도입 후 24시간이 채 지나지 않은 31일 엑스(X)에 글을 올려 기능 통합을 철회한다고 밝혔다.

그는 "우리는 세계를 신뢰할 만한 방식으로 보여주는 구글 어스에 사람들이 독보적인 신뢰를 갖고 있다는 걸 알고 있다"며 "지리공간 전문가들이 이 기능을 다양한 유용한 목적으로 쓰는 것을 봤지만, 동시에 우리 정책을 위반하는 것으로 보이는 생성 이미지의 스크린샷을 사람들이 공유하는 것도 목격했다"고 밝혔다. 그러면서 "더 강력한 안전장치를 마련하는 동안 구글 어스에서 이 기능을 롤백(되돌림)하겠다"고 덧붙였다.

AI로 생성된 이미지는 다른 이용자들이 보는 구글 어스의 기본 화면에는 표시되지 않았고, AI 생성물임을 나타내는 워터마크(SynthID)도 붙어 있었다.

그러나 전문가들은 이 정도 장치로는 악용을 막기에 역부족이라고 지적했다. 앨런 튜링 연구소의 샘 스톡웰 선임연구원은 FT에 "구글 어스는 수십년간 언론인과 조사관들이 의심스러운 이미지를 대조·확인하는 기준 레이어 역할을 해왔다"며 "그 기준물 안에 생성형 도구를 심는 것은 가짜를 폭로하는 데 쓰이는 잣대 자체를 오염시키는 일"이라고 말했다.

로이터통신은 메타도 이달 초 공개 인스타그램 계정을 활용해 이미지를 생성하는 AI 기능 '뮤즈 이미지'를 선보였다가 개인정보 보호 논란으로 중단한 사례를 함께 소개했다. AI 생성 이미지가 실제 사건의 증거처럼 유포되는 사례가 늘면서 생성형 AI의 안전장치와 신뢰성을 둘러싼 논란도 이어지고 있다.