인공지능(AI), 현실로 다가온 위협 [하재근의 이슈분석]

이이경 사생활 폭로 사건, AI 사진으로 조작된 ‘장난’이었다는 폭로자의 사과문. ⓒ X, SNS

최근에 이이경 관련 논란이 인터넷에서 뜨거웠다. 자신이 독일인 여성이라고 주장한 A씨가 이이경이 DM(다이렉트 메시지)을 통해 신체 사진을 요구하거나 성적인 발언을 했다는 내용의 글을 올렸기 때문이다. 카톡 메시지 캡쳐 화면이나 이이경처럼 보이는 얼굴의 사진도 공개했다. 이이경 측에선 허위 사실이라면서 법적 대응을 예고했다.

그러자 A씨는 자신의 블로그에 이이경의 계정으로 보이는 SNS를 스크롤하는 영상과 DM 대화 글 등이 담긴 영상을 공개하며 반박했다. 이렇게 마치 증거를 공개하는 것처럼 보이면서 주장을 이어나가자 논란이 커졌고 이이경은 이미지상의 큰 피해를 당했다.

그랬던 A씨가 돌연 자신의 폭로가 모두 인공지능을 활용한 조작이었다고 토로했다. 모두가 인공지능 조작 폭로에 놀아났다는 것인지, 정말 황당하기만 하다.

피해 당사자에겐 단지 황당한 수준에서 그칠 일이 아니다. 어떤 사람이 무언가를 주장하면 대체로 언론은 ‘폭로’라며 이 사실을 전한다. 폭로라는 말엔 그 내용이 사실임을 인정하는 뉘앙스가 담겨있다. 그러니까 일방적인 주장이 나왔을 때 많은 매체가 덮어놓고 그것을 사실로 전파하는 듯한 경향이 있다는 얘기다.

누리꾼들도 한 쪽의 주장이 나왔을 때 일단 믿는 경향이 있다. 심지어 일부는 나중에 사실이 아니라는 게 밝혀져도 여전히 불신하면서 애초의 주장글을 계속 맹신하기도 한다. 이러니 어떤 사람이 부정적인 내용을 주장할 때마다 연예인의 이미지는 매우 심각하게 훼손된다.

이렇게 말로만 주장해도 피해가 클 수밖에 없는 풍토인데 인공지능으로 증거까지 조작해낼 수 있는 시대가 된 것이다. 앞으로 인공지능이 더 고도화되면 사진, 녹취, 영상 등 다양한 증거들이 아주 손쉽게 제작될 수 있을 것이다. 안 그래도 누군가의 주장에 쉽게 흔들리는 분위기에 인공지능 조작 기술의 발달은 심각한 위협이다.

얼마 전엔 김수현과 고 김새론 관련 논란이 뜨거웠다. 당시 유족을 대리한 채널에서 김수현과 고 김새론이 일찍부터 사귀었다는 내용이 담긴 녹취 파일을 공개해 파장이 일었다. 하지만 김수현 측에선 그것이 인공지능 등으로 조작된 파일이라고 반박했다. 제보자가 김수현에게도 인공지능 파일을 제공하겠다며 접근했지만 김수현 측이 거절했다고 했다. 그러자 반대편에게 조작 파일이 넘어갔다는 것이다.

허위 주장에 휘둘리지 않으려면 논란에 대해 신중하고 합리적으로 대처해야 한다. 하지만 우리 사회는, 심지어 언론마저도 성급하고 맹목적으로 접근하는 경향이 있다는 게 큰 문제다. 인공지능 기술이 발달될수록 더욱 신중해질 필요가 있다.

연예인뿐만 아니라 일반인의 피해도 나타났다. 얼마 전에 배우 이정재를 사칭한 ‘로맨스 스캠’ 범죄로 한 여성이 5억 원의 피해를 입었다. 사칭범은 피해 여성에게 접근해, 인공지능으로 조작한 이정재의 셀카 사진과 신분증 등을 보여주며 신뢰를 얻어냈다. 그래서 결국 여성이 6개월에 걸쳐 거액을 사기당했다는 것이다.

이 사건에선 사진만 이용됐지만 앞으로 목소리와 영상까지 조작한 사기 범죄가 얼마든지 나타날 수 있다. 인공지능 사기가 창궐할 수 있는 것이다. 지난 7월엔 유명 유튜버 침착맨이 등장하는 불법 도박 게임 광고가 나타났는데 그것도 인공지능 조작이었다고 한다. 유명인을 내세워 투자를 권유하는 조작 영상도 있었다. 이번 주엔 ‘쓰레기 과태료 폭탄’ 관련 인공지능 조작영상이 이슈가 되며 불안이 조장됐다.

이런 사건들은 시작에 불과하다. 우리 각자가 인공지능으로 인한 혼란에 대비해야 할 시점이다. 조작 사기를 비롯한 인공지능 악용에 대한 제도적 규제 방안도 강구돼야 한다.