"윤어게인" 외친 미모의 20대 여성들, 알고 보니...

사회관계망서비스(SNS)에서 '윤어게인'을 외치는 젊은 여성들의 영상과 이미지가 인공지능(AI)으로 생성된 것으로 알려지며 논란이 일고 있다.

최근 한 온라인 커뮤니티에는 '극우 SNS AI 조작 충격 근황'이라는 제목으로 게시물이 올라왔다.

ⓒSNS 갈무리

이 가운데 'OO조아'라는 닉네임의 SNS 계정은 겉보기에는 20대 여성이 운영하는 계정처럼 알려졌지만, 누리꾼들 사이에서 꾸준히 의문이 제기됐다. 이후 논란이 커지자 계정주는 자신이 남성이라고 밝혔다.

계정주는 "어느 시점부터 솔직하게 말씀드렸어야 했는데 타이밍을 놓쳤다"며 "놀라시거나 배신감을 느끼실 분에게 사과 외에는 변명의 여지가 없다. 죄송하다"고 전했다. 현재 해당 계정은 삭제된 상태다.

ⓒOO젤리 SNS 갈무리

이 밖에도 일부 계정에서는 스튜어디스 사진을 도용해 "윤어게인. 저희가 있습니다. 윤석열 대통령님 존경하고 사랑합니다"라는 문구를 게시한 사례가 확인됐다. 이에 한 스튜어디스는 "정치 이슈에 사진이 도용당한 거 너무 어이없네. 경찰서 갑니다"라며 "사진 도용하는 거 범죄라는 걸 모르는건가? 정치적 신념은 혼자 간직하시길"이라고 분노를 드러냈다.

지지자들의 온라인 활동을 추적해 온 황희두 노무현재단 이사는 "젊은 여성 극우 '네임드' 계정의 정체가 결국 드러났다"며 "문제는 AI 기술이 인간의 눈만으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다는 것"이라고 지적했다.

그러면서 "단순한 기술 문제가 아니라 인간의 '인지 과정'을 공격하는 인지전의 전형적인 사례"라며 "이미지를 활용하면 정치에 관심이 적은 이용자들도 알고리즘을 통해 자연스럽게 콘텐츠를 접하게 된다. 극단적 정치 메시지 확산에 활용되는 구조"라고 설명했다.

미국에서도 '마가'(MAGA·미국을 다시 위대하게) 운동의 아이콘으로 알려졌던 에밀리 하트가 AI로 만들어진 가상 인물이라는 사실이 드러나 논란이 된 바 있다.

ⓒ온라인 커뮤니티

점점 구분하기 힘드네...일상에도 파고든 AI 콘텐츠

최근 SNS에는 '야구장 중계 화면 속 미모의 여성'이라는 제목의 영상이 올라와 화제를 모았다. 영상 속 여성은 몸매가 드러나는 흰색 상의와 청바지를 입은 채 다리를 꼬고 경기에 집중하고 있는 모습이었다.

특히 화면 상단에는 'SBS 스포츠', '한화 vs 두산' 등 중계 그래픽까지 삽입돼 있어 많은 이들이 실제 경기 장면으로 받아들였다.

그러나 야구팬들은 영상 속 모순을 발견했다. 영상에는 조인성과 김서현이 같은 경기에 나왔다고 표시돼 있다. 하지만 조인성은 1998년 LG트윈스에 입단한 뒤 2017년 은퇴했고 김서현은 2023년 한화에 입단한 선수이기 때문에 시기상 두 선수가 실제 경기에서 맞붙는 것은 불가능하다는 점에서 영상이 가짜라는 사실이 드러났다.

이처럼 AI 기술이 빠르게 발전하면서 실제와 구별하기 어려운 이미지와 영상이 온라인상에 확산되고 있어 이용자들의 주의가 필요하다는 우려섞인 지적이 제기되고 있다.