“사진도 후기도 못 믿겠다”…쇼핑 플랫폼, ‘AI 가짜 리뷰’와 전쟁

생성형 AI로 '가짜 후기' 제작 쉬워져

소비자 후기 진위 판단 갈수록 어려워

패션 플랫폼들 선제적 대응 잇따라

리뷰 신뢰성 확보가 새 경쟁력 부상

무신사 로고. ⓒ무신사

생성형 인공지능(AI)이 쇼핑 경험을 혁신하는 동시에 새로운 과제도 낳고 있다.

AI를 활용해 작성한 상품 후기가 늘면서 소비자들이 실제 구매 경험이 담긴 진솔한 리뷰를 가려내기 어려워졌기 때문이다. 이에 주요 쇼핑 플랫폼들은 리뷰 신뢰도를 높이기 위한 기능과 정책을 강화하고 있다.

24일 업계에 따르면 패션 플랫폼들은 생성형 AI 확산에 맞춰 후기 관리 체계를 강화하고 있다.

무신사는 최근 무신사스토어·29CM·솔드아웃 회원 대상 서비스 이용약관을 개정하고 AI 생성·편집 이미지를 구매 후기와 스냅, 체험단 후기 등에 게시하는 행위를 금지했다. 개정 약관은 다음 달 18일부터 시행된다.

새 약관에는 AI 기술로 전부 생성한 이미지나 상품의 형태·색상·상태·착용 결과 등을 실제와 다르게 편집한 이미지를 후기 콘텐츠에 등록할 수 없다는 내용이 담겼다.

AI 생성·편집 사실을 숨기기 위해 식별 정보를 삭제하거나 검증 시스템을 우회하는 행위도 금지 대상이다.

이를 위반하면 게시물 삭제와 이미지 업로드 제한, 적립금 회수, 서비스 이용 제한 등의 조치를 받을 수 있다.

이는 생성형 AI를 활용해 실제 구매 경험이 없는 후기나 편집된 이미지를 손쉽게 만들어낼 수 있게 되면서 소비자가 후기의 진위를 가려내기 어려워졌기 때문이다.

실제 해외의 경우 AI를 활용한 후기 작성을 금지하거나 탐지 시스템을 강화하는 움직임이 확산되고 있다.

미국 리뷰 플랫폼 Yelp는 AI가 작성하거나 AI로 수정한 리뷰를 금지하고 있으며, 지난해 AI 생성으로 의심되는 리뷰 약 50만 건을 자동 필터링했다. 허위 리뷰 계정도 대거 차단하며 리뷰 신뢰성 확보에 힘쓰고 있다.

아마존 역시 머신러닝과 AI 기반 탐지 시스템을 활용해 허위 리뷰를 사전에 걸러내고 있다. 생성형 AI를 활용한 가짜 리뷰가 늘자 AI 기반 탐지 체계도 고도화하고 있다.

국내 플랫폼들도 이 같은 흐름에 맞춰 리뷰 관리 체계를 강화하고 있다.

특히 패션 플랫폼은 소비자가 구매한 상품의 색상과 핏이 구매 결정에 중요한 영향을 미치는 만큼 후기 관리에 더욱 공을 들이는 모습이다.

무신사 관계자는 "후기는 고객들에게 신뢰있는 콘텐츠를 제공하는 것이 목표인데, AI 콘텐츠의 무분별한 남용은 후기 신뢰도 저하, 콘텐츠 품질 저하, 허위/과장 표현 등을 통한 왜곡을 불러 일으킬 수 있어서 선제적으로 대응한 것"이라고 말했다.

카카오스타일이 운영하는 패션 플랫폼 지그재그는 현재 모든 리뷰를 대상으로 AI를 활용한 1차 검수와 담당자의 2차 검수를 병행하고 있다.

허위 사실을 기반으로 작성된 리뷰는 검수 기준에 따라 노출을 제한하거나 삭제하고 있으며, 반복적으로 정책을 위반한 이용자에게는 누적 패널티를 적용하고 있다.

카카오스타일 관계자는 "리뷰의 신뢰성이 중요한 만큼 검수 프로세스와 운영 정책을 지속적으로 고도화할 계획"이라고 밝혔다.

W컨셉 역시 AI 리뷰 관리 방안을 고심하고 있다.

W컨셉 관계자는 "AI 활용 범위가 넓어지고 있어 관리 방안을 검토 중"이라고 말했다.

다수의 패션 플랫폼이 구매 후기 작성자에게 포인트나 적립금 등 보상을 제공하는 만큼, 허위 리뷰를 걸러내고 후기의 신뢰성을 유지하는 운영 역량의 중요성은 앞으로 더욱 커질 것으로 보인다.

업계 관계자는 "패션 플랫폼들은 구매 후기 작성자에게 포인트나 적립금 등 보상을 제공하는 경우가 많다"며 "생성형 AI를 활용한 허위 리뷰가 늘어나면 마케팅 비용은 투입되는데 정작 리뷰의 신뢰도는 떨어질 수 있어 플랫폼 입장에서는 관리의 중요성이 더욱 커질 수 밖에 없다"고 말했다.