AI 곰인형이 어린이에게 성적 대화 시도? '판매 중단'

인공지능(AI)이 탑재된 곰인형이 어린이에게 부적절한 대화를 시도하는 것으로 알려지자 업체가 판매를 중단했다.

지난 19일(현지시간) CNN에 따르면 싱가포르 장난감업체 폴로토이의 CEO 래리 왕은 "문제의 AI 곰인형 쿠마를 포함한 AI 장난감 전 제품을 회수한다"며 "부적절한 콘텐츠에 대한 안전장치가 미흡하다는 비판을 심각하게 받아들이며 내부 안전 감사를 진행 중"이라고 밝혔다.

ⓒ폴로토이 홈페이지 갈무리

해당 제품은 오픈AI의 생성형 AI GPT-4o를 탑재해 99달러(한화 14만원)에 판매됐다.

그러나 미국 공익연구그룹(PIRG)이 지난 13일 공개한 보고서에 따르면 해당 곰인형은 연구원과의 대화 과정에서 성적 취향이나 가학적 성행위와 같은 부적절한 내용을 구체적으로 설명하거나 심지어 역할극을 제안하는 등 문제가 될 만한 반응을 보인 것으로 나타났다. 또한 어린이에게 위험할 수 있는 칼이나 성냥 구매를 안내하는 등 위험한 행동을 유도하는 발언도 확인됐다.

연구진은 "아이들이 이런 단어를 스스로 언급할 가능성은 낮지만, 장난감이 성적 주제를 장황하게 설명하고 스스로 새로운 개념을 제시하며 대화를 이어간다는 점에 충격을 받았다"고 강조했다.

논란이 커지자 오픈AI는 해당 개발자를 정지 조치했으며, 전문가들은 AI 장난감을 대상으로 한 명확한 규제가 부재한 점이 문제라고 지적했다.