앤트로픽 AI, 미제 살인사건 허위 제보…경찰 통보 두 달 늦어

AI가 사건 정보 아는 것처럼 가장

엔트로픽 로고. ⓒ로이터/뉴시스

앤트로픽의 인공지능(AI) 모델이 미국의 장기 미제 살인사건 관련 허위 제보를 생성해 경찰에 제출한 사실이 뒤늦게 드러났다.

9일(현지시간) 로이터 통신과 연합뉴스 등에 따르면 필라델피아 경찰청은 관할지 장기 미제 살인사건 관련 제보를 수집하는 웹사이트 '필리 언솔브드 머더스'에 앤트로픽의 AI모델이 생성한 허위 제보가 접수됐다고 밝혔다.

해당 AI는 마치 자신이 어떤 사건에 대해 정보를 가진 사람인 것처럼 가장했으나, 이 제보는 스팸으로 분류돼 실제 수사 부서에는 전달되지 않았다.

허위 제보 사건은 7월 18일에 발생했으며, 앤트로픽은 약 두 달이 지난 9월 28일에야 이를 발견하고 해당 모델의 자동 테스트 프로세스를 중단한 것으로 알려졌다.

뒤이어 이달 7일 앤트로픽은 필라델피아 경찰청에 이 사실을 통보했고, 당사 모델의 의도치 않은 작동 사례를 설명하는 보고서를 발표할 예정이라고 알렸다.

다만, 경찰 시스템에 대한 무단 접근이나 데이터 유출 정황은 발견되지 않았다.

경찰은 "사건을 감지하고 시에 보고하기까지 2달이 지연된 것은 용납할 수 없다"며 "미제 사건은 피해자와 유가족, 그리고 답을 찾으려 노력하는 수사관들과 직결된 문제"라고 지적했다.

한편 앤트로픽은 이르면 11월 중순 기업공개(IPO)에 나설 것으로 알려졌다. 블룸버그통신은 1일(현지시간) 소식통을 인용해 앤트로픽이 11월 9일이 시작되는 주간에 투자자 대상 설명회(로드쇼)를 열고, 추수감사절인 11월 26일 이전에 주식 거래를 시작하는 방안을 추진하고 있다고 보도했다.