앤트로픽, ‘생물무기 전용’ AI 연구 5건 차단…“AI 악용 현실됐다”

조류독감·치쿤구니야 등 위험 연구에 AI 활용 시도

안전장치 우회·연구 목적 숨긴 정황도 포착

앤트로픽 “실제 악의적 목적이었는지는 확인 못해”

엔트로픽 로고. ⓒ로이터/뉴시스

인공지능(AI) 기업 앤트로픽이 자사 AI 모델 ‘클로드’를 생물무기 개발에 전용할 가능성이 있는 연구에 사용하려던 사례 5건을 적발해 차단했다.

파이낸셜타임스(FT) 등에 따르면 앤트로픽은 10일(현지시간) 공개한 위협정보 보고서에서 올해 과학자들이 클로드를 위험성이 높은 생물학 연구에 활용한 사례 5건을 확인했다고 밝혔다. 일부 사용자는 회사의 안전장치를 우회하거나 연구 목적을 숨기는 방식으로 AI의 도움을 받으려 한 것으로 조사됐다. 앤트로픽은 문제가 된 계정들을 모두 차단했다.

대표적인 사례는 고병원성 조류인플루엔자(AI·조류독감) 연구다. 한 연구자는 수주 동안 클로드를 활용해 조류독감 바이러스가 포유류에 적응하는 과정과 중증 질환을 일으키는 원리를 연구했다. 또 다른 사례에서는 군 관련 연구기관의 연구자가 치쿤구니야 바이러스의 전염성과 면역 회피 능력을 변화시키는 이른바 ‘기능획득 연구’를 위한 연구비 신청서 작성에 클로드를 이용하려다 차단됐다. 국가 관련 감염병 연구소에서 두창 계열 바이러스 연구를 진행한 사례도 포착됐다.

특히 일부 이용자는 앤트로픽이 서비스를 제공하지 않는 지역에서 접속하거나 안전 필터를 피하려 한 것으로 파악됐다. 앤트로픽이 서비스 이용을 제한하는 국가에는 중국과 러시아, 이란 등이 포함돼 있다. 회사 측은 AI가 고도의 생물학 지식을 제공하면서 생물무기 개발 능력을 가진 행위자의 범위를 넓힐 가능성을 우려하고 있다. 앤트로픽은 앞서 최신 AI가 복잡한 생물학 과제에서 전문가를 능가할 수 있다며 생물무기 개발에 악용될 위험성을 경고한 바 있다.

다만 앤트로픽은 적발된 연구자들이 실제 생물무기를 개발하려 했다고 단정할 수는 없다고 강조했다. 바이러스의 전염성이나 면역 회피 원리를 파악하는 연구는 백신과 치료제 개발에도 필요한 ‘이중용도’ 연구이기 때문이다. 앤트로픽은 관련 기관과 연구자의 신원을 공개하지 않았으며 확보한 정보를 당국 및 업계와 공유하고 있다고 밝혔다.