"10억불 피해, 50명 사상 가능해야 AI 모델 차단"…앤트로픽, 미 의회에 제안

18일 정치전문매체 폴리티코 단독보도

독립평가기관, 연방 법원이 AI 모델 차단

행정부의 자의적 명령 금지…'미토스5·

페이블5 수출 통제 사태' 염두에 둔 듯

미국 의회 의사당 전경 ⓒ뉴시스

생성형 AI 모델인 '클로드'로 유명한 AI 업체 앤트로픽이 10억 달러 이상의 피해, 또는 50명 이상의 사망자나 중상자가 발생할 가능성이 임박한 경우에만 AI 모델의 출시·사용을 차단할 수 있도록 하는 AI 규제 법안 초안을 미국 의회에 제안했다.

미국 상무부 산하의 독립된 평가 기관들이 AI 모델에 이러한 위험 가능성이 임박해 있는지를 평가하며, 그러한 위험 가능성이 임박한 것으로 보고되면 상무부는 미국 연방 법원에 해당 AI 모델의 차단을 요청할 수 있다. 미 연방 의회에서 연방법으로 이러한 규제 법안이 통과되면, 기존에 AI 모델들을 규제해 오던 각 주(州)의 주법들은 효력을 잃는 내용도 담겼다.

18일 미국의 정치 전문 매체 폴리티코의 단독 보도에 따르면, '클로드'를 출시·운용하는 앤트로픽 관계자들은 이같은 내용의 AI 규제 법안 초안을 미국 의회 의원들에게 제안한 것으로 전해졌다. 폴리티코는 미국 의회 내부의 복수 소식통으로부터 초안 문건을 입수해 전격 보도했다.

앤트로픽이 제안한 법안 초안은 예측가능하고 임박한 위험으로 인해 10억 달러 이상의 피해가 발생하거나, 50명 이상이 사망 또는 중상을 입을 가능성이 있는 경우에만 AI 모델을 차단할 수 있도록 하는 내용을 담고 있다.

이 법안에 따르면 미국 상무부 산하의 독립된 평가 기관들이 AI 모델들을 주기적으로 평가하는 임무를 맡게 된다. 평가 기관이 특정 AI 모델에 대해 10억 달러 이상, 또는 50명 이상의 사상을 초래할 '임박한 구체적인 위험'이 있다고 판단되는 경우에는 72시간 내에 상무부에 보고해야 한다.

이같은 보고를 받은 상무부는 미국 연방 법원에 해당 AI 모델의 출시나 사용의 차단을 요청할 수 있다. 사법부를 거치지 않고 행정부처나 행정기관, 행정공무원이 AI 모델의 개발·배포·사용 중단을 명령하는 것은 엄격히 금지된다.

이같은 연방 의회 차원에서의 AI 규제 법안이 통과될 경우, 앤트로픽은 일부 주정부의 AI 규제 법안은 무효화돼야 한다는 내용도 제안한 것으로 전해졌다. 앞서 캘리포니아·일리노이·뉴욕주 주의회 등에서는 개별적으로 AI와 관련해 규제를 통과시킨 바 있다.

앤트로픽이 이같은 제안을 하게 된 배경에는 지난 6월 자사의 첨단 AI 모델 클로드 미토스5와 페이블5가 트럼프 행정부로부터 전격적인 수출 통제 조치를 당한 것에 대한 고려가 깔려 있는 것으로 보인다. 행정부에 의해 임의로 규제를 당하는 것보다는 독립 평가 기관과 법원을 통해 규제를 받는 게 유리하다는 판단이 선 것 아니냐는 분석이다.

현재까지 각 AI 관련사들이 자체적으로 밝힌 AI 모델 관련 사건사고 중에서 50명 이상의 인명 피해나 10억 달러 이상의 재산 피해를 초래할 위험성이 있는 사건은 없었던 것으로 평가받고 있다.

앤트로픽 대변인은 단독 보도를 한 폴리티코에 "이 법안은 앤트로픽이 6월부터 연방 의원들에게 주장해 온 '고급 AI 프레임워크'에 명시된 제안들을 담고 있다"며 "의회가 마땅히 조치를 취해야 할 합리적인 정책"이라고 밝힌 것으로 전해졌다.

한편 미국 상하원에서는 존 튠 공화당 상원 원내대표와 테드 크루즈 공화당 상원의원 등이 AI 관련 안전 법안 협상에 참여하고 있지만, 버니 샌더스 무소속 상원의원 등은 AI 개발을 중단하고 초지능 연구를 전면 금지할 것을 주장하는 급진적 제안을 내놓고 있는 것으로 알려졌다.