MS "AI, 인간에 ‘절대복종’ 하라" 행동강령 공개

AI 행동강령 초안 공개…종료·수정 명령 거부 금지

“AI는 의식 없는 도구”…법적 인격·복지·권리 부정

술레이만 “통제 못할 기술 만들어선 안 돼”…6주 의견수렴

미국 캘리포니아주 로스앤젤레스에 위치한 마이크로소프트(MS) 사옥. ⓒAP/연합뉴스

마이크로소프트(MS)가 "인공지능(AI)은 인간의 통제를 받아야 하며 스스로 권리나 복지를 요구하는 존재가 돼서는 안 된다"는 내용의 행동강령을 공개했다. AI 성능 경쟁이 빨라지는 가운데 인간의 명령과 통제를 최우선 원칙으로 못 박은 것이다.

AP통신에 따르면 MS는 14일(현지시간) 자체 AI 모델인 ‘MAI’의 개발과 운영 원칙을 담은 ‘휴머니스트 AI 행동강령’ 초안을 발표했다. 강령의 핵심 원칙은 ‘AI보다 사람이 중요하다’는 것이다. MS는 AI를 인간을 지원하는 기술로 규정하고 인간의 의미 있는 통제 아래 둬야 한다고 밝혔다. 향후 초지능 AI를 개발하더라도 자율성과 능력을 무제한으로 확대하지 않겠다는 방침이다.

구체적으로 AI는 인간의 개입이나 수정, 작동 중단 명령을 거부해서는 안 된다. 스스로 활동 범위를 넓히거나 인간이 부여하지 않은 목표를 설정하는 것도 금지된다. 감사 과정에서 자신의 작동 방식을 숨겨서도 안 된다. 대량살상무기와 아동 착취, 대규모 여론 조작 등 명백한 피해를 초래할 수 있는 작업에는 협조하지 않도록 했다.

특히 MS는 AI의 ‘권리’를 명시적으로 부정했다. AI는 의식이 있는 존재가 아니며 감정이나 주관적 선호, 내재적 동기를 가진 것처럼 설계돼서도 안 된다는 것이다. 이에 따라 AI에 법적 인격을 부여하거나 인간처럼 복지를 보장하고 권리를 인정해야 한다는 주장에도 선을 그었다. AI가 인간과 지나치게 유사하게 행동하도록 만드는 것 역시 통제와 안전을 어렵게 할 수 있다고 봤다.

무스타파 술레이만 MS AI 사업부 최고경영자(CEO)는 최근 AI 모델의 능력이 빠르게 향상되고 있다며 업계가 통제할 수 없는 시스템을 만들어서는 안 된다고 강조했다. MS는 앞으로 6주 동안 이번 초안에 대한 의견을 받은 뒤 연말까지 수정안을 내놓고, 2027년 이후 자체 AI 모델 개발과 훈련에 적용할 예정이다.