AI 오작동이 핵전쟁 부를라…美·中, 'AI판 핵 안전장치' 추진

AI가 핵 지휘망 건드리면 공격인지 사고인지 구분 어려워

핵무기·대규모 사이버공격엔 인간 승인…'레드라인' 제안

오작동 즉시 알리는 美中 전용 핫라인도…군사적 오판 차단

지난해 5월10일 스위스 제네바에서 스콧 베선트(왼쪽) 미국 재무부 장관과 허리펑 중국 국무원 부총리가 미·중 고위급 무역협상에 앞서 악수하고 있다. ⓒ 로이터/연합뉴스

인공지능(AI)이 핵무기 지휘체계를 건드리거나 스스로 군사 사이버 공격을 시작해 미국과 중국이 실제 공격으로 오인하는 사태를 막기 위한 ‘AI판 핵 안전장치’가 제안됐다. AI가 인간보다 빠르게 공격과 대응을 반복할 경우 양국 지도부가 불과 몇 분 안에 전쟁 여부를 판단해야 하는 상황이 올 수 있다는 우려에서다.

17일(현지시간) 로이터통신에 따르면 미국 브루킹스연구소와 중국 칭화대 국제안보전략센터가 2019년부터 진행해온 미·중 AI 국가안보 대화에 참여한 전문가들은 최근 양국 정부에 군사용 AI와 관련한 새로운 안전장치를 제안했다. 핵무기 사용과 핵 지휘체계에는 AI가 독자적으로 개입하지 못하도록 ‘레드라인’을 설정하고, 대규모 사이버 공격에는 반드시 인간의 승인을 받도록 하자는 게 핵심이다.

가장 우려하는 상황은 AI의 행동을 상대국이 국가 차원의 공격으로 오인하는 경우다. 예컨대 미국의 방어 AI가 중국 네트워크의 이상 움직임을 포착해 자동으로 반격하고 중국 AI가 다시 대응하면, 양국 정부가 상황을 파악하기도 전에 공격이 확대될 수 있다. AI가 오작동하거나 해킹당해 핵 지휘·통신망에 접근해도 상대국은 그것이 사고인지 의도적인 선제공격인지 즉각 구분하기 어렵다.

전문가들은 이를 막기 위해 ‘AI 사고 전용 미·중 군사 핫라인’​도 만들자고 제안했다. 한쪽의 AI가 예상하지 못한 군사 행동을 벌였을 때 상대국에 “정부가 지시한 공격이 아니다”라고 신속하게 알릴 통로를 만들자는 것이다. 또 양국이 ‘인간의 통제’라는 같은 표현을 서로 다르게 해석하지 않도록 ‘의미 있는 인간 통제’가 어디까지인지 공동으로 정의할 필요가 있다고 지적했다.

중국은 이미 외교부 군축 부서의 공식 업무에 AI를 포함시켰다. 이 부서는 핵무기와 미사일, 비확산 문제도 함께 담당한다. 반면 미국은 백악관 국가안보회의(NSC)와 국무부, 국방부 등에 관련 업무가 흩어져 있다. 양국 정부가 이번 제안을 공식 수용한 것은 아니다. 다만 오는 24일 워싱턴에서 예정된 트럼프 대통령과 시 주석의 회담을 앞두고 AI 통제가 양국의 주요 안보 현안으로 부상하고 있다.