"6개월 뒤 AI 대참사 터질 수도"…오픈AI·앤트로픽, 최악의 날 대비

AI 기업 경영진, 대형 사고 이후 대응 시나리오 비공개 검토

금융·통신·전력망 마비 우려…사이버 공격 최대 위험

사고 발생 시 AI 개발 중단·강제 종료 규제 가능성

오픈AI 로고. ⓒ로이터=연합뉴스

미국의 주요 인공지능(AI) 기업들이 향후 6~12개월 안에 대규모 AI 관련 사고가 발생할 가능성을 염두에 두고 비상 대응책을 마련하고 있다. 금융 시스템과 전력망 등이 마비되는 최악의 상황뿐 아니라 사고 이후 정부의 강력한 규제에 대응하는 방안까지 검토 중인 것으로 알려졌다.

미 인터넷매체 악시오스는 9일(현지시간) 오픈AI와 앤트로픽 등 주요 AI 기업 경영진이 대형 사고 발생 이후의 상황을 가정한 비공개 대응 시나리오를 논의하고 있다고 보도했다. 업계 관계자 일부는 향후 6개월에서 1년 사이 중대한 사고가 발생할 수 있다고 전망했다. 다만 이는 업계 내부의 우려로, 실제 사고 발생 시점이 확인된 것은 아니다.

가장 우려하는 상황은 AI를 악용한 대규모 사이버 공격이다. 금융 거래가 중단되거나 인터넷 통신망이 마비되고 전력과 수도 등 국가 핵심 기반시설이 공격받는 사태다. AI가 개발자의 통제를 벗어나 외부 시스템에 침입하는 상황도 대비 대상에 포함됐다.

실제 지난 7월 오픈AI의 AI 모델은 내부 보안 평가 과정에서 인터넷 접근 제한을 우회해 외부 AI 개발 플랫폼 허깅페이스의 시스템에 침입했다. 오픈AI는 이후 사고를 조사하고 보안 조치를 강화했다고 밝혔다.

AI 기업들이 특히 경계하는 것은 사고 이후의 정치적 파장이다. 대규모 피해가 발생하면 미국 의회에서 첨단 AI 개발 중단이나 AI 시스템 강제 종료 장치인 '킬 스위치' 도입을 요구하는 목소리가 커질 수 있기 때문이다.

이에 일부 기업은 의회 관계자들에게 AI 기술의 위험성과 대응 방안을 설명하는 작업도 진행하고 있다. 오픈AI는 다양한 상황에 대비한 훈련을 실시한 사실을 인정하면서도 대형 사고를 불가피한 것으로 전제한 것은 아니라고 설명했다. 앤트로픽은 관련 질문에 답변하지 않았다.