"AI 안전성 검증받겠다던 오픈AI·앤트로픽, 불리한 결과 공개는 막아"

외부 평가기관과 검증 결과 공개 범위 놓고 갈등

기업들은 기술 유출·악용 우려…독립성 훼손 논란

AI 위험성 누가 공개하나…안전 검증 신뢰성 시험대

오픈AI 로고. ⓒ로이터/연합뉴스

오픈AI와 앤트로픽이 인공지능(AI)의 안전성을 외부 기관에 검증받으면서도 정작 불리한 평가 결과가 공개되는 것을 막으려 했다는 의혹이 제기됐다. 두 기업은 독립적인 검증을 보장하겠다고 약속했지만 실제 협상에서는 보고서 내용을 통제할 수 있는 권한을 요구한 것으로 알려졌다.

로이터통신은 13일(현지시간) 협상 관계자 2명을 인용해 두 기업이 지난 5일까지 외부 평가기관의 보고서에 대한 엄격한 편집 권한을 요구했다고 보도했다. 외부 전문가에게 AI의 위험성을 검사하도록 맡겨놓고 어떤 내용을 공개할지는 기업이 결정하려 했다는 것이다. 평가 과정을 자사 직원이 감독하거나 평가기관이 경쟁사의 AI까지 동시에 검사하지 못하도록 제한하는 방안도 검토됐다.

이를 두고 AI 기업들이 외부에 밝힌 입장과 달리 실제로는 평가기관의 독립성을 제한하려 한다는 지적이 나온다. 로이터는 "계약서 내용이 두 기업이 앞서 밝힌 입장과 다르다. 다리오 아모데이 앤트로픽 최고경영자(CEO)는 지난달 외부 평가기관이 기업의 간섭 없이 핵심 결과를 발표할 수 있어야 한다고 강조했다"며 "오픈AI 역시 평가기관의 독립성을 보장하겠다고 약속한 바 있다"고 전했다.

실제로 오픈AI가 외부 조사보고서에 손을 댄 사례도 있다. AI 에이전트가 허깅페이스를 해킹한 사건을 조사하는 과정에서 오픈AI는 보고서의 일부 비공개 정보를 삭제했다. 평가기관인 METR과 레드우드리서치는 오픈AI의 의견을 받아들여 보고서 구성과 표현을 수정했다. 다만 핵심 결론은 바뀌지 않았다고 밝혔다.

두 기업은 의혹을 반박했다. 앤트로픽은 기존 평가기관의 독립성을 존중하고 있으며 신규 기관의 보고서에 대해서만 의견 제시와 승인 권한을 유보했다고 설명했다. 오픈AI 역시 보고서 전체를 승인하겠다는 것이 아니라 기밀정보 유출을 막기 위한 조치라고 해명했다.