[2026 국감] AI 성능엔 6.1조, 안전엔 274억…격차 224배

내년 과기정통부 AI 예산 9조4308억원

안전·신뢰 0.3%…성능 분야는 65.2%

인공지능(AI) 기술과 디지털 신경망을 형상화한 이미지. 생성형 인공지능(AI) ChatGPT를 활용해 제작했다.

과학기술정보통신부가 내년 인공지능(AI) 성능·인프라에 6조1490억원을 투입하는 반면 안전·신뢰에는 274억원을 편성한 것으로 나타났다.

6일 이주희 더불어민주당 의원이 과기정통부에서 제출받은 자료에 따르면 2027년도 과기정통부 소관 AI 예산 정부안은 9조4308억원이다.

이 가운데 모델 개발과 그래픽처리장치(GPU) 등 컴퓨팅, 데이터 구축을 포함한 성능·인프라 예산은 6조1490억원으로 전체의 65.2%를 차지했다.

안전성 평가·검증과 레드팀, 딥페이크 대응, 윤리·영향평가 등을 아우르는 안전·신뢰 분야는 274억원으로 0.3%에 그쳤다. 의원실이 제시한 기능별 기준에 따라 과기정통부가 세부 사업을 분류한 결과다.

성능·인프라와 안전·신뢰 간 격차는 2024년 36대 1에서 2025년 176대 1로 벌어졌다가 올해 141대 1을 기록했다. 내년 정부안에서는 224대 1로 다시 확대된다. 2023년에는 안전·신뢰로 분류된 예산이 없었다.

증가 폭에서도 차이가 났다. 내년 성능·인프라 예산은 올해 2조8460억원에서 6조1490억원으로 116% 늘어난다. 안전·신뢰는 201억원에서 274억원으로 36% 증가한다.

GPU 서버 확충 사업 예산만 3조8500억원으로 안전·신뢰 전체 예산의 약 140배에 달한다.

안전·신뢰 예산 274억원은 AI 안전 기술개발 연구개발(R&D) 152억원, 안전한 AI 활용 기반 조성 101억원, AI 신뢰성 및 산업 생태계 기반 조성 21억원 등 3개 사업으로 구성됐다. 뒤의 두 사업은 올해와 같은 규모다.

AI 보안과 AI 안전은 영역이 다르다. AI 보안이 해킹 등 외부 공격에 대응한다면 AI 안전은 고성능 AI가 인간의 의도나 통제를 벗어날 가능성 등에 대비하는 분야다. AI 보안 예산 2064억원을 모두 더해도 전체 AI 예산의 2.5% 수준이다.

국제사회에서도 AI 안전 투자 확대 필요성이 제기되고 있다. 요슈아 벤지오·제프리 힌턴과 유발 하라리 등은 2024년 국제학술지 ‘사이언스’ 공동 논문에서 주요 기술기업과 공공 재정 주체가 AI 연구개발 예산의 최소 3분의 1을 안전에 배정해야 한다고 권고했다.

이 의원은 “브레이크 없는 가속은 경쟁력이 아니라 위험”이라며 “안전 예산을 AI 예산의 최소 1%로 끌어올리고 해외 고성능 모델을 직접 검증할 역량을 갖춰야 한다”고 말했다.