[현장] SKT·엔비디아·리벨리온 동맹…'토큰 수출국' 승부수(종합)

국산 NPU에 엔비디아 생태계 결합…소버린 AI 컴퓨트 표준 구축

SKT, GPU·NPU 통합 데이터센터로 토큰 생산비 낮추고 AI 활용 확대

리벨리온 "한국형 컴퓨트 표준 첫걸음"…글로벌 시장 진출 발판 마련

(왼쪽부터) 박성현 리벨리온 대표, 정석근 SKT CTO 겸 AI CIC장, 이도규 과학기술정보통신부 정보통신정책실장, 아쉬시 카란디카르 엔비디아 NVLink Fusion 부문 부사장이 기념 촬영을 하고 있는 모습.ⓒSKT

"한국이 전 세계에서 가장 저렴하게 토큰을 만들고, 이를 통해 우리나라에서 AI를 정말 많이 사용하도록 하겠다."(정석근 SKT CIC장)

9일 서울 코엑스에서 열린 '엔비디아 AI 데이 서울' 행사에 참석한 정석근 SK텔레콤 AI CIC장은 엔비디아, 리벨리온과 한국형 소버린 AI 인프라 구축을 위한 GPU(그래픽처리장치)·NPU(신경망처리장치) 통합 시스템 개발 협력 배경에 대해 이같이 밝혔다.

정 CIC장은 국산 AI 모델의 활용 기반을 확대하기 위한 GPU·NPU 통합 인프라의 필요성을 강조했다. 국산 기술만을 고집하기보다 글로벌 AI 생태계와 호환되는 컴퓨트 표준을 구축하는 것이 현실적이고 효율적이라는 판단이다.

정 CIC장은 "소버린 AI를 만드는 데 있어서 어떤 칩을 써야 하느냐에 대한 고민은 굉장히 많다"면서 "한국 것만으로 우리가 소극적으로 소버린 AI를 정의할 필요가 있을까 고민할 때, 글로벌하게 최적화된 엔비디아 GPU를 활용하는 동시에 최적의 환경을 만들어 주는 것이 우리 인프라 사업자(SKT)가 꼭 해야 할 일"이라고 설명했다.

이어 "엔비디아 GPU와 리벨리온 NPU를 잘 합쳐 국산 파운데이션 모델을 비롯한 국산 모델들을 인퍼런스(추론)할 수 있는 최적의 환경을 만들어 보려고 한다"고 말했다.

이날 SK텔레콤은 엔비디아·리벨리온과 손잡고 소버린 AI 인프라 구축을 위한 업무협약(MOU)을 체결했다. 구체적으로 NV링크 퓨전(NVLink Fusion) 기술을 활용해 리벨리온이 개발 중인 NPU 'Rebel R200'을 엔비디아 플랫폼에 연결하고, 여기에 엔비디아의 모듈형 서버 설계 플랫폼인 MGX를 적용해 서버 랙 단위의 GPU·NPU 통합 시스템을 개발할 계획이다.

NVLink Fusion은 엔비디아 GPU끼리 데이터를 빠르게 주고받는 연결 기술인 NVLink를 타사 AI 반도체에도 적용할 수 있도록 확장한 기술이다. 이를 통해 엔비디아의 글로벌 AI 생태계와 호환되는 컴퓨트 표준을 마련하고 국내 AI 인프라 경쟁력을 끌어올린다는 구상이다.

SKT "GPU·NPU 통합 데이터센터로 소버린 토큰 생산"

이번 협력이 가져올 변화를 묻자 정 CIC장은 "데이터센터 클러스터에서 한국 기업이 정말 의미 있게 참여할 수 있는 판을 한국에서 만들 수 있다"면서 "그렇게 된다면 글로벌 시장에서도 의미 있는 생태계에 참여하고 경제적 가치를 만들어낼 기회가 된다"고 말했다.

정 CIC장은 '소버린 토큰' 생산을 위한 인프라 사업자의 역할도 강조했다.

정 CIC장은 "저렴한 토큰을 통해 우리나라에서 AI를 많이 사용하도록 하겠다는 것이 메가 프로젝트를 추진하는 동기"라며 "우리가 하고 싶은 것은 이런 NPU와 GPU를 묶은 최적의 데이터센터를 만드는 것"이라고 말했다.

그는 "우리 같은 전문 사업자가 이를 만들어 주고, 실제로 이를 사용해야 할 정부·공공기관이나 민간 기업, 그리고 모두의 AI 서비스를 하는 사업자들이 우리를 통해 API를 이용할 수 있도록 하는 것"이라고 밝혔다.

정석근 SKT CTO 겸 AI CIC장이 ‘소버린 AI 인프라’ 주제로 브리핑을 하고 있는 모습.ⓒSKT

그러면서 정 CIC장은 소버린에 최적화된 모델을 만들어낼 수 있다면 데이터센터나 그 안에 들어가는 반도체, 모델, 애플리케이션까지 전체를 풀스택으로 구성해 소버린 AI의 좋은 사례를 만들 수 있다고 강조했다.

이를 위해서는 데이터센터 구축을 넘어 실제 고객이 AI 인프라를 활용할 수 있도록 지원하는 환경이 필요하다고 강조했다. 정 CIC장은 "그냥 나가서 칩을 일반 기업에 팔아라, 글로벌 수출을 해라라는 것은 상당한 진입 장벽이 있다"면서 "그렇기 때문에 국산 칩을 우리 같은 사업자들과 함께 활용해 한국에서 의미 있는 레퍼런스를 만들고 실증할 필요가 있다"고 말했다.

리벨리온 "국산 NPU·엔비디아 생태계 결합해 컴퓨트 표준 구축"

박성현 리벨리온 대표는 이번 협력의 핵심으로 컴퓨트 표준 구축을 꼽았다.

박 대표는 "핵심은 저희가 스탠더드를 만들어 보겠다는 것"이라며 "컴퓨트 스탠더드, 리벨리온의 NPU뿐만 아니라 NVIDIA의 에코시스템과 인터커넥트 기술, 그리고 전체를 오케스트레이션할 수 있는 SK텔레콤의 오퍼레이션까지 합쳐 하나의 컴퓨트 스탠더드를 만들 것"이라고 말했다.

국산 NPU와 글로벌 AI 생태계를 결합한 표준을 바탕으로 궁극적으로 토큰 수출국으로 도약하겠다는 구상이다.

박 대표는 "NVIDIA GPU 인터커넥트 기술, 특정 워크로드에 최적화된 리벨리온 NPU가 함께할 때 어떤 컴퓨트 스탠더드를 마련할 것인지, 이를 어떻게 정의하고 발전시켜 나갈 것인지가 중요하다"며 "이것이 일단 한국에서 먼저 소버린 AI의 스탠더드로서 구현되고, 이를 가지고 EU 등 글로벌 시장에 도전할 수 있는 스탠더드를 규정하는 첫 번째 자리가 됐으면 하는 바람"이라고 덧붙였다.