[현장] KT·네이버가 말하는 AIDC의 다음 무대는…"AI 서비스센터·AI 팩토리"

kt cloud "전력·GPU 넘어 클라우드 통합 운영…서비스 연속성 확보해야"

네이버클라우드 "네오클라우드·하이퍼스케일러 결합…AI 팩토리 추진"

공용준 KT클라우드 전무가 1일 서울 양재 엘타워에서 열린 ‘AI-Cloud Big Tech 2026’에서 ‘GPU를 넘어 AIDC로, AI 인프라 경쟁의 새로운 기준’을 주제로 기조강연을 하고 있다.ⓒ데일리안 조인영 기자

AI 인프라 경쟁의 무게중심이 GPU(그래픽처리장치) 확보에서 AI 서비스를 안정적으로 운영하는 통합 인프라 구축으로 옮겨가고 있다는 진단이 나왔다.

kt cloud는 AIDC(AI 데이터센터)가 클라우드와 AI 서비스를 아우르는 ‘AI 서비스센터’로 진화할 것으로 전망했으며 네이버클라우드는 네오클라우드의 GPU 전문성과 하이퍼스케일러의 역량을 결합한 ‘AI 팩토리’를 추진중이다. 두 기업은 공통적으로 AI 서비스 운영 역량과 플랫폼 경쟁력이 AIDC의 핵심 경쟁력이 될 것으로 짚었다.

서울 양재 엘타워에서 열린 'AI-Cloud Big Tech 2026' 행사에서 공용준 kt cloud 전무는 'GPU를 넘어 AIDC로, AI 인프라 경쟁의 새로운 기준' 기조 강연에서 "최근 고객들이 데이터센터와 GPU를 준비해 달라고 요청하면서 꼭 확인하는 것이 있다. 쿠버네티스(Kubernetes)가 설치돼 있느냐고 물어본다"고 말했다.

공 전무는 "서비스를 개발하는 사람들 입장에서는 GPU는 당연히 갖춰져 있는 것이고, 그 위에서 무엇을 더 해야 하는지를 고민한다는 것"이라고 설명했다. 쿠버네티스는 컨테이너화된 애플리케이션의 배포·확장·운영을 자동화하는 오픈소스 플랫폼이다.

그러면서 그는 "이제는 데이터센터 안에 GPU뿐 아니라 서비스와 관련된 요소들이 모두 들어와야 한다. 데이터센터 안에 IT가 들어가야 하는 상황이 된 것"이라고 언급했다.

"AIDC와 AI 클라우드 결합…AI 서비스센터로 패러다임 전환"

그는 AGI(범용 인공지능) 시대를 맞아 AI 서비스가 더욱 중요해지고 있다고 짚었다.

공 전무는 "기존 IT가 가지고 있었던 서비스 연속성에 대한 부분이 굉장히 중요해진다"면서 "GPU를 잘 스케줄링하고, AI 서비스를 잘 모니터링하고, 장애가 발생했을 때 복구할 수 있는 대책도 마련해야 한다"고 강조했다. AI 서비스가 일상에 깊숙이 들어오면서 장애 발생 시 사회 전반에 미치는 영향도 커지는 만큼, 데이터센터와 서비스 차원의 고가용성(HA) 확보가 중요하다는 설명이다.

결국 이런 문제를 해결할 플랫폼화된 구조가 필요하다고 공 전무는 짚었다. 그는 "모델 자체가 점점 더 커지고 있다. 수백 MB를 넘어 테라바이트급의 더 큰 모델이 나올 수도 있다"면서 "이런 모델들을 연결하고 효율적으로 서비스하기 위해서는 전송 네트워크가 굉장히 빨라야 한다"고 말했다.

특히 여러 모델을 결합하는 전문가 혼합(MoE) 구조가 확산하면서 모델과 데이터를 데이터센터 간에 초고속으로 전송하는 AI 패브릭의 중요성이 커지고 있다고 설명했다.

공용준 KT클라우드 전무가 1일 서울 양재 엘타워에서 열린 ‘AI-Cloud Big Tech 2026’에서 기조강연을 하고 있다.ⓒ데일리안 조인영 기자

공 전무는 현재 가장 큰 병목은 GPU 간 데이터 연결보다는 스토리지에서 컴퓨팅 노드로, 컴퓨팅 노드에서 GPU로 데이터를 전달하는 구간에 있다고 짚으며 데이터센터나 서비스센터를 초기 설계하는 단계부터 이런 부분들이 반영돼야 한다고 강조했다.

그러면서 앞으로 AI 데이터센터는 전력, 외부 연결망, 내부 스토리지, 데이터센터 간 연결 상황 등을 종합적으로 고려해 운영하는 구조로 발전할 것으로 내다봤다. 특히 AI 학습용 데이터센터와 추론용 데이터센터가 분리되는 만큼, 이를 연결하는 AI 패브릭과 초고속 네트워크 구축이 필요하다고 설명했다.

공 전무는 AI 데이터센터에서는 서비스를 개발하고 AI 에이전트를 만들면 데이터 파이프라인을 통해 모델을 학습시키고, 모델의 결과물을 바탕으로 AI 런타임과 AI 에이전트, 모델 데이터 등이 만들어지는 구조가 될 것으로 전망했다.

그는 "이 모든 과정이 운영화돼야 한다. 결국 이런 기능들을 모두 갖춘 인프라가 AIDC 안에 설치되고 운영돼야 하는 상황"이라며 "CSP와 네오클라우드가 다소 분리된 형태로 운영되고 있으나 수년 내에 이런 부분들이 결합될 것"이라고 예상했다.

이를 위해 여러 퍼블릭 클라우드와 프라이빗 클라우드, 온프레미스 환경을 통합 관리하는 클라우드 컨트롤 플레인이 필요하다고 강조했다. 계정과 인증, 라이선스 관리 등을 통합해 하나의 운영 환경을 제공하는 체계가 AIDC의 핵심 요소가 될 것이라는 설명이다.

이런 변화가 진행되면 AI 데이터센터라는 단어 자체가 주는 이미지도 달라질 것으로 내다봤다. 앞으로는 통합 AIDC라는 단어보다는 'AI 서비스센터' 또는 'AI 에이전트 서비스센터'라는 형태로 바뀌게 될 것이라는 진단이다.

공 전무는 "물리적 기반 시설인 피지컬 파운데이션(Physical Foundation)이 빠질 수는 없다. 전력과 냉각, 격벽 시설, ESS와 UPS 같은 설비도 필요하다. GPU도 당연히 들어가야 한다"면서도 "이제는 이런 요소들을 연결하기 위한 소프트웨어 구조와 플랫폼이 함께 구축돼야 한다"고 강조했다.

결국 AIDC가 AI 클라우드, AI 서비스와 연결되면서 기존의 CAPEX, 전력 공급, 운영 지표뿐 아니라 연결성(Connectivity)과 플랫폼 ROI까지 포함하는 것이 AIDC의 새로운 KPI가 될 것으로 예상했다.

공용준 KT클라우드 전무가 1일 서울 양재 엘타워에서 열린 ‘AI-Cloud Big Tech 2026’에서 국내 AIDC 사업 현황과 클라우드 결합 전략을 설명하고 있다.ⓒ데일리안 조인영 기자

공 전무는 "전체 데이터센터에 들어가는 AI 자원 확보 규모는 매년 증가하고 있다. 이런 부분은 매년 35% 이상 늘어나고 있다"면서 "한국도 이런 변화에 발맞추기 위해 노력해야 한다"고 말했다.

한국은 kt cloud, 네이버클라우드, SK텔레콤 등을 중심으로 AIDC 사업이 진행중이다.

kt cloud는 2030년까지 1GW 규모의 데이터센터를 구축하고 약 6조원을 투자한다. kt cloud 플랫폼과 자체 IaaS에 적용되는 클라우드 네이티브 플랫폼을 기반으로 멀티 리전·멀티 AZ 체계를 구축하고 전국 거점을 연결할 계획이다.

SK텔레콤도 1GW 이상의 데이터센터를 구축할 예정으로, 여기에 AI 클라우드와 GPUaaS를 적용할 예정이다. 네이버클라우드는 약 270MW 규모의 데이터센터를 구축하며, 네이버클라우드의 AI 서비스를 해당 인프라에 올려 제공할 계획이다.

공 전무는 "이런 상황을 보면 결국 AIDC와 AI 클라우드는 결합할 수밖에 없다. 앞으로는 데이터센터 자체를 제공하는 것보다 AI 클라우드나 서비스 클라우드를 그 위에 올려 제공하는 형태로 시장이 발전할 것"이라며 "클라우드를 직접 사용하지 않는 기업이라고 하더라도 클라우드 서비스 센터로 전환하기 위해서는 이런 요소들이 필요하다"고 강조했다.



김지훈 네이버클라우드 이사가 1일 서울 양재 엘타워에서 열린 ‘AI-Cloud Big Tech 2026’에서 기조강연을 하고 있다.ⓒ데일리안 조인영 기자

네이버 "네오클라우드·하이퍼스케일러 결합"…1.6GW급 AI 팩토리

네이버클라우드는 AIDC를 단순한 연산 인프라를 넘어 AI 모델과 서비스를 생산하는 ‘AI 팩토리’로 확장하는 전략을 제시했다.

김지훈 네이버클라우드 이사는 'AIDC의 새로운 전략 :네오클라우드와 하이퍼스케일러를 아우르는AI팩토리' 기조 강연에서 "인공지능 전환(AX)이 가속화하면서, 이제는 일반적인 IT 인프라보다 AI 모델과 결과물 생산에 직접적인 영향을 미치는 요소들이 더욱 중요해지고 있다. AI가 만들어내는 생산물과 결과물을 고려하면 ‘AI 팩토리’라는 표현이 더욱 적합하다"고 말했다.

김 이사는 "현재 건설 중인 데이터센터들이 2027년 이맘때 문을 열면 전력 규모는 1.6GW에 이를 것"이라며 "이런 1.6GW급 데이터센터가 여러 곳에서 건설되고 있다"고 말했다.

그는 기존 하이퍼스케일러가 자리 잡았던 클라우드 시장이 GPU를 전문적으로 다루는 네오클라우드 시장으로 확장되고 있다고 설명했다. 전체 AI 데이터센터 투자 가운데 네오클라우드가 담당하는 비중은 약 20%이며, 이 수치는 앞으로도 계속 증가할 것으로 전망했다.

김 이사는 "더 주목해야 할 부분은 계약 시점"이라며 "3~4년 뒤에 제공할 자원까지 현재 시점에서 미리 계약하고 있다. 다시 말해 미래에 공급될 GPU 자원을 지금부터 확보하고 있는 상황"이라고 강조했다.

이어 "개인과 기업이 AI를 사용하면 할수록 AIDC 수요는 더욱 커질 것"이라며 "지금 구축된 데이터센터만으로도 수요를 감당하기 어려울 수 있다"고 내다봤다.

그는 최근 주목받고 있는 로봇이나 제조 현장에 적용되는 피지컬 AI 수요 역시 GPU 추론 수요에 큰 영향을 미칠 것으로 전망했다.

김 이사는 "피지컬 AI를 포함한 추론 영역은 GPU를 활용한다. GPU를 사용하려면 이를 뒷받침하는 AI 데이터센터가 필요하다"면서 "이러한 인프라는 중앙에 위치한 대규모 데이터센터일 수도 있고, 현장에 구축되는 엣지 데이터센터나 온프레미스 환경일 수도 있다. 중요한 것은 이 시장이 일시적인 유행이 아니라 지속적으로 확대된다는 점"이라고 강조했다.



김지훈 네이버클라우드 이사가 1일 서울 양재 엘타워에서 열린 ‘AI-Cloud Big Tech 2026’에서 기조강연을 하고 있다.ⓒ데일리안 조인영 기자

김 이사는 피지컬 AI 시장이 연평균 47% 성장하고, 관련 인프라 배포의 48%가 엣지·온프레미스 환경에서 이뤄질 것이라는 전망도 제시했다. 제조·국방 등 핵심 산업에서는 저지연 처리와 데이터 주권이 중요해 현장형 인프라 수요가 커질 것이라는 설명이다.

이러한 시장 변화가 네이버가 AI 팩토리 시장에 진출하는 이유라고 김 이사는 설명했다. 그는 "단순히 매출을 늘리거나 사업을 확장하기 위한 목적이 아니라, AI 생태계의 성장에 대응하기 위해 필수적인 요소"라며 ""네이버클라우드는 네오클라우드의 전문성과 하이퍼스케일러의 경쟁력을 함께 갖춰 AI 팩토리 사업을 추진할 예정"이라고 말했다.

네이버가 구축하는 AI 팩토리는 대규모 용량을 장기 계약하는 글로벌 AI 기업(오프테이커·offtaker)에 클러스터나 데이터센터 단위의 전용 인프라를 공급하고, 국방과 금융처럼 보안 요구가 높은 분야에는 폐쇄된 전용 환경인 데디케이티드 클라우드(dedicated cloud)를 제공하는 방식으로 운영된다.

국방 분야에서는 GPU 제공뿐 아니라 실제 현장에 대한 이해가 중요하다고 강조했다. 네이버는 전 국방부 차관을 경영본부에 영입해 국방 분야의 AI 활용 방식과 필요한 사업을 파악하며 사업을 추진하고 있다고 설명했다.

김 이사는 "네이버의 기존 서비스도 AI 팩토리의 주요 수요처"라며 "전 국민이 사용하는 네이버 포털이 저희 인프라를 기반으로 운영된다. 여기에 스마트스토어 판매자와 같은 소상공인 고객에게도 GPU를 안정적으로 공급해 활용할 수 있도록 지원할 계획"이라고 말했다.

네이버는 대규모 기가와트급 AI 팩토리와 함께 국방·제조 등 소버린 AI가 필요한 분야를 위한 현장형 인프라도 구축할 계획이다. 김 이사는 고객 데이터센터 내부에 폐쇄망 클라우드를 구축하는 베어메탈 클라우드를 소개하며, 망분리 요건을 갖춘 환경에서 중앙 AI 팩토리와 동일한 운영 체계로 GPU를 확장하고 엣지 및 고객망 내부에서 운영할 수 있도록 지원한다고 설명했다.

권은태 과학기술정보통신부 인공지능전환지원과장은 이날 축사에서 "AI가 실제 산업 현장에서 제대로 활용되고 확산되기 위해서는 우수한 AI 모델도 중요하지만, 대규모 연산을 안정적으로 처리할 수 있는 AI 데이터센터와 컴퓨팅 인프라, 이를 효율적으로 활용할 수 있게 하는 클라우드 플랫폼, 다양한 산업의 수요에 맞는 AI 서비스와 소프트웨어 생태계가 유기적으로 함께 발전해야 한다"고 말했다.

이어 "AI의 진정한 가치는 기업과 공공 현장에 적용돼 실제 생산성을 높이고 새로운 서비스와 산업을 창출할 때 비로소 완성된다. 이를 위해서는 AI 기업과 클라우드 기업, 인프라 기업, 소프트웨어 기업이 각자의 영역에 안주하지 않고 서로의 기술과 경험을 연결하는 것이 무엇보다 중요하다"고 덧붙였다.