젠슨 황은 엔비디아에 닥친 위기를 어떻게 극복할까

엔비디아 GPU에 맞서 나온 구글 TPU가 시장에서 화제

AI 거품론 우려가 커지는데 범용 GPU와 특화된 TPU의 시장잠식 경쟁이 치열할 듯

숱한 위기를 극복해온 젠슨 황이 이번에도 어떻게 이겨낼지 관심사

젠슨 황 엔비디아 최고경영자가 지난 10월 30일 서울 삼성동 한 치킨집에서 이재용 삼성전자 회장, 정의선 현대차그룹 회장과 치맥 회동을 하고 있다.ⓒ 연합뉴스

엔비디아 CEO(최고경영자)인 젠슨 황(62)은 늘 직원들에게 “우리 회사는 앞으로 30일 후면 망합니다”라고 외친다. 1993년 창업 이후 줄곧 이렇게 독려했다. 그저 위기의식을 불어넣자는 메시지가 아니라, 실제 망할 고비를 여러 차례 넘겼다. ‘황의 분노’라는 표현처럼 그는 직원들에게 자주 큰소리친다. 2000년대 중반 그래픽 칩에 불량이 발생했을 때 100여 명의 임원을 사내 강당에 불러 두 시간 동안 고래고래 호통쳤다. 잠시 방심했다간 날고 긴다는 IT 업체들도 시체가 되어 쓰러지는 실리콘밸리 한복판에서 그는 소리를 지르며 위기를 돌파해온 야전 사령관이다.

기본적인 회계 개념조차 없었지만, 경제·경영 서적을 방 가득 쌓아 두고 탐독하며 깨우쳤다. 2013년 무렵까지는 딱히 AI(인공지능)에 관심이 없었으나 소프트웨어 직원의 설명을 듣고 난 뒤 “우리는 더 이상 그래픽 회사가 아니다”며 곧바로 AI 기업을 향해 광속 직행했다.

그간 엔비디아가 여러 번 위기에 봉착했으나 젠슨 황은 오히려 조직과 기술의 역량을 업그레이드하는 기회로 삼았다. 한두 번 실패했다고 주저앉지 않고, 실패에서 얻은 교훈을 살려 새로운 제품을 준비하곤 했다.

그런 그가 지난 10월 30일 한국에 와 이재용 삼성전자 회장과 정의선 현대차 회장을 대하는 표정을 보니 읽히는 게 많았다. 그는 이건희 회장 시절을 언급했고 이재용 회장에게는 “내가 삼성의 GDDR을 쓸 때, 너는 아직 꼬마였을 뿐”이라는 농을 건넸다. 속으로는 마치 “한국의 쌍두 기업을 이끄는 너희 둘은 스마트하지만 귀족으로 자랐지. 나는 맨바닥에서 일어선 창업자야. 햄버거 가게인 데니스에서 종업원으로 오랫동안 일하기도 했어. 난 너희 아버지 세대와 같아. 앞으로 너희와 대한민국은 내 말을 잘 들어야 할 거야”라고 하는 것 같았다.

지금까지 그가 입을 열면 세계가 주목했다. 말 한마디로 시장을 좌지우지하고, 주가를 뒤흔들며, 여러 기업들을 롤러코스트에 태웠다. 전 세계 언론은 웬만한 국가원수의 발언보다 그의 말을 더 비중 있게 보도했다. 모두가 엔비디아에서 만드는 GPU(그래픽처리장치) 없이는 AI 시대가 불가능하다고 믿었고, 엔비디아의 경영실적도 시장의 예상을 뛰어넘는 ‘서프라이즈’였다.

그런데 최근 미국에서 스멀스멀 ‘AI 거품론’이 제기되었다. 그 증거의 하나로 순환거래가 지적되었다. 가령 엔비디아가 오픈AI에다 최대 1000억 달러 투자를 발표하면 오픈AI는 그 돈으로 엔비디아의 GPU를 수백만 개 구매하고, 오픈AI는 다시 오라클을 상대로 그렇게 하는 식이다. 이런 형태로 얽히게 되면 자칫 자기들만의 잔치가 되고 거품이 푹 꺼질 수 있다는 우려다.

이런 우려가 확산하자, 엔비디아는 최근 글로벌 주주들에게 보낸 7쪽짜리 ‘팩트체크 FAQ’라는 문서에서 “엔비디아의 스타트업 투자는 전체 매출의 3~7% 수준으로 미미하기에 구조적으로 매출 부풀리기가 불가능하다”라고 해명했다. AI 기업들의 매출에 거품이 있다는 비판에 대해서도 “AI 스타트업은 비용 투자가 커서 단기적 현금 흐름은 악화되지만 잠재시장이 크다”고 해명했다. 엔비디아의 3분기 재고가 2분기보다 32% 늘었다는 지적에 대해서는 “신제품(차세대 GPU인 ‘블랙웰’) 출시에 앞서 신제품을 선제적으로 비축한 것”이라고 설명했다. 그런데 AI 칩 시장점유율 80~90%를 자랑하는 엔비디아가 굳이 이렇게까지 해명하는 모습이 오히려 시장에서는 “무언가 심상치 않다”는 불안을 낳기도 했다.

아니나 다를까. 강력한 복병이 등장했다. 11월 24일 미국 나스닥이 급등했는데 주인공은 엔비디아가 아니었다. 바로 구글이 11월 18일 공개한 AI 모델인 ‘제미나이 3.0프로’가 추론, 속도, 이미지, 비디오 등에서 모두 시장 선도자인 오픈AI의 ‘챗GPT 5.1’을 뛰어넘는다는 호평이 이어졌다. 범용성(汎用性)을 위해 다양한 기능까지 모두 탑재한 엔비디아의 GPU는 구매도 유지도 어려움이 많지만, 구글이 2016년부터 개발한 주문형반도체(ASIC)인 TPU(텐서처리장치)는 특정 목적에 맞춰 설계되어 비용을 크게 줄이는 것으로 알려졌다. 덕분에 구글의 모회사인 알파벳은 주가가 6.31%나 급등했고 개발에 공동 참여한 브로드컴도 크게 올랐다.

이튿날인 11월 25일에도 알파벳 주가는 1.62% 오르며 계속 상승했으나 엔비디아는 반대로 2.59% 하락했다. 그간 엔비디아 GPU를 대량 구매해온 메타가 2027년부터 구글 TPU를 도입한다는 빅뉴스까지 나왔다. 오픈AI의 샘 올트먼 대표조차 “이제 우리는 쫓아가는 입장”이라고 실토했다.

갑자기 엔비디아가 AI 시대를 주도하던 시대가 끝난 듯한 분위기가 벌어졌다. 엔비디아 측은 부랴부랴 X(옛 트위터)를 통해 “구글의 성공이 반갑다. 하지만 우리 GPU는 모든 AI 모델을 실행하며 컴퓨팅이 이뤄지는 모든 환경에서 구현할 수 있는 유일한 플랫폼”이라며 한 수 위라고 강조했지만, 일단 시장 반응은 미미했다.

AI의 초기 시장이 LLM(거대언어모델)을 만드는 ‘학습’에 치중했다면 이제는 만들어진 모델로 이용자의 질문에 답을 하는 ‘추론’ 쪽으로 힘이 쏠리고 있다. 이런 상황에서 GPU와 TPU의 본격적인 힘겨루기가 벌어지면 어떤 일이 벌어질까. 몇몇 전문가들의 의견을 들어보니 GPU가 ‘종합비타민’이라면, TPU는 ‘비타민B’나 ‘비타민C’ 등 개별 비타민제라고 할 수 있다. GPU의 용도가 훨씬 넓다 보니 전력을 비롯해 부수적으로 들어가는 비용이 많다. 반면 TPU는 좀 더 AI에 특화된 스타일이다. 그래서 당장 TPU가 GPU를 완전히 대체하는 일은 일어나지 않겠지만, 상당 부분 잠식은 할 수 있어 보인다.

젠슨 황과 엔비디아 입장에서는 전에 없는 비상 상황이다. 그가 이번에는 어떤 돌파력으로 상황을 헤쳐 나갈지 주목된다. 사실 그는 이번 한국 방문에서 “26만 장의 GPU를 공급하겠다”며 ‘선물’을 주었다. 문외한이 들으면 14조원이나 되는 제품을 그냥 주는 줄 알았겠다. 하지만 돈이 있어도 엔비디아 GPU를 사기 힘든 상황을 감안하면 ‘선물’이라고 해도 지나치지 않다. 일각에서는 TPU의 공격을 먼저 예상한 젠슨 황의 선제적인 마케팅이 아니었느냐는 우스갯소리도 한다.

그동안 엔비디아에 6세대 첨단 반도체인 HBM(고대역폭메모리)4를 납품하기 위해 경쟁을 벌여 온 SK하이닉스와 삼성전자도 시장 동향에 극도로 민감하다. GPU든, TPU든 계속 국내 반도체가 들어가야 하기 때문이다.

경영은 전쟁과 같다. 일단 허점을 보이면 자꾸 밀리게 된다. 벌써 ‘구글이 여는 새로운 AI 시대가 열렸다’는 식의 기사 제목이 뜬다. 과연 젠슨 황이 어떻게 특유의 돌파력으로 헤쳐 나갈지 주목된다. 단기간에 그럴 가능성은 적어 보이지만, 만일 이 싸움에서 진다면 엔비디아라 해도 영영 잊혀지는 기업이 될 수 있다. ‘황의 분노’를 다시 보고 싶다.