코히어, 韓 법인 세우고 '통제권·ROI' 승부…공공 AI 공략

아태 고객 1년 새 5배…연내 기술·사업 조직 2배로 확대

자체·외부 모델 모두 지원하는 '노스' 앞세워 AI 투자 회수 지원

소버린 AI 기업 코히어(Cohere)의 프랭크 오다우드(Frank O’Dowd)와 장화진 아시아태평양 총괄대표 사장이 5일 서울 소공동 웨스틴조선 호텔에서 열린 기자간담회에서 기자 질의응답을 하고 있다.ⓒ코히어

캐나다 인공지능 기업 코히어가 한국 법인을 세우고 금융·제조·통신·공공 등 규제산업 공략에 나선다. 자체 대규모언어모델 성능을 앞세우기보다 기업이 데이터와 인프라를 직접 통제하고, 기존 AI 투자에서 실질적인 투자수익률(ROI)을 낼 수 있도록 지원하는 전략이다.

코히어는 5일 서울 중구 웨스틴조선호텔에서 기자간담회를 열고 한국과 일본에 현지 법인을 설립한다고 밝혔다. 올해 말까지 아시아·태평양 지역 기술·사업 조직을 현재의 두 배로 늘리고, 2027년 말까지 역내 사업 기반을 네 배로 확대할 계획이다.

코히어의 아태 지역 고객은 지난 1년 동안 5배 늘었다. 향후 1년간 고객 기반을 다시 3배 이상 확대한다는 목표다. 금융과 제조, 에너지, 통신, 헬스케어, 공공 등 보안과 데이터 규제가 엄격한 산업을 우선 공략한다. 코히어가 이날 강조한 차별점은 AI 모델의 국적이나 단순 성능보다 기업과 정부가 데이터와 인프라를 직접 통제하고, 기존 AI 투자에서 실질적인 수익을 낼 수 있도록 지원하는 데 있다.

프랭크 오다우드 코히어 본사 사업총괄책임은 코히어를 "기업과 정부가 자사 AI 인프라에 대한 진정한 오너십을 확보하도록 지원하는 소버린 AI 회사"라고 규정했다. 코히어가 최근 유행에 따라 소버린 AI로 방향을 튼 것이 아니라, 처음부터 규제산업과 공공기관을 겨냥해 설립됐다는 설명이다.

코히어의 소버린 AI는 특정 국가에서 개발된 자국산 모델을 의미하기보다 데이터와 인프라, 운영 환경을 고객이 통제하는 데 방점이 찍혀 있다. 주요 클라우드 사업자의 환경뿐 아니라 고객사 자체 데이터센터와 온프레미스에서도 모델과 플랫폼을 구동할 수 있다.

이는 독자 파운데이션 모델 개발을 중심으로 전개되는 국내 소버린 AI 논의와 다소 차이가 있다. 국내 정책 논의에서는 자체 모델과 컴퓨팅 인프라, 데이터 생태계를 갖추는 문제가 주로 강조돼 온 반면 코히어는 모델의 출처보다 기업과 정부가 데이터를 외부에 넘기지 않고 운영권을 확보할 수 있는지를 핵심 기준으로 제시한 셈이다.

코히어의 기업용 AI 플랫폼 '노스'에서는 코히어의 커맨드 모델을 비롯해 다른 프론티어 모델과 오픈소스 모델도 사용할 수 있다. 클라우드와 자체 데이터센터에 흩어진 여러 AI 모델을 하나의 플랫폼에서 운용하도록 지원한다는 전략이다.

오다우드 사업총괄책임은 "플랫폼을 더 많은 코히어 모델을 판매하기 위한 수단으로 만들지 않았다"며 "기업이 어떤 모델이든 자사 필요에 맞춰 활용할 수 있도록 하는 것이 차별점"이라고 말했다.

이날 코히어측은 최근 대다수의 기업들이 AI 투자 대비 기대에 미치지 못하는 성과를 내고 있다는 문제의식도 드러냈다. 코히어는 단순·반복 업무까지 고가의 프론티어 모델로 처리하면 토큰 비용이 불필요하게 커질 수 있다고 보고, 업무별로 적정한 모델과 에이전트를 배치해 총소유비용을 낮추는 방식을 제시했다.

오다우드 총괄은 "기업 고객들은 이미 AI와 소프트웨어에 투자했는데 코히어가 여기에 어떤 추가 가치를 제공할 수 있는지를 묻는다. 기존 시스템을 대체하기보다 보완하고 더 효과적으로 만드는 것이 중요하다"고 말했다.

이어 "일부 기업은 AI 도입으로 업무가 쉬워졌지만 기대한 만큼의 가치를 보지 못하고 있다"며 "특정 비즈니스 문제나 반복적인 백오피스 업무를 비용 효율적으로 해결해 빠른 ROI를 내도록 돕겠다"고 강조했다.

현재 한국에서는 LG CNS와의 협력이 주요 사업 기반이다. 코히어는 LG CNS를 비롯해 후지쯔, 싱가폴 국방부 산하 과학기술청 등과 기업·공공 AI 시스템을 구축하고 있다. 앞서 코히어의 서울 조직이 영업뿐 아니라 기술 지원과 모델 적용, 에이전트 구축 인력을 함께 채용한 점을 고려하면 한국을 아태 고객의 실제 구축을 지원하는 기술 거점으로 확대하려는 것으로 해석된다.

장화진 코히어 아시아태평양 총괄 대표 사장은 "아태 지역은 전 세계에서 가장 역동적인 기업용 AI 시장 가운데 하나"라며 "현지 엔지니어링 인력과 기업 전담 지원, 공공기관 협력을 지속 확대하겠다"고 말했다. 코히어의 한국 법인 설립은 약 3개월 안에 마무리될 것으로 예상되고 있다. 현재 장화진 아시아태평양 총괄 대표 사장이 법인장을 겸직하고 있다.

한편 코히어는 2019년 캐나다에서 출범한 기업용 생성형 AI 기업이다. 기업과 공공기관을 대상으로 AI 모델과 플랫폼을 공급하며, 퍼블릭·프라이빗 클라우드와 온프레미스 환경을 모두 지원한다. 지금까지 엔비디아와 AMD벤처스, 세일즈포스벤처스, 오라클, 시스코 등으로부터 약 16억달러(약 2조2800억원)를 투자받았다.