SKT, AI 에이전트에 사번 부여…조직·업무 방식 재설계
KT, AI 모델 통합 플랫폼 '토큰팩토리'로 사용량·비용 관리
LG유플러스, 토큰 처리 최적화…온디바이스 AI 효율 높인다
‘AX 시프트’ 관련 이미지ⓒSK텔레콤
AI를 얼마나 많이 쓰느냐보다 얼마나 효율적으로 활용해 성과를 내느냐가 기업 경쟁력의 새로운 기준으로 떠오르고 있다. 생성형 AI가 업무 프로세스에 깊숙이 들어오면서 토큰 사용량과 운영 비용이 늘어나자, 기업들도 앞다퉈 비용 대비 성과를 높이는 AI 전환(AX)에 나섰다.
SK텔레콤은 AI 에이전트를 활용한 조직·업무 재설계를, KT는 AI 모델 통합 관리와 비용 효율화를, LG유플러스는 토큰 처리 최적화 기술 확보를 '토성비(토큰 가성비)' 해법으로 지목했다.
SKT, AI 에이전트에 사번 부여…조직·업무 방식 재설계
29일 SK텔레콤은 AI 활용을 개별 업무의 효율 개선에서 조직 전반의 일하는 방식 재설계로 확장하고 있다고 밝혔다.
지난 3월 비개발 직군을 포함한 전 구성원이 직접 AI 에이전트를 만들어 업무에 활용하는 ‘1인 1 AI 에이전트’ 프로젝트를 추진한 데 이어, AI 에이전트에 사번과 소속·직무·권한을 부여하는 방식으로 한 단계 더 나아갔다.
AI를 단순한 업무 보조 도구가 아니라 구성원과 함께 일하는 새로운 업무 주체로 정의한 것이 특징이다. 구성원은 AI와 함께 기획·개발·디자인을 넘나드는 멀티 롤(Multi-Role) 방식으로 일하고, 회사는 사내 AI 개발 플랫폼 통합과 보안 체계 고도화를 통해 AX 확산 기반을 강화하고 있다.
이 같은 변화는 AI 도입을 넘어 조직과 업무 방식 자체를 바꿔야 생산성을 높일 수 있다는 인식과 맞닿아 있다. 지난 9월 정재헌 SK텔레콤 CEO는 서울대학교 특강에서 AI 전환 과정을 경제학 이론에 접목한 ‘AX의 J커브(J-Curve)’를 제시하고, 조직·업무 재설계와 구성원 재교육의 중요성을 강조했다.
AI 도입 초기에는 생산성이 일시적으로 낮아질 수 있지만, 조직과 업무 방식의 변화가 뒤따르면 생산성이 크게 높아질 수 있다는 설명이다.
KT 토큰팩토리 서비스 구조ⓒKT
KT, AI 모델 73종 통합 제공…500종 이상으로 확대
KT는 AI 모델 선택부터 사용량 확인, 비용 관리까지 한곳에서 처리할 수 있는 AI 플랫폼 ‘KT 토큰팩토리’를 앞세워 기업의 AX 전환 지원에 나섰다.
출시 초기에는 AI 모델 73종을 제공하고, 향후 국내외 500종 이상으로 확대해 고객이 업무 목적과 비용, 보안 요구에 맞는 모델을 선택하고 이용 현황을 관리할 수 있도록 할 계획이다.
토큰팩토리는 가입부터 모델 선택, 사용량 모니터링, 비용 관리와 결제까지 통합 지원한다. KT는 통신사업에서 축적한 연결·과금·보호 역량을 AI 서비스에 적용해 사용량 기반의 토큰 과금 체계를 구현하고 데이터 보호와 보안 기능도 강화했다.
KT는 오는 30일 토큰팩토리를 출시하고, AI 모델 활용과 비용 관리에 어려움을 겪는 기업 고객을 중심으로 서비스 범위를 확대할 계획이다.
또 AI 코딩·에이전트와 기업용 AI 워크스페이스 등 분야별 전문기업과 협력을 확대하고, 업스테이지와 다음 등 ‘모두의 AI’ 컨소시엄 참여사들과도 협력해 AI 인프라부터 모델 활용, 서비스까지 아우르는 생태계를 구축한다는 구상이다.
LG유플러스가 AI 응답 속도를 높이고 배터리 소모는 줄이는 ‘토큰 최적화’ 기술로 세계 최고 권위 AI 학회에서 연구 성과를 인정받았다. 사진은 이번 논문 집필에 참여한 LG유플러스 구성원들.ⓒLG유플러스
LG유플러스, 토큰 처리 효율 높인다… 온디바이스 AI 최적화
AI 모델을 통합 관리하는 것 뿐 아니라 모델 구동에 필요한 연산 부담 자체를 줄이려는 움직임도 나타나고 있다.
LG유플러스는 AI 모델 최적화 전문기업 옵트에이아이와 협력해 토큰 처리 효율을 높이는 기술 확보에 나섰다. AI 서비스 운영에 필요한 GPU와 전력 사용량을 줄이면서 응답 속도와 서비스 품질을 높이는 것이 목표다.
양사는 역할을 나눠 기술 개발을 추진한다. LG유플러스는 실제 AI 서비스 운영 경험을 바탕으로 기술 검증과 적용을 담당하고, 옵트에이아이는 AI 모델을 더 가볍고 빠르게 구동하는 기술 연구·개발을 맡는다.
특히 LG유플러스는 토큰 최적화 기술을 스마트폰 환경에 적용해 제한된 메모리와 전력으로도 소형언어모델(sLM)을 효율적으로 실행하고 학습하는 방법을 연구하고 있다. 클라우드 기반 AI의 운영 효율을 높이는 데 그치지 않고, 기기 자체에서 AI를 효율적으로 구동하는 온디바이스 기술로 연구 범위를 넓히는 것이다.
이 같은 연구 성과로 LG유플러스의 AI 토큰 최적화 관련 논문 2편이 ‘뉴립스(NeurIPS) 2026’의 온디바이스 인텔리전스 워크숍에 채택되기도 했다.
글로벌 AI 업계도 비용 효율 경쟁…성과 기반 과금 확산
이 같은 움직임은 글로벌 AI 업계에서 나타나는 비용 효율화 흐름과도 맞닿아 있다. 글로벌 AI 모델 기업들은 토큰 가격과 운영 비용을 낮추고 처리 속도를 높인 모델을 잇따라 내놓고 있다.
오픈AI는 최상위 모델에 근접한 성능을 5분의 1 가격에 제공하는 ‘GPT-6.1 솔’을 공개했고, 앤트로픽은 토큰 가격을 20% 낮춘 ‘클로드 오퍼스 5.5’를, 가격을 그대로 두고 성능을 끌어올린 ‘클로드 소넷 5.5’를 선보였다.
업무의 복잡도와 중요도에 따라 경량 모델과 고성능 모델을 나눠 쓰는 ‘모델 라우팅(Model Routing)’도 확산되고 있다. 앤트로픽은 클로드를 하이쿠(경량·저비용), 소넷(중간), 오퍼스(고성능), 페이블(초고성능) 등 단계별로 구성해 기업이 업무 유형에 맞게 모델을 고를 수 있도록 지원한다. AWS의 ‘베드록(Bedrock)’은 100개 이상의 AI 모델을 하나의 플랫폼에서 업무 유형에 따라 선택·연결할 수 있는 기업용 인프라를 제공한다.
비용 효율화와 함께 AI가 실제로 창출한 성과를 기준으로 요금을 책정하는 ‘토큰 이코노미(Token Economy)’도 주목받고 있다. 미국 AI 문서 플랫폼 ‘민틀리파이(Mintlify)’는 토큰 사용량이 아닌 실제 결과물을 기준으로 요금을 부과하는 구조로 바꿨다. 인도의 음성 AI 세일즈 기업 ‘스쿼드스택(SquadStack)’은 응대 건수가 아니라 실제 발생한 매출에 요금을 연동하는 모델을 선보였다.
고객 상담 분야에서도 같은 흐름이 나타나고 있다. 글로벌 고객 서비스 플랫폼 ‘핀(Fin, 구 인터컴)’은 고객 문의 해결이나 사전에 설정한 업무 절차 완료 등 성과 1건당 0.99달러를 부과한다. ‘젠데스크(Zendesk)’ 역시 AI 에이전트가 상담원 개입 없이 문의를 해결한 경우에만 요금을 매기는 성과 기반 요금제를 도입했다.
전문가들은 AI 경쟁의 기준이 비용 효율과 실질적인 성과로 빠르게 옮겨가고 있다고 분석한다. 앞으로는 모델 운영, 연산 최적화, 조직 혁신을 통해 AI 활용을 실제 사업 성과로 연결하는 역량이 향후 기업의 AX 경쟁력을 좌우할 것으로 진단했다.
댓글 쓰기