[현장] "AI 에이전트, 도입보다 운영이 더 중요"…KT의 AX 해법은

기업 절반 "확장·관리 체계 구축이 최우선 과제"

멀티 에이전트 시대…AI가 직접 업무 수행하는 단계로 진화

KT AI 스튜디오·AX 스쿼드로 기업 도입 지원

18일 부산 벡스코에서 열린 '부산 클라우드 데이 2026'에서 차경훈 KT Agentic AI플랫폼팀장이 'AI 에이전트 기반 업무혁신 : 공공·기업의 새로운 협업 체계' 주제로 발표하고 있다.ⓒ데일리안 조인영 기자

"(자체) 설문조사 결과, 응답자의 절반가량은 AI 에이전트 도입 이후 회사 차원에서 이를 어떻게 확장하고 관리할지에 대한 고민이 컸다."

18일 부산 벡스코에서 열린 '부산 클라우드 데이 2026'에서 차경훈 KT Agentic AI플랫폼팀장은 "에이전트를 실제 도입할 때 무엇을 고민해야 할까, 현장 설명회를 하면서 (기업들로부터) 가장 많이 수집했던 내용"이라며 이같이 말했다.

AI는 단순 챗봇을 넘어 실제 업무를 수행하는 실행 주체로 빠르게 진화하고 있다. 과거에는 정해진 규칙에 따라 미리 준비된 답변을 제공하는 챗봇 수준에 머물렀다면, 최근에는 역할이 다른 여러 AI 에이전트(Agent)가 협업해 복잡한 업무를 분담·처리할 수 있는 단계(멀티 에이전트)까지 발전했다.

차 팀장은 "기존 AI는 사람이 질문하면 답하는 역할이었다면, 지금의 에이전트는 사람이 일을 맡기면 대신 처리하는 개념으로 바뀌어 가고 있다"고 말했다. 다만 기업들이 AI 에이전트를 실제 업무에 도입하는 과정에서는 여전히 여러 과제가 남아 있다고 지적했다.

구체적으로 에이전트 목록과 활용 목적을 관리하는 체계, 업무 데이터·시스템·도구를 안전하게 연결하는 구조, 자동 실행 범위와 사람의 승인 기준을 정하는 검증·승인·통제 체계 등이 필요하다.

가장 큰 어려움으로는 업무를 AI에 위임하고 이를 검증·통제할 수 있는 '운영 구조'가 충분히 정립되지 않은 점이 꼽힌다. 이같은 기업 고민을 해결하기 위해, KT는 AI 에이전트 실행을 위한 인프라부터 플랫폼, AI 툴, AX 추진 프로그램까지 전 영역을 아우르는 'E2E AX' 추진 체계를 제공하고 있다.

AI 플랫폼인 ‘KT AI 스튜디오’는 기업이 AI를 실제 운영 수준으로 활용할 수 있도록 지원한다.

해당 플랫폼은 데이터 관리부터 모델 학습과 운영, 프롬프트 및 에이전트 템플릿 관리, 워크플로우 기반 에이전트 설계까지 하나의 환경에서 통합적으로 지원하는 것이 특징이다. 또 모델 운영과 모니터링, 거버넌스 관리 기능까지 제공해 기업이 AI 에이전트를 안정적으로 운영할 수 있도록 지원한다.

이를 통해 기업은 단일 AI 기능을 특정 업무에 붙이는 방식에서 나아가, 복잡한 업무를 여러 에이전트가 수행할 수 있는 단위로 나누고 각 에이전트가 역할에 따라 협업하는 멀티 에이전트 업무 구조를 설계할 수 있다.

여러 단계로 진행되는 법무 검토 업무를 멀티 에이전트로 구현하는 경우, 계약서 분석과 리스크 검토, 법령 조사, 권한 검증, 최종 답변 생성까지 포함한 16단계 워크플로우를 구성할 수 있다.

예를 들어 직원이 계약서 파일을 업로드하면 계약서 문서를 첫번째 AI 에이전트가 계약 내용을 구조화하고, 리스크 분석 AI 에이전트가 주요 조항별 위험 요소를 검토하며 법령 리서치 AI 에이전트와 파트너사 리서치 AI 에이전트가 관련 법령·판례와 계약 상대방 정보를 조사한다. 여러 단계와 전문 판단이 필요한 업무라도 역할별 에이전트가 분담 처리해, 담당자는 최종 검토와 의사결정에만 집중할 수 있다는 설명이다.

차 팀장은 "각 스텝별로 질문 분석, 분류, 가드레일, 권한이 있는 사람에게만 특정 정보를 오픈하는 단계까지 16개 단계를 구현해 최종 답변이 나올 수 있도록 만든 사례"라고 말했다.

업무에 AI 에이전트 도입을 위해서는 전략과 데이터, 모델, 플랫폼, 시스템 연동, 거버넌스, 운영 지원 등을 아우르는 종합적인 설계가 필요하다. 이를 위해 KT는 올해부터 과제 범위 수립부터 실제 검증, 운영까지 이어지는 ‘KT AX 스쿼드 프로그램’을 통해 기업의 AI 도입을 지원하고 있다.

과제 정의 및 구체화를 통해 빠른 MVP(최소 기능 제품)를 구현하고 단기간 내 적용 가능성과 효과를 검증하는 방식이다. 과제 발굴부터 구체화, MVP 구현, 4~6주 내 효과 검증까지 지원한다.

이후 구축된 AI 에이전트를 실제 운영 환경에 확산하고 지속적으로 고도화할 수 있도록 돕는다. 이를 통해 기업은 단순 PoC(개념 검증) 수준을 넘어 실제 비즈니스에 적용 가능한 AI 운영 체계를 구축할 수 있게 된다.

차 팀장은 "에이전트를 뭘 해야할지 잘 모르겠다면 KT에서 직접 전문가 팀이 같이 붙어 어떤 아이템을 해야 되는지를 함께 발굴하고, 어떻게 적용해 나가야 할지 구체화한다. 우리가 MVP 수준으로 빠르게 만들어서 실질적으로 4주에서 6주 안에 효과를 검증할 수 있도록 하고 있다"고 말했다.

그는 “KT는 이러한 전 과정을 포함한 E2E AX 추진 체계를 바탕으로 기업 환경에 적용 가능한 AX 모델을 제시해, 고객사의 실질적인 디지털 전환을 지원해 나가겠다”고 강조했다.