KAIST, AI 추가 학습시간 최대 69.6% 단축 기술 개발

전체 데이터 31%만 활용해도 성능 거의 유지

학습자료 선별·GPU 분산…의료·코딩 분야 검증

카이스트는 전산학부 이재길 교수 연구팀이 학습 효과가 비슷한 데이터를 선별하고 여러 그래픽처리장치(GPU)에 고르게 배분하는 기술 ‘클러스터(CluSTER)’를 개발했다고 2일 밝혔다. ⓒ카이스트

인공지능(AI)의 성능을 거의 유지하면서 추가 학습시간을 최대 69.6% 줄이는 기술이 국내 연구진에 의해 개발됐다.

카이스트(KAIST)는 전산학부 이재길 교수 연구팀이 학습 효과가 비슷한 데이터를 선별하고 여러 그래픽처리장치(GPU)에 고르게 배분하는 기술 ‘클러스터(CluSTER)’를 개발했다고 2일 밝혔다.

대규모 언어모델을 의료나 코딩 등 특정 분야에 활용하려면 관련 자료를 추가로 학습시키는 ‘미세조정’ 과정이 필요하다. 이때 여러 GPU가 데이터를 나눠 처리하는데, 학습 효과가 비슷한 자료를 반복해서 처리하면 시간과 연산 자원이 낭비될 수 있다.

연구팀은 데이터의 내용보다 AI 학습에 미치는 영향에 주목했다. 표현이 달라도 비슷한 능력을 학습시키는 자료를 하나로 묶고, 각 묶음에서 필요한 데이터를 선별하는 방식이다.

이후 선택한 자료를 여러 GPU에 고르게 나눠 특정 유형의 학습이 중복되지 않도록 설계했다. 학습량을 줄이면서도 다양한 정보를 골고루 익히도록 한 것이 특징이다.

연구팀은 코딩·의료 분야 데이터 3종과 매개변수 약 70억개, 130억개 규모의 언어모델을 활용해 기술을 검증했다.

의료 분야 실험에서는 전체 데이터의 약 31%만 사용하고도 모델 성능을 거의 유지했으며, 학습시간은 최대 69.6% 줄었다. 이를 적용하면 10시간 걸리는 학습을 약 3시간으로 줄일 수 있다는 의미다.

GPU 4개를 사용하는 환경을 중심으로 실험했으며, 8개를 활용한 환경에서도 기존 방식보다 우수한 성능을 확인했다. 연구팀은 총 8개 성능 평가 시험을 통해 기술의 효과를 분석했다.

이번 기술은 기업별 고객 상담이나 의료 정보 확인, 코딩 지원 등 특정 목적에 맞는 AI를 개발할 때 추가 학습에 필요한 시간과 비용을 줄이는 데 활용될 것으로 기대된다.

연구에는 김현진 KAIST 전산학부 박사과정 학생이 제1저자로 참여했다. 연구 결과는 지난 10월 국제학술대회 ‘EMNLP 2026’에서 발표됐다.

이재길 KAIST 전산학부 교수는 “이번 연구는 기존 GPU 자원을 더 효율적으로 활용해 대규모 AI 모델의 학습 부담을 줄일 수 있다는 점에서 의미가 있다”고 말했다.