SKT, AI에 수학자 두뇌 심는다… 수학 난제 해결 도전

서울대·KAIST·고등과학원 연구진과 산학협력

SK텔레콤 사옥ⓒSK텔레콤

SK텔레콤이 국내 수학·AI 연구진과 손잡고 독자 AI 파운데이션 모델 ‘A.X K2’의 수학 추론 능력 강화에 나선다.

SKT는 22일 오전 서울 을지로 본사에서 서울대·KAIST 교수진 및 연구자들과 기술 교류회를 열고, A.X K2를 활용한 수학 난제 연구와 모델 고도화 방안을 논의한다고 밝혔다.

교류회에는 서울대 수리과학부 서인석·변성수·홍영준 교수, KAIST 전산학부 박노성 교수와 학생 연구원들이 참석한다.

이번 프로젝트에는 교류회 참석자를 포함해 수학과 AI 분야의 국내 유수 연구진이 참여한다.

수학 분야에서는 확률론·통계물리를 연구하는 서울대 수리과학부 서인석 교수, 이산수학·그래프 이론을 연구하는 고등과학원 계산과학부 이준경 교수, 저차원 위상수학·기하적 군론을 연구하는 고등과학원 수학부 김상현 교수 등이 각 전공 분야의 연구 역량을 보탠다.

거대언어모델(LLM)과 이를 활용한 수학 연구 방법론 분야에서는 서울대 수리과학부 및 협동과정 인공지능 전공 홍영준 교수, 서울대 수리과학부 이다빈·오병권·변성수 교수, KAIST 전산학부 박노성 교수가 협력한다. 이들은 수학자의 전문지식을 모델 학습에 반영하고, LLM을 실제 수학 연구에 활용하기 위한 방법론을 함께 연구할 계획이다.

연구진은 A.X K2가 수학의 각 세부 분야를 깊이 있게 학습하도록 협력한다. 기존 모델이 충분히 다루지 못했던 전문지식과 추론 능력을 보완하고, 고도화한 모델을 활용해 각 분야의 수학 난제 해결에 도전할 계획이다.

이와 같은 노력은 AI 모델을 선도하는 기업들이 수학 연구에서 성과를 내는 것과 같은 맥락이다. 오픈AI는 이달 6일 내부 AI 모델이 도출한 새로운 수학 연구 결과를 공개했다. 앤트로픽은 지난 8월 클로드가 리만 가설과 관련된 문제에서 기존 연구 결과를 개선했으며, 수학자들의 검토를 거쳤다고 발표했다.

SKT는 이번 산학협력으로 강화한 수학 추론 역량을 에이전틱 AI 고도화에 활용한다. AI가 복잡한 문제의 해결 계획을 세우고 여러 단계의 작업을 수행할 때, 판단 과정과 결과가 타당한지 점검하는 능력을 높여 나갈 계획이다.

추론·검증 능력은 AI의 자기개선 연구와도 연결된다. 최근 AI 분야에서는 스스로 능력을 개선하고, 향상된 능력을 다음 단계의 개선에 활용하는 ‘재귀적 자기개선(RSI·Recursive Self-Improvement)’이 연구되고 있다. AI가 내놓은 결과와 스스로 설계한 실험·검증 방법이 수학적으로 타당한지 판단하는 능력이 중요하다.

장기적으로는 글로벌 최상위 AI 모델과 견줄 수학 역량을 확보하고, 필요한 지식을 학습하며 스스로 발전하는 AI 에이전트를 구현하는 것이 목표다.

김태윤 SKT 파운데이션 모델 담당은 “독자 파운데이션 모델의 실제 문제 해결 능력을 높이기 위해 수학 분야 산학협력을 활발하게 추진하고 있다”며 “전문 연구자들과의 공동 연구를 통해 에이전틱 AI 역량을 고도화해 나가겠다”고 말했다.

한편 SKT는 지난 7일 업스테이지와 SK쉴더스·안랩 등 보안기업 6곳, 고려대·숭실대·부산대 등 대학 3곳을 포함한 총 11개 기관이 참여하는 ‘독자 AI 사이버보안 협의체’를 출범하고 업무협약을 체결했다. 참여 보안기업이 보유한 현장 데이터를 활용해 SKT의 ‘A.X K’와 업스테이지의 ‘솔라’ 등 AI 모델의 보안 역량을 고도화할 계획이다.