"전에 말한 조용한 식당"도 찾는다…카카오, AI 검색 모델 2종 공개

질문과 정보의 의미 연결하는 임베딩 기술…개인화 에이전트 개발 지원

30억·13억 파라미터 모델 공개…라이선스 조건 따라 상업적 활용 가능

카나나 2 임베딩 성능표.ⓒ카카오

카카오가 정확한 이름이나 단어를 몰라도 질문의 의미로 관련 정보를 찾는 AI 모델을 공개했다. 흩어진 정보에서 이용자의 맥락에 맞는 내용을 찾아 개인화 AI 에이전트의 답변을 돕는 기술이다.

카카오는 임베딩 모델 '카나나-2-임베딩' 2종을 AI 모델 공유 플랫폼 허깅페이스에 공개했다고 29일 밝혔다. 모델의 규모를 나타내는 파라미터 수는 각각 30억 개와 13억 개다.

임베딩은 텍스트의 의미를 수치로 표현해 질문과 정보 사이의 유사성을 비교하는 기술이다. 언어모델이 답변을 생성한다면 임베딩 모델은 그 답변에 필요한 정보를 찾는 역할을 한다.

예를 들어 이용자가 "전에 이야기했던 조용한 식당"을 찾을 때 식당 이름을 몰라도 과거에 '대화하기 좋은 곳'으로 남겨둔 정보를 찾도록 도울 수 있다. 카카오는 이처럼 일상에 흩어진 맥락을 연결하는 기술을 개인화 AI 에이전트의 기반으로 활용한다는 구상이다.

카카오에 따르면 두 모델은 유사 규모의 공개 모델인 엔비디아의 '라마 네모트론 임베드 1B v2', 알리바바의 'Qwen3 임베딩 4B'와 비교한 평가에서 한국어 성능이 가장 높았다. 영어 성능은 비슷한 수준이었으며, Qwen3 모델보다 추론 효율이 높았다고 설명했다.

개발에는 자체 소형 언어모델 '카나나-2-SLM'을 활용했다. 언어 이해 능력을 정보 검색에 활용하도록 학습시켜 30억 파라미터 모델을 만들고, 큰 모델의 학습 정보를 작은 모델에 전달하는 지식 증류로 13억 파라미터 모델을 구축했다.

서비스 환경에 따라 저장 공간과 처리 속도를 조정할 수 있는 기술도 적용했다. 텍스트의 의미를 표현하는 숫자 묶음인 임베딩 벡터의 크기를 선택할 수 있어, 개발자가 검색 성능과 운영 비용을 고려해 활용할 수 있다.

두 모델에는 '카나나 오픈 라이선스'를 적용했다. 연구·개발은 물론 라이선스 조건에 따른 상업적 활용도 가능하다. 카카오는 더 큰 언어모델을 활용한 임베딩 학습과 지식 증류 연구를 이어갈 계획이다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "AI 에이전트가 필요한 도움을 제공하려면 흩어진 정보 속에서 필요한 정보를 정확히 찾아내는 기술이 중요하다"며 "한국어에 강점을 가진 임베딩 기술을 다양한 서비스에 활용하도록 돕고 검색 성능과 효율을 높이는 연구를 이어가겠다"고 말했다.