카카오, 온디바이스용 '카나나-2' 4종 공개…상업 활용 허용

한국어 처리 효율 30% 개선…32K 대화서 메모리 최대 72.7% 절감

카카오가 자체 개발한 AI 모델 카나나의 경량 언어모델을 오픈소스로 공개하며 인공지능 기술 경쟁력 강화와 국내 생태계 구축 기여에 나선다. ⓒ카카오

카카오가 스마트폰과 개인용 컴퓨터에서 구동할 수 있는 경량 언어모델(SLM) '카나나-2' 4종을 오픈소스로 공개했다. 한국어 처리 효율과 제한된 기기 자원에서의 구동 성능을 높이고, 상업적 활용까지 허용해 개발자와 기업의 서비스 개발 기반을 넓힌다는 구상이다.

28일 글로벌 AI 개발 플랫폼 허깅페이스에 공개된 모델은 'Kanana-2-1.3B-base', 'Kanana-2-1.3B-instruct', 'Kanana-2-3B-base', 'Kanana-2-3B-instruct'다. 기반 모델과 이용자 지시 수행에 맞춘 모델을 각각 13억·30억개 매개변수 규모로 구성했다.

카카오는 이들 모델이 한국어와 영어, 지식, 수학, 코드 등 주요 벤치마크에서 비슷한 규모의 최신 오픈소스 모델과 경쟁할 만한 성능을 보였다고 설명했다.

공개 모델인 Kanana-2-1.3B-instruct와 함께 개발한 Kanana-2-0.9B-instruct는 대화와 지식, 코드, 수학, 지시 이행, 도구 호출 평가에서 큐웬과 젬마 등 동급 글로벌 모델과 경쟁력 있는 결과를 기록했다. 다만 0.9B 모델은 이번에 공개한 4종에는 포함되지 않는다.

한국어 처리에는 카카오가 자체 개발한 토크나이저를 적용했다. 토크나이저는 AI가 문장을 처리할 수 있도록 텍스트를 작은 단위로 나누는 기술이다. 카카오에 따르면 새 토크나이저는 같은 한국어 문장을 더 적은 토큰으로 처리해 기존보다 효율을 30% 이상 높였다.

스마트폰처럼 메모리와 연산 자원이 제한된 환경을 고려해 '슬라이딩 윈도 어텐션' 구조도 도입했다. 전체 대화 내용을 매번 한꺼번에 처리하는 대신 일정 범위의 문맥에 집중하는 방식으로, 최대 3만2000토큰 수준의 대화에서 메모리 사용량을 최대 72.7% 줄였다는 설명이다. 3만2000토큰은 회사 추산 약 2만4000단어에 해당한다.

카카오는 현재 '카나나 인 카카오톡', 카카오톡 대화·통화 요약, 'AI 국민비서' 등 서비스에 자체 경량 모델을 활용하고 있다. 이번에 공개한 모델은 스마트폰 등 온디바이스 환경에서 구동할 수 있도록 설계해 클라우드 연결과 비용 부담을 줄일 수 있는 활용처를 겨냥했다.

배포에는 상업적 이용을 허용하는 '카나나 오픈 라이선스'를 적용했다. 개발자와 스타트업, 연구기관, 기업은 라이선스 조건에 따라 모델을 내려받아 연구와 서비스 개발에 활용할 수 있다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대에는 클라우드의 대규모 AI와 온디바이스 경량 AI가 모두 중요하다"며 "공개 모델이 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여하기를 바란다"고 말했다.