카카오, 스마트폰에서 돌리는 경량 AI ‘카나나-2’ 4종 오픈소스로 공개

• 카카오가 자체 경량 언어 모델(SLM) ‘카나나-2’ 4종을 오픈소스로 풀었음

  • 공개된 모델은 13억 개와 30억 개 매개변수 규모의 기본형·지시형 조합임
  • 허깅페이스에 올라갔고, 스마트폰·PC 같은 디바이스 환경에서 구동하는 걸 목표로 함

• 포인트는 “작지만 한국어 서비스에 바로 써먹을 수 있냐”인데, 카카오는 그쪽에 힘을 실었음

  • 대화·통화 요약, AI 비서 같은 생활 밀착형 기능이 주요 활용처로 언급됨
  • 이미 ‘카나나 인 카카오톡’, 카카오톡 대화·통화 요약, AI 국민비서 등에 자체 경량 모델을 쓰고 있다고 밝힘

• 성능 비교 대상으로는 큐웬(Qwen) 같은 비슷한 규모의 글로벌 오픈소스 모델이 나왔음

  • 카카오는 지식, 수학, 코딩, 지시 수행 평가에서 경쟁력 있는 결과를 냈다고 설명함
  • 단순히 “한국어만 잘함”이 아니라 영어와 코드·수학 영역까지 같이 보겠다는 포지션임

• 한국어 특화 토크나이저를 넣은 게 꽤 중요함

  • 토크나이저는 문장을 모델이 처리할 수 있는 단위로 쪼개는 기술인데, 같은 문장을 더 적은 단위로 처리하면 연산량과 비용이 줄어듦
  • 카카오는 자체 토크나이저 적용으로 기존 모델 대비 한국어 처리 효율을 30% 이상 높였다고 함

• 긴 대화 처리 쪽에는 슬라이딩 윈도 어텐션(Sliding Window Attention)을 도입했음

  • 긴 대화에서는 어텐션 계산 때문에 메모리 사용량이 빠르게 커지는데, 이 문제를 줄이려는 설계임
  • 카카오는 메모리 사용량을 최대 72.7% 절감했다고 설명함

• 라이선스도 개발자 입장에선 체크할 만함

  • ‘카나나 오픈 라이선스’를 적용했고, 상업적 이용이 가능하다고 밝힘
  • 개발자, 스타트업, 연구기관이 별도 비용 부담 없이 모델을 활용할 수 있다는 메시지임

---

기술 맥락

• 카카오가 고른 방향은 “클라우드 대형 모델만으로는 부족하다”는 판단에 가까워요. 카카오톡 대화 요약이나 통화 요약처럼 사용 빈도가 높은 기능은 매번 큰 모델을 부르면 비용과 지연 시간이 부담되거든요.

• 그래서 모델 크기를 1.3B·3B급으로 낮추고, 스마트폰이나 PC에서 돌아갈 수 있는 경량 언어 모델(SLM)에 초점을 맞춘 거예요. 온디바이스에 가까워질수록 응답 속도, 개인정보 처리, 운영 비용에서 이점이 생겨요.

• 한국어 특화 토크나이저는 이 기사에서 꽤 핵심이에요. 한국어 문장을 더 적은 토큰으로 처리하면 같은 모델이라도 더 긴 문맥을 담거나 더 적은 비용으로 추론할 수 있거든요.

• 슬라이딩 윈도 어텐션도 같은 맥락이에요. 긴 대화 전체를 매번 무겁게 보지 않고 필요한 구간 중심으로 처리해서, 32K 토큰 수준의 대화에서도 메모리 사용량을 줄이려는 선택이에요.