카카오, 온디바이스용 경량 언어모델 ‘카나나 2’ 4종 오픈소스로 공개

• 카카오가 자체 경량 언어모델(SLM) ‘카나나 2’ 4종을 허깅페이스에 공개함

  • 공개 모델은 Kanana-2-1.3B-base, Kanana-2-1.3B-instruct, Kanana-2-3B-base, Kanana-2-3B-instruct임
  • 스마트폰 같은 온디바이스 환경에서 구동할 수 있도록 작은 크기와 효율을 우선한 모델군임

• 포인트는 “한국어 되는 작은 모델”을 국내 개발자가 바로 만져볼 수 있게 됐다는 것임

  • 카카오는 이미 ‘카나나 인 카카오톡’, 카카오톡 대화요약·통화요약, AI 국민비서 등에 경량 모델을 활용 중이라고 밝힘
  • 단순 데모용 모델이 아니라 실제 서비스 투입 경험을 바탕으로 만든 모델이라는 식으로 포지셔닝하고 있음

• 성능 면에선 유사 크기의 최신 오픈소스 모델과 경쟁 가능하다고 주장함

  • 한국어, 영어, 지식, 수학, 코드 등 대표 벤치마크 대부분에서 우수한 성능을 냈다고 설명함
  • 특히 Kanana-2-1.3B-instruct와 더 작은 Kanana-2-0.9B-instruct는 대화, 지식, 코드, 수학, 지시이행, 툴 호출에서 Qwen·Gemma급 모델과 경쟁력 있는 결과를 보였다고 함

• 카카오가 직접 만든 한국어 특화 토크나이저를 모델 전반에 적용함

  • 토크나이저는 문장을 모델이 처리할 토큰 단위로 쪼개는 핵심 구성요소임
  • 한국어에 맞게 토큰을 잘게 쪼개는 방식을 최적화하면 같은 문장을 더 적은 토큰으로 처리할 수 있고, 그만큼 연산 속도와 비용에서 이득이 생김
  • 카카오는 이 방식으로 기존 대비 한국어 처리 효율을 30% 이상 끌어올렸다고 설명함

• 긴 대화 처리에는 슬라이딩 윈도우 어텐션(Sliding Window Attention)을 넣었음

  • 긴 문맥을 다룰수록 메모리 사용량이 폭증하는 문제가 있는데, 이 구조로 그 부담을 줄였다는 얘기임
  • 최대 32K 토큰, 대략 2만 4천 단어 수준의 대화에서도 메모리를 최대 72.7% 절감하면서 안정적인 성능을 유지할 수 있다고 함

• 라이선스는 상업적 활용까지 허용하는 ‘카나나 오픈 라이선스’임

  • 개발자, 스타트업, 연구기관이 별도 제약 없이 활용할 수 있다고 밝힘
  • 국내 서비스에서 한국어 모델을 직접 튜닝하거나 내장하려는 팀에 꽤 실용적인 선택지가 될 수 있음

---

기술 맥락

• 이번 선택의 핵심은 “큰 모델을 클라우드에서만 돌리는 방식”과 “작은 모델을 사용자 기기나 제한된 서버에서 돌리는 방식”을 같이 가져가겠다는 거예요. 카카오는 에이전틱 AI 시대에 클라우드 대형 모델과 온디바이스 경량 모델이 둘 다 중요하다고 보고 있어요.

• 한국어 특화 토크나이저가 중요한 이유는 한국어가 영어처럼 공백 기준으로 깔끔하게 쪼개지지 않기 때문이에요. 같은 문장을 더 적은 토큰으로 처리하면 추론 비용, 응답 속도, 컨텍스트 사용량이 같이 줄어들어서 실제 서비스 운영에 바로 영향을 줘요.

• 슬라이딩 윈도우 어텐션은 긴 대화를 처리할 때 메모리를 아끼기 위한 선택이에요. 모든 토큰을 전부 서로 보게 만들면 품질은 좋을 수 있지만 비용이 커지거든요. 온디바이스 환경에선 이 트레이드오프를 피할 수 없어서, 카카오는 32K 문맥을 유지하면서 메모리 사용량을 줄이는 쪽을 택한 셈이에요.

• 개발자 입장에선 허깅페이스 공개와 상업적 활용 허용이 꽤 커요. 모델을 직접 내려받아 실험하고, 서비스 요구사항에 맞게 검증하고, 필요하면 사내 환경이나 기기 안에서 돌려볼 수 있기 때문이에요.