카카오, 온디바이스용 경량 언어모델 카나나-2 네 종 공개

• 카카오가 자체 개발한 경량 언어모델 카나나-2 시리즈 4종을 오픈소스로 공개함

  • 공개 장소는 허깅페이스임
  • 스마트폰 같은 기기에서 직접 구동하는 온디바이스 환경을 겨냥한 모델임
  • “작은 모델인데 한국어·영어 성능은 글로벌 수준”이라는 메시지를 내세움

• 가장 중요한 포인트는 한국어 처리 효율을 따로 챙겼다는 점임

  • 카카오는 자체 개발한 한국어 특화 토크나이저를 적용함
  • 기존 대비 한국어 처리 효율을 30% 이상 끌어올렸다고 밝힘
  • 한국어 입력이 토큰으로 덜 낭비되면 연산 속도와 비용 양쪽에서 이득이 생김

• 긴 대화 처리도 온디바이스 관점에서 설계함

  • 슬라이딩 윈도우 어텐션 구조를 도입함
  • 최대 3만2000토큰, 약 2만4000단어 분량의 긴 대화에서도 안정적인 구동이 가능하다고 설명함
  • 이때 메모리 사용량을 최대 72.7% 줄일 수 있다고 함

• 라이선스는 꽤 열어둔 편임

  • 카카오는 누구나 제한 없이 상업적으로 활용할 수 있는 카나나 오픈 라이센스로 배포한다고 밝힘
  • 스타트업이나 기업이 자체 AI 서비스에 가져다 쓰는 걸 의식한 공개로 보임
  • 국내 AI 생태계 활성화에 기여하겠다는 설명도 붙었음

• 개발자 입장에서 보면 “한국어 잘 되는 작은 모델” 선택지가 늘어난 게 포인트임

  • 서버형 거대 모델은 성능은 좋지만 비용, 지연시간, 개인정보 이슈가 따라옴
  • 반대로 온디바이스 모델은 기기 성능 제약이 빡세서 토크나이저와 메모리 최적화가 체감 성능을 크게 좌우함
  • 카나나-2가 실제 앱 안에서 얼마나 쓸 만한지는 벤치마크와 배포 후 피드백을 더 봐야 하지만, 방향 자체는 국내 서비스 개발자에게 꽤 직접적임

---

기술 맥락

• 카카오가 경량 모델을 낸 이유는 온디바이스 환경의 제약이 빡세기 때문이에요. 스마트폰에서 모델을 돌리려면 서버형 대형 모델처럼 메모리와 연산을 마음껏 쓸 수 없거든요. 그래서 모델 크기, 토큰 효율, 어텐션 메모리 사용량이 전부 제품 품질로 바로 이어져요.

• 한국어 특화 토크나이저가 중요한 이유는 한국어가 영어식 토큰화에서 손해를 보기 쉬워서예요. 같은 의미를 입력해도 토큰이 많이 쪼개지면 처리할 양이 늘고, 속도와 비용이 같이 나빠져요. 카카오가 30% 이상 효율 개선을 말한 건 한국어 서비스에서 꽤 실용적인 수치예요.

• 슬라이딩 윈도우 어텐션은 긴 대화를 다룰 때 메모리를 줄이기 위한 선택이에요. 전체 대화 히스토리를 매번 다 보는 방식은 기기 안에서 버티기 어렵거든요. 일정 범위 중심으로 계산하면 긴 대화 맥락을 어느 정도 유지하면서도 메모리 부담을 낮출 수 있어요.

• 상업적 활용이 가능한 오픈 라이선스로 공개한 것도 개발자 생태계에는 의미가 있어요. 모델이 좋아도 라이선스가 애매하면 제품에 넣기 어렵거든요. 카카오는 스타트업과 기업이 새 AI 서비스를 만드는 쪽으로 쓰이길 기대한다고 밝혔고, 실제 채택 여부는 성능과 사용 조건이 얼마나 맞느냐에 달려 있어요.