--- title: "카카오, 온디바이스용 경량 언어모델 카나나-2 네 종 공개" published: 2026-07-28T23:05:04.389Z canonical: https://jeff.news/article/5179 --- # 카카오, 온디바이스용 경량 언어모델 카나나-2 네 종 공개 카카오가 자체 개발한 경량 언어모델 카나나-2 시리즈 4종을 허깅페이스에 오픈소스로 공개했다. 한국어 특화 토크나이저로 처리 효율을 30% 이상 높였고, 슬라이딩 윈도우 어텐션으로 긴 대화에서 메모리를 최대 72.7% 줄이는 점을 내세운다. - 카카오가 자체 개발한 경량 언어모델 카나나-2 시리즈 4종을 오픈소스로 공개함 - 공개 장소는 허깅페이스임 - 스마트폰 같은 기기에서 직접 구동하는 온디바이스 환경을 겨냥한 모델임 - “작은 모델인데 한국어·영어 성능은 글로벌 수준”이라는 메시지를 내세움 - 가장 중요한 포인트는 한국어 처리 효율을 따로 챙겼다는 점임 - 카카오는 자체 개발한 한국어 특화 토크나이저를 적용함 - 기존 대비 한국어 처리 효율을 30% 이상 끌어올렸다고 밝힘 - 한국어 입력이 토큰으로 덜 낭비되면 연산 속도와 비용 양쪽에서 이득이 생김 > [!IMPORTANT] > 한국어 특화 토크나이저로 처리 효율 30% 이상 개선, 긴 대화에서 메모리 최대 72.7% 절감이 핵심 숫자임. 온디바이스 모델은 “작다”보다 “제한된 자원에서 버틴다”가 더 중요함. - 긴 대화 처리도 온디바이스 관점에서 설계함 - 슬라이딩 윈도우 어텐션 구조를 도입함 - 최대 3만2000토큰, 약 2만4000단어 분량의 긴 대화에서도 안정적인 구동이 가능하다고 설명함 - 이때 메모리 사용량을 최대 72.7% 줄일 수 있다고 함 - 라이선스는 꽤 열어둔 편임 - 카카오는 누구나 제한 없이 상업적으로 활용할 수 있는 카나나 오픈 라이센스로 배포한다고 밝힘 - 스타트업이나 기업이 자체 AI 서비스에 가져다 쓰는 걸 의식한 공개로 보임 - 국내 AI 생태계 활성화에 기여하겠다는 설명도 붙었음 - 개발자 입장에서 보면 “한국어 잘 되는 작은 모델” 선택지가 늘어난 게 포인트임 - 서버형 거대 모델은 성능은 좋지만 비용, 지연시간, 개인정보 이슈가 따라옴 - 반대로 온디바이스 모델은 기기 성능 제약이 빡세서 토크나이저와 메모리 최적화가 체감 성능을 크게 좌우함 - 카나나-2가 실제 앱 안에서 얼마나 쓸 만한지는 벤치마크와 배포 후 피드백을 더 봐야 하지만, 방향 자체는 국내 서비스 개발자에게 꽤 직접적임 --- ## 기술 맥락 - 카카오가 경량 모델을 낸 이유는 온디바이스 환경의 제약이 빡세기 때문이에요. 스마트폰에서 모델을 돌리려면 서버형 대형 모델처럼 메모리와 연산을 마음껏 쓸 수 없거든요. 그래서 모델 크기, 토큰 효율, 어텐션 메모리 사용량이 전부 제품 품질로 바로 이어져요. - 한국어 특화 토크나이저가 중요한 이유는 한국어가 영어식 토큰화에서 손해를 보기 쉬워서예요. 같은 의미를 입력해도 토큰이 많이 쪼개지면 처리할 양이 늘고, 속도와 비용이 같이 나빠져요. 카카오가 30% 이상 효율 개선을 말한 건 한국어 서비스에서 꽤 실용적인 수치예요. - 슬라이딩 윈도우 어텐션은 긴 대화를 다룰 때 메모리를 줄이기 위한 선택이에요. 전체 대화 히스토리를 매번 다 보는 방식은 기기 안에서 버티기 어렵거든요. 일정 범위 중심으로 계산하면 긴 대화 맥락을 어느 정도 유지하면서도 메모리 부담을 낮출 수 있어요. - 상업적 활용이 가능한 오픈 라이선스로 공개한 것도 개발자 생태계에는 의미가 있어요. 모델이 좋아도 라이선스가 애매하면 제품에 넣기 어렵거든요. 카카오는 스타트업과 기업이 새 AI 서비스를 만드는 쪽으로 쓰이길 기대한다고 밝혔고, 실제 채택 여부는 성능과 사용 조건이 얼마나 맞느냐에 달려 있어요. ## 핵심 포인트 - 카나나-2 시리즈 4종이 허깅페이스에 공개됐고 상업적 활용도 가능한 라이선스로 배포됨 - 한국어 특화 토크나이저로 한국어 처리 효율을 30% 이상 개선함 - 최대 3만2000토큰 긴 대화에서도 메모리 사용량을 최대 72.7% 줄였다고 밝힘 - 스마트폰 같은 온디바이스 환경을 겨냥한 경량 모델이라는 점이 핵심임 ## 인사이트 국내 서비스 회사가 온디바이스 LLM을 오픈소스로 내놓은 건 꽤 실용적인 신호다. 서버 비용, 개인정보, 지연시간 문제를 줄이려면 결국 작은 모델이 기기 안에서 얼마나 잘 도는지가 중요해진다.