Kimi K3-256k로 바꿀 때는 먼저 컨텍스트를 compact 하라는 안내
Kimi 문서는 K3 1M 모델에서 K3-256k로 전환할 때 현재 세션이 256k 컨텍스트를 넘으면 일부 코딩 도구가 자체 compact를 수행한다고 안내한다. 도구마다 처리 방식이 다르기 때문에 수동으로 compact를 먼저 실행하고, 영상 입력이 포함된 세션은 K3-256k가 지원하지 않아 바로 전환하면 실패할 수 있다고 경고한다.
- 1
K3 1M에서 K3-256k로 전환할 때 256k 초과 컨텍스트는 도구 쪽 compact가 발생할 수 있음
- 2
세션 핵심을 보존하려면 모델 전환 전에 수동 compact를 권장함
- 3
K3-256k는 영상 입력을 지원하지 않아 영상이 있는 대화는 compact 후 전환해야 함
모델 전환이 단순히 모델명만 바꾸는 문제가 아니라는 걸 보여주는 작은 문서임. 긴 컨텍스트 코딩 세션에서는 compact 시점이 작업 품질과 세션 연속성에 바로 영향을 줌.
관련 기사
정부, 18.4GW급 AI 데이터센터 얼라이언스 출범…국산 인프라 판 키운다
과학기술정보통신부가 AI 데이터센터 산업을 키우기 위해 민관 합동 AIDC 얼라이언스를 출범시켰어. 목표는 18.4GW 규모 AI 데이터센터 구축, 국산 기술 실증, 전력·냉각·서버 공급망 강화, 해외 패키지 수출까지 한 번에 묶는 거야.
KT, 분사했던 KT클라우드 다시 품나…IPO 막히고 AI 인프라 명분 찾는 중
KT가 이르면 다음 주 KT클라우드 재합병 여부를 최종 결정할 전망이야. 물적분할 당시 기대했던 상장 회수 시나리오가 중복상장 규제 강화로 흔들리면서, KT가 직접 재흡수하는 쪽이 현실적인 선택지로 떠오르고 있어.
한국 인공지능 모델, 국가대표 선발전만으론 세계 시장 못 뚫는다
중국은 오픈웨이트와 낮은 가격으로 세계 개발자를 끌어들이고, 미국은 최상위 모델을 폐쇄형 API로 통제하는 중이다. 한국은 독자 인공지능 파운데이션 모델 프로젝트를 진행하고 있지만, 벤치마크 점수와 정부 평가가 실제 글로벌 채택으로 이어지는지가 핵심 문제로 지적된다.
시흥시, 반월·시화산단에 인공지능 제조혁신 280억 원 투입
시흥시가 반월·시화국가산업단지를 중심으로 인공지능 기반 제조혁신과 디지털 전환을 추진한다. 2028년까지 총 280억5000만 원을 투입해 인공지능 종합지원센터, 선도공장, 제조 인공지능 서비스 개발 등을 진행할 계획이다.
아마존, 자체 AI 모델 노바를 다시 짠다
아마존이 자체 인공지능 모델 노바 개발 조직을 정리하고, 외부 영입 인재가 이끄는 새 프런티어 모델 연구 조직에 힘을 싣고 있다. 고성능 모델과 이미지·동영상 모델 일부는 단계적으로 접고, 연말 리인벤트에서 공개할 새 기반 모델 개발이 사내 최우선 과제로 올라간 분위기다.
댓글
댓글
댓글을 불러오는 중...