본문으로 건너뛰기
피드

알리바바 Qwen 3.6 공개 — 35B 모델인데 추론은 3B만 쓴다

ai-ml 약 5분
vote
0
댓글
북마크

알리바바가 오픈소스 AI 모델 Qwen 3.6-35B-A3B를 공개. MoE 구조로 총 350억 파라미터 중 연산에는 30억만 사용해 효율 중심 설계의 정점을 찍었고, 코딩·멀티모달·preserve_thinking 기능까지 붙여서 에이전트 시장까지 겨냥함.

  • 1

    총 35B / 활성 3B MoE 구조로 추론 비용 최소화

  • 2

    코딩 벤치마크에서 밀집형 Qwen3.5-27B 뛰어넘음, Gemma 31B와 비교 가능 수준

  • 3

    시각-언어 벤치마크에서 Claude Sonnet과 유사 수준, 일부 초과

  • 4

    preserve_thinking 기능으로 멀티턴 추론 맥락 유지 — 에이전트 작업 최적화

  • 5

    OpenAI·Anthropic API 규격과 호환, 허깅페이스·모델스코프 배포

  • 알리바바가 오픈소스 AI 모델 Qwen 3.6-35B-A3B 공개 — 350억 파라미터급이지만 실제 연산은 약 30억개만 사용
    • 희소 전문가 혼합(MoE) 구조 적용
    • 전체 파라미터 35B, 활성 파라미터 3B — 필요한 부분만 선택적으로 작동
    • AI 경쟁이 "규모 확장" → "효율 중심"으로 이동하는 흐름을 대표하는 사례
  • 성능은 오히려 올라감
    • 이전 모델 Qwen3.5-35B-A3B 대비 전반적으로 향상
    • 일부 코딩 벤치마크에선 밀집형(dense) 모델인 Qwen3.5-27B를 넘어섬
    • 구글 Gemma 31B와 비교 가능한 수준으로 평가

코딩 특화 — 에이전트형 작업까지

  • 단순 코드 생성이 아니라 문제 분할 + 다단계 수행에 강점
    • 코드 수정, 복잡한 로직, 장기 프로젝트 유지보수에서 안정적 성능
    • 반복 작업 줄이고 흐름 이어가는 개발 UX에 최적화
  • 개발 도구 생태계 호환성 좋음
    • 오픈클로, Claude Code, Qwen Code 등 주요 도구와 연동
    • 특정 플랫폼 lock-in 없이 여러 환경에서 사용 가능

멀티모달과 preserve_thinking

  • 이미지 + 텍스트 동시 이해 능력 강화
    • 시각-언어 벤치마크에서 앤트로픽 Claude Sonnet과 유사 수준, 일부 항목은 초과
    • UI 이미지·설계도 보고 코드 생성하는 시나리오에 바로 활용 가능
  • preserve_thinking 기능 새로 추가
    • 이전 대화의 추론 과정을 다음 턴에서도 이어받아 작업
    • 긴 작업·복잡한 프로젝트에서 맥락 끊김 방지 목적
    • 반복 설명 없이 이전 흐름 유지

💡

> API 규격이 OpenAI·Anthropic과 호환됨. 기존 코드에서 엔드포인트만 바꾸면 Qwen3.6으로 전환 가능. 허깅페이스·모델스코프에서 모델 직접 다운로드해 자체 서버 실행도 지원.


기술 맥락

MoE(Mixture of Experts)가 요즘 프론티어 모델의 사실상 표준이 된 이유가 Qwen 3.6에 딱 보여요. 35B 파라미터를 전부 로드해도 추론할 때 실제 계산에 참여하는 건 3B 정도만이라, 추론 비용이 3B 모델과 비슷한데 성능은 훨씬 큰 모델급으로 나오거든요. "라우터"가 입력마다 어떤 전문가(서브네트워크)를 켤지 결정하는 구조예요. 추론 비용 10배 줄이고 GPU 메모리 요구도 큰 폭으로 낮춰줘요.

preserve_thinking이 왜 에이전트 시장에서 중요하냐면, 요즘 코딩 에이전트는 한 작업이 수십~수백 턴에 걸쳐 이어지거든요. 매번 "아까 내가 뭘 생각했더라"를 다시 해야 하면 토큰도 비싸지고 논리도 흔들려요. 이걸 상태로 저장해서 이어갈 수 있게 만든 게 이 기능의 핵심이에요. Claude 3.7의 extended thinking, GPT o3의 reasoning 토큰과 같은 흐름이에요.

API 호환성 전략도 눈여겨볼 포인트예요. OpenAI 스펙을 그대로 받도록 만든 건, 기존 개발자가 임포트 한 줄만 바꿔도 이식이 되게 하려는 거예요. 이건 단순한 편의가 아니라 생태계 전쟁에서 "전환 비용 제로" 카드를 쥐는 전략이에요. 알리바바가 딥시크·큐웬 라인업으로 오픈소스 시장을 빠르게 잡으려는 움직임과 맞물려 있어요.

한국 개발자 입장에선 온프레미스·사내망 환경에서 돌릴 수 있는 고성능 코딩 모델 선택지가 늘어난 거예요. Claude API는 돈 많이 들고 해외 송신 걸리는 경우, Qwen 3.6을 자체 GPU 서버에 올려 쓰는 구성이 점점 현실적이 되어가고 있어요.

'규모 키우기' 대신 '효율+에이전트+호환성'이라는 세 축으로 움직이는 알리바바의 오픈소스 전략. 엔드포인트만 바꿔도 이식 가능한 API 호환성은 생태계 전환 비용을 제로에 가깝게 만드는 무기임.

댓글

댓글

댓글을 불러오는 중...

ai-ml

애플 새 음성 인식 API, 온디바이스 영어 전사에서 위스퍼 스몰까지 이겼다

애플의 새 음성 인식 API인 스피치애널라이저가 리브리스피치 벤치마크에서 기존 SFSpeechRecognizer는 물론 위스퍼 스몰보다도 낮은 단어 오류율을 기록했어. 깨끗한 음성에서는 2.12%, noisy 음성에서는 4.56%로, 기존 애플 API 대비 오류율을 3.5~4배 줄였고 위스퍼 스몰보다 약 3배 빠르게 돌았어. 다만 영어·애플 플랫폼·OS 26 조건의 결과라, 다국어와 크로스플랫폼에서는 여전히 위스퍼의 장점이 남아 있어.

ai-ml

AI를 진짜 잘 쓰는 기업, 미국 증시에서 연 30% 프리미엄 받는다는 연구

예일대와 로체스터대 연구진이 기업의 실제 대형 언어 모델 사용 데이터를 분석했더니, AI 활용도가 높은 상위 20% 기업이 하위 20%보다 주당 평균 0.64% 높은 초과수익률을 냈다. 단순히 AI 기업이냐가 아니라, 업무에 AI를 얼마나 깊게 쓰는지가 시장 가치에 반영되고 있다는 얘기다.

ai-ml

ZTE, AI 에이전트폰으로 스마트폰 재도전…진짜 승부처는 앱 생태계

ZTE가 바이트댄스의 더우바오를 탑재한 AI 에이전트 스마트폰으로 시장 재진입을 노린다. 핵심은 사용자가 명령하면 AI가 여러 앱을 직접 열고 조작하는 방식인데, 위챗·타오바오·알리페이 같은 플랫폼과 충돌하면서 생태계 문제가 가장 큰 변수로 떠올랐다.

ai-ml

노벨상 학자들까지 “AI 경제 충격, 지금 제도 안 만들면 늦다”

노벨 경제학상 수상자 15명을 포함한 학자와 기술 업계 인사 약 200명이 AI가 향후 10년 안에 경제를 급격히 바꿀 수 있다며 정책 대응을 촉구했다. 이들은 산업혁명보다 큰 변화가 훨씬 짧은 시간에 올 수 있고, 대규모 일자리 대체와 생활 수준 향상이라는 양면성이 동시에 존재한다고 봤다.

ai-ml

NHN, AI 데이터센터 매출 기대감에 목표주가 5만6000원으로 상향

한국투자증권이 NHN의 목표주가를 4만5000원에서 5만6000원으로 올리고 투자의견 매수를 유지했다. 핵심 근거는 양평 AI 데이터센터 가동, 공공·민간 GPU 클러스터 수주 확대, 클라우드 사업부 신규 매출 반영이다.