Moonshot AI의 Kimi K3는 2.8조 파라미터 스파스 MoE 모델로 역대 최대 오픈웨이트 모델을 표방한다. Frontend Code Arena 1위와 BrowseComp 90.4를 기록하며 클로즈드 프론티어와의 격차를 크게 좁혔다.
2.8조 파라미터 오픈웨이트 모델 Kimi K3
| 구분 | 내용 |
|---|---|
| 모델 | Kimi K3 |
| 개발사 | Moonshot AI (중국) |
| 발표일 | 2026년 7월 16일 (오픈웨이트는 7월 27일 공개 예정) |
| 공식 발표 | kimi.com/blog/kimi-k3 |
중국 Moonshot AI가 7월 16일 공개한 Kimi K3는 2.8조 파라미터의 스파스 MoE(Mixture of Experts) 모델이다. 최초의 오픈 3T급 모델을 표방하며 공개 시 역대 최대 오픈웨이트 모델이 된다. DeepSeek V4 Pro(1.6T)의 약 1.75배 규모다. 발표 시점에는 API로만 제공되며 가중치는 7월 27일 공개가 예고돼 있다.
핵심 스펙
| 항목 | 내용 |
|---|---|
| 아키텍처 | 스파스 MoE (토큰당 896개 전문가 중 16개 활성화) |
| 파라미터 | 총 2.8T |
| 컨텍스트 윈도우 | 100만 토큰 (네이티브) |
| 모달리티 | 텍스트와 이미지 그리고 비디오 입력 (네이티브 멀티모달) |
| 정밀도 | MXFP4 가중치 / MXFP8 활성값 |
| 가격 | 100만 토큰 기준 입력 $3 (캐시 히트 $0.30) / 출력 $15 |
아키텍처에 새로운 기법이 대거 투입됐다. 장문 시퀀스 효율을 위한 Kimi Delta Attention(KDA)과 Attention Residuals가 들어갔다. 라우팅 안정성을 위한 Stable LatentMoE와 Quantile Balancing도 적용됐다. Per-Head Muon 옵티마이저와 SiTU 활성함수 그리고 Gated MLA까지 더해졌다. 전작 K2.6 대비 출력 토큰을 21% 줄인 토큰 효율도 눈에 띈다.
벤치마크 결과
| 벤치마크 | K3 성적 | 비교 |
|---|---|---|
| AA Intelligence Index v4.1 | 57.1 | 전작 K2.6(44.2)에서 12.9점 대약진. Claude Fable 5(59.9)와 GPT-5.6 Sol(58.9)에 2점 안팎까지 접근했고 같은 오픈웨이트 진영의 DeepSeek V4 Pro(44.3)를 크게 앞섰다 |
| Frontend Code Arena | 1,679로 1위 | Claude Fable 5(1,631)와 GPT-5.6 Sol(1,618)을 제쳤다. 7개 프론트엔드 도메인 중 6개에서 1위 |
| BrowseComp | 90.4 | 별도의 컨텍스트 관리 없이 1M 컨텍스트를 그대로 사용해 달성 |
| DeepSWE | 67.3 | SWE Marathon과 Program Bench에서도 선두 |
| 비공개 평가 Elo | 1,547 | K2.6 대비 73점 상승. Claude Opus 4.8과 GPT-5.5를 대체로 이기고 최상위 2개 모델에는 뒤짐 |
요약하면 종합 지능에서는 미국 프론티어 최상위 모델들에만 뒤지고 프론트엔드 코딩 같은 특정 영역에서는 1위를 차지했다. 오픈웨이트 모델이 클로즈드 프론티어와의 격차를 한 세대에서 반 세대 이하로 좁힌 셈이다.
실전 능력
Moonshot이 시연한 사례가 인상적이다. 24시간 이상 이어지는 자율 코딩 세션과 GPU 커널 최적화 그리고 초소형 칩 설계 데모까지 보여줬다. 3D 게임 개발과 영상 편집 및 모션 그래픽 작업도 포함됐다. BrowseComp 90.4가 보여주듯 1M 컨텍스트를 요약이나 압축 없이 그대로 활용하는 능력이 장시간 에이전트 작업의 기반이 된다.
제공 채널도 완비됐다. kimi.com 웹과 iOS/Android/HarmonyOS 앱 그리고 Kimi Work 데스크톱이 있다. 개발자용으로는 Kimi Code CLI와 API 및 엔터프라이즈 플랜이 제공된다.
한계
Moonshot이 블로그에서 스스로 밝힌 한계가 흥미롭다.
| 한계 | 내용 |
|---|---|
| Thinking history 민감성 | 에이전트 하니스에서 세션 중간에 모델을 교체하면 불안정해질 수 있다 |
| 과잉 능동성 | 모호한 작업에서 승인 없이 자율 행동하는 경향이 있다 |
| 추론 토큰 소모 | 추론 노력 수준이 max 하나뿐이며 간단한 작업에 13K 이상의 추론 토큰을 쓰는 사례가 보고됐다 |
| UX 격차 | Moonshot 스스로 Claude Fable 5와 GPT-5.6 Sol 대비 사용성 격차를 인정했다 |
Cortexys의 시각
K3의 의미는 두 가지다. 첫째로 오픈웨이트 진영이 3T 스케일에 도달했다. 자체 인프라에 프론티어급 모델을 올리는 선택지가 이론이 아니라 현실이 됐다는 뜻이다. 물론 2.8T MoE의 서빙 비용은 별개의 문제다. 둘째로 입력 $3에 출력 $15라는 가격은 같은 주에 나온 Claude Opus 5($5/$25)보다도 낮다. 미국과 중국 양쪽에서 동시에 벌어지는 가격 경쟁의 수혜자는 결국 AI를 도입하는 기업이다.
다만 실무 도입 관점에서는 Moonshot이 인정한 과잉 능동성을 주의해야 한다. 승인 게이트 없이 자율 실행되는 에이전트 파이프라인에 바로 투입하기엔 리스크가 있다. 하니스 설계에서 명시적인 확인 단계를 두는 것이 안전하다.
참고 자료
| 자료 | 링크 |
|---|---|
| Kimi K3 공식 블로그 | kimi.com/blog/kimi-k3 |
| Simon Willison의 분석 | simonwillison.net |
코텍시스 창업자로 AX 컨설팅과 기업 AI 교육, AI 에이전트 개발을 직접 수행합니다.
코텍시스 AI 인사이트 최신 논문 리뷰
Mixtral 8x7B로 읽는 MoE 아키텍처: 13B의 연산으로 70B급 성능 내기
총 47B 파라미터 중 토큰당 13B만 활성화하는 희소 MoE 모델 Mixtral 8x7B는 Llama 2 70B와 GPT-3.5를 대부분의 벤치마크에서 따라잡거나 능가했습니다. 추론 연산량은 소형 모델 수준으로 유지하면서 품질을 끌어올리는 MoE의 실용성을 입증한 사례로, 기업의 자체 호스팅 모델 선정 기준에 직접 영향을 줍니다.
토큰당 KV 캐시 크기로 계산하는 온프레미스 동시 처리량
vLLM 논문이 보인 것처럼 LLM 서빙의 동시 처리량은 GPU 메모리에서 가중치를 빼고 남은 공간을 토큰당 KV 캐시 크기로 나눈 값이 정합니다. Qwen3-8B와 Qwen3-32B의 config.json으로 계산하면 80GiB GPU 1장에서 8,192토큰 세션 상한이 57개와 9개로, 가중치 크기 차이 4배보다 큰 6배 이상의 차이가 납니다.
초안 모델로 생성 속도를 높이는 추측 디코딩
Google Research의 추측 디코딩은 작은 초안 모델이 제안한 토큰을 큰 모델이 한 번에 검증하고 확률적 수락 규칙으로 출력 분포를 그대로 유지해, T5-XXL의 생성 속도를 재학습 없이 2배에서 3배 높였습니다. M3 Pro 맥북의 Gemma 4 12B 단일 사용자 실측에서는 초안을 켜면 같은 출력을 유지한 채 생성 속도가 15.3 tok/s에서 33.4 tok/s로 2.18배 올랐습니다.
임직원 AI 교육
AX 성숙도 진단부터 PoC 연계형 교육까지, 기업의 AI 역량을 체계적으로 강화합니다.

