오픈소스 LLM 2026년 7월 17일 약 24분 Kimi K3 Moonshot AI

Kimi K3 심층 평가
2.8조 파라미터, 오픈소스 LLM 새 기록

2026년 7월 16일 출시 · KDA 아키텍처 · 100만 토큰 컨텍스트 · 벤치 전면 비교 · API 요금 · 7월 27일 가중치 오픈소스

Kimi K3 Moonshot AI 2.8조 파라미터 오픈소스 LLM 개념도

요약: 2026년 7월 16일 밤, Moonshot AI(월지암면)는 API 문서 상단에 「Kimi K3 출시」를 조용히 올렸습니다. 대규모 발표회 없이 전 세계 파라미터 규모 최대의 오픈소스 AI 모델(2.8조)을 내놓은 것입니다. 본문에서는 Kimi Delta Attention 등 3대 아키텍처 혁신, Claude Fable 5 / GPT-5.6 Sol과의 전체 벤치 비교, $3/$15 요금·캐시 전략, 4가지 즉시 사용 경로, 7월 27일 가중치 오픈소스 일정까지 초안 요점을 빠짐없이 정리합니다.

01

한 줄로 정리하면 무엇인가?

Kimi K3는 현재 전 세계 파라미터 규모가 가장 큰 오픈소스 AI 모델입니다. 2.8조(2.8T) 파라미터로, 이전 기록 보유자 DeepSeek V4 Pro(1.6T)보다 약 75% 크고, 샤오미 오픈소스 모델(1.02T)의 2.7배, 알리바바(397B)의 7배가 넘습니다.

희소 MoE(혼합 전문가) 아키텍처를 쓰며, 추론 시 896개 전문가 중 16개만 활성화합니다. 100만 토큰 초장 컨텍스트(『홍루몽』 전권을 한 번에 읽을 분량)와 네이티브 시각 이해를 갖춰 복잡한 코딩, 긴 문서 추론, 지식 업무에 맞춰 설계되었습니다.

한 줄 요약: Kimi K3는 이미지·영상을 네이티브로 이해하고 초장기 기억을 가진 오픈소스 「무거운 코딩 AI」입니다. Claude Opus 4.8보다 40% 저렴하며, 7월 27일 전체 가중치가 오픈소스로 공개됩니다.

핵심 사양

항목
총 파라미터2.8조
아키텍처KDA + AttnRes + Stable LatentMoE
활성 전문가16 / 896 (희소도 1.8%)
컨텍스트 윈도1,048,576 토큰 (1M)
입력 모달리티텍스트, 이미지, 영상
API 모델 IDkimi-k3
요금입력 $3 / 출력 $15 per 1M tokens
오픈소스 가중치2026년 7월 27일

도입 전 흔한 고민

  1. 01

    긴 코드 작업에서 컨텍스트 단절: 200K 윈도의 폐쇄 모델은 대형 Repo 처리 시 잦은 잘림·분할이 필요

  2. 02

    오픈소스 모델 규모 한계: 이전 최대 오픈 가중치는 약 1.6T로 최전선 코딩 Agent를 받치기 어려움

  3. 03

    100만 토큰의 이론 vs 실무: 많은 모델이 긴 컨텍스트를 표방하지만 KV 캐시 비용 때문에 실사용 길이는 표기보다 훨씬 짧음

  4. 04

    폐쇄 API 의존 리스크: 요금 인상, 지역 제한, 정책 변화 시 자체 호스팅 대안 부재

02

배경: 이번 출시가 왜 중요한가?

Moonshot AI는 지난 18개월간 DeepSeek 부상으로 큰 타격을 입었고, 시장 점유율이 한때 크게 줄었습니다. K3 출시는 깔끔한 반격으로 볼 수 있습니다.

  • 지난 12개월 중 Kimi 시리즈가 9개월 동안 오픈소스 모델 규모 1위를 유지
  • 출시 시점이 2026 세계 AI 대회(WAIC) 개막 전야로, 전략적 신호가 분명함
  • 2026년 6월 기준 ARR 3억 달러 돌파, 올해 6라운드 투자 완료, 투자 전 밸류에이션 315억 달러
  • API 매출이 전체의 70% 이상, 해외 유료 사용자 400% 성장

「규모만 키우는」 회사가 아니라, 상업화가 폭발하는 회사가 기술 주권을 세계에 선언하는 순간입니다.

03

핵심 아키텍처: 3대 혁신 상세

3.1 Kimi Delta Attention(KDA) — 「어텐션」 재설계

기존 Transformer의 전체 어텐션은 긴 컨텍스트에서 계산량이 제곱으로 증가합니다. 100만 토큰을 처리할 때 KV 캐시 메모리 소비는 치명적입니다. KDA는 하이브리드 선형 어텐션입니다.

  • 선형 어텐션 레이어와 전체 어텐션 레이어를 3:1 비율로 교차 배치
  • KV 캐시 메모리 최대 75% 절감
  • 100만 토큰 컨텍스트에서 디코딩 속도 최대 6.3배 향상
  • 짧은·긴 컨텍스트, 강화학습 확장 세 시나리오 모두 순수 전체 어텐션 기준선을 상회

비유하자면, 전체 어텐션은 모든 대화 디테일을 동시에 기억하는 사람이고, KDA는 대부분 빠른 색인을 쓰다가 핵심 순간에만 정밀 회상하는 효율적인 비서에 가깝습니다.

3.2 Attention Residuals(AttnRes) — 깊이에 따른 정보 손실 해결

표준 잔차 연결은 정보가 깊이를 따라 균일히 누적되어 초기 레이어의 핵심 표현이 후반에 희석됩니다. AttnRes는 선택적 검색을 도입해 모델이 깊이를 건너 더 이른 레이어의 고가치 표현을 직접 끌어올 수 있습니다. Moonshot AI는 이 설계로 학습 효율 약 25% 향상, 추가 연산 부담 2% 미만을 보고했습니다.

3.3 Stable LatentMoE — 초고희소도 안정 학습

896개 전문가 중 매번 16개만 활성화(희소도 1.8%). 함께 쓰는 기술은 다음과 같습니다.

기술역할
Quantile Balancing라우터 점수 분위수로 전문가 할당, 휴리스틱 하이퍼파라미터 제거
Per-Head Muon어텐션 헤드별 독립 최적화로 대규모 학습 적응성 향상
Sigmoid Tanh Unit(SiTU)활성화 함수 제어 개선
Gated MLA어텐션 선택성 강화

이 혁신을 종합하면 Kimi K3는 Kimi K2 대비 전체 확장 효율 약 2.5배 — 같은 연산으로 더 강한 지능을 끌어냅니다.

04

벤치마크: 어디가 강한가?

벤치마크Kimi K3Claude Fable 5GPT-5.6 SolClaude Opus 4.8GLM-5.2
DeepSWE67.570.073.059.046.2
Program Bench77.876.877.671.963.7
Terminal Bench 2.188.384.688.884.682.7
FrontierSWE81.286.671.366.767.3
SWE Marathon42.035.039.040.013.0
BrowseComp91.288.090.484.3
Automation Bench30.829.129.727.212.9
GPQA-Diamond93.592.694.191.091.2
MMMU-Pro(시각)81.681.283.078.9
OmniDocBench(문서 이해)91.189.885.887.9

해석 포인트:

  • SWE Marathon(지속형 장기 코드): K3가 42.0으로 대폭 1위
  • Program Bench: K3가 77.8로 근소 1위
  • FrontierSWE: Fable 5가 86.6으로 선두, K3(81.2)는 GPT-5.6 Sol(71.3)을 크게 앞섬
  • OmniDocBench: K3 1위(91.1), 시각 + 장컨텍스트 시너지
  • Artificial Analysis Intelligence Index v4.1: K3 57.1점 4위, Fable 5(59.9)·GPT-5.6 Sol(58.9) 바로 뒤

주의: 위 수치는 Moonshot AI 자체 보고입니다. 모델마다 추론 harness가 다릅니다(K3는 Kimi Code, GPT는 Codex, Claude는 Claude Code). 독립 제3자 재현은 진행 중입니다.

05

요금: Claude보다 저렴, Sonnet과 동급

모델입력($/M)출력($/M)캐시 히트 입력컨텍스트
Kimi K3$3.00$15.00$0.301M
Claude Sonnet 5$3.00(프로모 $2)$15.00(프로모 $10)200K
Claude Opus 4.8$5.00$25.00200K
GPT-5.5$5.00$30.00400K
DeepSeek V4 Pro$1.74$3.48$0.145128K
Kimi K2.6$0.95$4.00$0.16256K
  • K3는 Claude Sonnet 5 정가($3/$15)와 같지만 컨텍스트는 5배
  • 캐시 히트 $0.30/M까지; 코딩 시나리오 캐시 적중률 90% 이상으로 실제 입력 비용 매우 낮음
  • 중국 API: 입력 ¥20/M, 출력 ¥100/M, 캐시 히트 ¥2/M
  • kimi.com 무료 계정 사용 가능; 선불 패키지 ¥199부터(8월 11일까지 할인)
06

지금 바로 쓰는 방법: 4가지 경로

  1. 01

    Kimi 웹/App: kimi.com 접속, 계정 생성(Google 지원), K3는 기본 max 추론 강도

  2. 02

    공식 API: platform.kimi.ai에서 API Key 발급, 모델 ID kimi-k3

  3. 03

    OpenRouter: 모델 ID moonshotai/kimi-k3, 공식 요금 그대로, 전체 1M 컨텍스트

  4. 04

    7월 27일 오픈 가중치 대기: Hugging Face에 전체 가중치 공개; 프로덕션 배포는 64장 이상 가속 카드 슈퍼노드 필요

  5. 05

    API 최소 호출 검증: OpenAI 호환 클라이언트로 테스트 요청을 보내 과금·지연 확인

Python · OpenAI 호환 API
from openai import OpenAI

client = OpenAI(
    api_key="your_moonshot_api_key",
    base_url="https://api.moonshot.ai/v1"
)

response = client.chat.completions.create(
    model="kimi-k3",
    messages=[{"role": "user", "content": "이 코드를 분석해 주세요..."}]
)
07

가로 비교: 어떻게 고를까?

시나리오추천 모델이유
지속형 장기 코드(SWE Marathon류)Kimi K3벤치 1위, 최장 컨텍스트
복잡 Repo급 버그 수정Claude Fable 5FrontierSWE 대폭 선두
터미널·툴체인 집약 AgentGPT-5.6 SolTerminal Bench 선두
초장 문서·멀티모달 문서 이해Kimi K3OmniDocBench 1위 + 네이티브 시각 + 1M
비용 민감DeepSeek V4 Pro출력 $3.48/M
오픈소스 자체 배포(7/27 이후)Kimi K3최강 오픈 가중치
08

오픈소스 약속: 7월 27일이 기대되는 이유

Moonshot AI는 공식 공지에서 7월 27일 전체 모델 가중치 공개를 명시했습니다. 공개되면 Kimi K3는 다음이 됩니다.

  • 지금까지 다운로드 가능한 최대 파라미터 오픈 모델
  • 최초 2조 파라미터급 오픈 가중치
  • 오픈 커뮤니티 학습·파인튜닝 기준 새 벤치마크

모델은 MXFP4 가중치 + MXFP8 활성화 양자화 인식 학습으로, Hugging Face에 양자화 버전이 올라올 예정이며 vLLM, SGLang, transformers 등 주류 프레임워크 Day-0 지원이 예상됩니다.

주요 일정: 7월 17–20일(WAIC, 추가 발표 예상) → 7월 27일(K3 전체 가중치 오픈소스).

09

정리

Kimi K3는 「파라미터 쌓기」용 쇼가 아닙니다. KDA, AttnRes, Stable LatentMoE 등 아키텍처에서 실질적 공학 혁신이 있었고, 코딩 장기 작업·문서 이해 등 핵심 트랙에서 일부 폐쇄 플래그십과 맞붙거나 넘어섰습니다. 요금도 합리적이고 전체 오픈소스를 약속했습니다. 중국 AI 오픈 생태계의 신호는 더 이상 「저가로 시장 잡기」가 아니라 지능 프론티어에 도전한다는 것입니다.

참고 자료

벤치는 Moonshot AI 자체 보고(2026년 7월 16일)입니다. 성능·요금은 수시 변경될 수 있으니 공식 문서를 확인하세요.

10

자주 묻는 질문(FAQ)

가능합니다. kimi.com 무료 계정으로 K3 사용. API는 $3/$15 per 1M tokens.

가중치는 7월 27일 공개. 프로덕션 추론은 64+ 가속 카드 슈퍼노드 필요, 노트북급 배포 불가.

K3는 파라미터 거의 2배, 컨텍스트 1M vs 128K, 여러 벤치 우세. DeepSeek 출력 $3.48/M로 비용 더 낮음.

전체 코드베이스 분석, 긴 문서, 다회차 Agent 장기 메모리에 실용적. 길이에 따른 단가 상승 없음.

Moonshot AI는 low/high 모드를 후속 업데이트로 출시 예정. 현재 max만 사용 가능.

마무리

Kimi K3는 「세계 최대 오픈소스 모델」을 슬로건이 아니라 즉시 호출 가능한 API로 만들었습니다. 7월 27일 가중치 공개 후에도 파인튜닝·자체 호스팅을 원하는 팀에는 대규모 GPU 클러스터가 필요합니다 — Mac에서 Kimi Code, OpenClaw 다중 모델 라우팅, iOS 빌드를 병행하는 일반 개발자와는 다른 축입니다. Windows/Linux가 주력인데 실제 macOS GUI에서 Kimi Code Agent를 검수하거나 Keychain 권한·본문 벤치마크로 팀 선형을 비교해야 한다면, Mac 구매 비용은 높고 SSH만으로는 시스템 대화상자를 누를 수 없습니다. VNCMac 원격 Mac을 시간 단위로 임대하면 VNC 데스크톱에서 K3 API 연동, 장컨텍스트 코딩, 벤치마크 검증을 격리 노드에서 진행하고 프로젝트 종료 시 중지할 수 있습니다. Mac 임대 요금을 확인해 보세요.