무검열 Kimi K3 API

대부분의 모델 선택 가이드는 능력이 공짜인 것처럼 쓰여 있습니다. 공짜가 아닙니다. 최상급 모델에 대해 흥미로운 질문은 "더 나은가"가 아니라 — 대개 더 낫습니다 — "이 작업에서, 한 칸 아래 모델보다 다섯 배 큰 청구서를 정당화할 만큼 충분히 더 나은가"입니다. 이 가이드는 실제 산수로 답하고, 더 싼 선택지가 이기는 지점을 분명히 말합니다.

01Kimi K3의 실체

Kimi K3는 Moonshot AI의 공개 가중치 플래그십으로, 2026년 7월 Kimi K3 License로 출시되었습니다. Kimi K2에서 시작된 계보의 3세대이며, 파인튜닝이 아니라 진짜로 새로운 아키텍처입니다.

공개된 구성은 93개 레이어입니다. 69개는 Kimi Delta Attention, 24개는 게이트가 붙은 멀티헤드 잠재 어텐션, 하나는 밀집 레이어이며, Stable LatentMoE 라우터가 토큰마다 896개 전문가 중 16개와 공유 전문가 2개를 선택합니다. Moonshot은 이 조합으로 Kimi K2 대비 스케일링 효율이 약 2.5배 개선되었다고 보고합니다. 비전은 나중에 덧댄 것이 아니라 네이티브입니다. 4억 100만 파라미터의 MoonViT-V2 인코더가 텍스트를 처리하는 것과 같은 몸통으로 입력을 흘려보냅니다.

희소성 수치는 몸에 익혀 둘 만합니다. K3는 토큰당 1,040억 파라미터를 활성화하는데, 우리 카탈로그 대부분은 300억~400억 범위입니다. 생성되는 토큰당 연산량이 대략 세 배라는 뜻이고, 이 모델이 가격표 맨 위에 있는 이유가 전적으로 그것입니다. 브랜드 등급에 값을 치르는 것이 아니라 GPU 초에 값을 치르는 것입니다.

계보를 간단히

• Kimi K2 — 1조 파라미터, 활성 320억, 토큰당 8개가 라우팅되는 전문가 384개. MuonClip 옵티마이저로 15.5조 토큰을 사전학습했으며, 그 규모에서 MoE 학습을 망가뜨리는 어텐션 폭주를 막기 위해 설계되었습니다.
• Kimi K2 Thinking — 같은 파운데이션에 추론과 툴 사용을 교차하도록 가르친 모델로, 한 번의 실행에서 200~300회의 연속 툴 호출을 지속했다고 보고되었으며, 툴을 쓴 Humanity's Last Exam에서 44.9%, BrowseComp에서 60.2%를 기록했습니다.
• Kimi K3 — 네이티브 멀티모달리티와 업스트림 100만 토큰 윈도우로 다시 지었고, 지도 파인튜닝 단계부터 양자화를 염두에 둔 학습(MXFP4 가중치, MXFP8 활성화)을 적용했습니다. K3가 그런 고려 없이 학습된 모델보다 공격적인 압축을 더 잘 견디는 이유입니다.

관통하는 흐름은 장기 지평 행위성입니다. 모든 세대가 단답형 벤치마크에서 이기기보다 수백 단계에 걸쳐 일관성을 유지하도록 최적화되었습니다. 여러분이 사는 능력이 바로 그것입니다.

02"3BIT-REAP"의 의미, 그리고 2.8T 모델에 그것이 필요한 이유

모델 ID의 접미사는 장식이 아닙니다. 가중치가 자체 GPU 클러스터에 올라가기 전에 무슨 처리를 거쳤는지를 말해 주며, 이 페이지의 모든 주장에 붙는 정직한 단서입니다. 산수부터 봅시다. 2.8조 파라미터 모델을 16비트 정밀도로 두면 가중치만 약 5.6테라바이트입니다. 가중치당 3비트면 1.05테라바이트에 가까워집니다. 여전히 크지만, 262K 토큰 KV 캐시를 위한 여유까지 남기고 배치할 수 있는 크기입니다. REAP이 나머지 절반입니다. 라우터가 실제로 어떤 전문가를 찾는지 프로파일링해서 드물게 선택되는 전문가를 양자화 이후가 아니라 이전에 걷어내는 전문가 프루닝 기법입니다. 토큰당 896개 중 16개만 라우팅하는 모델에는 자연스럽게 맞아떨어집니다. 그 정도로 희소한 분포에는 실제 트래픽에 거의 기여하지 않는 긴 꼬리가 있기 때문이며, 먼저 잘라내면 남은 비트 예산을 중요한 전문가에게 쓰게 됩니다.

우리 카탈로그는 세 가지 접미사를 의도적인 사다리로 씁니다. 3BIT-REAP은 다른 방법으로는 들어가지 않는 가장 큰 파운데이션에 붙습니다. W4A16-AUTOROUND-REAP은 4비트 가중치에 16비트 활성화이며 AutoRound로 양자화합니다. 단순 반올림보다 실제 정확도를 회복시키는 학습된 반올림에 같은 프루닝이 더해집니다. W8A16은 공격적인 압축이 필요 없을 만큼 작은 파운데이션을 위한 최고 충실도 티어입니다. 요약하면 접미사는 원본이 얼마나 살아남았는지를, 가격은 구동에 얼마가 드는지를 말해 줍니다.

03비전: 이미지 이해가 사 주는 것

Kimi-K3는 열두 모델짜리 카탈로그에서 비전을 갖춘 다섯 모델 중 하나이며, 그중 가장 유능합니다. 대부분의 상용 비전 API는 업로드된 이미지에 분류기를 돌려, 모델이 보기도 전에 넓은 범주의 입력을 거부합니다. 소비자용 기본값으로는 합리적이지만 정당한 작업에는 심각한 장애물입니다. 익스플로잇 출력을 스크린샷으로 남기는 보안 연구자, 자체 분류기를 만드는 모더레이션 팀, 법의학 및 데이터셋 감사 작업, 레드팀 평가가 모두 그 벽에 부딪힙니다. Kimi-K3에는 거절 레이어도 출력 필터링도 없습니다.

K3의 비전이 더 싼 비전 모델보다 값을 하는 지점

• 빽빽한 도표와 회로도 — 아키텍처 다이어그램, 네트워크 토폴로지, 회로도. 답이 사물의 이름이 아니라 선과 레이블을 따라가는 데 달린 모든 것.
• 스크린샷 속 작은 글자 — 스택 트레이스, 터미널 출력, 스프레드시트 셀. 비전 티어 간 격차가 가장 크게 벌어지는 곳이 작은 크기에서의 판독성입니다.
• 긴 텍스트 속의 이미지 — 200K 토큰 컨텍스트에 끼워 넣은 스크린샷. 모델이 지금 보는 것을 5만 토큰 전에 읽은 것과 연결해야 하는 경우입니다.
• 여러 이미지 비교 — UI 두 버전, 혹은 차트와 그 차트를 만든 표의 대조.

값을 하지 못하는 곳: 캡션 생성, 대체 텍스트, 깨끗한 문서의 OCR, 태깅 파이프라인. 이런 것들은 입력 100만 토큰당 $0.50에서 이미 해결됩니다. 이미지 워크로드가 대량이고 항목 하나하나가 단순하다면 Kimi-K2.6나 MiniMax-M3가 K3와 구별하지 못할 답을 내놓습니다.

이미지는 텍스트와 같은 262,144 토큰 예산에서 토큰을 소비하며 입력 요율로 과금됩니다. 고해상도 스크린샷 몇 장은 공짜가 아닙니다.

04장기 지평 에이전트 작업 — 이 티어가 존재하는 이유

최상급 티어를 정당화하는 워크로드가 하나 있다면 바로 이것입니다. 짧은 작업은 너그럽게 실패합니다. 모델이 틀리면 여러분이 알아채고 다시 시도하며, 잃은 것은 4초입니다. 40턴짜리 에이전트가 6번째 턴에서 잘못된 갈래로 들어서면 남은 34턴 동안 실수 위에 정교하게 쌓아 올리고, 여러분은 그 사이 모든 토큰에 값을 치른 뒤 마지막에야 알게 됩니다. 이 비대칭 때문에 여기서는 토큰당 가격이 거의 잘못된 지표입니다. 중요한 것은 성공한 완료 하나당 비용이며, 그 값은 실행이 얼마나 자주 버려지는지가 좌우합니다. 다음은 Moonshot이 K3 파운데이션에 대해 공개한 에이전트 벤치마크 수치입니다.

모든 수치는 2026년 7월 비양자화 Kimi K3 파운데이션에 대해 Moonshot이 보고한 값입니다. 우리 3BIT-REAP 빌드를 측정한 것이 아니며 그렇게 제시하지도 않습니다.

수치의 모양은 이 아키텍처가 겨냥한 바와 맞아떨어집니다. BrowseComp와 Terminal-Bench는 툴 루프 벤치마크로, 행동하고 관찰하고 수정하는 주기를 반복합니다. SWE Marathon 42.0은 그 반대편 추입니다. 이 묶음에서 가장 어려운 장기 지평 코딩 평가이며, 프런티어 모델조차 대부분의 과제에서 실패합니다. "에이전트"는 해결된 범주가 아닙니다. 어떤 모델을 고르든 실패를 전제로 설계하세요.

긴 실행을 위한 실전 설정

K3는 reasoning_effort를 노출하며, 여기서는 그것이 실질적인 비용 레버입니다. 추론 토큰은 100만 토큰당 $19.12의 출력 토큰으로 과금되기 때문입니다.

• Low — 툴 호출 라우팅과 구조화 추출처럼 모델이 알려진 몇 가지 선택지 중에서 고르는 작업.
• High — 실제 에이전트 작업의 기본값. 다단계 변경 계획 수립, 스택 트레이스 기반 디버깅, 상충하는 출처의 대조.
• Max — 파이프라인에서 가장 어려운 단 한 번의 호출에 아껴 두세요. 실행 맨 앞의 계획이나 마지막 검토가 그것입니다. 추론 토큰 3만 개를 high로, 9만 개를 max로 쓰는 실행은 그 플래그 하나 때문에 $1.15를 더 냅니다.

컨텍스트도 의도적으로 예산을 잡으세요. 우리 윈도우는 262,144 토큰이고 최대 출력은 16,384 토큰이며, 입력 100만 토큰당 $3.83에서는 정리하지 않은 히스토리가 복리로 불어납니다. 매 턴이 앞선 내용 전체를 다시 과금하기 때문입니다.

05이 엔드포인트에서 "무검열"이 뜻하는 것

Shannon AI 게이트웨이의 모든 모델은 거절 레이어와 출력 콘텐츠 필터링 없이 제공됩니다. 최상급 티어에서 이것이 더 중요한 이유는, 사람들이 최상급 모델에 가져오는 작업이 필터를 건드릴 가능성이 가장 높기 때문입니다. 적대적 보안 연구, 공격 도구 분석, 모더레이션 분류기 개발, 위협 인텔리전스, 다루기 어려운 픽션, 그리고 탐지하려는 대상을 모델이 직접 만들어 내야 하는 모든 평가가 그렇습니다.

• 출력 분류기 없음. 응답이 생성된 뒤 스캔되어 고쳐 쓰이거나 차단되지 않습니다.
• 입력 게이트 없음. 프롬프트와 이미지는 모델에 도달하기 전에 걸러지지 않습니다.
• 다른 모델이 아님. 보통 앞단에 놓이는 레이어 없이 제공되는 Kimi K3 파운데이션 그 자체입니다.
• 책임 이전이 아님. 거절 레이어를 걷어낸다는 것은 판단이 여러분에게 넘어온다는 뜻입니다. 책임 있는 사용 정책을 보세요.

평가 시스템을 만드는 사람에게는 덜 알려진 이점도 있습니다. 필터가 없는 모델은 안정적인 기준선이 됩니다. 예측 불가능하게 거절하는 모델은 측정을 시끄럽게 만듭니다. 능력의 한계와 정책의 한계를 분리할 수 없기 때문입니다. 여기서 실패는 능력의 실패이며, 그것만이 디버깅할 수 있는 종류의 실패입니다.

06가격: 입력 $3.83, 출력 $19.12 — 그리고 그 값을 하는 때

우리 목록에서 압도적으로 가장 비싼 모델입니다. 출력은 최저선 $2.00의 9.6배이고 Kimi-K2.6의 5.2배입니다. 산수를 그대로 펼쳐 보겠습니다.

모델	입력 / 1M	출력 / 1M	비전	JSON 스키마
Kimi-K3 · 3BIT-REAP	$3.83	$19.12	지원	지원
DeepSeek-V4-Pro-0813 · 3BIT-REAP	$1.95	$3.90	없음	지원
inkling · W4A16-AUTOROUND-REAP	$1.42	$6.07	지원	없음
Kimi-K2.6 · W4A16-AUTOROUND-REAP	$0.78	$3.67	지원	지원
GLM-5.2 · 3BIT-REAP	$0.73	$2.34	없음	지원
MiniMax-M3 · 3BIT-REAP	$0.50	$2.00	지원	지원
MiMo-V2.5 · W8A16	$0.50	$2.00	지원	지원

입력 가격순으로 정렬한 일부 행입니다. 열두 모델 전부가 동일한 262,144 토큰 컨텍스트, 16,384 토큰 최대 출력, 스트리밍, 툴 호출, reasoning_effort를 공유합니다. 실시간 기능 플래그는 API 문서 페이지에 있습니다.

실제 계산 두 가지

첫째, 입력 120,000 토큰 — 코드베이스 덤프나 규제 신고서 — 에 3,000 토큰 분석을 내놓는 경우. 둘째, 40턴짜리 에이전트 실행: 컨텍스트가 누적되면서 입력 누계 약 120만 토큰, 추론을 포함한 출력 90,000 토큰.

시나리오	Kimi-K3	Kimi-K2.6	MiniMax-M3
입력 120K / 출력 3K	$0.517	$0.105	$0.066
40턴 에이전트 실행	$6.32	$1.27	$0.78

문서 호출에서 K3는 Kimi-K2.6의 약 4.9배입니다. 50센트는 한 번이면 아무것도 아니지만, 하루 1,000회면 $105 대 $517이 됩니다. 에이전트 실행에서의 차이는 약 $5입니다. 이제 유일하게 중요한 기준을 대 봅시다. 그 작업이 시급 $100인 엔지니어의 한 시간만큼 가치가 있다면, K3는 1차 성공률을 5퍼센트포인트 올리는 순간 본전을 뽑습니다. 그리고 정말 어려운 장기 지평 작업에서는 티어 간 격차가 보통 그보다 큽니다. 그 작업이 누구에게든 30초짜리라면, 같은 $5는 변명의 여지가 없습니다.

07Kimi-K3인가, 더 싼 형제인가?

카탈로그의 두 Kimi 모델은 경쟁자가 아니라 한 사다리의 두 칸입니다. Kimi-K2.6은 양자화가 덜 공격적이며 — K3의 3비트에 비해 학습된 반올림을 쓰는 4비트 가중치의 W4A16-AUTOROUND-REAP — 더 작은 파운데이션 위에 있습니다. 비전과 JSON 스키마 출력을 지원하고, 컨텍스트 윈도우가 같으며, 비용은 약 5분의 1입니다.

작업	선택	이유
40턴 자율 에이전트	Kimi-K3	실패가 복리로 불어나며, 1턴의 계획 품질이 실행을 결정
저장소 규모의 리팩터링	Kimi-K3	컨텍스트에서 꺼내 쓰는 수준이 아니라 전체를 일관되게 붙들어야 함
빽빽한 도표, 스크린샷의 작은 글자	Kimi-K3	티어 간 비전 격차가 가장 큰 곳이 판독성과 공간 추론
명세가 분명한 단일 파일 수정	Kimi-K2.6	한정된 작업, 저렴한 재시도, 측정 가능한 상한 차이 없음
대량 이미지 캡션 생성	MiniMax-M3 / MiMo-V2.5	입력 $0.50에서 이미 해결됨. 같은 캡션에 K3 출력은 9.6배
추론은 무겁지만 텍스트 전용	DeepSeek-V4-Pro	출력 $19.12 대 $3.90 — 이미지가 필요 없다면 K3를 내려놓으세요

마지막 행이 가장 자주 놓치는 절약입니다. 작업에 이미지가 없다면 DeepSeek-V4-Pro부터 확인하세요. 그것도 큰 파운데이션 위의 3BIT-REAP 빌드이고 어려운 추론에 강하며, 출력이 K3의 $19.12 대신 $3.90입니다. 최상급 티어로 몰리는 트래픽의 상당 부분은 한 칸 아래에서도 똑같이 잘 처리되는 텍스트 전용 추론입니다.

08무검열 Kimi K3 API 호출하기

모델은 세 방언 모두에서 Kimi-K3-3BIT-REAP로 노출되며, 각각 스트리밍을 지원하고 그 사이에 기능 차이는 없습니다. 다른 것은 전송 형식뿐입니다. /v1/chat/completions(OpenAI 호환), /v1/messages(Anthropic 호환), 그리고 /v1/responses입니다. 어려운 시각 과제를 위해 추론 강도를 올린 비전 요청은 이렇습니다.

curl https://shannon-ai.com/v1/chat/completions \
  -H "Authorization: Bearer $SHANNON_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Kimi-K3-3BIT-REAP",
    "reasoning_effort": "high",
    "max_tokens": 4096,
    "stream": true,
    "messages": [{
      "role": "user",
      "content": [
        { "type": "text",
          "text": "Trace the data path in this diagram and list every point where an untrusted input crosses a trust boundary." },
        { "type": "image_url",
          "image_url": { "url": "data:image/png;base64,..." } }
      ]
    }]
  }'

K3는 response_format과 완전한 json_schema를 모두 지원하므로, 사후 파싱 없이 에이전트의 툴 인자를 제약하거나 보고서를 고정된 형태로 강제할 수 있습니다. 툴 호출은 네이티브이며 긴 실행을 굴리는 의도된 방식입니다. 파라미터, 인증, 요청 한도, 라이브 플레이그라운드는 API 문서 페이지에 있습니다.

첫날부터 돈을 아껴 주는 세 가지

• 앞선 대화를 정리하세요. 매 턴이 대화 전체를 100만 토큰당 $3.83로 다시 과금합니다. 40턴 히스토리를 4K 토큰짜리 상태 객체로 한 번 요약하는 것이 어지간한 모델 교체보다 더 아낍니다.
• 이미지를 축소하세요. 이미지 토큰은 곧 입력 토큰입니다. 4K 스크린샷을 판독 가능한 선에서 줄이면 같은 답을 더 싸게 얻습니다.
• 난이도로 라우팅하세요. 일상적인 턴은 싼 모델에, 계획과 어려운 갈래와 최종 검토는 K3에 맡기면, 흔히 청구서 25%로 능력의 80%를 얻습니다.

09자주 묻는 질문

---

파운데이션 관련 사실과 벤치마크는 Moonshot AI가 Kimi K3와 Kimi K2에 대해 공개한 수치이며 비양자화 업스트림 모델을 설명합니다. 우리 빌드는 3비트 REAP 양자화이므로 차이가 있습니다. 가격, 컨텍스트, 기능 플래그는 Shannon AI 자체 값이며 2026년 9월 5일 기준입니다. 실시간 값은 언제나 /v1/models가 돌려주는 값입니다. 출처: Kimi K3 모델 카드 · Kimi K3 저장소 · Kimi K2 Thinking.