무검열 Kimi K2 API

대부분의 "저렴한 모델" 페이지는 사실 큰 모델의 성을 물려받은 작은 모델에 관한 것입니다. 이 글은 다릅니다. Kimi K2.6은 완전한 프런티어 규모 파운데이션입니다. 1조 파라미터의 희소 전문가 혼합에 네이티브 비전 인코더, 그리고 에이전트형 툴 사용을 정면으로 겨눈 학습 프로그램을 갖췄습니다. 이 모델을 가성비 티어로 만드는 것은 더 작은 두뇌가 아니라 더 공격적인 압축 레시피입니다. 그러니 질문은 "충분히 좋은가?"가 아니라 "어떤 작업이 실제로 이 모델과 5배 비싼 형제의 차이를 알아채는가?"입니다. 이 글의 대부분이 그 답입니다.

01Kimi K2.6의 실체

Kimi K2.6은 Kimi 시리즈를 만든 베이징 연구소 Moonshot AI의 공개 가중치 모델로, 2026년 4월 20일 출시되었습니다. K2를 주목받게 한 아키텍처를 물려받았습니다. 희소 전문가 혼합 트랜스포머로 총 약 1조 파라미터, 토큰당 활성 약 320억이며, 61개 레이어에 걸쳐 레이어마다 전문가 384개, 라우팅 8개 + 공유 1개로 구성되고 멀티헤드 잠재 어텐션을 씁니다. 주어진 토큰에서 그 1조 중 아주 일부만 발화하며, 이 크기의 모델에 센트 단위 가격을 매길 수 있는 이유가 정확히 그것입니다.

계보가 중요한 이유는 Moonshot이 무엇을 최적화했는지에 있습니다. 원래의 K2는 Muon / MuonClip 옵티마이저로 약 15.5조 토큰을 사전학습했는데, 이 옵티마이저는 그 규모에서 학습을 불안정하게 만드는 어텐션 폭주와 손실 급등을 1조 파라미터 MoE가 겪지 않도록 특별히 만든 것입니다. Moonshot은 학습 전 구간에서 불안정이 전혀 없었다고 보고했습니다. 이것이 나머지 모든 것의 상류입니다. 덕분에 학습 예산을 불끄기가 아니라 에이전트 행동에 쓸 수 있었습니다.

K2.6은 그것을 두 방향으로 확장합니다. 첫째, 네이티브 멀티모달입니다. 이미지와 비디오 프레임이 약 4억 파라미터의 비전 인코더 MoonViT를 통과하는데, 이미지를 448x448 패치로 타일링해 각 타일을 언어 모델의 토큰 공간에 곧장 사영합니다. 시각 토큰이 나머지 전부와 같은 시퀀스에 앉으며, 눈먼 모델에 먹이를 주는 별도 캡셔너가 아닙니다. 둘째, 깊이 있는 오케스트레이션을 위해 만들어졌습니다. Moonshot의 Agent Swarm 연구는 도메인 특화 하위 에이전트를 최대 300개까지 조율하고 단일 자율 실행에서 최대 4,000단계를 조정했다고 보고합니다.

Moonshot이 보고한 벤치마크 프로필

다음은 비압축 K2.6 파운데이션에 대한 Moonshot 보고 수치이며 우리 측정치가 아닙니다. 정밀도가 아니라 형태를 보는 데 쓰세요.

숫자가 아니라 형태를 읽으세요. 툴을 쓰고 검색을 활용하는 점수는 높고, 순수 난이도 점수는 낮습니다. 이것은 모든 것을 아는 대신 잘 행동하도록 학습된 모델의 서명입니다. 에이전트에게 브라우저와 셸과 파일 시스템이 있다면 옳은 맞바꿈이고, 툴 없이 어려운 질문 하나를 던지는 것이라면 틀린 맞바꿈입니다.

02W4A16-AUTOROUND-REAP의 의미

모델 ID의 접미사는 장식이 아닙니다. 정확한 압축 레시피이며, 여러분이 어떤 맞바꿈을 하는지 따져 볼 수 있도록 공개한 것입니다.

• W4A16 — 가중치는 4비트, 활성화는 16비트로 계산합니다. bf16 대비 가중치 메모리가 약 4배 줄어드는 동안, 오차가 누적되는 산술은 16비트 정밀도로 남습니다. 아주 큰 MoE 모델의 표준적인 고품질 서빙 지점입니다.
• AUTOROUND — Intel의 AutoRound 양자화기입니다. 단순 최근접 반올림은 모든 가중치를 독립적으로 다뤄 모델이 의존하던 정보를 버립니다. AutoRound는 대신 캘리브레이션 데이터에 대해 반올림 결정을 학습합니다. 4비트 목표에서는 그것이 여전히 스키마를 따르는 모델과 표류하는 모델을 가릅니다.
• REAP — Cerebras Research의 라우터 가중 전문가 활성화 프루닝(arXiv 2510.13999, ICLR 2026)입니다. MoE의 대부분 전문가는 좀처럼 라우팅되지 않습니다. REAP은 각 전문가를 라우터 게이트 값과 활성화 노름 양쪽으로 채점한 뒤, 가장 덜 중요한 것을 한 번에 제거합니다. 공개된 결과는 1조 파라미터 모델에서도 전문가의 최대 50%를 프루닝하면서 기준 품질을 대체로 유지했다는 것이고, 생성 과제에서는 전문가 병합보다 프루닝이 나았다는 것입니다. 병합은 전문가들을 뭉개 흐리게 만들지만, 프루닝은 쓰이지 않는 것만 버립니다.

이 순서대로 — 먼저 프루닝하고 남은 것을 양자화 — 적용하면, 어느 한쪽 기법만으로는 이 비율에서 일어났을 품질 붕괴 없이 들어가고 빠르게 도는 모델을 얻습니다. 비용에 대해 단도직입적으로 말하면, 압축된 모델은 원본과 비트 단위로 동일하지 않습니다. 이 레시피가 사 주는 것은, 열화가 지시 수행이나 툴 호출 형식이나 스키마 준수가 아니라 여러분이 알아채기 어려운 곳 — 드문 라우팅 경로, 낮은 확률의 토큰 꼬리 — 에 내려앉는다는 점입니다.

03이 엔드포인트에서 "무검열"이 뜻하는 것

여기서 무검열은 태도가 아니라 아키텍처에 관한 진술입니다. 모델 앞에 거절 레이어가 없고 출력에 콘텐츠 필터링이 없습니다. 여러분의 요청은 파운데이션에 닿고 그 응답은 여러분에게 닿으며, 양방향 어디에도 가로채는 것이 없습니다.

"무검열"이 헐겁게 쓰이기 때문에 이 구분이 중요합니다. 이 단어 아래 서로 다른 세 가지가 묶여 있습니다.

1. 입력 분류 — 별도 모델이 프롬프트를 읽고 통과 여부를 정합니다. 여기에는 없습니다.
2. 출력 필터링 — 스캐너가 생성된 텍스트를 검사해 잘라 내거나 바꿉니다. 여기에는 없습니다.
3. 파운데이션 자신의 성향 — 기반 모델이 학습에서 익힌 것 전부입니다. 그것은 모델의 것이며, 우리가 지웠다고 주장하지 않습니다.

프로덕션 시스템을 망가뜨리는 것은 앞의 둘이고, 우리가 제거하는 것도 그 둘입니다. 요청의 0.5%에서 발화하는 분류기는 디버그할 수도, 이의를 제기할 수도, 미리 알아챌 수도 없는 0.5% 실패율입니다. 그리고 200단계 에이전트 루프에서는 단계당 0.5% 실패가 복리로 쌓여 성공보다 실패가 잦은 실행이 됩니다. 대화에서의 거절은 성가심이지만, 자율 실행 147단계에서의 거절은 실행 상태를 파괴하고 거기까지 오는 데 쓴 모든 것을 태웁니다. 에이전트 워크로드에서 거절 표면을 없애는 것은 취향의 문제가 아니라 신뢰성 속성입니다.

따라오는 결론은 책임이 여러분에게 옮겨 온다는 것입니다. 여러분의 애플리케이션과 사용자 사이에 안전망이 없습니다. 제품에 그것이 필요하다면, 볼 수 있고 조정할 수 있고 로그를 남길 수 있는 곳에 직접 만드세요. 먼저 책임 있는 사용 정책을 읽어 보시기 바랍니다.

04Kimi K2.6 대 Kimi K3: 5배는 언제 값을 하는가

대부분의 독자가 이걸 보러 왔을 테니 에두르지 않겠습니다. Kimi-K3 · 3BIT-REAP는 더 크고 더 새로운 파운데이션입니다. 2026년 7월 16일 발표되어 7월 27일 가중치가 공개되었고, 총 약 2.8조 파라미터, 토큰당 활성 약 1,040억으로 K2.6 활성 연산의 3배가 넘습니다. 업스트림에서 Moonshot은 K3를 K2.6의 약 5배 가격으로 책정하며, 우리 게이트웨이 가격도 그 비율을 따릅니다.

	Kimi-K2.6 · W4A16-AUTOROUND-REAP	Kimi-K3 · 3BIT-REAP
100만 토큰당 입력	$0.78	$3.83
100만 토큰당 출력	$3.67	$19.12
컨텍스트 윈도우	262,144	262,144
요청당 최대 출력	16,384	16,384
비전 입력	지원	지원
네이티브 툴 호출	지원	지원
엄격한 json_schema	지원	지원
무검열	예	예
토큰당 활성 파라미터	~32B	~104B

표가 보여 주지 않는 것을 보세요. K3에는 있고 K2.6에는 없는 기능의 행이 하나도 없습니다. 같은 윈도우, 같은 최대 출력, 같은 비전, 같은 툴 호출, 같은 구조화 출력, 같은 무검열 태세, 같은 세 방언. 5배가 사 주는 것은 정확히 하나, 순전파 한 번당 원시 능력입니다. 그것은 실재하지만 축 하나일 뿐이고, 그 축이 여러분의 병목이 아닌 곳에서는 아무 일도 하지 않습니다.

컨텍스트 윈도우 이야기만 따로

업스트림에서 K3의 대표 기능은 K2.6의 262K 대비 100만 토큰 컨텍스트입니다. Shannon 게이트웨이에서는 두 모델 모두 262,144 토큰으로 제공됩니다. 5배를 내는 이유가 긴 컨텍스트였다면 여기서는 그 이유가 성립하지 않습니다. 프리미엄을 내고 같은 윈도우를 받게 됩니다. 벤더라면 입을 다물고 싶어질 종류의 사실이고, 그래서 굵게 적었습니다.

5배를 낼 만한 때

• 단 한 번에 맞아야 할 때. 재시도가 비싸거나 불가능한 어려운 단발 처리 — 되돌릴 수 없는 행동, 긴 파이프라인 끝의 결정. 토큰당 활성 파라미터가 많다는 것은 정확히 한 번의 처리에서 상한을 올리는 요소입니다.
• 과제가 툴이 아니라 지식에 묶여 있을 때. 답이 가중치에서 나와야 하는 깊은 종합. K2.6의 프로필은 에이전트형이며, 툴을 치우면 더 큰 파운데이션이 드러납니다.
• 물량은 적고 판돈은 클 때. 월 500회 호출이면 5배래야 $8 대신 $40입니다. 그냥 더 나은 모델을 사세요.

5배를 내지 말아야 할 때

• 루프를 돌릴 때. 긴 에이전트 실행은 기계적인 단계 — 파일 읽기, 툴 호출, 결과 확인, 다음 것 고르기 — 가 지배하며, 그것이 정확히 K2.6이 학습된 대상입니다. 200단계면 5배는 실행당 $7.71 대 $38.29입니다.
• 이미지를 대량 처리할 때. 비전 워크로드는 입력 토큰이 무겁고 항목당 추론은 얕습니다. 05절을 보세요. 비교가 되지 않습니다.
• 작업이 추출, 분류, 변환일 때. 문서에서 필드 뽑기, 티켓 라우팅, 레코드 정규화, 요약 — 더 큰 모델이 똑같은 JSON을 내놓는 한정된 과제들입니다.
• 검증 단계가 있을 때. 출력이 검사된다면 — 테스트 스위트, 스키마 검증기, 2차 처리, 사람 — 가끔의 실패는 값싸고 경제성은 결정적으로 물량 쪽으로 기웁니다. 가성비 티어를 위한 가장 저평가된 논거입니다.

이름 붙일 만한 패턴이 하나 있습니다. 루프에는 K2.6, 판결에는 K3. 수집과 호출과 초안 작성이라는 백 단계는 값싼 에이전트 모델에 맡기고, 마지막 종합에만 비싼 호출 하나를 쓰세요. 두 모델 모두 같은 컨텍스트 윈도우로 동일한 API를 말하므로, 전환은 model 필드 한 줄 수정입니다.

05쓸 만한 가격의 비전

비전은 이 카탈로그에서 K2.6의 가장 날카로운 강점입니다. 게이트웨이의 무검열 모델 열두 개 중 이미지를 받는 것은 넷뿐이고, 100만 입력 토큰당 1달러 미만에 이미지 입력과 Kimi 에이전트 계보를 함께 갖춘 것은 K2.6뿐입니다.

비전 워크로드는 비용 모양이 특이합니다. Moonshot이 공개한 MoonViT 설명에 따르면 1024x1024 이미지는 약 576개 이미지 토큰으로 인코딩되며, 그것들은 장부의 싼 쪽인 입력 토큰입니다. 전형적인 비전 작업은 거의 전부가 $3.67이 아니라 $0.78 요율에 떨어집니다. 이미지 1만 장에 각각 약 200 토큰의 프롬프트(따라서 입력 약 776 토큰)와 약 150 토큰의 구조화 출력을 붙인다고 해 봅시다.

워크로드	Kimi-K2.6	Kimi-K3	배수
에이전트 한 단계 (입력 40K / 출력 2K)	$0.0385	$0.1914	5.0x
200단계 자율 실행	$7.71	$38.29	5.0x
이미지 1만 장, 구조화 출력	$11.56	$58.40	5.1x
배치 작업 (입력 1M / 출력 200K)	$1.51	$7.65	5.1x

Shannon 게이트웨이 정가로 계산했습니다. 이미지 토큰 추정치는 1024x1024 이미지에 약 576 토큰이라는 Moonshot 공개 MoonViT 수치를 씁니다. 정확한 토큰화는 해상도와 종횡비에 따라 달라집니다.

$11.56짜리 이미지 파이프라인은 생각 없이 매일 돌리는 것입니다. $58.40짜리는 일정을 잡고 정당화하다가 결국 잘라 내는 것입니다. 그 격차가 가성비 티어의 논거 전부입니다.

정직한 단서 하나. 독립적인 멀티모달·그라운딩 과제 리더보드에서 K2.6은 115개 모델 중 26위 안팎, 평균 68.1 부근으로 보고되었습니다. 준수하지만 최상급은 아닙니다. 이 모델의 비전은 문서 이해, 스크린샷과 UI 판독, 차트나 도표 해석에서 정말로 강하고, 정밀한 공간 그라운딩 — 정확한 바운딩 박스, 어수선한 장면에서의 세밀한 개수 세기, 열화된 스캔의 조밀한 OCR — 에서는 약합니다. 픽셀 단위로 정확한 위치 지정이 필요하다면 먼저 여러분의 데이터로 벤치마크하세요. 스크린샷을 보고 다음에 무엇을 클릭할지 정하는 모델이 필요하다면, 이것이 정확히 맞는 도구입니다.

06거절 없는 툴 호출과 에이전트 루프

K2.6은 네이티브 툴 호출을 지원합니다. 파싱 가능한 텍스트를 내놓도록 구슬리는 것이 아니라, 여러분이 제공한 JSON 스키마 툴 정의에서 구조화된 툴 호출을 모델이 직접 방출합니다. 멀티턴 대화와 시스템 프롬프트까지 더하면 에이전트 루프를 위한 기반이 완성됩니다.

"거절 없는 툴 호출"이 더해 주는 것은 들리는 것보다 미묘합니다. 필터가 걸린 API에서 에이전트 루프 안의 거절은 서로 다른 세 가지 실패 양상으로 나타납니다.

• 강한 거절 — 단계가 툴 호출 대신 산문을 반환하고, 파서가 실패하고, 루프가 끊깁니다. 적어도 요란하기는 합니다.
• 약한 거절 — 호출은 이뤄지지만 인자가 슬쩍 축소됩니다. 좁혀진 질의, 얼버무린 파라미터, 잘려 나간 페이로드. 루프는 조용히 열화된 상태로 계속되고, 여러분은 네 단계 뒤에 알게 됩니다.
• 선제적 회피 — 계획이 정당한 갈래에 가까워지기도 전에 그쪽을 피해 갑니다. 이건 아예 보이지 않습니다. 그냥 더 나쁜 계획을 받고 설명은 없습니다.

비싼 것은 둘째와 셋째입니다. 보이지 않기 때문입니다. 오류도, 로그에 남는 것도, grep할 것도 없습니다. 거절 레이어가 없는 엔드포인트는 이 부류 전체를 없앱니다. 모델의 툴 호출 인자는 그저 모델의 툴 호출 인자입니다.

이것이 가장 중요한 영역은 어차피 긴 자율 실행이 필요하고 민감한 자료를 다루는 분야들입니다. 보안 연구와 레드팀, 멀웨어 및 사고 분석, 임상 문서 처리, 법적 증거 개시, 그리고 자신이 모더레이션하는 내용을 추론해야 하는 모더레이션 도구가 그렇습니다. 모더레이션 분류기를 만들려면 분류 대상을 기꺼이 들여다보는 모델이 필요합니다. 그건 역설이 아니라 그냥 일입니다.

긴 실행을 위한 실전 메모: reasoning_effort로 계획 단계에는 사고를 더 쓰고 기계적인 단계에는 덜 쓸 수 있습니다. 스트리밍은 세 방언 모두에서 가능하므로 긴 단계에서 진행 상황을 드러내거나 일찍 중단할 수 있습니다. 그리고 262,144 토큰 컨텍스트는 실제 작업 상태 — 파일 내용, 이전 툴 결과, 진행 중인 계획 — 를 매 턴 다시 요약하지 않고도 여러 단계에 걸쳐 상주시켜 줍니다. 매 턴의 재요약 자체가 에이전트 표류의 흔한 원인입니다.

07구조화 출력과 세 가지 API 방언

K2.6은 json_schema(엄격한 스키마 제약 생성)와 더 느슨한 response_format을 모두 지원합니다. 카탈로그와 대조해 보세요. 여기 열두 모델 중 둘은 엄격한 스키마 출력을 지원하지 않으며, 다음 파이프라인 단계가 JSON을 파싱한다면 그 열은 선택 사항이 아닙니다.

엄격한 스키마 출력은 무검열 모델을 인프라로 쓸 수 있게 만드는 요소입니다. 모델이 여러분의 스키마에 맞는 객체를 반드시 방출해야 한다면, 그렇지 않았을 때 무슨 말을 했을지와 무관하게 파싱 보장이 생깁니다. 서문도, 사과도, JSON을 감싼 한 문단도 없습니다. 거절 레이어가 없다는 점과 합치면, 문서가 무엇에 관한 것이든 모든 호출에서 모든 문서에 대해 객체를 돌려주는 추출 엔드포인트가 됩니다.

표면	Kimi-K2.6 지원	비고
/v1/chat/completions	지원	OpenAI 방언 — 기존 SDK에 그대로 꽂힘
/v1/messages	지원	Anthropic 방언 — 같은 모델, 같은 가중치
/v1/responses	지원	Responses 스타일 인터페이스
스트리밍	지원	세 방언 모두
툴 호출	지원	네이티브, JSON 스키마 툴 정의
json_schema	지원	엄격한 구조화 출력
response_format	지원	느슨한 JSON 모드
reasoning_effort	지원	호출마다 사고 예산 조절
비전 입력	지원	텍스트와 함께 이미지

세 방언 모두 같은 클러스터의 같은 가중치를 가리킵니다. 기존 OpenAI 클라이언트를 베이스 URL로 돌리고 model을 Kimi-K2.6-W4A16-AUTOROUND-REAP로 설정하면 바로 돕니다. 요청과 응답 형태, 스트리밍 의미론, 라이브 플레이그라운드는 API 문서에 있습니다.

08Kimi K2.6이 틀린 선택인 곳

장점만 늘어놓는 모델 가이드는 광고입니다. 우리가 다른 곳으로 안내할 지점은 이렇습니다.

• 어려운 단발 처리에서 절대적인 상한이 필요할 때. Kimi-K3로 가서 5배를 내세요. 그러라고 있는 모델입니다.
• 픽셀 단위로 정확한 시각 그라운딩이 필요할 때. 바운딩 박스, 열화된 스캔의 조밀한 OCR, 어수선한 장면에서의 정확한 개수 세기는 가장 강한 영역이 아닙니다. 먼저 여러분의 데이터로 시험하세요.
• 비전 없이 더 싼 것이 필요할 때. 카탈로그의 여러 모델이 $0.50 / $2.00에 있습니다. K2.6의 프리미엄은 비전과 Kimi 에이전트 프로필을 사는 값입니다. 둘 다 필요 없다면 더 싼 티어를 쓰세요.
• 한 응답에 16,384 토큰보다 많은 출력이 필요할 때. 그 상한은 카탈로그 전체에 적용됩니다. 어떤 모델을 고르든 긴 문서는 나눠서 생성해야 합니다.
• 비트 단위로 업스트림과 같은 동작을 원할 때. 이것은 프루닝되고 양자화된 빌드이며, 의도적이고 공개된 맞바꿈입니다. 재현성 연구라면 Moonshot의 원본 가중치로 돌리세요.

Kimi K2.6과 K3의 아키텍처, 벤치마크, 출시일 수치는 Moonshot 보고 값이며 우리 압축 빌드가 아니라 업스트림 파운데이션에 대한 것입니다. 멀티모달 순위 수치는 독립 제3자 리더보드에서 가져왔습니다. Shannon 게이트웨이 가격은 2026년 9월 5일 기준 정가입니다.

09자주 묻는 질문

---

Shannon AI는 미국 뉴멕시코의 Shannon Lab LLC가 운영합니다. 출처: Moonshot AI — Kimi K2 · REAP the Experts (arXiv 2510.13999) · Cerebras Research — REAP. 업스트림 Kimi 벤치마크 수치는 Moonshot 보고 값이며 독립 검증 전까지 잠정입니다. 이 수치들은 Shannon의 양자화 빌드가 아니라 비압축 파운데이션을 설명합니다.