무검열 DeepSeek Flash API
DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP — 최저가, 262K 컨텍스트, 거절 레이어 없음. 하루에 만 번 도는 워크로드에 겨누는 모델입니다.
요약
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP는 Shannon AI 게이트웨이에 올라온 DeepSeek 계열의 대량 처리 티어입니다. 자체 GPU 클러스터에서 100만 입력 토큰당 $0.50, 100만 출력 토큰당 $2.00 — 우리 카탈로그의 바닥 — 에 구동되며, 262,144 토큰 컨텍스트, 최대 출력 16,384 토큰, 스트리밍, 툴 호출, reasoning_effort로 조절하는 추론, 엄격한 json_schema 구조화 출력을 제공합니다. 거절 레이어도 출력 필터링도 없습니다. DeepSeek-V4-Pro의 성능을 깎아 낸 버전이 아닙니다. Pro는 훨씬 큰 파운데이션을 3비트로 짜 넣은 것이고, Flash는 더 작은 파운데이션을 충실도가 더 높은 4비트 AutoRound 양자화로 담은 것입니다. 같은 곡선 위의 서로 다른 두 점이며, 어느 쪽이 이기는지는 전적으로 여러분의 워크로드에 달렸습니다.
LLM API를 평가하는 대부분의 팀은 엉뚱한 변수를 최적화합니다. 떠올릴 수 있는 가장 어려운 프롬프트 스무 개로 벤치마크를 돌리고 승자를 고른 뒤, 6주가 지나서야 트래픽의 95%가 짧고 구조적이고 반복적인 작업 — 4분의 1 가격 모델이 똑같이 처리했을 작업 — 이었음을 알게 됩니다. DeepSeek-V4-Flash는 그 95%를 위해 존재합니다. 이 페이지는 여러분이 그 95% 안에 있는지, 아닌지를 아는 법에 관한 것입니다.
01실제로 받는 것
| 항목 | DeepSeek-V4-Flash-0731 · W4A16-AUTOROUND-REAP |
|---|---|
| 모델 ID | DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP |
| 컨텍스트 / 최대 출력 | 262,144 토큰 / 16,384 토큰 |
| 100만당 가격 (입력 / 출력) | $0.50 / $2.00 |
| 스트리밍 · 툴 호출 · 추론 | 지원 — 세 방언 모두 |
| 구조화 출력 | json_schema와 response_format |
| 이미지 입력 (비전) | 미지원 — 텍스트 전용 |
| 거절 레이어 / 출력 필터 | 없음 |
| 서빙 위치 | Shannon 자체 GPU 클러스터 |
세 가지 API 방언이 같은 가중치에 닿습니다. /v1/chat/completions(OpenAI 형태), /v1/messages(Anthropic 형태), /v1/responses입니다. 스트리밍은 셋 모두에서 동작합니다. 전체 파라미터 레퍼런스는 API 문서에 있습니다.
02출신: DeepSeek 계보
DeepSeek-AI는 다섯 세대에 걸쳐 한 가지 집착을 밀어붙였습니다. 학습이 싼 모델이 아니라 서빙이 싼 모델에서 프런티어 수준의 행동을 뽑아내는 것입니다. 이 계열의 거의 모든 아키텍처 결정이 여기로 거슬러 올라가며, 중요한 것들은 논문으로 공개되어 있습니다. 이 엔드포인트를 호출할 때 무엇을 부르는 것인지 설명해 주는 세 가지가 있습니다.
DeepSeekMoE — 잘게 나눈 전문가와 공유 전문가 하나
전문가 혼합 레이어는 큰 피드포워드 네트워크 하나를 여러 개의 작은 것으로 바꾸고, 토큰마다 몇 개를 고르는 라우터를 둡니다. DeepSeek 변형은 통상적인 전문가 8개 구성보다 전문가를 더 잘게 쪼개어, 같은 활성 FLOPs로 훨씬 조합적으로 구체적인 혼합을 사도록 하고, 모든 토큰이 통과하는 공유 전문가를 분리해 공통 지식을 전문가마다 중복 학습하지 않게 합니다. DeepSeek-V3는 이것을 라우팅 전문가 256개 + 공유 전문가 1개, 토큰당 라우팅 전문가 8개 활성화로 내놓았고(총 6710억 파라미터, 활성 370억), 여기에 보조 손실 없는 부하 분산을 더했습니다. 품질을 깎는 페널티 항 대신, 전문가별 편향값이 그 전문가가 과소·과다 부하일 때 매 스텝 라우팅 점수를 위아래로 밀어 줍니다.
MLA — 메모리에 들어가는 어텐션
서빙 비용 문제의 나머지 절반은 KV 캐시입니다. 컨텍스트에 선형으로 커지며 긴 시퀀스에서는 메모리를 지배합니다. DeepSeek-V2에서 도입된 멀티헤드 잠재 어텐션은 키와 값을 저랭크 잠재 벡터로 함께 압축해 그것을 캐시하고, 쓸 수 있는 K/V를 즉석에서 복원합니다. DeepSeek이 공개한 V2 수치는 이전의 밀집 DeepSeek 67B 대비 KV 캐시 93.3% 감소와 최대 생성 처리량 5.76×를 보고합니다. 이 계열에서 262K 토큰 윈도우가 프리미엄 부가 기능이 아니라 기본 사양인 이유입니다.
희소 어텐션 — 그리고 싼 토큰의 선례
V3.2-Exp는 DeepSeek Sparse Attention을 더했습니다. 가벼운 인덱서가 컨텍스트 토큰을 쿼리에 대해 채점하고, 셀렉터가 상위 점수만 남깁니다. 흥미로운 부분은 메커니즘이 아니라 영수증입니다. DeepSeek은 V3.1-Terminus와의 나란한 비교를 공개했는데 MMLU-Pro는 85.0으로 동일, AIME 2025는 상승(88.4 → 89.3), SWE-bench Verified는 소폭 하락(68.4 → 67.8) — 사실상 품질 평행 — 이었고, 같은 날 API 가격을 50% 넘게 내렸습니다. 정직하게 보고된 아키텍처가 곧장 가격으로 바뀐 것입니다. Flash는 그 논증을 한 걸음 더 밀고 간 것입니다.
V4 세대
2026년 4월 MIT 라이선스로 미리 공개된 V4는 어텐션 스택을 다시 한 번 갈아, Compressed Sparse Attention과 Heavily Compressed Attention의 하이브리드로 바꾸고, Muon 옵티마이저로 32조 토큰이 넘는 데이터를 학습하며, V3의 멀티 토큰 예측 목적함수를 유지합니다. 이 목적함수는 투기적 디코딩 역할도 겸하는데, DeepSeek은 V3에서 두 번째 토큰 수용률 85–90%로 약 1.8× 디코딩 가속을 측정했습니다. V4 초록은 V4-Pro가 V3.2 단일 토큰 추론 FLOPs의 27%, KV 캐시의 10%로 동작한다고 보고합니다. 이 계열은 세 단계의 추론 강도를 노출하며, 우리 reasoning_effort 파라미터가 여기에 대응합니다.
출처: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 기술 보고서 (arXiv 2412.19437) · DeepSeek-V3.2-Exp 모델 카드 · DeepSeek-V4 (arXiv 2606.19348). 모든 수치는 DeepSeek 보고 값입니다.
03"Flash"의 실제 의미
대부분의 비교가 여기서 틀리므로 단도직입적으로 말하겠습니다. DeepSeek의 Flash는 양자화하거나 프루닝하거나 증류한 Pro가 아닙니다. 자체 사전학습을 거친, 별도로 학습된 더 작은 전문가 혼합 모델입니다. V4 프리뷰 논문이 두 크기를 밝힙니다.
DeepSeek-V4 프리뷰 논문의 수치입니다. 우리가 서빙하는 공식 체크포인트 — V4-Flash-0731과 V4-Pro-0813 — 은 모델 카드에 각각 3040억, 1.7조라는 약간 더 큰 총량을 적고 있으며, 그 빌드들의 활성 파라미터는 DeepSeek이 다시 밝히지 않았습니다.
여기서 일하는 숫자는 둘입니다. 총 파라미터는 메모리 점유량을 정하고, 그것이 모델 사본 하나가 차지하는 하드웨어 양을 결정합니다. 활성 파라미터는 토큰당 연산량을 정하고, 그것이 처리량을 결정합니다. Flash는 첫 번째에서 약 5.6×, 두 번째에서 약 3.8× 작습니다. 그 간극에는 눈여겨볼 미묘함이 있습니다. Flash는 2840억 중 130억, 약 4.6%를 활성화하는 반면 Pro는 1조 6000억 중 490억, 약 3.1%를 활성화합니다. Flash가 덜 희소한 모델입니다. 전문가 몇 개를 꺼 둔 Pro가 아니라, 더 밀집되고 다르게 균형 잡힌 설계이며, 생성하는 모든 토큰에 자신의 더 큰 몫을 씁니다. 성능 하향이 아니라 진짜 공학적 선택입니다.
DeepSeek 자신의 수치가 말하는 것
두 공식 모델 카드가 동일한 에이전트·소프트웨어 공학 벤치마크 점수를 공개하므로, 유난히 깨끗한 비교가 됩니다. 같은 연구소, 같은 평가 하네스, 두 가지 크기입니다.
| 벤치마크 (DeepSeek 보고) | V4-Flash-0731 | V4-Pro-0813 |
|---|---|---|
| Terminal Bench 2.1 | 82.7 | 87.9 |
| Toolathlon-Verified | 70.3 | 74.1 |
| DeepSWE | 54.4 | 62.7 |
| NL2Repo | 54.2 | 61.5 |
| DSBench-FullStack | 68.7 | 71.1 |
모든 줄에서 Pro가 이깁니다. 그것이 정직한 헤드라인이며, 프로덕션에서 발견하기보다 여기서 읽으시는 편이 낫습니다. 다만 격차를 읽으세요. 여러분이 실제로 사는 것이 그것입니다. Terminal Bench 2.1에서 파라미터가 25분의 1인 모델과의 차이는 5.2점, 툴 사용에서는 3.8점입니다. 작업이 깊어질수록 격차가 벌어집니다. DeepSWE에서 8.3점, NL2Repo에서 7.3점이며, 둘 다 여러 단계에 걸친 지속적인 코드 추론을 보상하는 평가입니다. 표 하나에 담긴 맞바꿈의 모양이 이렇습니다. Flash는 한정된 과제에서 대부분의 거리를 좁히고, 열린 과제에서 자리를 내줍니다.
DeepSeek 자신의 Flash 카드는 요점을 더 날카롭게 만듭니다. Flash-0731은 활성 파라미터가 훨씬 적은데도 열거된 벤치마크에서 V4-Pro 프리뷰를 앞섭니다. 더 새로운 작은 모델이 더 오래된 큰 모델을 이기는 것은 이 분야의 정상 상태이며, "더 큰 티어"를 기본 답으로 삼아서는 안 되는 이유입니다.
컨텍스트에 관한 메모
DeepSeek은 V4 계열에 대해 100만 토큰 컨텍스트를 공개합니다. Shannon AI 게이트웨이는 이 모델을 262,144 토큰으로 제공합니다. 카탈로그의 열두 모델 전부에 걸친 균일한 윈도우이며, Pro에서 받는 것과 같은 윈도우입니다. 모델 ID마다 다른 상한을 외우게 하기보다, 목록의 모든 모델이 컨텍스트에서 똑같이 동작하는 편이 낫다고 봅니다.
04접미사 읽기: W4A16-AUTOROUND-REAP
우리 모델 ID는 압축 방식을 소리 내어 밝힙니다. 출력 품질에 가장 크게 영향을 주면서도 거의 아무도 공개하지 않는 것이기 때문입니다. 이 접미사는 세 가지 주장으로 분해됩니다.
W4A16 — 4비트 가중치, 16비트 활성화
가중치는 각각 4비트로 저장되고, 활성화는 16비트 정밀도로 흐릅니다. 가중치 전용 양자화이며, 토큰 생성의 실제 병목인 메모리 대역폭을 겨냥합니다. 연산량이 아닙니다. 활성화까지 양자화하면 속도를 조금 더 얻지만 훨씬 큰 정확도 절벽을 감수하게 됩니다. 16비트로 두는 것이 보수적이고 충실도 높은 선택입니다. 이 표기는 서빙 생태계의 약칭이며, 양자화 문헌에서는 같은 것을 그룹 크기를 붙인 W4로 씁니다.
AUTOROUND — 최근접 반올림이 아닌 학습된 반올림
단순 양자화는 모든 가중치를 표현 가능한 가장 가까운 값으로 반올림합니다. 이것이 최적이 아님은 명백히 보일 수 있습니다. 어떤 가중치를 "틀린" 쪽으로 반올림하면 이웃이 만든 오차를 상쇄할 수 있고, 가중치가 수십억 개면 그런 상호작용이 지배적이 됩니다. Intel의 AutoRound는 반올림 결정 자체를 학습 대상으로 다룹니다. 어떤 반올림 결정이든 딱 한 번 뒤집을 수 있을 만큼으로 ±0.5에 제한된 가중치별 학습 가능한 섭동에, 학습 가능한 클리핑 범위를 더해, 작은 캘리브레이션 집합에 대한 블록 단위 출력 재구성 목적함수를 두고 부호 경사 하강법으로 최적화합니다. 200스텝이면 끝입니다.
Intel이 공개한 비교에서 AutoRound는 4비트 가중치 전용 설정에서 시험한 32개 시나리오 중 GPTQ 대비 30개, AWQ 대비 27개, OmniQuant 대비 29개에서 앞섰고, 2비트에서는 단순 최근접 반올림 대비 정확도가 6.9에서 33.2점 향상되었습니다. 이 가운데 추론 시점에 비용이 드는 것은 하나도 없습니다. 오프라인에서 한 번 내리는, 더 나은 숫자 선택일 뿐입니다.
REAP — 아무도 라우팅하지 않는 전문가 버리기
Cerebras Systems와 캘거리 대학교의 REAP(라우터 가중 전문가 활성화 프루닝)은 MoE 모델을 위한 원샷 압축입니다. 라우터가 각 전문가로 얼마나 강하게, 얼마나 자주 게이팅하는지에 그 전문가 출력의 크기를 곱해 점수를 매긴 뒤, 가장 덜 중요한 전문가를 통째로 삭제합니다. 이후 재학습은 없습니다.
논문의 핵심 발견이 쓸모 있는 대목입니다. 높은 압축률에서는 전문가를 병합하는 것보다 프루닝하는 것이 낫다는 것입니다. 기능적으로 구별되는 전문가를 병합하면 저자들이 기능적 부분공간 붕괴라 부르는 현상이 일어납니다. 라우터가 MoE를 지을 가치를 만들어 준 세밀하고 입력 의존적인 제어를 잃고, 정적 평균들 사이를 조종하는 신세가 됩니다. 200억에서 1조 파라미터 모델에 걸친 저자들의 수치는 이렇습니다. 코딩 과제에서 전문가 25% 압축 시 REAP은 평균 정확도를 2.8% 잃는 반면 병합 기준선은 5% 넘게 잃습니다. 50%에서는 REAP이 8.0%, 병합은 20% 넘게 잃습니다. Qwen3-Coder-480B를 50% 프루닝하면 하락은 1.4%인데, 단순 빈도 기반 프루닝은 39.3%입니다. Cerebras는 여러 계열 가운데 DeepSeek 계열에 대해서도 REAP 체크포인트를 공개했습니다.
여기는 4비트, Pro는 3비트인 이유
두 티어 모두 같은 급의 하드웨어에 들어가고 빠르게 유지되어야 합니다. Pro는 1.7조 파라미터를 지니므로 애초에 들어가려면 더 공격적인 3비트 처리가 필요합니다. Flash는 약 3000억이므로 그럴 필요가 없고, 아낀 1비트를 크기를 맞추는 데가 아니라 충실도에 씁니다.
그 1비트는 산술이 시사하는 것보다 더 중요합니다. 양자화 손상이 선형이 아니기 때문입니다. AWQ 논문의 WikiText-2 측정에서 Llama-2-7B는 FP16의 퍼플렉시티 5.47에서 4비트에서 5.60으로 — 2.4% 벌점 — 가지만, 3비트에서는 6.24로 14% 벌점이 됩니다. 압축을 25% 더 하는 대가로 열화가 약 여섯 배인 셈이며, 70B에서도 같은 양상이 유지됩니다. GPTQ 논문은 더 노골적입니다. 3비트에서 단순 최근접 반올림은 1750억급 모델에서 붕괴해 퍼플렉시티가 수천 단위로 치솟는 반면, 4비트에서는 완벽히 쓸 만합니다. 4비트 아래에서는 좋은 양자화 알고리즘이 있으면 좋은 것이 아니라, 모델을 붙들고 있는 유일한 것이 됩니다.
그래서 이 두 접미사에 대한 정직한 독해는 이렇습니다. Flash는 자기 자신의 비압축 상태에, Pro가 자기 것에 대해 그런 것보다 더 가까이 앉아 있습니다. Pro가 여전히 더 강한 모델이라는 것은 위 벤치마크 표가 정리해 줍니다. 다만 여기까지 오는 데 더 많은 것을 내주었고, 여러분은 그 특권에 값을 치릅니다.
출처: AutoRound — "Optimize Weight Rounding via Signed Gradient Descent for the Quantization of LLMs" (arXiv 2309.05516), Intel, Findings of EMNLP 2024. REAP — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression" (arXiv 2510.13999), Cerebras Systems. 퍼플렉시티 수치는 AWQ (arXiv 2306.00978)와 GPTQ (arXiv 2210.17323)에서 가져왔습니다.
05엔드포인트에서의 Flash 대 Pro
03절은 파운데이션을 다뤘습니다. 여기서는 두 티어가 우리 게이트웨이에서 제품으로서 어떻게 생겼는지 봅니다.
| DeepSeek-V4-Flash-0731 | DeepSeek-V4-Pro-0813 | |
|---|---|---|
| 양자화 | W4A16-AUTOROUND-REAP | 3BIT-REAP |
| 가중치 정밀도 | 4비트, 학습된 반올림 | 3비트 |
| 파운데이션 (총 / 활성) | ~304B / 13B | ~1.7T / 49B |
| 100만 토큰당 입력 | $0.50 | $1.95 |
| 100만 토큰당 출력 | $2.00 | $3.90 |
| 컨텍스트 / 최대 출력 | 262,144 / 16,384 | 262,144 / 16,384 |
| 툴 · 구조화 출력 · 스트리밍 | 지원 | 지원 |
| 비전 | 미지원 | 미지원 |
| 거절 레이어 | 없음 | 없음 |
바뀌지 않는 것에 주목하세요. 컨텍스트, 출력 상한, 툴 호출, 구조화 출력, 그리고 거절 레이어가 없다는 점이 동일합니다. 움직이는 것은 파운데이션, 양자화, 가격뿐입니다. 그래서 둘 사이의 전환은 코드에서 문자열 하나를 바꾸는 일이고, 아키텍처에서는 순전히 경제적인 결정이 됩니다.
최대 크기 호출 한 번의 비용
262,144 토큰 컨텍스트를 전부 채우고 16,384 토큰 출력을 전부 받는 경우입니다.
정가 기준입니다. Flash: 입력 $0.131 + 출력 $0.033. Pro: $0.511 + $0.064. 비율 3.51×. Flash는 MiniMax-M3, Laguna-S-2.1, MiMo-V2.5, MiMo-V2.5-Pro, Hy3와 $0.50 / $2.00 최저가를 공유합니다. 비전과 구조화 출력에서 어떻게 다른지는 전체 카탈로그를 보세요.
06대량 처리 산수, 직접 계산해 보기
"3.9× 저렴"은 입력에서만 참입니다. 출력에서 Flash는 1.95× 저렴합니다. 따라서 실제 절감액은 입력 대 출력 비율에 달려 있고, 그 폭은 설계 결정을 바꿀 만큼 넓습니다. 현실적인 워크로드 네 가지를 각각 10만 요청 기준으로 보겠습니다.
| 워크로드 | 호출당 입력 / 출력 | Flash | Pro | 절감 |
|---|---|---|---|---|
| 티켓 분류 | 1,200 / 120 | $84 | $281 | 3.3× |
| RAG 질의응답 | 8,000 / 600 | $520 | $1,794 | 3.4× |
| 긴 문서 요약 | 60,000 / 1,500 | $3,300 | $12,285 | 3.7× |
| 합성 데이터 생성 | 500 / 2,000 | $425 | $878 | 2.1× |
양상은 이렇습니다. 컨텍스트를 많이 밀어 넣고 텍스트를 적게 생성할수록 Flash가 더 아껴 줍니다. 검색 파이프라인, 문서 분류, 로그와 대화록 분석, 장문맥 추출이 스위트 스폿입니다. 이들은 자릿수 단위로 입력이 지배적이고, 3.9× 할인이 사는 곳이 바로 입력입니다. 반대로 워크로드가 짧은 프롬프트에서 수천 토큰의 산문을 뽑는 형태라면 격차는 대략 2×로 좁아지고, Pro를 택할 능력 측면의 논거가 그만큼 강해집니다.
몸에 익혀 둘 만한 산수가 하나 더 있습니다. 100만 입력 토큰당 $0.50에서 262,144 토큰 윈도우 전체를 채우는 데 13.1센트가 듭니다. 그 가격이면 장문맥 프롬프팅은 더 이상 예산 문제가 아니게 되고, 때로는 검색 레이어를 아예 만들지 않고 컨텍스트 윈도우에 일을 맡길 수 있다는 뜻이 됩니다. 토큰 절감 위에 얹히는 공학적 절감입니다.
07여기서 "무검열"의 정확한 의미
이 단어는 헐겁게 쓰이므로, 엔드포인트의 속성으로 진술한 우리 정의를 적겠습니다. 모델 앞에 거절 분류기가 없고, 출력에 콘텐츠 필터링이 적용되지 않습니다. 프롬프트를 가로채 정형화된 거절문을 돌려주는 것이 없고, 완성문을 검사해 가리는 것도 없습니다. 대량 프로덕션 작업에서 그 결과는 단어가 풍기는 인상보다 덜 극적이고 더 쓸모 있습니다.
- 정상 트래픽에 오탐이 없습니다. 필터링된 엔드포인트는 의료 요약, 보안 리포트, 법적 증거 개시, 픽션, 해악 감소 자료, 그리고 모더레이션 작업 자체를 일상적으로 거절합니다 — 정확히 배치 작업이 민감한 주제에 관한 텍스트를 처리할 뿐 해로운 것을 만들지는 않는 범주들입니다. 10만 요청에서 1%의 오거절률은 망가진 행 1,000개입니다.
- 결정론적 계약.
json_schema응답을 요청하면 스키마에 맞는 JSON을 받습니다. 객체가 있어야 할 자리에 사과문 한 문단이 오지 않습니다. 파서에 거절 분기가 필요 없고, 재시도 로직이 전송 실패와 정책 실패를 구분할 필요가 없습니다. - 정책은 여러분의 것입니다. 그것이 맞바꿈입니다. 제품에 최종 사용자를 위한 가드레일이 필요하다면, 사용자와 관할권을 아는 여러분의 레이어에서 만드세요. 그 둘에 대한 제공자의 추측을 물려받는 대신에 말입니다. 계정에는 여전히 우리 책임 있는 사용 정책이 적용됩니다.
무검열은 비정렬이나 비협조와 같지 않습니다. 모델은 여전히 지시를 따르고 시스템 프롬프트를 존중합니다. 여러분의 사용자에게 특정 범주를 거절하게 하고 싶다면 거기서 그렇게 적으세요. 이제 그 지시는 우리가 강제하는 것이 아니라 여러분이 쓰는 것입니다.
08기능과 정직한 한계
대량 작업에서 무게를 대부분 감당하는 기능은 둘입니다. 엄격한 json_schema 출력은 완성문을 파싱 레이어도 거절 분기도 없이 데이터베이스 행으로 바꿉니다. 세 방언 모두에서의 툴 호출은, 최상위 플래너가 더 강한 모델에서 도는 에이전트의 값싼 하위 단계 엔진으로 Flash를 합리적인 선택으로 만듭니다. 여기에 트래픽 중 필요한 몫에만 토큰을 더 쓸 수 있게 해 주는 reasoning_effort와, Pro와 동일한 262,144 토큰 컨텍스트가 더해집니다. 싼 티어를 골랐다고 컨텍스트를 내주지 않는다는 점은 흔치 않습니다.
한계도 그만큼 구체적입니다.
- 비전 없음. Flash는 텍스트 전용이며 메시지의 이미지 파트를 거부합니다. 같은 $0.50 / $2.00 최저가의 무검열 모델에서 이미지가 필요하다면 MiniMax-M3와 MiMo-V2.5가 비전 지원 선택지이고, 그 위 티어에서는 Kimi-K2.6과 Kimi-K3가 더 강한 비전 모델입니다.
- 사다리의 꼭대기는 아닙니다. DeepSeek 자신의 수치가 공개된 모든 에이전트 벤치마크에서 Pro를 앞세우며, 격차는 여러 단계에 걸친 지속적 코드 추론에서 가장 큽니다. 틀린 답 하나가 싼 답 천 개보다 비싼 곳이라면 100만당 $1.45를 더 들여 DeepSeek-V4-Pro를 쓰세요.
- 요청당 출력 16,384 토큰. 긴 생성은 여러 호출로 쪼개야 합니다. 우리가 제공하는 모든 모델에 동일한 상한이며, 컨텍스트 윈도우보다 훨씬 먼저 걸립니다.
09호출하기
OpenAI 호환 클라이언트를 게이트웨이로 돌리고 모델 문자열만 바꾸세요. 스택의 다른 어떤 것도 움직일 필요가 없습니다.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP",
"messages": [
{"role": "system", "content": "Label the ticket. Reply only with the schema."},
{"role": "user", "content": "The invoice PDF renders blank on Safari 18."}
],
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "ticket_label",
"schema": {
"type": "object",
"properties": {
"category": {"type": "string"},
"severity": {"type": "integer"},
"needs_human": {"type": "boolean"}
},
"required": ["category", "severity", "needs_human"],
"additionalProperties": false
}
}
}
}'
같은 모델 ID가 /v1/messages와 /v1/responses에서도 그대로 동작합니다. 기존 통합의 아래를 더 싼 모델로 A/B 테스트하는 가장 빠른 방법이며, 클라이언트를 다시 짤 필요가 없습니다. 파라미터, 스트리밍 이벤트 형태, 툴 호출 스키마, 요율 제한은 API 레퍼런스에 문서화되어 있고, 카탈로그의 모든 모델은 Shannon 리서치에 정리되어 있습니다.
10자주 묻는 질문
무검열 DeepSeek Flash API란 무엇입니까?
DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP를 위한 Shannon AI 게이트웨이 엔드포인트입니다. 활성 130억인 DeepSeek V4-Flash 파운데이션의 4비트 AutoRound 빌드로, 자체 GPU 클러스터에서 거절 레이어도 출력 필터링도 없이, 100만 입력 토큰당 $0.50, 100만 출력 토큰당 $2.00에 262,144 토큰 컨텍스트로 제공됩니다.
DeepSeek V4 Flash는 100만 토큰당 얼마입니까?
입력 $0.50, 출력 $2.00으로 Shannon 게이트웨이의 최저가입니다. DeepSeek-V4-Pro-0813은 $1.95와 $3.90이므로, Flash가 입력은 3.9배, 출력은 1.95배 저렴합니다. 262,144 토큰 컨텍스트를 전부 채우는 비용은 Flash가 약 $0.13, Pro가 약 $0.51입니다.
DeepSeek V4 Flash와 DeepSeek V4 Pro 중 무엇을 써야 합니까?
호출 횟수가 제약이면 Flash입니다. 분류, 추출, 요약, 합성 데이터, RAG 응답, 에이전트 하위 단계가 여기에 해당합니다. 단일 호출의 난이도가 제약이면 Pro입니다. Flash는 성능을 깎은 Pro가 아닙니다. 더 작은 파운데이션을 충실도가 더 높은 4비트 양자화로 담은 것이고, Pro는 1.7조 파라미터 파운데이션을 3비트로 담은 것입니다.
DeepSeek-V4-Flash-0731은 비전과 JSON 스키마 출력을 지원합니까?
엄격한 json_schema 구조화 출력과 response_format을 지원하며, 툴 호출, 스트리밍, reasoning_effort도 지원합니다. 이미지 입력은 받지 않습니다. 같은 최저가의 무검열 모델에서 이미지가 필요하다면 MiniMax-M3와 MiMo-V2.5가 비전을 지원하는 선택지입니다.
W4A16-AUTOROUND-REAP은 무슨 뜻입니까?
W4A16은 4비트 가중치에 16비트 활성화를 뜻합니다. AutoRound는 Intel의 학습된 반올림 기법으로, 가장 가까운 값으로 반올림하는 대신 부호 경사 하강법으로 반올림 결정을 최적화합니다. REAP은 Cerebras Systems의 전문가 혼합 모델용 원샷 전문가 프루닝으로, 라우팅이 가장 적은 전문가를 재학습 없이 제거합니다.
정말로 거절 레이어가 없는 무검열 모델입니까?
그렇습니다. 모델 앞에 거절 분류기가 없고 출력에 필터링이 적용되지 않으므로, 모델 자신의 분포를 그대로 받습니다. 그것은 곧 제품의 안전 태세가 여러분 몫이며 가드레일을 여러분 레이어에서 만든다는 뜻이기도 합니다. 계정에는 여전히 우리 책임 있는 사용 정책이 적용됩니다.
대량 처리는 Flash로
입력 $0.50, 출력 $2.00, 262K 컨텍스트, 거절 없음. 모델 문자열 하나만 바꾸세요.
API 문서 읽기 12개 모델 전체 보기Shannon Lab LLC · 미국 뉴멕시코 · 우리 책임 있는 사용 정책의 적용을 받습니다
출처: DeepSeek-V2 (arXiv 2405.04434) · DeepSeekMoE (arXiv 2401.06066) · DeepSeek-V3 기술 보고서 (arXiv 2412.19437) · DeepSeek-V4 (arXiv 2606.19348) · DeepSeek-V4-Flash-0731 및 DeepSeek-V4-Pro-0813 모델 카드 · AutoRound (arXiv 2309.05516, Intel) · REAP (arXiv 2510.13999, Cerebras Systems) · AWQ (arXiv 2306.00978) · GPTQ (arXiv 2210.17323). 모든 파운데이션 및 벤치마크 수치는 각 저자가 공개한 값입니다. Shannon AI 가격과 제공 컨텍스트는 2026년 9월 기준 우리 정가입니다.