సెన్సార్ లేని DeepSeek API
1.6-ట్రిలియన్-పారామీటర్ల DeepSeek నిపుణుల-మిశ్రమం తిరస్కరణ పొర లేకుండా అందించబడుతుంది: 262K సందర్భం, స్థానిక తర్క ప్రయత్నం, టూల్ కాలింగ్, మరియు మా స్వంత GPU క్లస్టర్పై మూడు API మాండలికాలు.
సంక్షిప్తంగా
DeepSeek-V4-Pro-0813-3BIT-REAP అనేది Shannon AI సెన్సార్ లేని శ్రేణిలోని ప్రధాన తర్క-మరియు-కోడ్ మోడల్. పునాది DeepSeek-AI యొక్క ఓపెన్-వెయిట్స్ V4-Pro — మొత్తం 1.6T పారామీటర్లు, ఒక్కో టోకెన్కు 49B క్రియాశీలం, MIT లైసెన్స్, మిలియన్-టోకెన్ సందర్భం కోసం స్థానికంగా శిక్షణ పొందినది. మేము దీన్ని REAP నిపుణుల కత్తిరింపుతో 3-బిట్ వెయిట్లలో మా స్వంత GPU క్లస్టర్పై అందిస్తాము — 262,144-టోకెన్ విండో, 16,384-టోకెన్ గరిష్ఠ అవుట్పుట్, స్ట్రీమింగ్, స్థానిక టూల్ కాలింగ్, కఠినమైన json_schema అవుట్పుట్, మరియు ఒక reasoning_effort మీటతో. 1M ఇన్పుట్కు $1.95, 1M అవుట్పుట్కు $3.90. విజన్ లేదు. తిరస్కరణ పొర లేదు, అవుట్పుట్ ఫిల్టరింగ్ లేదు.
"సెన్సార్ లేని DeepSeek API" అనే పదబంధం వద్దకు వచ్చేవారు కోరుకునేది ఒక నిర్దిష్టమైన విషయం: DeepSeek యొక్క తర్క మరియు కోడింగ్ సామర్థ్యం కలిగి, తాము నిజంగా అడిగిన ప్రశ్నకు సమాధానమిచ్చే ఒక మోడల్. సామర్థ్యపు సగం చక్కగా నమోదు చేయబడింది — DeepSeek-AI నిర్మాణాన్ని మరియు సంఖ్యలను ప్రచురించింది, మరియు వెయిట్లు MIT కింద Hugging Faceలో ఉన్నాయి. రెండో సగం ఒక నిర్వహణ నిర్ణయం, మరియు అది సాధారణంగా మీ తరపున ఎవరో తీసుకుంటారు. ఈ పేజీ రెంటినీ కవర్ చేస్తుంది: V4-Pro పునాది ఏమిటి, మా 3BIT-REAP బిల్డ్ దానికి ఏమి చేస్తుంది, మరియు మేము "సెన్సార్ లేనిది" అన్నప్పుడు దాని ఖచ్చితమైన అర్థం ఏమిటి.
01"సెన్సార్ లేని DeepSeek API" అంటే నిజానికి ఏమిటి
ఒకే మాట కింద రెండు వేర్వేరు యంత్రాంగాలు చేరుస్తారు. మొదటిది వెయిట్లలోనే కాల్చి పెట్టిన అలైన్మెంట్ — శిక్షణ తర్వాతి దశలో నేర్చుకున్న తిరస్కరణ ప్రవర్తన. రెండోది అందించే వైపు ఉండే నియంత్రణ పొర: మోడల్ చూడకముందే మీ ప్రాంప్ట్ను, మీరు చూడకముందే అవుట్పుట్ను పరిశీలించే ఒక వేరే వర్గీకరణి; మోడల్ ఏమి చెప్పాలనుకున్నా సరే, అది ఒక ప్రతిస్పందనను వాక్యం మధ్యలోనే కత్తిరించగలదు.
ఈ రెండూ కొలవదగినవి, మరియు DeepSeek సొంత సేవ కొలవబడింది. Promptfoo రాజకీయంగా సున్నితమైన 1,360 ప్రాంప్ట్ల సమితిని తయారు చేసి, DeepSeek హోస్ట్ చేసిన R1 వాటిలో 1,156ను తిరస్కరించిందని లేదా పక్కదారి పట్టించిందని నివేదించింది — సుమారు 85%. అదే కుటుంబంపై విద్యా పరిశోధన, రచయితలు ఆలోచన అణచివేత అని పిలిచిన ఒక ప్రత్యేక వైఫల్య రూపాన్ని కనుగొంది; అందులో సున్నితమైన అంశంపై మోడల్ తర్క జాడ, మొదలైన దాదాపు వెంటనే ముగిసిపోతుంది. Information Sciencesలో ప్రచురించిన మరో ఆడిట్ అర్థ-స్థాయి అణచివేతను నమోదు చేసింది: మోడల్ అంతర్గత తర్కంలో ఉన్న కంటెంట్, వాడుకరికి చేరకముందే నిశ్శబ్దంగా వదిలివేయబడటం లేదా తిరిగి రాయబడటం. ఇది బాహాటమైన తిరస్కరణ కంటే కష్టమైన సమస్య, ఎందుకంటే కత్తిరించిన సమాధానం సమాధానంలాగే కనిపిస్తుంది.
మేము నడిపేది ఓపెన్-వెయిట్స్ విడుదలను, మేము నిర్వహించే హార్డ్వేర్పై, అమెరికాలో, Shannon Lab LLC కింద. మోడల్ ముందు తిరస్కరణ పొర లేదు, తిరిగి వచ్చే దానిపై ఎలాంటి ఫిల్టర్ వర్తించదు: మీ ప్రాంప్ట్ అందించబడక ముందు విధానం కోసం వర్గీకరించబడదు, మరియు అవుట్పుట్ ప్రవాహం బయటికి వెళ్ళే దారిలో పరిశీలించబడదు. పునాది MIT లైసెన్స్ కలిగి బహిరంగంగా ఉంది కాబట్టి, మా మాటను నమ్మే బదులు మీరే మా అవుట్పుట్లను మూల వెయిట్లతో పోల్చుకోవచ్చు.
02పునాది: DeepSeek-V4-Pro, ఒక 1.6T MoE
DeepSeek-V4 అనేది DeepSeek-AI యొక్క ప్రస్తుత ఓపెన్-వెయిట్స్ కుటుంబం; ఇది ఏప్రిల్ 2026లో ముందుగా చూపబడి, MIT కింద రెండు పరిమాణాల్లో విడుదలైంది: V4-Flash (మొత్తం 284B, 13B క్రియాశీలం) మరియు V4-Pro (మొత్తం 1.6T, 49B క్రియాశీలం). ఈ వ్యాసం Pro శ్రేణి గురించి. రెండూ సుమారు 33 ట్రిలియన్ టోకెన్లపై ముందస్తు శిక్షణ పొందాయి, మరియు రెండూ స్థానికంగా పది లక్షల టోకెన్ల సందర్భానికి మద్దతు ఇస్తాయి.
గమనించవలసినది ఈ విరళత నిష్పత్తి: ఏ ఒక్క టోకెన్పైనైనా పారామీటర్లలో కేవలం 3% మాత్రమే క్రియాశీలమవుతాయి, ఇంత పెద్ద మోడల్ను అసలు అందించగలిగేలా చేసేది అదే. MoE బ్లాక్ ఇప్పటికీ DeepSeekMoEనే — V2లో ప్రవేశపెట్టిన సూక్ష్మ-స్థాయి రూట్ చేయబడిన నిపుణులు, పైగా ఎప్పుడూ ఆన్లో ఉండే భాగస్వామ్య నిపుణులు — V4లో చిన్న మార్పులు మాత్రమే, అత్యంత స్పష్టంగా తొలి పొరల్లో హాష్ రూటింగ్. ఊహాజనిత డీకోడింగ్ను కూడా సాధ్యం చేసే V3 సహాయక లక్ష్యం, Multi-Token Prediction, మార్పు లేకుండా నిలుపబడింది.
V4లోని కొత్త భాగాలు నిర్మాణపరమైనవి. Manifold-Constrained Hyper-Connections (mHC) సాధారణ రెసిడ్యుయల్ మార్గాన్ని, Sinkhorn–Knopp ప్రొజెక్షన్ ద్వారా రెండు దిశలా స్టోకాస్టిక్ మ్యాట్రిక్స్ల మేనిఫోల్డ్పై పరిమితం చేసిన నేర్చుకున్న మిక్సింగ్ మ్యాట్రిక్స్తో భర్తీ చేస్తాయి — చాలా లోతైన స్టాక్లను చంపే సంఖ్యాపరమైన కదలిక లేకుండా ఇన్పుట్ను బట్టి తనను తాను తిరిగి బరువు పెట్టుకునే రెసిడ్యుయల్ ప్రవాహం. శిక్షణ చాలా మాడ్యూళ్ళకు AdamW నుండి Newton–Schulz ఆర్తోగోనలైజేషన్ వాడే Muonకు మారింది; AdamW ఎంబెడ్డింగ్లు, ప్రిడిక్షన్ హెడ్లు, నార్మలైజేషన్ మరియు స్థిర mHC పారామీటర్లకు మాత్రమే ఉంచబడింది. మరియు నిపుణుల వెయిట్లు FP4లో శిక్షణ పొందుతాయి, మిగతా చాలా పారామీటర్లు FP8లో — మొదటి నుండే క్వాంటైజేషన్-అవగాహనతో, తర్వాతి కుదింపును మోడల్ ఎంత సున్నితంగా స్వీకరిస్తుందో దానికి ఇది ముఖ్యం.
03MLA నుండి CSA + HCAకు: DeepSeek దీర్ఘ సందర్భాన్ని చౌకగా ఎలా ఉంచుతుంది
నాలుగు తరాలుగా DeepSeek యొక్క ప్రధాన సూత్రం పరిమాణం కాదు, శ్రద్ధ ఆర్థికశాస్త్రం. ప్రతి రూపమూ KV కాష్పైనే దాడి చేసింది; అది సందర్భంతో పాటు సరళరేఖీయంగా పెరిగి, పొడవైన నిడివుల వద్ద జ్ఞాపకశక్తిని ఆక్రమిస్తుంది.
- V2 Multi-head Latent Attention (MLA)ను ప్రవేశపెట్టింది — కీలను మరియు విలువలను ఒక గుప్త వెక్టర్లోకి తక్కువ-ర్యాంక్ ఉమ్మడి కుదింపు చేయడం, తద్వారా సృష్టి సమయంలో ఒక్కో హెడ్కూ పూర్తి K మరియు V కు బదులు ఆ వెక్టర్నూ, విడదీసిన RoPE కీనూ కాష్ చేస్తుంది. ప్రామాణిక బహుళ-హెడ్ శ్రద్ధతో పోలిస్తే KV కాష్ సుమారు 4–14%కు తగ్గిందని, నాణ్యత నిలిచిందని లేదా మెరుగుపడిందని DeepSeek నివేదించింది.
- V3 దాన్ని 671Bకు విస్తరించి, ఓపెన్ మోడళ్ళలో చౌకైన దీర్ఘ సందర్భానికి MLAను డిఫాల్ట్ ఊహగా మార్చింది.
- V3.2 DeepSeek Sparse Attention (DSA)ను జోడించింది, ఇది అన్నిటిపైనా శ్రద్ధ పెట్టే బదులు తేలికపాటి ఇండెక్సర్ ద్వారా ప్రతి ప్రశ్నకూ చరిత్ర నుండి టాప్-k ఉపసమితిని ఎంచుకుంటుంది.
- V4 సంకరీకరిస్తుంది. Compressed Sparse Attention (CSA) ముందుగా ప్రతి m టోకెన్ల KV అంశాలను నేర్చుకున్న బరువులతో ఒకే అంశంగా కుదిస్తుంది, ఆపై ఆ కుదించిన అంశాలపై విరళ టాప్-k ఎంపికను నడుపుతుంది. Heavily Compressed Attention (HCA) చాలా తీవ్రంగా కుదిస్తుంది కానీ ఫలితంపై దట్టంగానే ఉంటుంది. ఈ రెండు పొర రకాలు స్టాక్ అంతటా మార్చిమార్చి అమర్చబడతాయి, తద్వారా చౌకైన సమగ్ర సారాంశమూ, ఖచ్చితమైన స్థానిక పునరుద్ధరణా కలిసి ఉంటాయి.
పది లక్షల టోకెన్ల సందర్భం వద్ద నివేదించిన లాభం స్పష్టంగా ఉంది: V3.2తో పోలిస్తే V4-Proకు ఒక్కో టోకెన్కు అనుమాన FLOPలలో సుమారు 27% మరియు KV కాష్లో 10% మాత్రమే అవసరం. అందుకే 262K అభ్యర్థన ఒక జ్ఞాపకశక్తి ఘటనలా కాక సాధారణ అభ్యర్థనలా ప్రవర్తిస్తుంది, మరియు అందుకే దీర్ఘ-సందర్భ పునరుద్ధరణ సంఖ్యలు కొన్ని పదివేల టోకెన్ల తర్వాత కూలిపోకుండా నిలబడతాయి.
043BIT-REAP అనే ప్రత్యయం అర్థం ఏమిటి
మా కేటలాగ్ ఐడీ 3BIT-REAPతో ముగుస్తుంది, మరియు అది క్రమంలో వర్తింపజేసిన రెండు స్వతంత్ర కుదింపు దశలను సూచిస్తుంది.
REAP: నిపుణులను విలీనం చేయడం కాదు, కత్తిరించడం
REAP అంటే Cerebras Research నుండి వచ్చిన Router-weighted Expert Activation Pruning — "REAP the Experts: Why Pruning Prevails for One-Shot MoE Compression", ICLR 2026కు ఆమోదించబడింది. ఒక విరళ MoEలో రౌటర్ తన నిపుణులను సమానంగా వాడదు: ఒక పొడవైన తోక అరుదుగా, బలహీనంగా, లేదా రెండూనూ ఎంచుకోబడుతుంది. REAP ప్రతి నిపుణుడినీ రౌటర్ గేట్ విలువలను (అతను ఎంత తరచుగా, ఎంత బలంగా ఎంచుకోబడతాడు) మరియు నిపుణుడి యాక్టివేషన్ నార్మ్లను (అతని అవుట్పుట్ ఎంత దోహదపడుతుంది) కలిపి స్కోర్ చేసి, ఓడినవాటిని పూర్తిగా తొలగిస్తుంది.
విలీనం కంటే కత్తిరింపే మెరుగన్నది ఆ పత్రం వాదన: విలీనం, MoEను నిర్మించడాన్ని విలువైనదిగా చేసిన క్రియాత్మక ప్రత్యేకతను సగటుగా మార్చి తుడిచిపెడుతుంది, అయితే రౌటర్ దాదాపు చేరని నిపుణులను తొలగించడం దాన్ని కాపాడుతుంది. 20B నుండి 1T వరకూ మోడళ్ళపై, సృజనాత్మక బెంచ్మార్క్లలో REAP విలీనాన్ని మరియు పోటీ కత్తిరింపు పద్ధతులను అధిగమించింది, మరియు Qwen3-Coder-480B మరియు Kimi-K2పై 50% నిపుణుల కత్తిరింపు వద్ద కోడ్ సృష్టి మరియు టూల్ కాలింగ్లో దాదాపు నష్టరహిత ఫలితాలను రచయితలు నివేదిస్తారు — ఈ మోడల్ ఇక్కడ ఉన్నదే సరిగ్గా ఆ పని రూపం కోసం.
3-బిట్ వెయిట్లు: అతిపెద్ద పునాదులకు కుదింపు శ్రేణి
మిగిలినది తర్వాత 3-బిట్ వెయిట్లకు క్వాంటైజ్ చేయబడుతుంది. మూడు బిట్లు తీవ్రమైనవి, మరియు మేము దీన్ని దాచము: శ్రేణి అంతటా, పునాది చిన్నదై ఆ పిండటం అవసరం లేని చోట W8A16, మధ్యలో W4A16-AUTOROUND-REAP, మరియు 3BIT-REAPను అతిపెద్ద పునాదులపై మాత్రమే వాడతాము — అక్కడ అది మోడల్ను అందించడానికీ, అసలు అందించలేకపోవడానికీ మధ్య ఉన్న తేడా.
ఈ రాజీని స్పష్టంగా చెప్పడం విలువైనది: 3-బిట్ 1.6T MoE అనేది మూల విడుదలతో బిట్-సమానం కాదు, మరియు ఒక చిన్న నాణ్యతా ఖర్చు నిజమే. దానికి బదులుగా మీకు లభించేది ఏమిటంటే, ఎక్కువ ఖచ్చితత్వం వద్ద సౌకర్యంగా ఇమిడే దేనికంటే కూడా కుదించని గరిష్ఠ స్థాయి చాలా ఎత్తులో ఉన్న ఒక పునాది — మరియు V4 నిపుణులు మొదటి నుండే FP4లో శిక్షణ పొందారు కాబట్టి, తర్వాతి వెయిట్ కుదింపు కింద ఈ మోడల్ అసాధారణంగా బాగా ప్రవర్తిస్తుంది. ఖచ్చితత్వంపై తేలికపాటి స్పర్శ ఉన్న DeepSeek బిల్డ్ మీకు కావాలంటే, DeepSeek-V4-Flash-0731-W4A16-AUTOROUND-REAP అదే 262K సందర్భంపై $0.50 ఇన్ / $2.00 అవుట్ వద్ద, 16-బిట్ యాక్టివేషన్లతో 4-బిట్ వెయిట్లను మరియు AutoRound నేర్చుకున్న రౌండింగ్ను వాడుతుంది.
05తర్కం, మరియు reasoning_effort మీట
V4 శిక్షణానంతర దశ, రంగాల వారీ నిపుణులను విడిగా శిక్షణ ఇస్తుంది — గణితం, కోడింగ్, ఏజెంట్లు, సూచనలను పాటించడం — SFT తర్వాత GRPOతో; ఇది R1తో పాటు DeepSeek ప్రవేశపెట్టిన Group Relative Policy Optimization పద్ధతి. ఆ నిపుణులు తర్వాత రివర్స్-KL లక్ష్యం కింద ఆన్-పాలసీ డిస్టిలేషన్ ద్వారా ఒకే మోడల్గా ఏకీకృతం చేయబడతారు, తద్వారా అన్నిటిలోనూ మధ్యస్థంగా ఉండే సర్వసాధారణ మోడల్గా కాక, ఒకే చెక్పాయింట్ ఒకేసారి అనేక రంగాల్లో నిపుణ-స్థాయి ప్రవర్తనను మోస్తుంది.
విడుదలైన మోడల్ ఒక ద్విసంఖ్య స్విచ్ కాకుండా క్రమానుగత ఆలోచన రీతులను బహిర్గతం చేస్తుంది. మా గేట్వేలో అదే ప్రామాణిక reasoning_effort పారామీటర్, ఈ మోడల్పై అత్యంత ఉపయోగకరమైన ఒకే ఒక మీట:
- Low — దాదాపు నేరుగా సమాధానం: వర్గీకరణ, సమాచార సంగ్రహణ, తిరిగి రాయడం, మరియు మీరు మోడల్ ఆలోచన కోసం కాక దాని జ్ఞానం కోసం చెల్లిస్తున్న ఏ పనైనా.
- Medium — కోడ్ సమీక్ష, డీబగ్గింగ్ మరియు బహుళ-దశల విశ్లేషణకు డిఫాల్ట్ పని రీతి.
- High — సమాధానం ఇవ్వకముందు దీర్ఘ ఆలోచన. కష్టమైన సమస్యలు పరిష్కారమయ్యేదీ ఇక్కడే, మీ అవుట్పుట్-టోకెన్ బిల్లు నివసించేదీ ఇక్కడే, ఎందుకంటే తర్క టోకెన్లు అవుట్పుట్గా బిల్ చేయబడతాయి.
తిరస్కరణ పొర లేదు కాబట్టి, సున్నితమైన అంశాలపై తర్క జాడ కత్తిరించబడదు — సొంత సేవపై నమోదైన ఆలోచన-అణచివేత నమూనా ఇక్కడ జరగడానికి ఎలాంటి యంత్రాంగమూ లేదు.
06కోడ్ మరియు ఏజెంటిక్ పని: పునాది సాధించిన స్కోర్లు
ఇవి V4-Pro విడుదలకు DeepSeek-AI స్వయంగా ప్రచురించిన సంఖ్యలు — మావి కావు, మా క్వాంటైజ్ చేసిన బిల్డ్పై కొలిచినవీ కావు. ఈ పునాదిని ఎంచుకోవడానికి అవే నిజాయితీ కారణం కాబట్టి వాటిని చూపిస్తున్నాము, మరియు మీరు వాటికి తగిన బరువు ఇవ్వగలిగేలా అవి మొదటి-పక్షం సంఖ్యలని గుర్తు చేస్తున్నాము.
రెంటి గురించి చెప్పాల్సి ఉంది. SWE-bench Verified వద్ద 80.6% అంటే నిజమైన రిపోజిటరీలో సమస్య పరిష్కారం — పరిచయం లేని కోడ్బేస్ను చదవడం, లోపాన్ని కనుక్కోవడం, ప్రాజెక్ట్ సొంత పరీక్షల్లో నెగ్గే ప్యాచ్ను తయారు చేయడం. పది లక్షల టోకెన్ల వద్ద MRCR (83.5) అంటే పూర్తి నిడివిలో బహుళ-రౌండ్ సహ-సూచన పునరుద్ధరణ; దీర్ఘ-సందర్భ వాదన అలంకారం కాదని చెప్పే సంఖ్య అదే. ఈ మోడల్కు 3206 Codeforces రేటింగ్ను, మరియు 1M సందర్భంలో CorpusQAపై 62.0ను కూడా DeepSeek నివేదిస్తుంది.
పైన ఉన్న సంఖ్యలు DeepSeek-V4-Pro మూల విడుదల కోసం DeepSeek-AI నివేదించినవి. మా 3BIT-REAP బిల్డ్ ఆ వెయిట్ల కుదించిన రూపాంతరం, మరియు ఈ పనుల్లో అది స్వతంత్రంగా బెంచ్మార్క్ చేయబడలేదు; మూల స్కోర్లను ఈ ఎండ్పాయింట్ కొలతగా కాక, పునాది గరిష్ఠ స్థాయిగా చూడండి.
07262K సందర్భం: నిజానికి ఏమి ఇముడుతుంది
మూల మోడల్ పది లక్షల టోకెన్ల కోసం శిక్షణ పొందింది. మేము 262,144 అందిస్తాము — గేట్వేలోని ప్రతి మోడలూ పంచుకునే విండో, కాబట్టి మోడళ్ళను మార్చడం ఒక్క పంక్తి మార్పు, ఎప్పుడూ సందర్భ తిరోగమనం కాదు. ఆచరణలో చాలా నిజమైన పనికి సందర్భం ఇబ్బంది పెట్టే స్థాయిని 262K దాటేసింది:
| పని | సుమారు టోకెన్లు | 262Kలో ఇముడుతుందా? |
|---|---|---|
| మధ్యస్థ సేవా రిపో (~50k పంక్తులు) | ~600K | లేదు — మాడ్యూళ్ళను ఎంచుకోండి |
| ఒకే ఉపవ్యవస్థ + దాని పరీక్షలు | ~60–120K | అవును, సౌకర్యంగా |
| ఒక ప్రోటోకాల్కు పూర్తి RFC సమితి | ~150K | అవును |
| 700-పేజీల సాంకేతిక పుస్తకం | ~250K | అవును, పరిమితికి దగ్గరగా |
| పొడవైన ఏజెంట్ రన్, 40+ టూల్ మలుపులు | ~80–200K | అవును |
ప్రణాళిక వేసుకోవలసిన పరిమితి అవుట్పుట్: ఒక్కో ప్రతిస్పందనకు గరిష్ఠంగా 16,384 టోకెన్లు. అది ఒక పొడవైన పత్రం లేదా ఒక గణనీయమైన బహుళ-ఫైల్ ప్యాచ్, కానీ ఒక కోడ్బేస్ కాదు. పెద్ద సృష్టి పనులు, ఒక్క భారీ పూర్తిని అడగడం ద్వారా కాక, మునుపటి అవుట్పుట్ను తిరిగి సందర్భంలో పెట్టి అభ్యర్థనలను గొలుసుగా కలపడం ద్వారా చేయబడతాయి — 262K విండో దాన్ని చౌకగా చేస్తుంది.
08ధర, మరియు శ్రేణిలో V4-Pro స్థానం
మిలియన్ టోకెన్లకు $1.95 ఇన్ / $3.90 అవుట్ వద్ద, V4-Pro ప్రధాన తర్క శ్రేణి — సమస్య కష్టంగా ఉన్నప్పుడు మీరు అందుకునే మోడల్. అది కేవలం పెద్దది మాత్రమే అయితే, అదే 262K విండోపై చౌకైన మోడళ్ళు దాన్ని పావు ధరకే చేసిపెడతాయి.
| సెన్సార్ లేని మోడల్ | ఇన్ / 1M | అవుట్ / 1M | విజన్ | దేనికి ఉత్తమం |
|---|---|---|---|---|
| DeepSeek-V4-Pro · 3BIT-REAP | $1.95 | $3.90 | లేదు | కష్టమైన తర్కం, కోడ్, ఏజెంట్లు |
| DeepSeek-V4-Flash · W4A16 | $0.50 | $2.00 | లేదు | అదే వంశం, ఎక్కువ పరిమాణం |
| GLM-5.2 · 3BIT-REAP | $0.73 | $2.34 | లేదు | సర్వసాధారణ పనిగుర్రం |
| Kimi-K3 · 3BIT-REAP | $3.83 | $19.12 | అవును | అత్యున్నత శ్రేణి బహుళరూప ఏజెంట్లు |
| MiniMax-M3 · 3BIT-REAP | $0.50 | $2.00 | అవును | అత్యంత చౌకైన విజన్ |
మనుషులు నిజంగా చేసే పోలిక గురించి నిజాయితీగా చెబితే: DeepSeek సొంత API దీనికంటే చౌక — మొదటి-పక్ష V4-Pro సుమారు $0.435 ఇన్ / $0.87 అవుట్ వద్ద జాబితా చేయబడింది, మరియు వారి కాష్-హిట్ ఇన్పుట్ ధర ఇంకా తక్కువ. ఒక్కో టోకెన్కు ధరే మీ ఏకైక ప్రమాణమైతే, మరియు నియంత్రణ ప్రవర్తన మీ పనిని ప్రభావితం చేయకపోతే, మొదటి-పక్ష APIనే వాడండి; మీరు తర్వాత తెలుసుకోవడం కంటే మేమే మీకు చెప్పడం మేలు. అదనపు ధర వేరే లక్షణాల సమితిని కొంటుంది: తిరస్కరణ పొర లేదు, అవుట్పుట్ ఫిల్టర్ లేదు; Shannon Lab LLC కింద ఒక అమెరికా నిర్వాహకుడు; స్థిరపరచిన తేదీ చెక్పాయింట్ (0813), తద్వారా నిశ్శబ్దమైన అప్స్ట్రీమ్ నవీకరణ మీ ప్రాజెక్ట్ మధ్యలో మీ అవుట్పుట్లను ఎప్పుడూ మార్చదు; ఒకే మోడల్పై మూడు API మాండలికాలు; మరియు శ్రేణిలోని పన్నెండు మోడళ్ళ అంతటా అదే 262K విండో మరియు అవే పారామీటర్లు.
09దీన్ని పిలవడం: మూడు మాండలికాలు, ఒకే మోడల్
గేట్వేలోని ప్రతి మోడలూ మూడు ఎండ్పాయింట్లపైనా సమాధానమిస్తుంది, ప్రతిదానిపైనా స్ట్రీమింగ్తో. మీరు కొత్త SDKను స్వీకరించనవసరం లేదు — మీరు ఒక బేస్ URLను మరియు ఒక మోడల్ ఐడీని మారుస్తారు.
curl https://api.shannon-ai.com/v1/chat/completions \
-H "Authorization: Bearer $SHANNON_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "DeepSeek-V4-Pro-0813-3BIT-REAP",
"reasoning_effort": "high",
"stream": true,
"messages": [
{"role": "system", "content": "You are a systems programmer. Be direct."},
{"role": "user", "content": "Audit this parser for memory-safety bugs."}
]
}'
/v1/chat/completions— OpenAI మాండలికం; OpenAI SDKలతో మరియు వాటిపై నిర్మించిన దేనితోనైనా పనిచేస్తుంది./v1/messages— Anthropic మాండలికం, ఇప్పటికే ఆ ఆకారానికి రాసిన కోడ్బేస్ల కోసం./v1/responses— Responses-శైలి ఇంటర్ఫేస్.
ఈ మోడల్పై మద్దతు ఉన్నవి: స్ట్రీమింగ్, స్థానిక టూల్ కాలింగ్, కఠినమైన json_schema నిర్మాణాత్మక అవుట్పుట్, response_format, మరియు reasoning_effort. పూర్తి పారామీటర్ల సూచన మరియు ఒక ప్రత్యక్ష ప్లేగ్రౌండ్ API డాక్యుమెంటేషన్లో ఉన్నాయి.
10నిజాయితీ పరిమితులు
దీనిపై నిర్మించే ముందు తెలుసుకోవలసిన నాలుగు విషయాలు:
- విజన్ లేదు. టెక్స్ట్ మాత్రమే; ఇది ఏ ఎండ్పాయింట్పైనా చిత్ర ఇన్పుట్ను స్వీకరించదు. చూడగలిగే సెన్సార్ లేని మోడల్ మీకు కావాలంటే Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 లేదా inkling వాడండి.
- 16,384-టోకెన్ అవుట్పుట్ పరిమితి. ఎక్కువ ప్రయత్నం వద్ద తర్క టోకెన్లు దీనికి లెక్కించబడతాయి, కాబట్టి దీర్ఘ ఆలోచన సమాధానానికి తక్కువ చోటు మిగులుస్తుంది. పెద్ద సృష్టి పనుల కోసం అభ్యర్థనలను గొలుసుగా కలపండి.
- 3-బిట్ ఒక నిజమైన కుదింపు. మూల స్కోర్లు పునాదిని వర్ణిస్తాయి, ఈ బిల్డ్ను కాదు. అత్యధిక విశ్వసనీయత శ్రేణి కోసం,
W8A16మోడళ్ళు (MiMo-V2.5-Pro, MiMo-V2.5, Hy3) అతి తక్కువ క్వాంటైజేషన్ను మోస్తాయి. - సెన్సార్ లేకపోవడం అంటే పర్యవసానాలు లేకపోవడం కాదు. తిరస్కరణ పొర లేదంటే, మీరు ఏమి అడుగుతున్నారు మరియు సమాధానంతో ఏమి చేస్తున్నారు అనే బాధ్యత మీపైనే ఉంటుంది — మా సేవా నిబంధనల కింద మరియు మీరు పనిచేసే చోటి చట్టం కింద.
ఈ పేజీలోని ప్రతి నిర్మాణపరమైన వాదనా, ప్రతి బెంచ్మార్క్ సంఖ్యా ఒక బహిరంగ ప్రాథమిక మూలం నుండి వచ్చినవే. వాటిని మీరే చదవండి.
11తరచుగా అడిగే ప్రశ్నలు
సెన్సార్ లేని DeepSeek API అంటే ఏమిటి?
ఇది Shannon AI సొంత GPU క్లస్టర్పై అందించబడే DeepSeek-V4-Pro ఓపెన్-వెయిట్స్ మోడల్ — దాని ముందు తిరస్కరణ పొర లేకుండా, అది తిరిగి ఇచ్చే దానిపై ఎలాంటి ఫిల్టరింగ్ లేకుండా. మీరు దాన్ని 262,144-టోకెన్ సందర్భ విండోతో /v1/chat/completions, /v1/messages లేదా /v1/responses వద్ద పిలుస్తారు, మరియు ఎండ్పాయింట్ నియంత్రించే బదులు సమాధానమిస్తుంది.
ఇది DeepSeek అధికారిక API కంటే ఎలా భిన్నం?
ఒకే ఓపెన్-వెయిట్స్ వంశం, వేరే నిర్వాహకుడు, వేరే విధానం. DeepSeek సొంత సేవ ఒక్కో టోకెన్కు చౌక మరియు తన సొంత నియంత్రణను నడుపుతుంది; Promptfoo మరియు విద్యా బృందాలు ప్రచురించిన ఆడిట్లు అక్కడ రాజకీయంగా సున్నితమైన ప్రాంప్ట్లపై తిరస్కరణను మరియు అర్థ-స్థాయి అణచివేతను నమోదు చేశాయి. Shannon AI ఈ వెయిట్లను అమెరికాలో తిరస్కరణ పొర లేకుండా నడుపుతుంది, మూడు API మాండలికాలపై తర్క ప్రయత్నాన్ని మరియు టూల్ కాలింగ్ను బహిర్గతం చేస్తుంది, మరియు అవుట్పుట్లు మీ కింద మారిపోకుండా తేదీ వేసిన చెక్పాయింట్ను స్థిరపరుస్తుంది.
3BIT-REAP అంటే ఏమిటి?
రెండు కుదింపు దశలు. REAP అంటే Router-weighted Expert Activation Pruning — ఒక నిపుణుల-మిశ్రమ మోడల్ నుండి అరుదుగా మరియు బలహీనంగా రూట్ చేయబడిన నిపుణులను తొలగించే Cerebras Research పద్ధతి; ఇది ప్రతి నిపుణుడినీ అతని రౌటర్ గేట్ విలువలు మరియు యాక్టివేషన్ నార్మ్ల ఆధారంగా స్కోర్ చేస్తుంది. మిగిలినది తర్వాత 3-బిట్ వెయిట్లకు క్వాంటైజ్ చేయబడుతుంది. కలిసి, ఇవి 1.6-ట్రిలియన్ పారామీటర్ల పునాదిని మా స్వంత GPU క్లస్టర్పై ఇమిడేలా, వేగంగా ఉండేలా చేస్తాయి.
సందర్భ విండో మరియు గరిష్ఠ అవుట్పుట్ ఎంత పెద్దవి?
262,144 టోకెన్ల సందర్భం మరియు ఒక్కో అభ్యర్థనకు 16,384 టోకెన్ల వరకూ అవుట్పుట్. అంటే లోపలికి సుమారు 600 నుండి 800 పేజీల టెక్స్ట్, బయటికి ఒక పొడవైన సాంకేతిక పత్రం లేదా ఒక పెద్ద బహుళ-ఫైల్ ప్యాచ్. పొడవైన పనులు అవుట్పుట్ పరిమితిని పెంచడం ద్వారా కాక, అభ్యర్థనలను గొలుసుగా కలపడం ద్వారా చేయబడతాయి.
DeepSeek V4 Pro టూల్ కాలింగ్కు మరియు JSON స్కీమా అవుట్పుట్కు మద్దతు ఇస్తుందా?
రెంటికీ అవును. స్థానిక టూల్ కాలింగ్, కఠినమైన json_schema నిర్మాణాత్మక అవుట్పుట్ మరియు response_format అన్నిటికీ మద్దతు ఉంది, స్ట్రీమింగ్ మరియు reasoning_effort పారామీటర్తో సహా. ఇది చిత్ర ఇన్పుట్ను స్వీకరించదు; సెన్సార్ లేని మోడల్పై మీకు విజన్ కావాలంటే బదులుగా Kimi-K3, Kimi-K2.6, MiniMax-M3, MiMo-V2.5 లేదా inkling వాడండి.
సెన్సార్ లేని DeepSeek API ఖరీదు ఎంత?
మిలియన్ ఇన్పుట్ టోకెన్లకు $1.95 మరియు మిలియన్ అవుట్పుట్ టోకెన్లకు $3.90. అదే సెన్సార్ లేని శ్రేణిలో, DeepSeek-V4-Flash అదే 262K సందర్భానికి $0.50 ఇన్ మరియు $2.00 అవుట్ ఖరీదు, GLM-5.2 $0.73 ఇన్ మరియు $2.34 అవుట్ ఖరీదు; కాబట్టి సమస్య పెద్దదిగా కాక కష్టంగా ఉన్నప్పుడు మీరు అందుకునే శ్రేణి V4-Pro.
DeepSeek V4 Proను సెన్సార్ లేకుండా పిలవండి
262K సందర్భం, తర్క ప్రయత్నం, టూల్ కాలింగ్. ఒకే కీపై OpenAI, Anthropic మరియు Responses మాండలికాలు.
API డాక్యుమెంటేషన్ చదవండి అన్ని మోడల్ కార్డులుShannon Lab LLC · న్యూ మెక్సికో, USA · మోడళ్ళు మా స్వంత GPU క్లస్టర్పై అందించబడతాయి
మూలాలు: DeepSeek-AI — DeepSeek-V4-Pro మోడల్ కార్డు · DeepSeek-V4 సాంకేతిక నివేదిక (CSA/HCA, mHC, Muon) · DeepSeek-V2 (MLA, DeepSeekMoE) · DeepSeek-V3 సాంకేతిక నివేదిక · REAP the Experts (Cerebras Research) · Promptfoo సెన్సార్షిప్ ఆడిట్ · Discovering Forbidden Topics in Language Models. బెంచ్మార్క్ సంఖ్యలు మూల విడుదల కోసం DeepSeek-AI నివేదించినవి; కుదించిన బిల్డ్కు స్వతంత్ర మూడవ-పక్ష ధృవీకరణ ఇంకా జరగలేదు. ధరలు సెప్టెంబర్ 5, 2026 నాటి Shannon AI జాబితా ధరలు.