సెన్సార్ లేని Hy3 మోడల్ API

చాలా "ఏ మోడల్ వాడాలి" చర్చలు గరిష్ఠ స్థాయి గురించే: ఏది ఉత్తమ కోడ్ రాస్తుంది, ఏది కష్టతరమైన గణితాన్ని పరిష్కరిస్తుంది, ఏది పొడవైన ఏజెంట్ పరుగును గెలుస్తుంది. నిర్మాణాత్మక పైప్‌లైన్‌లు అలా పనిచేయవు. రోజుకు లక్ష పత్రాల నుండి ఫీల్డ్‌లను వెలికితీసే పనికి ఒకసారి అద్భుతంగా ఉండే మోడల్ అవసరం లేదు — దానికి ప్రతిసారీ ఒకే ఆకారంలో సరైనదిగా ఉండే మోడల్ అవసరం, మరియు JSON వస్తువు ఉండాల్సిన చోట ఎప్పుడూ పేరాగ్రాఫ్‌ను తిరిగి ఇవ్వని మోడల్ అవసరం. Hy3-W8A16 ఉన్నదే ఆ గుణం కోసం.

01Hy3 అంటే ఏమిటి, మరియు అది ఎక్కడ నుండి వచ్చింది

Hy3 అనేది Tencent Hunyuan బృందం నుండి వచ్చిన ఒక ఓపెన్-వెయిట్స్ తర్క మరియు ఏజెంటిక్ మోడల్, జూలై 6, 2026న ఒక అనుమతిపూర్వక లైసెన్స్ కింద పూర్తిగా విడుదలైంది, వెయిట్‌లు Hugging Faceలో ప్రచురించబడ్డాయి. ఇది Tencent మునుపటి Hunyuan-Large నిపుణుల-మిశ్రమ (Mixture-of-Experts) పనికి వారసత్వాన్ని కొనసాగిస్తుంది. ఆర్కిటెక్చర్ పరంగా ఇది ఒక విరళ MoE: మొత్తం 295 బిలియన్ పారామీటర్లు, వాటిలో సుమారు 21 బిలియన్ ఒక్కో టోకెన్‌కు క్రియాశీలం అవుతాయి 192 నిపుణులలో టాప్-8 రూటింగ్ ద్వారా, గ్రూప్డ్-క్వరీ అటెన్షన్‌తో కూడిన 80-పొరల ట్రాన్స్‌ఫార్మర్‌పై, పాటు స్పెక్యులేటివ్ డీకోడింగ్ కోసం ఒక ప్రత్యేక 3.8B మల్టీ-టోకెన్-ప్రిడిక్షన్ పొర. స్థానిక సందర్భం 256K — మేము బహిర్గతం చేసే 262,144 టోకెన్‌లే సరిగ్గా, పెద్దదాన్నుండి కత్తిరించినది కాదు లేదా చిన్నదాన్ని rope-సాగదీసిన విస్తరణ కాదు.

ఒక్కో టోకెన్‌కు చెల్లించే ఎవరికైనా ఆ విరళత నిష్పత్తియే ముఖ్యమైన సంఖ్య: Hy3 ఒక 295B మోడల్ జ్ఞానాన్ని మోస్తూ, ఒక్కో ఫార్వర్డ్ పాస్‌కు సుమారు 21B మోడల్ గణితాన్ని చేస్తుంది. అందుకే మేము దీన్ని మరింత దూకుడుగా కుదించడం కంటే 8 బిట్‌ల వద్ద అందించగలుగుతున్నాము — ఇంత విరళమైన మోడల్ 8-బిట్ బిల్డ్ ఇప్పటికీ ఇమిడి, మా స్వంత GPU క్లస్టర్‌పై వేగంగా నడుస్తుంది.

Tencent దేనిలో ఇది మంచిదని నివేదిస్తుంది

Tencent ప్రచురించిన మూల్యాంకన పట్టికలు Hy3 బలాన్ని ముడి కోడింగ్‌లో కాక ఏజెంటిక్ శోధన, టూల్ సమన్వయం మరియు దీర్ఘ-సందర్భ వెలికితీతలో ఖచ్చితంగా ఉంచుతాయి. వారు నివేదించిన గణాంకాలు:

మేము బలహీన బార్‌లను ఉద్దేశపూర్వకంగా చూపిస్తున్నాము. Tencent సొంత పోలికలో Hy3 కోడింగ్‌లో GLM-5.2 కంటే వెనుకబడి ఉంది — SWE-bench Verifiedపై 84.2కు వ్యతిరేకంగా 78.0, DeepSWEపై 46.2కు వ్యతిరేకంగా 28.0. మీ పనిభారం స్వయంప్రతిపత్త బహుళ-ఫైల్ సాఫ్ట్‌వేర్ ఇంజనీరింగ్ అయితే, ముందు మిగతా మోడల్ పరిశోధన సూచికను చదవండి. అది టెక్స్ట్ చదివి నిర్మాణాన్ని ఉత్పత్తి చేయడం అయితే, ఈ ప్రొఫైల్ ఆదర్శానికి దగ్గరగా ఉంటుంది.

పైప్‌లైన్ పనికి అత్యంత ముఖ్యమైన గణాంకం విశ్వసనీయతకు సంబంధించినది: Tencent Hy3 భ్రాంతి రేటు 5.4%గా నివేదిస్తుంది, మునుపటి తరంలో 12.5% నుండి తగ్గింది, సాధారణ-జ్ఞాన తప్పులు 25.4% నుండి 12.7%కి పడిపోయాయి. వారి పేర్కొన్న శిక్షణ సూత్రం — ఆధారాలు ఉన్నప్పుడు సమాధానం ఇవ్వడం, లేనప్పుడు స్పష్టంగా చెప్పడం — మూలం ఎప్పుడూ ప్రస్తావించని ఫీల్డ్‌కు ఒక సహేతుకమైన విలువను కల్పించే బదులు, ఒక వెలికితీత మోడల్‌లో మీరు కోరుకునే స్వభావమే.

ఈ విభాగంలోని అన్ని గణాంకాలూ వారి సొంత పరీక్ష పరుగుల నుండి Tencent నివేదించినవి; రాసే సమయానికి స్వతంత్ర థర్డ్-పార్టీ ధృవీకరణ ఇంకా పెండింగ్‌లో ఉంది. వాటిని నిర్ణీతమైనవిగా కాక దిశాత్మకమైనవిగా పరిగణించండి.

02W8A16 అంటే ఏమిటి, మరియు నిర్మాణాత్మక అవుట్‌పుట్‌కు అది ఎందుకు ముఖ్యం

గేట్‌వేలోని ప్రతి మోడల్ ఒక క్వాంటైజేషన్ ప్రత్యయాన్ని కలిగి ఉంటుంది. ఇది అలంకారం కాదు — ల్యాబ్ విడుదల చేసిన చెక్‌పాయింట్ నుండి అందించబడిన వెయిట్‌లు ఎంత దూరంలో ఉన్నాయో ఇది మీకు చెబుతుంది.

శ్రేణి	ఇది ఏమి చేస్తుంది	విశ్వసనీయత
3BIT-REAP	3-బిట్ వెయిట్‌లు పాటు REAP, క్వాంటైజ్ చేయడానికి ముందు అరుదుగా రూట్ చేయబడే MoE నిపుణులను తొలగించే ఒక నిపుణుల-కత్తిరింపు పద్ధతి	అత్యధిక కుదింపు
W4A16-AUTOROUND-REAP	AutoRound ద్వారా 4-బిట్ వెయిట్‌లు / 16-బిట్ యాక్టివేషన్‌లు — అమాయక దగ్గరి-సంఖ్యకు-రౌండ్ కంటే కచ్చితత్వాన్ని తిరిగి పొందే నేర్చుకున్న రౌండింగ్ — పాటు REAP కత్తిరింపు	మధ్యస్థం
W8A16	8-బిట్ వెయిట్‌లు / 16-బిట్ యాక్టివేషన్‌లు. కత్తిరింపు లేదు, నేర్చుకున్న-రౌండింగ్ మరమ్మత్తు లేదు — వెయిట్‌లు కేవలం రెట్టింపు కచ్చితత్వంతో మోయబడతాయి	అత్యధికం

క్వాంటైజేషన్ డ్రిఫ్ట్ నిజంగా ఎక్కడ నొప్పిస్తుంది

REAP మరియు AutoRound అమాయక కుదింపు కోల్పోయేదాంట్లో చాలా భాగాన్ని తిరిగి పొందుతాయి — కానీ ఆ వాక్యంలో "చాలా" అనే మాటే పని చేస్తోంది, మిగిలిన అవశేషం ఏకరీతిగా పడదు. తక్కువ-బిట్ క్వాంటైజేషన్ తోకలను క్షీణింపజేస్తుంది: తక్కువ-సంభావ్యత, అధిక-నిర్దిష్టత నిర్ణయాలను. వచనంలో అది దాదాపు కనిపించదు; వేరే విశేషణం అయినా వాక్యం బాగానే ఉంటుంది. నిర్మాణాత్మక అవుట్‌పుట్‌లో అదే మొత్తం ఆట, ఎందుకంటే స్కీమా అనేది ప్రతి ఒక్కటీ ఖచ్చితంగా సరైనదిగా ఉండాల్సిన తక్కువ-సంభావ్యత నిర్ణయాల పొడవైన గొలుసు:

• టోకెన్-స్థాయి వాక్యనిర్మాణం. ఒక మూసివేసే బ్రేస్, ఒక కామా, ఒక కొటేషన్ అక్షరం. ఒక్కొక్కటీ ఒక టోకెన్, మరియు ఒక తప్పు టోకెన్ మొత్తం ప్రతిస్పందనను చెల్లనిదిగా చేస్తుంది.
• Enum క్రమశిక్షణ. మీ స్కీమా "status" అనేది "open" | "closed" | "pending"లో ఒకటి అని చెబుతుంది; డ్రిఫ్ట్ అయిన మోడల్ "Open" లేదా "pending review"ను తిరిగి ఇస్తుంది — అర్థపరంగా దగ్గరగా ఉంటుంది, రెండూ చెల్లనివి.
• రకం క్రమశిక్షణ. ఒక number ఫీల్డ్ "1,240"గా తిరిగి వస్తుంది, ఒక boolean "yes"గా. రెండూ స్ట్రింగ్‌లుగా పార్స్ అవుతాయి మరియు స్కీమాను విఫలం చేస్తాయి.
• పొడవైన-తోక అక్షరార్థాలు. అరుదైన సొంతపేర్లు, భాగ సంఖ్యలు, రసాయన పేర్లు, లాటిన్-యేతర లిపులు, ఖచ్చితమైన తేదీలు — తక్కువ-బిట్ వెయిట్‌లు అస్పష్టం చేసే తక్కువ-సంభావ్యత ప్రాంతమే సరిగ్గా.

ఇది 4-బిట్ లేదా 3-బిట్ మోడల్‌లను చెడ్డవిగా చేయదు; సంభాషణా పనికి విశ్వసనీయత తేడా తరచుగా ధర తేడాకు విలువైనది కాదు. కానీ అవుట్‌పుట్‌ను వినియోగించేది ఒక మనిషి కాక ఒక వాలిడేటర్ అయినప్పుడు, తోకల వద్ద కచ్చితత్వం నేరుగా పార్స్ రేటుగా మారుతుంది — మరియు పార్స్ రేటు తిరిగి ప్రయత్న బడ్జెట్ మరియు p99 జాప్యంగా. W8A16 అనేది మీరు ఆ పన్ను చెల్లించడం మానేసే శ్రేణి.

03నిర్మాణాత్మక అవుట్‌పుట్: json_schema మరియు response_format

Hy3 నిర్మాణాత్మక-అవుట్‌పుట్ ఉపరితలంలోని రెండు భాగాలకూ మద్దతు ఇస్తుంది — స్పష్టంగా చెప్పదగినది, ఎందుకంటే ఇది జాబితా అంతటా సార్వత్రికం కాదు:

మోడల్	response_format	json_schema
Hy3 · W8A16	ఉంది	ఉంది
MiMo-V2.5-Pro · W8A16	ఉంది	ఉంది
inkling · W4A16-AUTOROUND-REAP	ఉంది	లేదు
Laguna-S-2.1 · W4A16-AUTOROUND-REAP	లేదు	లేదు

ఈ రెండు యంత్రాంగాల మధ్య తేడా ప్రజలు అనుకున్నదానికంటే ఎక్కువ ముఖ్యం. response_format: {"type": "json_object"} చెల్లుబాటు అయ్యే JSONను మాత్రమే అడుగుతుంది, ఇంకేమీ కాదు — మోడల్ ఆకారాన్ని ఎంచుకుంటుంది, కాబట్టి రెండు కాల్‌లు {"name": ...} మరియు {"full_name": ...}ను తిరిగి ఇవ్వగలవు, రెండూ సరైనవే. json_schema ముందుగానే ఆకారాన్ని అందిస్తుంది: పేరున్న ఫీల్డ్‌లు, రకాలు, enumలు, అవసరమైన జాబితాలు, నెస్టింగ్. అది మీరు కోడ్ రాయగల ఒప్పందం.

OpenAI-అనుకూల మాండలికంపై ఒక కనీస కాల్:

POST /v1/chat/completions

{
  "model": "Hy3-W8A16",
  "messages": [
    {"role": "system", "content": "Extract fields from the incident report. Use null for anything not stated."},
    {"role": "user", "content": "<report text>"}
  ],
  "response_format": {
    "type": "json_schema",
    "json_schema": {
      "name": "incident",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "severity":  {"type": "string", "enum": ["low","medium","high","critical"]},
          "component": {"type": "string"},
          "occurred_at": {"type": ["string","null"], "description": "ISO-8601"},
          "affected_users": {"type": ["integer","null"]},
          "indicators": {
            "type": "array",
            "items": {"type": "object", "properties": {
              "kind":  {"type": "string", "enum": ["ip","domain","hash","cve"]},
              "value": {"type": "string"}
            }, "required": ["kind","value"]}
          }
        },
        "required": ["severity","component","occurred_at","affected_users","indicators"]
      }
    }
  }
}

ఆచరణాత్మక గమనికలు

• ప్రతి ఫీల్డ్‌నూ తప్పనిసరి చేసి nullను అనుమతించండి. ఐచ్ఛిక ఫీల్డ్‌లు నిశ్శబ్ద తొలగింపులను ఆహ్వానిస్తాయి; తప్పనిసరి, null చేయదగిన ఫీల్డ్ ఒక స్పష్టమైన "లేదు"ను బలవంతం చేస్తుంది, అది మీరు చర్య తీసుకోగల సమాచారం.
• Enumలు స్వేచ్ఛా స్ట్రింగ్‌లను మించిపోతాయి. విలువల సమితిని మీరు మూసివేయగలిగిన ప్రతిచోటా, దాన్ని మూసివేయండి — స్కీమా వాస్తవ-ప్రపంచ పాస్ రేటుకు అత్యధిక-ప్రభావం గల మార్పు.
• 16,384-టోకెన్ అవుట్‌పుట్ గరిష్ఠ పరిమితి కింద ఉండండి. అపరిమిత శ్రేణి వస్తువు మధ్యలో కత్తిరించబడుతుంది. శ్రేణి పొడవులను పరిమితం చేయండి, లేదా ఇన్‌పుట్‌ను శకలాలుగా విభజించండి.
• సిస్టమ్ సందేశాన్ని ఉంచండి. స్కీమా ఆకారాన్ని పరిమితం చేస్తుంది; ప్రాంప్ట్ ఇప్పటికీ అర్థాన్ని శాసిస్తుంది — దేన్ని "క్రిటికల్"గా లెక్కించాలి, రెండు తేదీలు కనిపిస్తే ఏది గెలుస్తుంది, యూనిట్‌లను నార్మలైజ్ చేయాలా.
• ఏదైనా సరే ధృవీకరించండి. స్కీమా మద్దతు పాస్ రేటును పెంచుతుంది; అది ఒక వాలిడేటర్ మరియు డెడ్-లెటర్ క్యూను భర్తీ చేయదు.

04"సెన్సార్ లేనిది" ఎందుకు కేవలం కంటెంట్ గుణం కాక ఒక విశ్వసనీయత గుణం

గేట్‌వేపై Hy3కి తిరస్కరణ పొర లేదు మరియు అవుట్‌పుట్ ఫిల్టరింగ్ లేదు. సాధారణ దృక్కోణం కంటెంట్ గురించి: మోడల్ మీ తరపున అది ఇష్టపడదని నిర్ణయించకుండా, మీరు భద్రతా పరిశోధన, మాల్‌వేర్ విశ్లేషణ, ఎక్స్‌ప్లాయిట్ రాతలు, వైద్య మరియు న్యాయ కార్పస్‌లు, వయోజన సామగ్రి, హాని-తగ్గింపు డాక్యుమెంటేషన్ లేదా ప్రతికూల-వినియోగదారు ట్రాన్స్‌క్రిప్ట్‌లను ప్రాసెస్ చేయవచ్చు.

ఇది ఎందుకు ముఖ్యమో రెండో, మరింత యాంత్రిక కారణం ఉంది. తిరస్కరణ ఒక స్కీమా ఉల్లంఘన. నిరాకరించే ఫిల్టర్ చేయబడిన మోడల్ మీ వస్తువును ఒక "unavailable" ఫ్లాగ్‌తో తిరిగి ఇవ్వదు — అది వచనాన్ని తిరిగి ఇస్తుంది. "నేను ఆ అభ్యర్థనతో సహాయం చేయలేను." ఆ స్ట్రింగ్ ఒక incident వస్తువు కాదు; అది మీ వాలిడేటర్‌ను విఫలం చేస్తుంది మరియు నిజమైన పార్స్ తప్పుల పక్కనే డెడ్-లెటర్ క్యూలో పడుతుంది, అక్కడ మీరు ఇప్పుడు విధాన తిరస్కరణలను నిజమైన తప్పు రూపాల నుండి వేరు చేయాల్సి ఉంటుంది.

అంతకంటే ఘోరం, తిరస్కరణలు యాదృచ్ఛికంగా పంపిణీ కావు, కంటెంట్‌తో సంబంధం కలిగి ఉంటాయి. మీ కార్పస్‌లో 4% భద్రతా సంఘటన నివేదికలు అయి, మోడల్ వాటిలో చాలా వరకు నిరాకరిస్తే, మీరు 4% థ్రూపుట్‌ను ఏకరీతిగా కోల్పోలేదు — మీరు ఒక వర్గాన్ని కోల్పోయారు, మరియు ఆ డేటాపై నిర్మించిన డాష్‌బోర్డ్ అది ఏ విషయాన్ని బహిర్గతం చేయడానికి ఉందో సరిగ్గా అదే విషయాన్ని నిశ్శబ్దంగా తక్కువగా నివేదిస్తుంది. వర్గం-ఆకారంలో ఉన్న రంధ్రాలు ఏకరీతి శబ్దం కంటే ఎక్కువ ఖర్చవుతాయి, ఎందుకంటే వాటిపై ఏదీ హెచ్చరించదు. తిరస్కరణ మార్గాన్ని తొలగించండి, మిగిలింది — తప్పు రూపాలు, కత్తిరింపులు, అస్పష్ట వచనం — అంశంతో సంబంధం లేనిది, కాబట్టి కొలవదగినది.

05సందర్భం, అవుట్‌పుట్ గరిష్ఠ పరిమితి, మరియు వాటిని ఎలా బడ్జెట్ చేయాలి

గేట్‌వేలోని ప్రతి మోడల్ ఒకే పరిమితులను పంచుకుంటుంది:

సందర్భం ఒక భాగస్వామ్య బడ్జెట్: ప్రాంప్ట్ మరియు అవుట్‌పుట్ కలిపి 262,144లో ఇమడాలి, కాబట్టి ఒక కాల్‌లో ఆచరణాత్మక ఇన్‌పుట్ గరిష్ఠ పరిమితి సుమారు 245,000 టోకెన్‌లు, చాలా స్థూలంగా 180,000 ఆంగ్ల పదాలు. నిర్మాణాత్మక పనికి 16,384-టోకెన్ అవుట్‌పుట్ పరిమితి కఠినమైన పరిమితి మరియు ప్రజలను ఆశ్చర్యపరిచేది — ఒక్కో రికార్డుకు ఒక వస్తువును ఉత్పత్తి చేసే స్కీమా విండో నిండకముందే దాన్ని చేరుకుంటుంది. దానికి వ్యతిరేకంగా రెండు నమూనాలు పనిచేస్తాయి:

• విశాలమైన ఇన్‌పుట్, ఇరుకైన అవుట్‌పుట్. ఒక పూర్తి కాంట్రాక్టు, దాఖలు లేదా లాగ్ విండోను సందర్భంలోకి నెట్టి ఒక కాంపాక్ట్ వస్తువును అడగండి. ఇన్‌పుట్ టోకెన్‌లు అవుట్‌పుట్ టోకెన్‌లలో నాలుగో వంతు ఖర్చవుతాయి, కాబట్టి ధర ఎక్కువ చదవడాన్ని మరియు తక్కువ రాయడాన్ని ప్రతిఫలిస్తుంది.
• బైట్ లెక్కల వద్ద కాక రికార్డు హద్దుల వద్ద ముక్కలు చేయండి. మోడల్ కుట్టును చూడగలిగే చోట విభజించండి. వాక్యం మధ్యలో కత్తిరించిన రికార్డు స్పష్టమైన వైఫల్యం కాక, ఆత్మవిశ్వాసంతో తప్పు వస్తువును ఉత్పత్తి చేస్తుంది.

Hy3 నివేదించిన దీర్ఘ-సందర్భ వెలికితీత బలం — AA-LCRపై 73.4, మరియు MRCR దీర్ఘ-సంభాషణ రీకాల్‌పై 42.9% నుండి 75.1%కి ఎగుమతి — మొదటి నమూనా ఆధారపడే సామర్థ్యమే సరిగ్గా, మరియు బాగా రాయడం నుండి వేరైన నైపుణ్యం.

06అట్టడుగు ధర, మరియు ఒక నిజమైన పైప్‌లైన్ లెక్కలు

Hy3 మిలియన్ ఇన్‌పుట్ టోకెన్‌లకు $0.50 మరియు మిలియన్ అవుట్‌పుట్ టోకెన్‌లకు $2.00 వద్ద ఉంది — జాబితా అట్టడుగు, MiMo-V2.5, MiMo-V2.5-Pro, DeepSeek-V4-Flash-0731 మరియు MiniMax-M3తో పంచుకోబడింది. ప్రాతినిధ్య భారాల ద్వారా లెక్కించినది:

పనిభారం	ఇన్‌పుట్ / కాల్	అవుట్‌పుట్ / కాల్	ఖర్చు / కాల్	మిలియన్ కాల్‌లకు
ఫీల్డ్ వెలికితీత	1,200	300	$0.0012	$1,200
పత్ర వర్గీకరణ	3,000	120	$0.0018	$1,800
దీర్ఘ-పత్రాన్ని స్కీమాకు సారాంశం చేయడం	40,000	900	$0.0218	$21,800
పూర్తి-విండో విశ్లేషణ	240,000	2,000	$0.1240	$124,000

నిర్ణయాలను మార్చే సంఖ్య ప్రధాన రేటు కాదు, పునఃప్రయత్నాల తర్వాత ప్రభావవంతమైన రేటు. రెండు మోడల్‌లు ఒకే ధర ఉండి, ఒకటి 6% కాల్‌లపై ధృవీకరణలో విఫలమవుతూ, మరొకటి 1.5%పై విఫలమైతే, అధిక-డ్రిఫ్ట్ మోడల్ సుమారు 4.5% ఎక్కువ కాల్‌లను నడుపుతుంది — భరించదగినది. నష్టం తోకపై ఉంది: పునఃప్రయత్నించిన కాల్‌లు రెట్టింపు సమయం తీసుకుంటాయి, కాబట్టి ట్రాఫిక్‌లో కనిపించే భాగానికి p99 జాప్యం సుమారు రెట్టింపు అవుతుంది, మరియు రెండుసార్లు విఫలమయ్యేది మానవ శ్రమగా మారుతుంది. రోజుకు మిలియన్ కాల్‌ల వద్ద అది ఎవరో చదవాల్సిన వేల రికార్డులు.

అందుకే అట్టడుగు ధర వద్ద 8-బిట్ శ్రేణి కోసం వాదన: ఇక్కడ మీరు విశ్వసనీయత కోసం అదనపు ధర చెల్లించడం లేదు, కాబట్టి పునఃప్రయత్న లెక్క ఉచిత డబ్బు. ఒక 3-బిట్ మోడల్ చౌకగా ఉంటే తూచాల్సిన నిజమైన వ్యాపారం ఉండేది — Hy3 జాబితాలోని అత్యంత చౌక వస్తువుతో సమానంగా ఖర్చవుతుంది.

07మూడు API మాండలికాలు, ఒక మోడల్

Hy3 అన్ని మూడు గేట్‌వే మాండలికాలపైనా, ప్రతి దానిపైనా స్ట్రీమింగ్‌తో అందుబాటులో ఉంది. అదే మోడల్, అదే వెయిట్‌లు, అదే పరిమితులు — మీ వద్ద ఇప్పటికే ఉన్న SDKకు సరిపోయేది ఏదైనా ఎంచుకోండి.

ఎండ్‌పాయింట్	మాండలికం	ఎప్పుడు వాడాలి
/v1/chat/completions	OpenAI	మీ వద్ద OpenAI SDK, LangChain లేదా LlamaIndex ఉంది. బేస్ URLను ఇక్కడికి మార్చి, మోడల్ idని మార్చండి.
/v1/messages	Anthropic	మీరు Anthropic SDKపై ఉన్నారు మరియు అనువాద పొర లేకుండా కంటెంట్ బ్లాక్‌లు కావాలి.
/v1/responses	Responses	మీకు టైప్ చేయబడిన అవుట్‌పుట్ మరియు సర్వర్-సైడ్ స్థితితో కొత్త అభ్యర్థన ఆకారం కావాలి.

Hy3 టూల్ కాలింగ్ మరియు తర్కం‌కు కూడా మద్దతు ఇస్తుంది, reasoning_effortతో సహా. వెలికితీత పనికి సాధారణంగా ఉపయోగకరమైన చర్య తర్కాన్ని తగ్గించడం: శుభ్రమైన టెక్స్ట్‌పై బాగా-నిర్దేశించిన స్కీమాపై, ఆలోచనా టోకెన్‌లు మీరు చెల్లించే అవుట్‌పుట్ టోకెన్‌లే మరియు స్వల్ప లాభం కోసం మీరు వేచి ఉండాల్సిన జాప్యం. బదులుగా ప్రయత్న బడ్జెట్‌ను నిజంగా అస్పష్టమైన ఇన్‌పుట్‌పై ఖర్చు చేయండి.

పూర్తి అభ్యర్థన మరియు ప్రతిస్పందన సూచిక, పారామీటర్ జాబితాలు, స్ట్రీమింగ్ సెమాంటిక్స్ మరియు ఒక ఇంటరాక్టివ్ ప్లేగ్రౌండ్ API డాక్యుమెంటేషన్లో ఉన్నాయి.

08మూడు W8A16 మోడల్‌ల మధ్య ఎంచుకోవడం

మూడు మోడల్‌లు అత్యధిక-విశ్వసనీయత శ్రేణిలో ఉన్నాయి, అన్నీ అట్టడుగు ధర వద్దే. ఎంపిక ఎక్కువగా మోడాలిటీ గురించే:

మోడల్	విజన్	json_schema	ధర ఇన్ / అవుట్	దీని కోసం ఎంచుకోండి
Hy3 · W8A16	లేదు	ఉంది	$0.50 / $2.00	కేవలం-టెక్స్ట్ నిర్మాణాత్మక పైప్‌లైన్‌లు, టూల్ సమన్వయం, దీర్ఘ-సందర్భ వెలికితీత
MiMo-V2.5-Pro · W8A16	లేదు	ఉంది	$0.50 / $2.00	MiMo శ్రేణి Pro ట్యూనింగ్ కావాల్సిన కేవలం-టెక్స్ట్ పని
MiMo-V2.5 · W8A16	ఉంది	ఉంది	$0.50 / $2.00	చిత్రాలతో కూడిన ఏదైనా — స్కాన్ చేసిన పత్రాలు, స్క్రీన్‌షాట్‌లు, ఫోటోలు

మీ ఇన్‌పుట్‌లో ఏ భాగమైనా చిత్రం అయితే నిర్ణయం మీకోసం ఇప్పటికే తీసుకోబడింది: Hy3 కేవలం-టెక్స్ట్ — స్కాన్ చేసిన PDFలు, స్క్రీన్‌షాట్‌లు మరియు ఫోటోగ్రాఫ్‌లను MiMo-V2.5కు పంపండి. ఇన్‌పుట్ నిజంగా టెక్స్ట్ అయినప్పుడు, Hy3 ఏజెంటిక్ టూల్ వాడకం, దీర్ఘ-సందర్భ రీకాల్ మరియు తక్కువ నివేదించిన భ్రాంతి ప్రొఫైల్ పైప్‌లైన్ పనికి నేరుగా సరిపోతుంది. మూడూ ఒకే ధర ఖర్చవుతాయి కాబట్టి, మీ స్కీమాను వాటిలో రెండింటిపై కొన్ని వందల నిజమైన రికార్డులపై నడిపి పార్స్ రేట్లను పోల్చండి; ఇదితో సహా ఏ పట్టిక కంటే అదే మెరుగ్గా నిర్ణయిస్తుంది.

09Hy3 తన స్థానాన్ని ఎక్కడ సంపాదిస్తుంది

• అధిక-పరిమాణ ఫీల్డ్ వెలికితీత. కాంట్రాక్టులు, దాఖలులు, సంఘటన నివేదికలు, ట్రాన్స్‌క్రిప్ట్‌లు, క్లినికల్ నోట్స్, కోర్టు రికార్డులు — ఒక్కో పత్రానికి ఒక టైప్ చేయబడిన వస్తువు అందించవలసినది అయిన మరియు పరిమాణం పునఃప్రయత్నాలను ఖరీదైనవిగా చేసే ఎక్కడైనా.
• పెద్ద స్థాయిలో వర్గీకరణ మరియు రూటింగ్. మూసిన enum అవుట్‌పుట్‌లు, అక్కడ మోడల్ మొత్తం విలువ ఎప్పుడూ పంతొమ్మిదవ వర్గాన్ని కల్పించకపోవడమే.
• భద్రత మరియు ముప్పు-నిఘా కార్పస్‌లు. మాల్‌వేర్ రాతలు, ఎక్స్‌ప్లాయిట్ బహిర్గతాలు మరియు ఫిషింగ్ నమూనాలు — ఫిల్టర్ చేయబడిన మోడల్‌లను తిరస్కరణలోకి లాగే సామగ్రి, మరియు వర్గం-ఆకారంలో ఉన్న రంధ్రం ఉద్దేశాన్నే వ్యర్థం చేసే చోటు.
• ఆగిపోకూడని టూల్-కాలింగ్ ఏజెంట్‌లు. 8-బిట్ ఆర్గ్యుమెంట్ విశ్వసనీయత అంటే మీ ఫంక్షన్‌లకు అందించే JSON పార్స్ అవుతుందని అర్థం; తారుమారైన టూల్ కాల్ అనేది కొంచెం అధ్వాన్నమైన సమాధానం కాదు, ఆగిపోయిన ఏజెంట్.
• పొడవైన-పత్ర విశ్లేషణను నిర్మాణంలోకి మార్చడం. పూర్తి దాఖలు లోపలికి, ఒక కాంపాక్ట్ వస్తువు బయటికి.
• కంటెంట్ మోడరేషన్ మరియు విధాన పరిశోధన. ఫిల్టర్ చేయబడిన మోడల్ చదవడానికి నిరాకరించే సామగ్రిని లేబుల్ చేయడం ఒక నిలకడైన నమ్మకం-మరియు-భద్రత సమస్య; కఠినమైన స్కీమాతో కూడిన ఫిల్టర్ చేయని మోడల్ దాన్ని నేరుగా పరిష్కరిస్తుంది.

మరియు అది సంపాదించని చోటు: చిత్రాలతో కూడిన ఏదైనా (MiMo-V2.5 వాడండి), మరియు స్వయంప్రతిపత్త బహుళ-ఫైల్ సాఫ్ట్‌వేర్ ఇంజనీరింగ్, అక్కడ Tencent సొంత పట్టికలు SWE-bench Verifiedపై Hy3ను GLM-5.2 కంటే వెనుక ఉంచుతాయి మరియు DeepSWEపై బాగా వెనుక ఉంచుతాయి.

బెంచ్‌మార్క్ గణాంకాలు, పోటీదారుల సంఖ్యలతో సహా, Tencent నివేదించినవి; రాసే సమయానికి స్వతంత్ర ధృవీకరణ పెండింగ్‌లో ఉంది. ఖర్చు గణాంకాలు మేము ప్రచురించిన $0.50 / $2.00 రేట్ల నుండి లెక్కించబడ్డాయి. ఈ పేజీలోని ఏ సంఖ్యా Shannon-నడిపిన బెంచ్‌మార్క్ కాదు లేదా అంచనా కాదు.

10తరచుగా అడిగే ప్రశ్నలు

---

మూలాలు: Tencent Hunyuan మోడల్ కార్డులు · Hy3 రిపాజిటరీ · Hunyuan-Large: An Open-Source MoE Model (arXiv 2411.02265) · Hy3 విడుదలపై VentureBeat కవరేజీ. పునాది బెంచ్‌మార్క్‌లు Tencent నివేదించినవి మరియు స్వతంత్ర ధృవీకరణ పెండింగ్‌లో ఉన్నప్పటికీ తాత్కాలికం. Shannon AI Shannon Lab LLC, న్యూ మెక్సికో, USA ద్వారా నిర్వహించబడుతుంది.