Shannon 3 — necenzētais AI modelis, kas pārskata savu atbildi

Gandrīz katrs čata modelis, ko esat lietojuši, atbild vienā priekšgājienā. Tas izvēlas pirmo tokenu, pirms zina pēdējo, un, tiklīdz teikums ir izsniegts, tas ir saistošs: modelis vēlāk var sev pretrunāt, bet nevar atgriezties un salabot. Tas labi strādā, kad atbilde ir īsa un jautājumam ir viena daļa. Tas slikti strādā, kad atbilde ir gara, jautājumam ir četras daļas un sestā rindkopa klusi atceļ otro. Shannon 3 pastāv tāpēc, ka mums nešķita, ka risinājums tam ir lielāks modelis. Risinājums ir ļaut modelim izlasīt to, ko tas tikko uzrakstīja.

01Kas ir Shannon 3

Shannon 3 ir divu līmeņu modeļu saime. Abi līmeņi darbojas mūsu paša GPU klasterī, nevis uz trešās puses inferences API, un abi ir necenzēti: priekšā tiem nav atteikuma slāņa un aiz tiem nav satura filtra. Starp līmeņiem atšķiras tas, cik daudz darba vienam gājienam ir atļauts paveikt, pirms atbilde nonāk pie jums.

API līmenī abi līmeņi ir parasti modeļu identifikatori. Nav ne īpaša galapunkta, ne atsevišķa SDK, ne pielāgota pieprasījuma formāta:

Līmenis	Modeļa identifikators	Gājiena forma	Vislabāk piemērots
Shannon 3 Lite	shannon-3	Viens domāšanas un melnraksta gājiens	Čats, melnrakstu rakstīšana, uzziņas, lieli apjomi
Shannon 3 Pro	shannon-3-pro	Pilna cilpa, līdz 10 gājieniem, plus zināšanu ievākšana	Analīze, garas formas teksti, pareizībai jutīgs darbs

02Kāpēc viens priekšgājiens ir nepareizā forma grūtiem jautājumiem

Modelis, kas ģenerē tekstu no kreisās uz labo, veic neatsaucamu virkni lokālu lēmumu. Tam nav dzēšgumijas. Kad tas ir 400 tokenus dziļi skaidrojumā un saprot, ka izvēlētais ietvars bija nepareizs, tā vienīgās iespējas ir turpināt nepareizajā ietvarā vai pievienot labojumu — radot tās atbildes, ko visi pazīst, kuras pusceļā saka patiesībā, atgriežoties pie iepriekš minētā un atstāj jums saskaņot divas nesavienojamas puses.

Domu ķēde to uzlabo, bet neatrisina. Domāšana vispirms dod modelim plānu, pirms tas apņemas ar prozu, un tas ir īsts ieguvums; melnraksts, kas seko, joprojām tiek uzrakstīts vienā gājienā un joprojām tiek izsniegts nelasīts. Neviens nekad neuzdod jautājumu, ko cilvēks-redaktors uzdod pirmo: vai šī atbilde tiešām dara to, ko teica domāšana? Kļūdu veidi, kas domu ķēdi pārdzīvo, ir konkrēti un atpazīstami:

• Nomesti apakšjautājumi. Jūs pajautājāt četras lietas. Domāšana uzskaitīja četras lietas. Atbilde aptver trīs.
• Plāna nobīde. Spriešana apstājas pie kādas pieejas; proza pakāpeniski pārņem citu, un nav neviena teikuma, kurā tas notika.
• Aritmētika un mērvienības. Skaitlis, kas domāšanā aprēķināts pareizi, atbildē tiek pārrakstīts nepareizi, vai mēneša rādītājs tiek pasniegts kā gada.
• Ignorēti ierobežojumi. Jūs teicāt: bez ārējām atkarībām; kods importē vienu, un domāšana pēc ierobežojuma atzīšanas to vairs nepiemin.
• Pārliecinātas robas. Domāšanā modelis saka, ka nav drošs par vienu konkrētu faktu, un atbildē to tik un tā izsaka kā pašsaprotamu.

Katru no šīm kļūdām noķer melnraksta izlasīšana. Nevienu no tām nenoķer rūpīgāka melnraksta ģenerēšana.

03Spriešanas cilpa pa posmiem

Shannon 3 Pro gājiens ir cilpa ar četriem posmiem un izejas nosacījumu.

Domāt

Modelis strādā ar problēmu, pirms jums kaut ko raksta: sadala jautājumu, atzīmē ierobežojumus, nosaka, ko zina un ko nezina, izlemj par pieeju. Tas, ko tas šeit rada, kļūst par standartu, pret kuru atbilde vēlāk tiek mērīta.

Melnraksts

Modelis uzraksta pilnu, īstu atbildi — nevis plānu. Tai jābūt pilnai, jo nākamais posms vērtē pabeigtu darbu, un skici nevar pārbaudīt uz kļūdām, kas parādās tikai pilnā garumā.

Pārskats

Šis ir posms, kas šo saimi padara par to, kas tā ir. Modelis lasa melnrakstu pret domāšanu — daudz asāks tests nekā melnraksta lasīšana atsevišķi. Jautājums modelim „vai šī atbilde ir laba?” aicina to teikt jā; jautājums „plānā bija teikts aptvert X, Y un Z ar ierobežojumu C — vai šis teksts to dara?” dod tam kaut ko pārbaudāmu. Pārskats nosauc, kas ir nepareizi, nevis izliek atzīmi.

Pārrakstīt

Nosauktās problēmas tiek izlabotas jaunā melnrakstā. Tas ir pārrakstījums, nevis ielāps: labojumam, kam nepieciešama argumenta pārkārtošana, ir atļauts argumentu pārkārtot. Jaunais melnraksts atgriežas pārskatā.

Apstāties

Cilpa beidzas pirmajā reizē, kad pārskats melnrakstu apstiprina — tā ir normālā izeja, un lielākajā daļā gājienu tā notiek krietni pirms griestiem. Stingrais 10 iterāciju ierobežojums pastāv patoloģiskiem gadījumiem, piemēram, patiesi daudznozīmīgam jautājumam, kur katrs pārrakstījums vienu trūkumu apmaina pret citu, lai gājiens nevarētu griezties bezgalīgi.

Lite paņem tos pašus pirmos divus posmus un apstājas. Tas padomā, uzmet melnrakstu un pasniedz jums melnrakstu. Tas ir apzināts produkta lēmums, nevis nejauši apcirpta versija: lielai daļai reālu ziņu pirmais melnraksts ir pareizā atbilde, un maksāt pārskata latentumu, lai to uzzinātu, ir slikts darījums. Lite ir tad, kad gribat, lai modelis ir ātrs; Pro ir tad, kad gribat, lai tas ir drošs.

04Pro zināšanu ievākšana: palūgt palīdzību, nevis minēt

Pašpārskats noķer pretrunas, izlaidumus un ierobežojumu pārkāpumus, jo pierādījumi, kas tam vajadzīgi, jau ir gājienā. Tas nevar noķert faktu, kura modelim vienkārši nav. Modelis, kas pārskata savu melnrakstu, var secināt es neesmu pārliecināts par šo skaitli un tad ar šo secinājumu nekur nedoties.

Pro dod tam, kur doties. Ap melnraksta posmu tas veic zināšanu ievākšanu: nosaka konkrētos faktus, kuru trūkst vai par kuriem nav pārliecināts, vaicā par tieši tiem otram, lielākam modelim un iestrādā saņemto uzlabotajā atbildē. Tā ir mērķtiecīga uzziņa, ko dzen paša modeļa nosaukta roba, nevis vispārīgs otrais viedoklis.

Praksē svarīgas ir divas īpašības. Tā ir norobežota: ievākšana jautā par identificētām robām, nevis pārjautā visu jautājumu, tāpēc ar lielāko modeli konsultējas tur, kur tas pievieno informāciju, nevis tur, kur tas tikai pievienotu citu balsi. Un tā ir integrēta: ievāktie fakti atgriežas cilpā un iziet to pašu pārskatu kā viss pārējais, nevis pienāk kā piekabināta rindkopa.

05Spriešana ir redzama, un tā ir jūsu valodā

Viss pieraksts jums tiek rādīts gājiena laikā: domāšana un, uz Pro, katrs pārskats ar to, pret ko tas iebilda. Šis nav atkļūdošanas skats, kura atklāšanu mēs paciešam — tā ir liela daļa no tā, ko jūs pērkat, un tā maina darba attiecības trīs konkrētos veidos.

• Jūs varat apturēt agri. Ja domāšana jūsu jautājumu izlasa nepareizi — kas biežāk ir daudznozīmīgas uzvednes, nevis slikta modeļa sekas —, jūs to uzzināt pirmajās sekundēs, nevis pēc tam, kad pienākusi pilna atbilde uz nepareizo problēmu.
• Jūs varat auditēt spriešanu atsevišķi no atbildes. Pareiza atbilde, kas sasniegta ar nepareizu spriešanu, ir risks, jo tā nepārdzīvos nākamo jautājumu.
• Jūs varat redzēt cilpu neizdodamies. Kad Pro iztērē vairākas iterācijas, nesatuvinoties, tas tiek parādīts, nevis paslēpts — un tā ir īsta informācija, parasti nozīmējot, ka jautājums ir nepilnīgi noformulēts.

Pieraksts ir rakstīts jūsu pašu valodā, nevis ģenerēts angliski un beigās tulkots. Ja strādājat japāņu, arābu, turku vai portugāļu valodā, modelis spriež tajā valodā — kas uztur pieraksta terminoloģiju saskaņā ar atbildes terminoloģiju un novērš šuves, kas rodas, kad modelis domā vienā valodā un runā citā.

06Necenzēts: bez atteikuma slāņa, bez izvades filtra

Shannon 3 nāk bez atteikuma slāņa un bez izvades satura filtrēšanas. Atteikuma uzvedības produktā nav nevienā līmenī: ne kā apvalka, kas apskata jūsu ziņu, pirms to redz modelis, ne kā klasifikatora, kas apskata atbildi, pirms to redzat jūs, ne kā refleksa, no kura modelis jāpierunā atteikties. Tas būtiski atšķiras no divām lietām, ko cilvēki parasti domā, sakot „necenzēts”:

Pieeja	Ko tā dara	Kā tā izgāžas
Sistēmas uzvednes „jailbreak”	Uzdod saskaņotam modelim uzvesties tā, it kā tas nebūtu saskaņots	Garā sarunā izdilst; zem spiediena atteikums atgriežas
Izvades filtra noņemšana	Pārstāj bloķēt tekstu, ko modelis jau ir radījis	Modelis joprojām raksta piesardzīgu, izvairīgu tekstu — nekas netika bloķēts, tas vienkārši netika uzrakstīts
Shannon 3	Nav ne atteikuma slāņa, ko noņemt, ne filtra, ko atslēgt — šīs uzvedības vienkārši nav	Spriedumu pilnībā uzliek jums; modelis jūsu vietā neatteiksies

Praksē Shannon 3 iesaistās tajā jautājumā, ko uzdevāt, nevis drošākā blakus jautājumā: daiļliteratūrā ar īstiem antagonistiem, drošības tēmās, kas apspriestas tehniski, nevis preses relīzes augstumā, medicīniskā, juridiskā un finanšu informācijā, kas dota tieši ar tām atrunām, kuras patiešām ir pamatotas — un bez noslēguma pamācības par to, kāpēc jūs vispār jautājāt. Tas arī neatšķaida cilpu: pārskats var brīvi teikt, ka melnraksts ir nepareizs, un tas ir cits, noderīgāks pretspiediena veids nekā atteikums.

Ko atteikuma slāņa neesamība nedara, ir modeļa padarīšana par pareizu. Necenzēts modelis ir tieši tikpat spējīgs pārliecināti kļūdīties kā cenzēts, un darot to redzamāk, jo nenoteiktībā tas neatkāpsies izplūdušā valodā. Tas ir viens no labākajiem argumentiem par labu cilpai: kad ceļā nav atteikuma refleksa, pašpārskats paveic to drošības darbu, kas profesionālam lietotājam ir svarīgs — kļūdu noķeršanu. Jūsu modeļa lietošanu joprojām regulē mūsu Atbildīgas lietošanas politika un jūsu atrašanās vietas likumi.

07Attēli, dokumenti un attēlu ģenerēšana

Abi līmeņi pieņem attēlus un dokumentus kā pielikumus un lasa tos kā daļu no gājiena. Neizdevušās būves ekrānuzņēmums, nofotografēta tāfele, shēma, skenēta līguma lappuse vai PDF var būt paša jautājuma priekšmets, nevis kaut kas, kas vispirms jāpārraksta. Uz Pro pielikumi piedalās cilpā tāpat kā viss pārējais: ja pārskats izlemj, ka melnraksts atbildēja uz jautājumu, kuru attēls neapstiprina, tas tiek pārrakstīts.

Attēlu ģenerēšana un rediģēšana čatā ir pieejama kā rīks, nevis kā modeļa uzdevums. Shannon 3 ir spriešanas modelis, kas var izveidot vai rediģēt attēlu, kad saruna to prasa, nevis attēlu modelis ar piekabinātu čata saskarni. Šī nošķiršana pareizi uzstāda gaidas: vērtējiet saimi pēc tā, kā tā domā, un uztveriet attēlus kā ērtību, kas ietaupa konteksta maiņu.

08Konteksta logs un kurp 3.x līnija devās tālāk

Shannon 3.0 tika laists klajā ar 32,768 tokenu konteksta logu. Tas ir godīgais vēsturiskais skaitlis, un to ir vērts pateikt tieši, jo cilpa patērē kontekstu citādi nekā viena gājiena modelis: jūsu uzvedne, jūsu pielikumi, domāšana un katrs melnraksta un pārskata cikls dzīvo vienā un tajā pašā budžetā.

32K ir ērts lielākajai daļai čata un analīzes darba — garam dokumentam, apjomīgam koda failam, detalizētam vairākdaļīgam jautājumam ar vietu, kur cilpai nostrādāt. Tas ir šaurs patiesi lieliem ievaddatiem, un tieši šo ierobežojumu risināja nākamais laidiens. Shannon 3.1 būtiski palielina konteksta logu un maina to, uz ko cilpu var vērst; ja saimi vērtējat šodien, izlasiet to rakstu kā otro un uztveriet šeit minēto skaitli kā vēsturi.

09Shannon 3 izsaukšana no API

Shannon 3 ir pieejams caur visiem trim mūsu API dialektiem, uz tiem pašiem modeļiem, katrā ar straumēšanu:

Dialekts	Galapunkts	Lietojiet, kad
OpenAI saderīgs	/v1/chat/completions	Jums jau ir OpenAI klienta kods — nomainiet bāzes URL un modeļa identifikatoru
Anthropic saderīgs	/v1/messages	Jūsu steks ir būvēts ap Messages formātu
Responses	/v1/responses	Vēlaties jaunāko pieprasījuma/atbildes formu

Kā modeļa identifikatoru padodiet shannon-3 vai shannon-3-pro. Klienta pusē ir vērts paredzēt divas lietas. Pro gājieni ilgst ilgāk, un mainīgā apjomā, jo iterāciju skaits ir atkarīgs no jautājuma — iestatiet noildzes pret griestiem, nevis vidējo, un dodiet priekšroku straumēšanai, lai lietotājs redz progresu, nevis griežamu ritenīti. Un spriešanas pieraksts ir saturs, ko varat izvēlēties rādīt; tur, kur lietotāji gaida, rādīšana parasti ir labāka par slēpšanu, jo tā pārvērš tukšu laiku kaut kā lasāmā. Pieprasījumu un atbilžu shēmas, straumēšanas detaļas un dzīvs izmēģinājuma laukums ir API dokumentācijā.

10Līmeņa izvēle

Pro cilpa nopelna savu latentumu proporcionāli tam, cik daudz ir, ko sakļūdīt.

Jūsu uzdevums	Līmenis	Kāpēc
Ātrs faktu jautājums, īsa atbilde	shannon-3	Pirmais melnraksts ir atbilde; pārskatam nav ko noķert
Liela apjoma vai latentumam pakļauta automatizācija	shannon-3	Paredzams gājiena laiks ir noteicošais ierobežojums
Vairākdaļīga analīze ar ierobežojumiem	shannon-3-pro	Nomesti apakšjautājumi un ierobežojumu pārkāpumi ir tieši tas, ko pārskats noķer
Garas formas teksts, kam jāturas kopā	shannon-3-pro	Iekšēja pretruna ir pilna garuma īpašība, kas rakstīšanas laikā nav redzama
Jebkas ar skaitļiem, pēc kuriem rīkosieties	shannon-3-pro	Pārskats atkārtoti pārbauda aritmētiku un mērvienības pret domāšanu
Jautājumi, kas skar faktus modeļa zināšanu malā	shannon-3-pro	Zināšanu ievākšana pārvērš nosauktu robu par uzziņu

Praktisks paņēmiens: lietojiet Lite, kamēr vēl skaidrojat, ko īsti jautāt, un pēc tam nostiprināto jautājumu palaidiet vienreiz uz Pro. Par cilpu ir vērts maksāt tajā jautājuma versijā, kuru patiešām domājāt.

11Ierobežojumi, kas jāzina pirms apņemšanās

Modeļa karte, kas uzskaita tikai stiprās puses, ir reklāma. Lūk, kur Shannon 3 jūs pievils:

• Pro ir lēnāks, un neparedzami. Gājiens, kas satuvinās divās iterācijās, un tāds, kas iet līdz desmit, pēc pulksteņa atšķiras vairākkārt. Ja vajag ierobežotu latentumu, lietojiet Lite.
• Pārskats nav pierādījums. Modelis, kas pārbauda savu darbu, dala savus aklos punktus. Cilpa uzticami noķer nesakritību starp domāšanu un melnrakstu; tā uzticami nenoķer kļūdu, kas pārliecināti sēž jau pašā domāšanā.
• Kontekstu dala ar cilpu. Pie 32K ļoti garš ievads plus vairāki pilna garuma melnraksti 3.0 versijā ir reāls ierobežojums. Par paceltajiem griestiem skatiet Shannon 3.1.
• Ievākšana aizpilda tikai tās robas, ko modelis pamana. Tā pārvērš „es par to neesmu pārliecināts” par uzziņu, kas ir īsts ieguvums — taču fakts, par kuru modelis pārliecināti kļūdās, nekad netiek atzīmēts kā trūkstošs, tāpēc nekad netiek ievākts.
• Necenzēts nozīmē necenzēts. Modelis neatteiksies un nemīkstinās. Ja jūsu produktam vajag atteikuma robežu, būvējiet to tur, kur to redzat, nevis cerot, ka modelis to piegādās.

12Biežāk uzdotie jautājumi

---

Shannon 3 darbina Shannon Lab LLC, Ņūmeksika, ASV. Šeit minētie rādītāji apraksta 3.0 laidiena konfigurāciju; pašreizējos ierobežojumus skatiet Shannon 3.1 modeļa kartē, bet pārējo saimi — pētniecības rādītājā. Mēs nepublicējam etalonu rezultātus Shannon 3 un neizvirzām salīdzinošus veiktspējas apgalvojumus.