Shannon 3, tsenseerimata AI mudel, mis vaatab oma vastuse üle

Peaaegu iga vestlusmudel, mida oled kasutanud, vastab ühe edasisammuga. Ta valib esimese tokeni enne, kui teab viimast, ja kui lause on kord väljastatud, on see kinnistunud: mudel võib sellele hiljem vastu rääkida, aga tagasi minna ja seda parandada ta ei saa. See toimib hästi, kui vastus on lühike ja küsimusel on üks osa. See toimib halvasti, kui vastus on pikk, küsimusel on neli osa ja kuues lõik muudab teise lõigu vaikselt kehtetuks. Shannon 3 on olemas seepärast, et meie arvates ei olnud selle lahenduseks suurem mudel. Lahendus on lasta mudelil lugeda seda, mida ta äsja kirjutas.

01Mis Shannon 3 on

Shannon 3 on kahetasemeline mudeliperekond. Mõlemad tasemed töötavad meie enda GPU-klastris, mitte kolmanda osapoole järeldus-API peal, ja mõlemad on tsenseerimata: nende ees ei ole keeldumiskihti ega nende taga sisufiltrit. Tasemete vahel erineb see, kui palju tööd tohib üks käik enne vastuse sinuni jõudmist ära teha.

API-s on need kaks taset tavalised mudeli id-d. Eraldi lõpp-punkti, eraldi SDK-d ega omanäolist päringuvormingut ei ole:

Tase	Mudeli id	Käigu kuju	Parim jaoks
Shannon 3 Lite	shannon-3	Üks mõtle + mustand läbimine	Vestlus, kirjutamine, järelevaatamine, suur maht
Shannon 3 Pro	shannon-3-pro	Kogu tsükkel, kuni 10 läbimist, pluss teadmiste kogumine	Analüüs, pikad tekstid, täpsustundlik töö

02Miks üks edasisamm on raskete küsimuste jaoks vale kuju

Mudel, mis genereerib teksti vasakult paremale, teeb tagasipöördumatu jada kohalikke otsuseid. Tal ei ole kustutuskummi. Kui ta on selgituses 400 tokenit sees ja taipab, et valitud raamistus oli vale, on tal ainult kaks valikut: jätkata vales raamistuses või lisada lõppu parandus — mis annab vastused, mida kõik ära tunnevad, need, mis ütlevad poole peal tegelikult, tulen eelneva juurde tagasi ja jätavad sinu ülesandeks kaks kokkusobimatut poolt kokku sobitada.

Mõtteahel parandab seda, aga ei lahenda. Enne mõtlemine annab mudelile plaani, enne kui ta end proosaga siduma hakkab, ja see on tõeline võit; sellele järgnev mustand kirjutatakse ikkagi ühe läbimisega ja saadetakse ikkagi üle lugemata teele. Miski ei küsi kunagi küsimust, mille inimesest toimetaja esimesena esitab: kas see vastus teeb tegelikult seda, mida mõtlemine lubas? Vead, mis mõtteahela üle elavad, on konkreetsed ja äratuntavad:

• Ärajäänud alaküsimused. Sa küsisid nelja asja. Mõtlemine loetles neli asja. Vastus katab kolm.
• Plaani triiv. Arutlus otsustab ühe lähenemise kasuks; proosa võtab järk-järgult omaks teise ja ükski üksik lause ei ole see koht, kus asi valeks läks.
• Aritmeetika ja ühikud. Mõtlemises õigesti arvutatud number kirjutatakse vastusesse valesti või kuupõhine näitaja esitatakse aastapõhisena.
• Eiratud piirangud. Sa ütlesid, et väliseid sõltuvusi ei tohi; kood impordib ühe ja mõtlemine ei maini piirangut pärast selle tunnistamist enam kordagi.
• Enesekindlad lüngad. Mudel ütleb mõtlemises, et ta ei ole ühes konkreetses faktis kindel, ja esitab selle siis vastuses ikkagi kategoorilisena.

Iga üks neist tabatakse ära mustandit lugedes. Ühtegi neist ei tabata mustandi hoolikama genereerimisega.

03Arutlustsükkel etapp etapi haaval

Shannon 3 Pro käik on tsükkel nelja etapi ja väljumistingimusega.

Mõtle

Mudel töötab probleemi läbi enne, kui sulle midagi kirjutab: lammutab küsimuse osadeks, paneb kirja piirangud, tuvastab, mida ta teab ja mida mitte, ning otsustab lähenemise. See, mille ta siin toodab, saab standardiks, mille vastu vastust hiljem mõõdetakse.

Koosta mustand

Mudel kirjutab täieliku, päris vastuse — mitte ülevaate. See peab olema täielik, sest järgmine etapp hindab valmis teost ja visandit ei saa üle vaadata vigade suhtes, mis ilmuvad alles täispikkuses.

Vaata üle

See on etapp, mis teeb selle perekonna selleks, mis ta on. Mudel loeb mustandit oma mõtlemise vastu — see on palju teravam test kui mustandi üksi lugemine. Kui küsida mudelilt "kas see vastus on hea?", kutsub see teda ütlema jah; kui küsida "plaan ütles, et tuleb katta X, Y ja Z piirangu C all — kas see tekst teeb seda?", annab see talle midagi kontrollitavat. Ülevaatus nimetab, mis on valesti, selle asemel et panna hinnet.

Kirjuta ümber

Nimetatud probleemid parandatakse uues mustandis. See on ümberkirjutus, mitte paik: parandus, mis nõuab argumendi ümberjärjestamist, tohib argumendi ümber järjestada. Uus mustand läheb tagasi ülevaatusele.

Peatu

Tsükkel lõpeb esimesel korral, kui ülevaatus mustandi heaks kiidab — see on tavaline väljumine ja enamikul käikudel juhtub see tublisti enne lage. Kõva ülempiir 10 iteratsiooni on olemas patoloogiliste juhtumite tarbeks, näiteks tõeliselt mitmetähendusliku küsimuse puhul, kus iga ümberkirjutus vahetab ühe puuduse teise vastu, et käik ei saaks lõputult ringi käia.

Lite teeb samad kaks esimest etappi ja peatub. Ta mõtleb, koostab mustandi ja annab mustandi sulle. See on teadlik tooteotsus, mitte kärbitud õnnetus: suurel osal päris sõnumitest ongi esimene mustand õige vastus ja ülevaatuse viivituse maksmine selle teadasaamiseks on halb tehing. Lite on siis, kui tahad, et mudel oleks kiire; Pro on siis, kui tahad, et ta oleks kindel.

04Pro teadmiste kogumine: abi küsimine oletamise asemel

Enesekontroll püüab kinni vasturääkivused, väljajätmised ja piirangute rikkumised, sest nende tabamiseks vajalikud tõendid on juba käigus olemas. See ei suuda kinni püüda fakti, mida mudelil lihtsalt ei ole. Mudel, kes vaatab oma mustandit üle, võib jõuda järelduseni ma ei ole selles arvus kindel ja siis ei ole tal selle järeldusega kuhugi minna.

Pro annab talle koha, kuhu minna. Mustandi koostamise ümber teeb ta teadmiste kogumise: ta tuvastab konkreetsed faktid, mis tal puuduvad või milles ta pole kindel, küsib teiselt, suuremalt mudelilt täpselt neid ja põimib tagasi tulnu paremasse vastusesse. See on sihitud järelevaatamine, mille ajendiks on mudeli enda nimetatud lünk, mitte üldine teine arvamus.

Praktikas loevad kaks omadust. See on piiritletud: kogumine küsib tuvastatud lünkade kohta, mitte ei esita kogu küsimust uuesti, nii et suuremalt mudelilt küsitakse seal, kus ta lisab informatsiooni, mitte seal, kus ta lisaks pelgalt teistsuguse hääle. Ja see on lõimitud: kogutud faktid lähevad tsüklisse tagasi ja saavad sama ülevaatuse osaliseks nagu kõik muu, selle asemel et saabuda külgekleebitud lõiguna.

05Arutluskäik on nähtav ja see on sinu keeles

Kogu arutluskäiku näidatakse sulle käigu jooksul: mõtlemine ja Pro peal iga ülevaatus koos sellega, mille kohta ta vastuväite esitas. See ei ole silumisvaade, mille näitamist me talume — see on suur osa sellest, mida sa ostad, ja see muudab töösuhet kolmel konkreetsel viisil.

• Saad varakult peatada. Kui mõtlemine mõistab su küsimust valesti — mitmetähendusliku päringu, mitte halva mudeli tavaline tagajärg — saad seda teada esimeste sekundite jooksul, mitte pärast seda, kui saabub täispikk vastus, mis lahendab vale probleemi.
• Saad arutlust auditeerida vastusest eraldi. Õige vastus, milleni jõuti vale arutlusega, on risk, sest see ei ela järgmist küsimust üle.
• Näed tsüklit ebaõnnestumas. Kui Pro põletab mitu iteratsiooni koondumata, siis seda näidatakse, mitte ei peideta — ja see on päris info, mis tähendab tavaliselt, et küsimus on alamääratletud.

Arutluskäik kirjutatakse sinu enda keeles, seda ei genereerita inglise keeles ega tõlgita lõpus. Kui töötad jaapani, araabia, türgi või portugali keeles, arutleb mudel selles keeles — mis hoiab arutluskäigu terminoloogia vastuse terminoloogiaga kooskõlas ja väldib õmblusi, mis tekivad, kui mudel mõtleb ühes keeles ja räägib teises.

06Tsenseerimata: ei keeldumiskihti ega väljundifiltrit

Shannon 3-l ei ole keeldumiskihti ega väljundi sisufiltrit. Keeldumiskäitumist ei ole tootes mitte ühelgi tasandil: ei mähisena, mis vaatab su sõnumit enne mudelini jõudmist, ei klassifikaatorina, mis vaatab vastust enne sinuni jõudmist, ega ka refleksina, millest mudel tuleb välja rääkida. See on sisuliselt midagi muud kui kaks asja, mida inimesed tavaliselt sõna "tsenseerimata" all mõtlevad:

Lähenemine	Mida see teeb	Kuidas see läbi kukub
Süsteemipäringuga murdmine	Käsib joondatud mudelil käituda nii, nagu ta ei oleks joondatud	Laguneb pika vestluse jooksul; keeldumine tuleb surve all tagasi
Väljundifiltri eemaldamine	Lõpetab teksti blokeerimise, mille mudel juba tootis	Mudel kirjutab ikka kahtlevat, põiklevat teksti — midagi ei blokeeritud, seda ei kirjutatudki
Shannon 3	Ei ole keeldumiskihti, mida eemaldada, ega filtrit, mida välja lülitada — seda käitumist lihtsalt ei ole	Paneb otsustuskoorma täielikult sinu peale; mudel ei ütle sinu eest ära

Praktikas tegeleb Shannon 3 küsimusega, mille sa esitasid, mitte selle kõrval oleva ohutuma küsimusega: ilukirjandus päris antagonistidega, turvateemad tehniliselt arutatuna, mitte pressiteate kõrguselt, meditsiiniline, õiguslik ja finantsinfo antuna otse koos hoiatustega, mis on tegelikult põhjendatud — ja ilma lõpuloenguta selle kohta, miks sa üldse küsisid. Samuti ei lahjenda ta tsüklit: ülevaatus võib vabalt öelda, et mustand on vale, ja see on teistsugune ja kasulikum vastuseis kui keeldumine.

Mida keeldumiskihi puudumine ei tee, on mudeli õigeks muutmine. Tsenseerimata mudel on täpselt sama võimeline olema enesekindlalt eksiv kui tsenseeritud mudel ja seda nähtavamalt, sest ta ei tagane ebakindluse korral ähmasusse. See on üks paremaid argumente tsükli kasuks: kui keeldumisrefleks ei jää ette, teeb enesekontroll seda turvatööd, mis professionaalsele kasutajale loeb — püüab kinni vigu. Mudeli kasutamist reguleerivad endiselt meie vastutustundliku kasutamise poliitika ja sinu asukoha seadused.

07Pildid, dokumendid ja pildigenereerimine

Mõlemad tasemed võtavad vastu pilte ja dokumente manustena ning loevad neid käigu osana. Ebaõnnestunud ehituse ekraanipilt, pildistatud tahvel, skeem, skaneeritud lepingulehekülg või PDF võib olla küsimuse ese, mitte midagi, mille pead enne ise ümber kirjutama. Pro peal osalevad manused tsüklis nagu kõik muu: kui ülevaatus otsustab, et mustand vastas küsimusele, mida pilt ei toeta, siis kirjutatakse see ümber.

Pildigenereerimine ja pilditöötlus on vestluses saadaval tööriistana, mitte mudeli eesmärgina. Shannon 3 on arutlusmudel, mis oskab luua või muuta pilti siis, kui vestlus seda nõuab, mitte pildimudel, mille külge on kruvitud vestlusliides. See vahetegemine paneb ootused paika: hinda perekonda selle järgi, kuidas ta mõtleb, ja käsitle pilte mugavusena, mis säästab konteksti vahetamise.

08Kontekstiaken ja kuhu 3.x liin edasi läks

Shannon 3.0 tuli välja kontekstiaknaga 32,768 tokenit. See on aus ajalooline arv ja tasub selgelt välja öelda, sest tsükkel tarbib konteksti teisiti kui ühe läbimisega mudel: sinu päring, sinu manused, mõtlemine ning iga mustandi- ja ülevaatusring elavad samas eelarves.

32K on enamiku vestlus- ja analüüsitöö jaoks mugav — pikk dokument, arvestatav koodifail, üksikasjalik mitmeosaline küsimus koos ruumiga, kus tsükkel saab joosta. Tõeliselt suurte sisendite jaoks on see kitsas ja just see piirang oligi see, mille järgmine väljalase lahendas. Shannon 3.1 tõstab kontekstiakent oluliselt ja muudab seda, mille peale tsükli saab suunata; kui hindad perekonda täna, loe see artikkel teisena ja käsita siinset numbrit ajaloona.

09Shannon 3 kutsumine API kaudu

Shannon 3 on saadaval kõigi meie kolme API-murraku kaudu, samade mudelitega ja igas voogedastusega:

Murrak	Lõpp-punkt	Kasuta siis, kui
OpenAI-ühilduv	/v1/chat/completions	Sul on olemasolev OpenAI kliendikood — muuda baas-URL ja mudeli id
Anthropic-ühilduv	/v1/messages	Sinu virn on ehitatud Messages-vormingu ümber
Responses	/v1/responses	Tahad uuemat päringu/vastuse kuju

Anna mudeli id-ks shannon-3 või shannon-3-pro. Kliendipoolel tasub arvestada kahe asjaga. Pro käigud võtavad kauem aega ja muutuva koguse võrra, sest iteratsioonide arv sõltub küsimusest — sea ajalõpud pigem lae kui keskmise järgi ja eelista voogedastust, et kasutaja näeks edenemist, mitte pöörlevat ringi. Ja arutluskäik on sisu, mida saad kuvada; seal, kus kasutajad ootavad, on selle näitamine tavaliselt parem kui peitmine, sest see muudab surnud aja loetavaks. Päringu ja vastuse skeemid, voogedastuse üksikasjad ja elav mänguväljak on API dokumentatsioonis.

10Taseme valimine

Pro tsükkel teenib oma viivituse välja proportsionaalselt sellega, kui palju on võimalik valesti teha.

Sinu ülesanne	Tase	Miks
Kiire faktiküsimus, lühike vastus	shannon-3	Esimene mustand ongi vastus; ülevaatusel ei ole midagi kinni püüda
Suure mahuga või viivitusest sõltuv automaatika	shannon-3	Etteaimatav käiguaeg on siduv piirang
Mitmeosaline analüüs piirangutega	shannon-3-pro	Ärajäänud alaküsimused ja piirangute rikkumised on täpselt see, mida ülevaatus kinni püüab
Pikk tekst, mis peab koos püsima	shannon-3-pro	Sisemine vasturääkivus on täispikkuse omadus, mustandit kirjutades nähtamatu
Kõik, kus on numbrid, mille järgi sa tegutsed	shannon-3-pro	Ülevaatus kontrollib aritmeetika ja ühikud mõtlemise vastu üle
Küsimused, mis puudutavad fakte mudeli teadmiste piiril	shannon-3-pro	Teadmiste kogumine muudab nimetatud lünga järelevaatamiseks

Üks praktiline muster: kasuta Lite'i seni, kuni alles selgitad välja, mida küsida, ja käivita siis paikaloksunud küsimus üks kord Pro peal. Tsükli eest tasub maksta selle küsimuse versiooni puhul, mida sa tegelikult mõtlesid.

11Piirangud, mida tasub enne otsustamist teada

Mudelikaart, mis loetleb ainult tugevusi, on reklaam. Siin on kohad, kus Shannon 3 sind alt veab:

• Pro on aeglasem ja ettearvamatult nii. Käik, mis koondub kahe iteratsiooniga, ja käik, mis läheb kümneni, erinevad seinakellaajas mitmekordselt. Kui vajad piiritletud viivitust, kasuta Lite'i.
• Ülevaatus ei ole tõestus. Mudel, kes kontrollib omaenda tööd, jagab omaenda pimealasid. Tsükkel püüab usaldusväärselt kinni ebakõla mõtlemise ja mustandi vahel; ta ei püüa usaldusväärselt kinni viga, mida mõtlemine ise enesekindlalt kaasas kannab.
• Kontekst on tsükliga jagatud. 32K juures on väga pikk sisend pluss mitu täispikka mustandit 3.0 peal päris piirang. Tõstetud lae kohta vaata Shannon 3.1.
• Kogumine täidab ainult neid lünki, mida mudel märkab. See muudab lause "ma ei ole selles kindel" järelevaatamiseks, mis on tõeline võit — aga fakti, mille suhtes mudel on enesekindlalt eksiv, ei märgita kunagi puuduvaks, seega ei koguta seda kunagi.
• Tsenseerimata tähendab tsenseerimata. Mudel ei keeldu ega pehmenda. Kui su toode vajab keeldumispiiri, ehita see sinna, kus sa seda näed, selle asemel et loota, et mudel selle annab.

12Korduma kippuvad küsimused

---

Shannon 3-e käitab Shannon Lab LLC, New Mexico, USA. Siinsed näitajad kirjeldavad 3.0 väljalaskekonfiguratsiooni; praeguste piirangute kohta vaata Shannon 3.1 mudelikaarti ja ülejäänud perekonna kohta uurimisregistrit. Me ei avalda Shannon 3 kohta võrdlustestide tulemusi ega esita võrdlevaid jõudlusväiteid.