Shannon 3, necenzuriran AI model, ki pregleda lastni odgovor
Iterativna zanka sklepanja na našem lastnem grozdu GPU: premisli, napiši osnutek, preglej, prepiši. Lite izvede en prehod. Pro jih izvede do deset in povpraša po dejstvih, za katera ve, da mu manjkajo.
Na kratko
Shannon 3 je družina necenzuriranih AI modelov, ki streže z našega lastnega grozda GPU. Njena razpoznavna lastnost je oblika obrata: model premisli, napiše osnutek, nato svoj osnutek prebere nazaj ob svojem lastnem razmišljanju in prepiše tisto, kar ne vzdrži. Lite (shannon-3) opravi en prehod premisleka in osnutka za najnižjo zakasnitev. Pro (shannon-3-pro) izvede celotno zanko do 10 ponovitev in se ustavi v hipu, ko pregled osnutek potrdi, dodatno pa izvede zbiranje znanja pri večjem modelu, da zapolni dejstva, za katera je opazil, da manjkajo. Celotna sled sklepanja je vidna, in to v vašem jeziku. Vhod za slike in dokumente je podprt v obeh različicah. Kontekst ob izidu 3.0 je bil 32,768 žetonov.
Skoraj vsak model za klepet, ki ste ga uporabljali, odgovori v enem samem prehodu skozi model. Prvi žeton izbere, preden pozna zadnjega, in ko je stavek enkrat oddan, je zavezujoč: model si lahko pozneje nasprotuje, ne more pa se vrniti in ga popraviti. To dobro deluje, kadar je odgovor kratek in ima vprašanje en sam del. Slabo deluje, kadar je odgovor dolg, ima vprašanje štiri dele in šesti odstavek tiho razveljavi drugega. Shannon 3 obstaja, ker nismo mislili, da je rešitev za to večji model. Rešitev je, da modelu dovolimo prebrati, kar je pravkar napisal.
01Kaj je Shannon 3
Shannon 3 je dvostopenjska družina modelov. Obe različici tečeta na našem lastnem grozdu GPU in ne na tujem API za sklepanje, obe pa sta necenzurirani: pred njima ni sloja zavračanja in za njima ni filtra vsebine. Med različicama se razlikuje to, koliko dela sme en obrat opraviti, preden odgovor pride do vas.
Na API sta različici navadna identifikatorja modelov. Ni posebne končne točke, ločenega SDK ali namenske oblike zahtevka:
| Različica | Identifikator modela | Oblika obrata | Najprimernejša za |
|---|---|---|---|
| Shannon 3 Lite | shannon-3 | En prehod premisleka in osnutka | Klepet, pisanje osnutkov, poizvedbe, velike količine |
| Shannon 3 Pro | shannon-3-pro | Celotna zanka, do 10 prehodov, plus zbiranje znanja | Analizo, daljša besedila, delo, občutljivo na pravilnost |
02Zakaj je en sam prehod napačna oblika za težka vprašanja
Model, ki besedilo generira od leve proti desni, sprejema nepreklicno zaporedje lokalnih odločitev. Nima radirke. Ko je 400 žetonov globoko v razlagi in ugotovi, da je izbral napačen okvir, ima na voljo le, da nadaljuje v napačnem okviru ali da pripne popravek — kar rodi odgovore, ki jih vsi poznamo, tiste, ki sredi poti rečejo pravzaprav, če se vrnem k zgornjemu in vam prepustijo, da uskladite dve nezdružljivi polovici.
Veriga misli to izboljša, a ne odpravi. Premislek pred pisanjem modelu da načrt, preden se zaveže prozi, kar je resnična pridobitev; osnutek, ki sledi, je še vedno napisan v enem prehodu in še vedno oddan neprebran. Nič nikoli ne postavi vprašanja, ki ga človeški urednik postavi prvega: ali ta odgovor res počne to, kar je napovedal premislek? Načini odpovedi, ki verigo misli preživijo, so specifični in prepoznavni:
- Izpuščena podvprašanja. Vprašali ste štiri stvari. Premislek je naštel štiri stvari. Odgovor pokrije tri.
- Odnašanje od načrta. Sklepanje se ustali pri nekem pristopu; proza postopoma prevzame drugačnega in ni nobenega posameznega stavka, kjer bi šlo narobe.
- Računanje in enote. Številka, pravilno izračunana v premisleku, je v odgovor prepisana napačno, ali pa je mesečni podatek predstavljen kot letni.
- Prezrte omejitve. Rekli ste, da brez zunanjih odvisnosti; koda eno uvozi, premislek pa omejitve po tem, ko jo je vzel na znanje, nikoli več ne omeni.
- Samozavestne vrzeli. Model v premisleku pove, da glede enega določenega dejstva ni prepričan, nato pa ga v odgovoru vseeno navede kot dejstvo.
Vsako od teh ujameš, če osnutek prebereš. Nobene ne ujameš s tem, da osnutek generiraš bolj skrbno.
03Zanka sklepanja, fazo za fazo
Obrat pri Shannon 3 Pro je zanka s štirimi fazami in izhodnim pogojem.
Premisli
Model obdela problem, preden za vas karkoli napiše: razčleni vprašanje, zabeleži omejitve, ugotovi, kaj ve in česa ne, in se ustali pri pristopu. Kar tu nastane, postane merilo, po katerem se odgovor pozneje presoja.
Napiši osnutek
Model napiše popoln, resničen odgovor — ne osnutka po točkah. Popoln mora biti, ker naslednja faza ovrednoti dokončan izdelek, skice pa ni mogoče pregledati glede načinov odpovedi, ki se pokažejo šele v polni dolžini.
Preglej
To je faza, zaradi katere je ta družina to, kar je. Model prebere osnutek ob premisleku — kar je dosti ostrejši preizkus kot branje samega osnutka. Vprašanje »je ta odgovor dober?« modelu ponuja, da reče da; vprašanje »načrt je predvidel pokritje X, Y in Z ob omejitvi C — ali to besedilo to počne?« mu da nekaj ovrgljivega za preveriti. Pregled poimenuje, kaj je narobe, namesto da bi izdal oceno.
Prepiši
Poimenovane težave se odpravijo v novem osnutku. To je prepis, ne obliž: popravek, ki zahteva preureditev argumenta, sme argument preurediti. Novi osnutek gre nazaj v pregled.
Ustavi
Zanka se konča prvič, ko pregled osnutek potrdi — to je običajen izhod in pri večini obratov se zgodi krepko pred zgornjo mejo. Trda meja 10 ponovitev obstaja za patološke primere, na primer resnično dvoumno vprašanje, pri katerem vsak prepis zamenja eno pomanjkljivost za drugo, tako da se obrat ne more vrteti v nedogled.
Lite opravi isti prvi dve fazi in se ustavi. Premisli, napiše osnutek, osnutek izroči vam. To je premišljena produktna odločitev, ne okrnjena nesreča: pri velikem deležu resničnih sporočil je prvi osnutek tudi pravi odgovor, plačevati zakasnitev pregleda zato, da ti to nekdo pove, pa je slaba menjava. Lite je za takrat, ko želite, da je model hiter; Pro je za takrat, ko želite, da je gotov.
04Zbiranje znanja pri Pro: prositi za pomoč namesto ugibati
Samopregled ujame protislovja, izpuste in kršitve omejitev, ker so dokazi, potrebni za to, že v obratu. Ne more pa ujeti dejstva, ki ga model preprosto nima. Model, ki pregleduje svoj osnutek, lahko sklene glede te številke nisem prepričan in nato s tem sklepom nima kam.
Pro mu da kam. Okoli faze pisanja osnutka izvede zbiranje znanja: ugotovi, katera konkretna dejstva mu manjkajo ali glede njih ni prepričan, pri drugem, večjem modelu poizve prav po teh in vrnjeno vplete v izboljšan odgovor. To je ciljana poizvedba, ki jo poganja vrzel, ki jo je model poimenoval sam, in ne pavšalno drugo mnenje.
V praksi sta pomembni dve lastnosti. Zbiranje je omejeno na obseg: sprašuje po ugotovljenih vrzelih, namesto da bi znova zastavilo celotno vprašanje, zato je večji model vprašan tam, kjer doda informacijo, in ne tam, kjer bi zgolj dodal drugačen glas. In je vključeno: zbrana dejstva gredo nazaj skozi zanko in gredo skozi isti pregled kot vse drugo, namesto da bi prispela kot prilepljen odstavek.
Kaj to spremeni glede negotovosti
Najkoristnejši učinek zbiranja ni to, da Pro ve več. Je to, da negotovost pri Pro postane uporabna. Model, ki ve le, da ni prepričan, mora izbirati med tem, da se ogradi od vsega, in tem, da samozavestno trdi. Model, ki lahko »glede tega nisem prepričan« spremeni v »pojdimo pogledat«, se ogradi na manj mestih in je na več mestih konkreten.
05Sklepanje je vidno in poteka v vašem jeziku
Celotna sled se vam prikazuje med potekom obrata: premislek in pri Pro vsak pregled ter to, čemu je ugovarjal. To ni razhroščevalni pogled, ki ga toleriramo razkriti — je velik del tega, kar kupujete, in delovni odnos spremeni na tri konkretne načine.
- Lahko se ustavite zgodaj. Če premislek vaše vprašanje napačno razume — kar je pogost izid dvoumnega poziva in ne slabega modela — to izveste v prvih nekaj sekundah, ne po tem, ko prispe cel odgovor, ki rešuje napačen problem.
- Sklepanje lahko presojate ločeno od odgovora. Pravilen odgovor, dosežen z napačnim sklepanjem, je obveznost, ker naslednjega vprašanja ne bo preživel.
- Vidite lahko, kako zanka odpove. Kadar Pro porabi več ponovitev, ne da bi se približal, je to prikazano in ne skrito — in to je resnična informacija, ki običajno pomeni, da je vprašanje premalo določeno.
Sled je napisana v vašem jeziku, ne generirana v angleščini in prevedena na koncu. Če delate v japonščini, arabščini, turščini ali portugalščini, model sklepa v tem jeziku — kar ohranja izrazje v sledi skladno z izrazjem v odgovoru in odpravlja šive, ki se pojavijo, kadar model misli v enem jeziku in govori v drugem.
06Necenzuriran: brez sloja zavračanja, brez filtra izpisa
Shannon 3 je dobavljen brez sloja zavračanja in brez filtriranja vsebine izpisa. Vedenja zavračanja v izdelku ni na nobeni ravni: ne kot ovoja, ki bi pregledal vaše sporočilo, preden ga vidi model, ne kot klasifikatorja, ki bi pregledal odgovor, preden ga vidite vi, in ne kot refleksa, iz katerega bi bilo treba model pregovoriti. To se bistveno razlikuje od dveh stvari, ki ju ljudje običajno mislijo, ko rečejo »necenzuriran«:
| Pristop | Kaj počne | Kako odpove |
|---|---|---|
| Zaobid s sistemskim pozivom | Poravnanemu modelu naroči, naj se vede, kot da ni poravnan | V dolgem pogovoru pojenja; zavračanje se pod pritiskom vrne |
| Odstranitev filtra izpisa | Neha blokirati besedilo, ki ga je model že ustvaril | Model še vedno piše ograjeno, izmikajoče besedilo — nič ni bilo blokirano, nikoli ni bilo napisano |
| Shannon 3 | Ni sloja zavračanja, ki bi ga odstranili, in ne filtra, ki bi ga izklopili — tega vedenja preprosto ni | Presojo v celoti prelaga na vas; model ne bo odklonil namesto vas |
V praksi se Shannon 3 spusti v vprašanje, ki ste ga zastavili, in ne v varnejše vprašanje poleg njega: leposlovje z resničnimi nasprotniki, varnostne teme, obravnavane tehnično in ne na višini sporočila za javnost, medicinske, pravne in finančne informacije, podane naravnost in s pridržki, ki so dejansko upravičeni — brez sklepnega pridiganja o tem, zakaj ste morda vprašali. Prav tako ne razvodeni zanke: pregled sme reči, da je osnutek napačen, kar je drugačna in koristnejša vrsta ugovora kot zavrnitev.
Česar odsotnost sloja zavračanja ne stori, je, da bi model postal pravilen. Necenzuriran model je natanko tako sposoben samozavestne zmote kot cenzuriran, in to bolj vidno, saj se ob negotovosti ne bo umaknil v nejasnost. To je eden boljših argumentov za zanko: ker refleks zavračanja ni na poti, samopregled opravi tisto varnostno delo, ki profesionalnega uporabnika res zanima — lovljenje napak. Vašo uporabo modela še naprej ureja naša Politika odgovorne uporabe in zakonodaja kraja, kjer ste.
Za Shannon 3 ne objavljamo rezultatov primerjalnih testov in ne trdimo ničesar v neposredni primerjavi z drugimi modeli. Korist zanke je strukturna — ujame razrede napak, ki jih en sam prehod ne more ujeti — in ta mehanizem raje opišemo natančno, kot da nanj pripnemo številko, ki je nismo neodvisno preverili. Vse zgoraj opisuje, kaj obrat počne; najhitreje to preverite tako, da enega poženete in preberete sled.
07Slike, dokumenti in generiranje slik
Obe različici sprejemata slike in dokumente kot priloge ter ju bereta kot del obrata. Zaslonska slika neuspele gradnje, fotografirana bela tabla, shema, skenirana stran pogodbe ali dokument PDF so lahko predmet vprašanja in ne nekaj, kar morate najprej prepisati. Pri Pro priloge sodelujejo v zanki kot vse drugo: če pregled ugotovi, da je osnutek odgovoril na vprašanje, ki ga slika ne podpira, se to prepiše.
Generiranje in urejanje slik sta v klepetu na voljo kot orodje, ne kot namen modela. Shannon 3 je model za sklepanje, ki zna sliko ustvariti ali urediti, kadar pogovor to zahteva, in ne slikovni model s pripetim klepetalnim vmesnikom. Ta razlika pravilno postavi pričakovanja: družino sodite po tem, kako razmišlja, slike pa jemljite kot udobje, ki prihrani preklop konteksta.
08Kontekstno okno in kam je šla linija 3.x naprej
Shannon 3.0 je izšel s kontekstnim oknom 32,768 žetonov. To je poštena zgodovinska številka in vredna jasne navedbe, ker zanka porablja kontekst drugače kot enoprehodni model: vaš poziv, vaše priloge, premislek ter vsak krog osnutka in pregleda živijo v istem proračunu.
32K je udobno za večino klepeta in analitičnega dela — dolg dokument, obsežna datoteka kode, podrobno večdelno vprašanje s prostorom, da se zanka izteče. Za resnično velike vhode je tesno in prav to omejitev je naslovila naslednja izdaja. Shannon 3.1 kontekstno okno občutno poveča in spremeni, na kaj je mogoče zanko usmeriti; če družino ocenjujete danes, tisti članek preberite kot drugega, tukajšnjo številko pa jemljite kot zgodovino.
09Klicanje Shannon 3 prek API
Shannon 3 je na voljo prek vseh treh naših API narečij, na istih modelih, s pretakanjem na vsakem:
| Narečje | Končna točka | Uporabite ga, ko |
|---|---|---|
| Združljivo z OpenAI | /v1/chat/completions | Imate obstoječo odjemalsko kodo za OpenAI — spremenite osnovni URL in identifikator modela |
| Združljivo z Anthropic | /v1/messages | Je vaš sklad zgrajen okoli oblike Messages |
| Responses | /v1/responses | Želite novejšo obliko zahtevka in odgovora |
Kot identifikator modela podajte shannon-3 ali shannon-3-pro. Na strani odjemalca je vredno načrtovati dvoje. Obrati pri Pro trajajo dlje, in to spremenljivo dolgo, ker je število ponovitev odvisno od vprašanja — časovne omejitve nastavite glede na zgornjo mejo in ne glede na povprečje, prednost pa dajte pretakanju, da uporabnik vidi napredek namesto vrtiljaka. In sled sklepanja je vsebina, ki jo lahko prikažete; tam, kjer uporabniki čakajo, je prikaz običajno boljši od skrivanja, ker mrtvi čas spremeni v nekaj berljivega. Sheme zahtevkov in odgovorov, podrobnosti o pretakanju in živo igrišče so v dokumentaciji API.
10Izbira različice
Zanka pri Pro si svojo zakasnitev zasluži v sorazmerju s tem, koliko je stvari, ki jih je mogoče zgrešiti.
| Vaša naloga | Različica | Zakaj |
|---|---|---|
| Hitro dejstveno vprašanje, kratek odgovor | shannon-3 | Prvi osnutek je odgovor; pregled nima česa ujeti |
| Avtomatizacija z veliko količino ali z omejeno zakasnitvijo | shannon-3 | Zavezujoča omejitev je predvidljiv čas obrata |
| Večdelna analiza z omejitvami | shannon-3-pro | Izpuščena podvprašanja in kršitve omejitev so natanko to, kar pregled ujame |
| Daljše besedilo, ki mora zdržati kot celota | shannon-3-pro | Notranje protislovje je lastnost polne dolžine, med pisanjem osnutka nevidna |
| Karkoli s številkami, po katerih boste ravnali | shannon-3-pro | Pregled ponovno preveri računanje in enote glede na premislek |
| Vprašanja, ki se dotikajo dejstev na robu modela | shannon-3-pro | Zbiranje znanja poimenovano vrzel spremeni v poizvedbo |
Praktičen vzorec: medtem ko še ugotavljate, kaj bi vprašali, uporabljajte Lite, nato pa dokončno oblikovano vprašanje enkrat poženite na Pro. Zanko se splača plačati pri tisti različici vprašanja, ki ste jo v resnici mislili.
11Omejitve, ki jih velja poznati pred odločitvijo
Kartica modela, ki našteva samo prednosti, je oglas. Tukaj vas bo Shannon 3 razočaral:
- Pro je počasnejši, in to nepredvidljivo. Obrat, ki se izteče v dveh ponovitvah, in tak, ki teče do desetih, se v izmerjenem času razlikujeta večkratno. Če potrebujete omejeno zakasnitev, uporabite Lite.
- Pregled ni dokaz. Model, ki preverja svoje delo, deli svoje lastne slepe pege. Zanka zanesljivo ujame neskladje med premislekom in osnutkom; ne ujame pa zanesljivo napake, ki je samozavestno prisotna že v premisleku.
- Kontekst si delite z zanko. Pri 32K sta zelo dolg vhod in več osnutkov v polni dolžini resnična omejitev pri 3.0. Za dvignjeno mejo glejte Shannon 3.1.
- Zbiranje zapolni le vrzeli, ki jih model opazi. »Glede tega nisem prepričan« spremeni v poizvedbo, kar je resnična pridobitev — a dejstvo, glede katerega se model samozavestno moti, ni nikoli označeno kot manjkajoče, zato zanj poizvedbe nikoli ni.
- Necenzuriran pomeni necenzuriran. Model ne bo zavrnil in ne bo omilil. Če vaš izdelek potrebuje mejo zavračanja, jo zgradite tam, kjer jo vidite, namesto da bi upali, da jo priskrbi model.
12Pogosta vprašanja
Kaj je Shannon 3?
Shannon 3 je družina necenzuriranih modelov, ki tečejo na našem lastnem grozdu GPU. Od drugih ga loči oblika obrata: namesto enega samega prehoda skozi model premisli, napiše osnutek odgovora, nato ta osnutek pregleda glede na svoje lastno razmišljanje in ga prepiše. Na voljo je v dveh različicah, shannon-3 (Lite) in shannon-3-pro (Pro).
Kakšna je razlika med Shannon 3 Lite in Shannon 3 Pro?
Lite izvede en sam prehod premisleka in osnutka, s čimer ostane zakasnitev blizu običajnemu modelu. Pro izvede celotno zanko, vsak osnutek pregleda in prepiše, do 10 ponovitev, in se ustavi takoj, ko ga pregled potrdi. Pro poleg tega izvede zbiranje znanja: pri drugem, večjem modelu poizve po dejstvih, za katera je ugotovil, da mu manjkajo.
Je Shannon 3 res necenzuriran?
Da. Shannon 3 nima sloja zavračanja in nima filtra vsebine na izpisu. Vedenja zavračanja v samem modelu ni, zato ni ničesar, kar bi se sredi dolgega pogovora tiho vrnilo, kot se to zgodi pri osebnosti, vsiljeni s pozivom. Uporabo modela še vedno ureja naša Politika odgovorne uporabe in zakonodaja kraja, kjer ste.
Ali zanka pregleda odgovore res izboljša?
Najbolj pomaga tam, kjer je en sam prehod strukturno šibek: pri dolgih odgovorih, katerih konec nasprotuje začetku, pri večdelnih vprašanjih, kjer se en del tiho izgubi, pri napakah v računanju in enotah ter pri kodi, ki ne upošteva navedene omejitve. Najmanj pomaga pri kratkih poizvedbah, kjer je prvi osnutek že odgovor. Prav zato obstaja Lite.
Kaj se zgodi, če pregled osnutka nikoli ne potrdi?
Zanka se ustavi pri svoji zgornji meji 10 ponovitev in vrne najboljši osnutek, do katerega je prišla, namesto da bi se vrtela v nedogled. Ker je sled vidna, lahko preberete tudi ugovore, ki niso bili nikoli razrešeni — kar običajno pomeni, da je bilo vprašanje toliko dvoumno, da je vsak prepis zamenjal eno pomanjkljivost za drugo, in je znak, da ga je treba preubesediti.
Ali zna Shannon 3 brati slike in dokumente?
Da. Obe različici sprejemata priloge s slikami in dokumenti ter ju bereta kot del obrata, zato so lahko zaslonska slika, diagram, skenirana stran ali dokument PDF predmet vprašanja in ne nekaj, kar morate najprej prepisati. V klepetu sta na voljo tudi generiranje in urejanje slik, a kot orodje, ki ga model lahko pokliče, in ne kot njegov namen.
Ali lahko vidim sklepanje modela?
Da. Sled se prikazuje med potekom obrata in je napisana v vašem jeziku, ne prevedena iz angleščine šele na koncu. Pri Pro spremljate vsak krog pregleda, kar naredi vidno, kdaj model ujame svojo napako — in enako vidno, kdaj je ne.
Kako veliko je bilo kontekstno okno modela Shannon 3 ob izidu?
Shannon 3.0 je izšel s kontekstnim oknom 32,768 žetonov, ki si ga delijo vaš poziv, morebitne priloge, sled sklepanja in odgovor. Shannon 3.1 to številko dvigne; za trenutno vrednost glejte članek o Shannon 3.1.
Preizkusite zanko sami
Isto vprašanje zastavite dvakrat — enkrat na Lite, enkrat na Pro — in opazujte, kaj spremeni pregled.
Začnite klepetati Preberite dokumentacijo APIshannon-3 · shannon-3-pro · pretakanje na vseh treh API narečjih
Shannon 3 upravlja Shannon Lab LLC, Nova Mehika, ZDA. Številke tukaj opisujejo konfiguracijo ob izidu 3.0; za trenutne omejitve glejte kartico modela Shannon 3.1, za preostanek družine pa kazalo raziskav. Za Shannon 3 ne objavljamo rezultatov primerjalnih testov in ne navajamo primerjalnih trditev o zmogljivosti.