Shannon 3.1

Kebanyakan keluaran model meminta anda mempercayai dakwaan keupayaan dan menunggu jadual penanda aras menyelesaikan hujah. Yang ini lebih mudah disemak: buka dua tab, masukkan gesaan yang sama ke dalam shannon-3 dan shannon-3.1, dan perhatikan. Perbezaan kelajuan ketibaan jawapan bukan sesuatu yang halus, dan ia bukan helah paparan. Shannon 3.0 sengaja direncat. Shannon 3.1 tidak.

01Apa yang sebenarnya berubah dalam Shannon 3.1

Shannon 3.0 memperkenalkan perkara yang mentakrifkan keluarga ini: gelung penaakulan berulang. Model tidak menjawab pada fikiran pertamanya. Ia berfikir, mendraf, menyemak derafnya sendiri terhadap soalan, dan memperbaikinya. Lite menjalankan satu laluan gelung itu; Pro menjalankan gelung penuh, termasuk langkah penuaian pengetahuan sebelum ia mendraf. Reka bentuk itu diterangkan secara terperinci dalam artikel penyelidikan Shannon 3, dan tiada satu pun daripadanya berubah dalam 3.1.

Yang berubah ialah jentera di sebaliknya. Shannon 3.0 disajikan melalui hos inferens pihak ketiga — cara yang munasabah untuk melancarkan model, dan cara yang mengekang untuk menjalankannya. Anda mewarisi konfigurasi penyajian orang lain, baris gilir orang lain, siling konteks orang lain, dan tanggapan orang lain tentang berapa banyak token sesaat yang anda dibenarkan miliki. Shannon 3.1 berjalan pada kluster GPU kami sendiri, pada tindanan penyajian yang kami konfigurasikan, dan setiap angka utama dalam artikel ini terhasil daripada satu keputusan itu.

	Shannon 3.0	Shannon 3.1
Tempat ia berjalan	Hos pihak ketiga	Kluster GPU kami sendiri
Tetingkap konteks	32,768	196,608
Penstriman output	Direncat / dihad kadar	Kelajuan penuh enjin
Berat	Lalai hos	NVFP4 4-bit
Penyahkodan	Standard	Spekulatif
Gelung penaakulan	Fikir → deraf → semak → perbaik	Tidak berubah
Lapisan penolakan	Tiada	Tiada
Id model	shannon-3, shannon-3-pro	shannon-3.1, shannon-3.1-pro

02Mengapa Shannon 3.1 terasa 10-15x lebih pantas

Angka kelajuan ialah yang orang tanya dahulu, jadi berbaloi untuk tepat tentang dari mana ia datang. Terdapat dua sumbangan bebas, dan yang lebih besar ialah yang kurang menarik antara kedua-duanya.

Kami membuang get kelajuan

Output Shannon 3.0 melalui lapisan pemerencatan. Token meninggalkan enjin, ditahan, dan dilepaskan ke sambungan anda mengikut jadual. Ini bukan kemalangan atau pepijat. Apabila hos inferens berkongsi menjadi penyempitan, merencat output melicinkan beban, menghalang penjanaan panjang daripada memonopoli satu slot, dan menjadikan strim tiba pada rentak yang boleh diramal dan senang dibaca, bukan dalam letusan. Ia pilihan kejuruteraan yang boleh dipertahankan, dan ia mengorbankan masa jam dinding sebenar bagi setiap pengguna pada setiap balasan.

Shannon 3.1 tiada get kelajuan dan tiada pemerencatan pendedahan. Token ditulis ke strim anda sebaik enjin menghasilkannya. Jika enjin menjana dengan pantas, anda melihatnya menjana dengan pantas. Tiada penimbal pelicin antara model dengan terminal anda, tetingkap sembang anda, atau pembaca SSE anda. Bagi jawapan panjang — analisis 2,000 token, satu fail kod yang dijana — perkara ini sahaja menyumbang majoriti peningkatan yang akan anda perasan.

Satu akibat yang jujur: strim kini meletus-letus. Penyahkodan spekulatif (di bawah) memancarkan token yang diterima dalam rentetan pendek, jadi teks boleh tiba dalam ketulan yang kelihatan dan bukan pada rentak metronom satu perkataan pada satu masa. Jika anda membina UI berdasarkan rentak licin 3.0, ia masih akan berfungsi — susunan dan kandungan token tidak terjejas — tetapi anda mungkin mahu memperkenalkan semula pelicinan sisi klien anda sendiri jika anda lebih suka rupa mesin taip. Kami rasa kebanyakan orang lebih rela mendapat semula saat-saat itu.

Enjin itu sendiri menjadi lebih pantas

Membuang get hanya membantu jika apa yang berada di sebalik get itu pantas. Sumbangan kedua ialah tindanan penyajian yang diterangkan dalam seksyen 03: berat NVFP4 4-bit dan penyahkodan spekulatif pada pemecut generasi semasa yang asli-FP4 dalam kluster kami sendiri. Bersama-sama, ini menaikkan siling yang didedahkan oleh pembuangan get.

Kependaman balasan hujung ke hujung secara relatif, penilaian dalaman Shannon Lab, September 2026. Julat ini mencerminkan panjang gesaan dan peringkat: gesaan pendek pada Lite berada dekat hujung rendah, penjanaan panjang pada Pro dekat hujung tinggi.

03Apa yang penyahkodan spekulatif benar-benar lakukan

"Inferens penyahkodan spekulatif" digunakan sebagai perkataan pemasaran, jadi inilah mekanismenya, secara terus terang.

Model bahasa lazimnya menghasilkan satu token bagi setiap laluan hadapan. Laluan itu didominasi bukan oleh aritmetik tetapi oleh lebar jalur memori — berat perlu dibaca untuk mengira apa-apa, dan membacanya mengambil masa jauh lebih lama daripada pengiraan itu sendiri. GPU menghabiskan sebahagian besar masanya menunggu memori sementara unit pengiraannya melahu. Menjana 500 token bermakna membayar kependaman itu 500 kali, secara berturutan.

Penyahkodan spekulatif menyerang bahagian berturutan itu. Sebuah model deraf yang kecil dan murah mencadangkan rentetan pendek token seterusnya yang berkemungkinan — katakan empat atau lapan. Model utama kemudian menilai keseluruhan rentetan itu dalam satu laluan hadapan berkelompok, yang kosnya hampir tidak lebih daripada menilai satu token, kerana bahagian yang mahal (membaca berat) berlaku sekali sahaja dalam kedua-dua keadaan. Setiap token yang dicadangkan dan dipersetujui oleh model utama diterima dan dipancarkan serta-merta. Pada percanggahan pertama, rentetan dipotong dan penyahkodan biasa disambung semula dari situ.

Kadar penerimaan yang melakukan kerjanya. Pada teks yang boleh diramal — boilerplate, struktur kod, tisu penghubung sesuatu hujah — model deraf meneka dengan baik dan rentetan panjang mendarat sekali gus. Pada token yang benar-benar sukar, penerimaan menurun dan sistem merosot dengan anggun kembali kepada penyahkodan biasa satu token pada satu masa. Ketaksimetrian itulah yang anda mahukan: ia memecut bahagian mudah dan tidak menyentuh yang sukar.

Mengapa berat 4-bit tergolong dalam perenggan yang sama

Kerana penyempitannya ialah lebar jalur memori, mengecilkan berat ialah tuas kelajuan secara langsung, bukan sekadar tuas jejak memori. NVFP4 ialah format titik terapung 4-bit dengan penskalaan per-blok berbutir halus, dan itulah yang membolehkannya mengekalkan ketepatan di tempat skema kuantisasi integer 4-bit yang lebih lama kehilangannya. Kira-kira suku daripada bilangan bait untuk dibaca setiap laluan hadapan bermakna masa menunggu memori berkurang secara berkadaran, dan ia meninggalkan ruang lega yang jauh lebih besar untuk cache KV konteks panjang yang dituntut oleh tetingkap 196K.

Kedua-duanya berganda dan bukan sekadar bertambah: lebih sedikit bait setiap laluan, dan lebih sedikit laluan setiap token dipancarkan. Itulah yang menjadikan penstriman tanpa get pada kelajuan penuh mampu disajikan dan bukan kos yang terpaksa kami tebus semula melalui pemerencatan — yang sebenarnya itulah yang dilakukan oleh lapisan pemerencatan pada 3.0.

04196,608 token: apa yang dibuka oleh tetingkap 6x

Shannon 3.0 mempunyai tetingkap 32,768 token: satu sesi kerja, bukan satu dokumen. Kira-kira 70-80 halaman prosa, tolak apa sahaja yang digunakan oleh gelung penaakulan untuk pemikirannya sendiri, tolak gesaan sistem anda, tolak perbualan setakat ini. Kerja sebenar terlanggar dinding itu berterusan, dan penyelesaian sementaranya — memotong bahagian, meringkas, perolehan semula ke atas bahan anda sendiri — semuanya merosakkan perkara yang anda cuba pelihara. 196,608 token ialah kategori masalah yang berbeza.

Secara konkrit, itu lebih kurang 400-500 halaman teks Inggeris, atau pangkalan kod bersaiz sederhana bersama ujian dan READMEnya, atau setahun nota mesyuarat satu projek, atau satu set kontrak penuh dengan semua ekshibitnya — dipegang dalam satu perbualan, boleh ditanya dalam satu soalan, tanpa lapisan pemotongan antara anda dengan bahan itu.

• Soalan seluruh repositori. Muatkan kod dan tanya mengapa pepijat sampai ke produksi, dan bukan menampal tiga fail yang sudah anda syaki. Model boleh menemui fail yang anda tidak terfikir untuk sertakan.
• Analisis dokumen panjang tanpa perolehan semula. Perolehan semula ialah penapis awal yang lompang yang memutuskan apa yang model dibenarkan lihat. Pada 196K anda selalunya boleh melangkauinya dan biarkan model membaca segala-galanya, yang membuang satu kelas kegagalan penuh apabila petikan yang betul tidak pernah diperoleh.
• Perbualan yang kekal koheren. Sesi kerja yang panjang tidak lagi diam-diam menggugurkan permulaannya sendiri. Kekangan yang anda tetapkan dalam mesej ketiga masih terpakai dalam mesej kelapan puluh.
• Ruang untuk gelung penaakulan. Pemikiran, pendrafan dan semakan gelung itu sendiri menggunakan konteks. Pada 3.0 langkah-langkah itu bersaing dengan bahan anda untuk bajet yang terhad. Pada 3.1 semuanya muat dengan selesa, dan itulah sebahagian sebab peningkatan kualiti dan pembesaran tetingkap tiba bersama-sama.
• Input campuran yang besar. Imej, teks dokumen yang diekstrak dan kod dalam satu giliran, tanpa perlu memilih yang mana antaranya mampu anda sertakan.

Satu peringatan jujur yang terpakai kepada setiap model konteks panjang, termasuk kami: tetingkap besar ialah kapasiti, bukan jaminan perhatian seragam merentasinya. Struktur tetap membantu. Meletakkan soalan berhampiran hujung, melabelkan dokumen anda, dan memberitahu model apa yang perlu dicari semuanya meningkatkan keputusan secara terukur pada 150K token dengan cara yang tidak berlaku pada 5K.

05Lite dan Pro: shannon-3.1 dan shannon-3.1-pro

Kedua-dua peringkat berbeza dari segi berapa banyak gelung penaakulan yang mereka jalankan, dan itulah satu-satunya perbezaan yang penting untuk memilih antara keduanya.

	shannon-3.1 (Lite)	shannon-3.1-pro (Pro)
Penaakulan	Satu laluan	Gelung penuh + penuaian pengetahuan
Semakan sendiri	Tidak	Ya
Tetingkap konteks	196,608	196,608
Penstriman	Kelajuan penuh, tanpa get	Kelajuan penuh, tanpa get
Visi & dokumen	Ya	Ya
Alat penjanaan imej	Ya	Ya
Terbaik untuk	Kebanyakan kerja, volum tinggi	Soalan sukar, deraf pertama tidak memadai

Gunakan Lite secara lalai. Satu laluan model penaakulan yang baik mengendalikan majoriti besar permintaan sebenar, dan pada 3.1 ia cukup pantas sehingga gelung itu bukan lagi sesuatu yang terasa anda tunggu. Beralih kepada Pro apabila soalan itu jenis yang jawapan pertamanya biasanya salah dengan cara yang mendidik: pertukaran seni bina, analisis lawan, apa sahaja yang anda mahu rakan sekerja yang cekap fikirkan semalaman. Langkah semakan sendiri Pro bukan hiasan — ia model menemui kesilapannya sendiri sebelum anda terpaksa.

06Peningkatan kepintaran 32%, dan cara membacanya

Penilaian Shannon Lab sendiri meletakkan Shannon 3.1 pada peningkatan kepintaran 32% berbanding Shannon 3.0. Kami mahu jelas tentang apa itu dan apa yang bukan.

Ia angka kami, daripada suite penilaian dalaman kami, diukur pada tugas yang kami anggap mewakili apa yang orang benar-benar bawa kepada model ini. Ia bukan penanda aras pihak ketiga, dan kami tidak membina jadual papan pendahulu sekitar satu agregat dalaman tunggal mahupun menerbitkan pecahan setiap penanda aras — pecahan begitu membayangkan tahap kebolehbandingan luaran yang tidak dimiliki oleh suite dalaman.

Apa yang akan kami katakan ialah dari mana peningkatan itu datang, kerana bahagian itu tidak misteri. Tetingkap konteks yang lebih besar bermakna lebih sedikit bahan terpaksa dibuang sebelum model menaakul ke atasnya, dan banyak daripada apa yang kelihatan seperti kebodohan dalam sesi panjang sebenarnya hanyalah amnesia. Tindanan penyajian yang kami kawal bermakna model berjalan dengan konfigurasi yang kami niatkan dan bukan lalai hos. Dan gelung penaakulan — tidak berubah dari segi reka bentuk — kini mempunyai ruang untuk benar-benar berjalan di dalam tetingkap dan bukan diasak ke siling 32K yang dikongsinya dengan input anda.

07Visi, dokumen, dan penjanaan imej

Shannon 3.1 membaca imej dan dokumen. Tangkapan skrin, gambar rajah, fotograf, halaman diimbas, PDF dan dokumen teks boleh masuk ke dalam perbualan dan ditaakul bersama segala yang lain. Digabungkan dengan tetingkap 196K, inilah yang menjadikan aliran kerja seluruh dokumen praktikal: laporan panjang dan cartanya dalam satu giliran, tanpa memutuskan lebih awal halaman mana yang model dibenarkan lihat.

Penjanaan dan penyuntingan imej tersedia dalam sembang sebagai alat. Minta sebuah imej dan model memanggil alat itu secara sebaris, dalam perbualan yang sama, dengan konteks segala yang dibincangkan setakat ini. Penyuntingan berfungsi dengan cara yang sama — serahkan sebuah imej, terangkan perubahannya. Tiada mod berasingan untuk ditukar dan tiada antara muka berasingan untuk dipelajari.

08Memanggil Shannon 3.1 daripada API

Shannon 3.1 tersedia pada ketiga-tiga dialek API, dengan penstriman pada setiap satu. Model yang sama, tiga bentuk permintaan — pilih mana-mana yang sepadan dengan SDK yang sudah anda miliki.

Titik akhir	Bentuk	Penstriman
/v1/chat/completions	Serasi OpenAI	Ya
/v1/messages	Serasi Anthropic	Ya
/v1/responses	Responses	Ya

{
  "model": "shannon-3.1",
  "stream": true,
  "messages": [
    { "role": "user", "content": "Summarize this contract set and flag anything unusual." }
  ]
}

Tukar "shannon-3.1" kepada "shannon-3.1-pro" untuk menjalankan gelung penaakulan penuh. Jika anda sudah memanggil shannon-3, migrasi hanyalah id model dan tiada yang lain: bentuk permintaan dan respons tidak berubah, dan klien penstriman sedia ada terus berfungsi. Satu perbezaan tingkah laku yang perlu dijangka ialah strim yang lebih meletus-letus seperti diterangkan dalam seksyen 02 — token yang sama, susunan yang sama, tiba lebih awal dan dalam ketulan yang kurang sekata.

Rujukan parameter penuh, pengesahan, semantik ralat dan taman permainan interaktif ada dalam dokumentasi API. Kad model lain dan tulisan teknikal ada dalam penyelidikan Shannon.

09Masih tanpa tapisan, dan tidak berubah dari segi itu

Shannon 3.1 tiada lapisan penolakan dan tiada penapisan kandungan pada output. Ini pendirian yang sama seperti selebihnya barisan Shannon dan ia tidak berubah dengan perpindahan ke kluster kami sendiri — malah, mengawal tindanan penyajian menjadikannya lebih mudah dijamin, kerana tiada hos perantara dengan dasarnya sendiri duduk antara model dan anda.

Berbaloi dinyatakan secara terus terang kerana ia perkara yang jelas dipersoalkan tentang keluaran yang mengubah keseluruhan laluan output: membuang lapisan pemerencatan tidak bermakna memasukkan lapisan penyederhanaan di tempatnya. Tiada apa-apa yang memeriksa, menulis semula, atau mengget strim itu. Apa yang model hasilkan itulah yang tiba. Shannon 3.1 ialah, setakat pengetahuan kami, model AI tanpa tapisan terpantas yang tersedia dengan tetingkap konteks sebesar ini — dan kedua-dua sifat itu berkaitan, kerana kedua-duanya datang daripada menjalankan infrastruktur kami sendiri dan bukan menyewa kapasiti berbentuk pematuhan daripada orang lain.

Tanpa tapisan bukan bermakna tanpa tanggungjawab. Penggunaan tertakluk kepada Dasar Penggunaan Bertanggungjawab kami, dan kewajipan yang datang bersama model yang sudi menangani bahan yang sukar ialah anda menanganinya secara bertanggungjawab.

10Jalankan perbandingan itu sendiri

Setiap dakwaan di sini boleh disemak dalam kira-kira dua minit, dan kami lebih rela anda menyemak daripada mempercayai kami.

1. Pilih satu gesaan daripada kerja yang benar-benar anda lakukan. Panjang lebih baik — ia menguji kedua-dua tetingkap dan penstriman.
2. Jalankannya pada shannon-3. Catat berapa lama sehingga token pertama, dan berapa lama sehingga jawapan selesai.
3. Jalankan gesaan yang sama pada shannon-3.1. Catat dua nombor yang sama.
4. Kemudian baca kedua-dua jawapan, abaikan jam, dan tentukan yang mana satu yang anda mahukan.

Perbezaan kelajuan akan terasa serta-merta dan jelas. Perbezaan kualiti ialah yang berbaloi direnungkan — ia paling ketara pada input panjang, di mana 3.0 diam-diam bekerja dengan lebih sedikit bahan anda daripada yang anda sangka.

11Soalan lazim

---

Angka prestasi dan kepintaran dalam artikel ini ialah pengukuran Shannon Lab sendiri daripada penilaian dalaman, September 2026, dan dinyatakan sebagai angka produk dan bukan keputusan penanda aras pihak ketiga. Tetingkap konteks, id model, dan ketersediaan API ialah spesifikasi produk. Shannon AI dikendalikan oleh Shannon Lab LLC, New Mexico, USA. Bacaan berkaitan: Shannon 3 · indeks penyelidikan Shannon · dokumentasi API.