Shannon 3, সেই আনসেন্সরড AI মডেল যা নিজের উত্তর পর্যালোচনা করে
আমাদের নিজস্ব GPU ক্লাস্টারে একটি পুনরাবৃত্তিমূলক যুক্তি লুপ: ভাবা, খসড়া, পর্যালোচনা, পুনর্লিখন। Lite এক পাস চালায়। Pro দশ পাস পর্যন্ত চালায়, আর যে তথ্য তার নেই বলে সে জানে তা চেয়ে নেয়।
সংক্ষেপে
Shannon 3 হল আমাদের নিজস্ব GPU ক্লাস্টার থেকে পরিবেশিত একটি আনসেন্সরড AI মডেল পরিবার। এর স্বতন্ত্র বৈশিষ্ট্য হল একটি টার্নের গঠন: মডেলটি ভাবে, একটি খসড়া লেখে, তারপর নিজের চিন্তার বিপরীতে নিজের খসড়া পড়ে আর যা টেকে না তা আবার লেখে। Lite (shannon-3) সবচেয়ে কম দেরির জন্য একটি ভাবা-ও-খসড়া পাস চালায়। Pro (shannon-3-pro) পূর্ণ লুপ চালায় 10 পুনরাবৃত্তি পর্যন্ত, কোনো পর্যালোচনা খসড়া অনুমোদন করামাত্রই থেমে যায়, আর অতিরিক্তভাবে একটি বড় মডেলের বিপরীতে জ্ঞান-সংগ্রহ চালায় যাতে সে যেসব তথ্য অনুপস্থিত বলে লক্ষ্য করেছে সেগুলি পূরণ হয়। পুরো যুক্তির ধাপ দৃশ্যমান, আপনার ভাষায়। দুটি স্তরেই ভিশন ও নথি ইনপুট সমর্থিত। 3.0 চালুর সময় প্রসঙ্গ ছিল 32,768 টোকেন।
আপনি যত চ্যাট মডেল ব্যবহার করেছেন তার প্রায় সবই একটি মাত্র ফরওয়ার্ড পাসে উত্তর দেয়। শেষ টোকেনটি জানার আগেই সে প্রথম টোকেন বেছে নেয়, আর একবার একটি বাক্য বেরিয়ে গেলে তা চূড়ান্ত: মডেল পরে তার বিপরীত কথা বলতে পারে, কিন্তু ফিরে গিয়ে তা ঠিক করতে পারে না। উত্তর ছোট আর প্রশ্নে একটি অংশ থাকলে এটি ভালোই কাজ করে। উত্তর দীর্ঘ হলে, প্রশ্নে চারটি অংশ থাকলে, আর ষষ্ঠ অনুচ্ছেদ নীরবে দ্বিতীয় অনুচ্ছেদকে বাতিল করে দিলে এটি খারাপভাবে কাজ করে। Shannon 3-এর অস্তিত্ব এ কারণেই যে আমরা মনে করিনি এর সমাধান একটি বড় মডেল। সমাধান হল মডেলকে সে যা লিখল তা পড়তে দেওয়া।
01Shannon 3 কী
Shannon 3 হল দুই স্তরের একটি মডেল পরিবার। দুটি স্তরই কোনো তৃতীয় পক্ষের ইনফারেন্স API-তে নয়, আমাদের নিজস্ব GPU ক্লাস্টারে চলে, আর দুটিই আনসেন্সরড: তাদের সামনে কোনো প্রত্যাখ্যান স্তর নেই আর পিছনে কোনো কনটেন্ট ফিল্টার নেই। স্তর দুটির মধ্যে যা আলাদা তা হল উত্তর আপনার কাছে পৌঁছানোর আগে একটি টার্নে কতটা কাজ করার অনুমতি আছে।
API-তে দুটি স্তরই সাধারণ মডেল আইডি। কোনো বিশেষ এন্ডপয়েন্ট নেই, আলাদা কোনো SDK নেই, আর কোনো বিশেষভাবে বানানো রিকোয়েস্ট ফরম্যাট নেই:
| স্তর | মডেল আইডি | টার্নের গঠন | কীসের জন্য সেরা |
|---|---|---|---|
| Shannon 3 Lite | shannon-3 | একটি ভাবা + খসড়া পাস | চ্যাট, খসড়া লেখা, অনুসন্ধান, উচ্চ পরিমাণ |
| Shannon 3 Pro | shannon-3-pro | পূর্ণ লুপ, 10 পাস পর্যন্ত, সঙ্গে জ্ঞান-সংগ্রহ | বিশ্লেষণ, দীর্ঘ লেখা, নির্ভুলতা-সংবেদনশীল কাজ |
02কঠিন প্রশ্নের জন্য একটি একক ফরওয়ার্ড পাস কেন ভুল গঠন
বাঁ থেকে ডানে লেখা তৈরি করা একটি মডেল স্থানীয় সিদ্ধান্তের একটি অপরিবর্তনীয় ক্রম তৈরি করে। তার কোনো রাবার নেই। যখন সে একটি ব্যাখ্যার 400 টোকেন ভিতরে গিয়ে বুঝতে পারে যে সে যে কাঠামো বেছেছিল তা ভুল, তখন তার কাছে দুটি উপায়: ভুল কাঠামোতেই চালিয়ে যাওয়া, নয়তো একটি সংশোধন জুড়ে দেওয়া — এতে জন্ম নেয় সেই উত্তরগুলি যা সবাই চেনে, যেগুলি মাঝপথে বলে আসলে, উপরের কথাটা আবার ভেবে দেখলে আর দুটি অসঙ্গত অর্ধেক মেলানোর ভার আপনার উপর ছেড়ে দেয়।
চেইন-অফ-থট এটি উন্নত করে, কিন্তু সমাধান করে না। আগে ভাবলে মডেল গদ্যে যাওয়ার আগে একটি পরিকল্পনা পায়, যা সত্যিকারের লাভ; কিন্তু তার পরের খসড়াটি তবুও এক পাসেই লেখা হয় আর না পড়েই পাঠানো হয়। কখনও কেউ সেই প্রশ্নটি করে না যা একজন মানব সম্পাদক প্রথমেই করেন: এই উত্তর কি সত্যিই তা-ই করছে যা চিন্তায় বলা হয়েছিল? চেইন-অফ-থটের পরেও যেসব ব্যর্থতা টিকে থাকে সেগুলি নির্দিষ্ট ও চেনা:
- বাদ পড়া উপ-প্রশ্ন। আপনি চারটি জিনিস জিজ্ঞাসা করেছেন। চিন্তায় চারটি জিনিস তালিকাভুক্ত হয়েছে। উত্তরে আছে তিনটি।
- পরিকল্পনা থেকে সরে যাওয়া। যুক্তি একটি পদ্ধতিতে স্থির হয়; গদ্য ধীরে ধীরে ভিন্ন একটি পদ্ধতি নেয়, আর কোনো একটি বাক্যকে ভুলের জায়গা বলে দেখানো যায় না।
- গণিত ও একক। চিন্তায় ঠিকভাবে হিসাব করা একটি সংখ্যা উত্তরে ভুলভাবে লেখা হয়, বা মাসপ্রতি একটি সংখ্যা বছরপ্রতি হিসেবে উপস্থাপিত হয়।
- উপেক্ষিত শর্ত। আপনি বলেছিলেন কোনো বাহ্যিক ডিপেনডেন্সি নয়; কোড একটি ইমপোর্ট করে, আর শর্তটি স্বীকার করার পর চিন্তা আর কখনও তার উল্লেখ করে না।
- আত্মবিশ্বাসী ফাঁক। মডেল চিন্তায় বলে যে একটি নির্দিষ্ট তথ্য নিয়ে সে নিশ্চিত নয়, তারপরও উত্তরে তা নির্দ্বিধায় বলে দেয়।
এর প্রতিটিই খসড়া পড়লে ধরা পড়ে। আরও যত্নসহকারে খসড়া তৈরি করলে একটিও ধরা পড়ে না।
03যুক্তি লুপ, ধাপে ধাপে
একটি Shannon 3 Pro টার্ন হল চারটি ধাপ ও একটি প্রস্থান শর্তসহ একটি লুপ।
ভাবা
আপনার জন্য কিছু লেখার আগেই মডেলটি সমস্যাটি নিয়ে কাজ করে: প্রশ্নটি ভাগ করে, শর্তগুলি নোট করে, কী সে জানে আর কী জানে না তা চিহ্নিত করে, একটি পদ্ধতিতে স্থির হয়। এখানে সে যা তৈরি করে তা-ই পরে উত্তর মাপার মানদণ্ড হয়ে ওঠে।
খসড়া
মডেলটি একটি সম্পূর্ণ, প্রকৃত উত্তর লেখে — কোনো রূপরেখা নয়। এটিকে সম্পূর্ণ হতেই হবে, কারণ পরের ধাপটি একটি শেষ হওয়া বস্তু মূল্যায়ন করে, আর যেসব ব্যর্থতা কেবল পূর্ণ দৈর্ঘ্যে দেখা যায় সেগুলির জন্য একটি খসড়া-রেখা পর্যালোচনা করা যায় না।
পর্যালোচনা
এই ধাপটিই এই পরিবারকে যা তা বানায়। মডেলটি খসড়াটি পড়ে চিন্তার বিপরীতে — যা কেবল খসড়া পড়ার চেয়ে অনেক ধারালো পরীক্ষা। একটি মডেলকে জিজ্ঞাসা করা "এই উত্তরটি কি ভালো?" তাকে হ্যাঁ বলতেই প্ররোচিত করে; জিজ্ঞাসা করা "পরিকল্পনায় বলা ছিল C শর্তের অধীনে X, Y ও Z ঢাকতে হবে — এই লেখাটি কি তা করে?" তাকে যাচাই করার মতো মিথ্যা-প্রমাণযোগ্য কিছু দেয়। পর্যালোচনা কোনো নম্বর দেয় না, বরং কী ভুল তা নাম ধরে বলে।
পুনর্লিখন
নাম ধরে বলা সমস্যাগুলি একটি নতুন খসড়ায় ঠিক করা হয়। এটি পুনর্লিখন, তালি দেওয়া নয়: যে সংশোধনের জন্য যুক্তির ক্রম বদলাতে হয়, তার ক্রম বদলানোর অনুমতি আছে। নতুন খসড়াটি আবার পর্যালোচনায় যায়।
থামা
কোনো পর্যালোচনা প্রথমবার খসড়া অনুমোদন করলেই লুপ শেষ হয় — এটিই স্বাভাবিক প্রস্থান, আর বেশিরভাগ টার্নে তা সীমার অনেক আগেই ঘটে। 10 পুনরাবৃত্তির কঠিন সীমাটি আছে ব্যতিক্রমী ক্ষেত্রের জন্য, যেমন সত্যিই অস্পষ্ট একটি প্রশ্ন যেখানে প্রতিটি পুনর্লিখন এক ত্রুটির বদলে আরেকটি আনে, যাতে একটি টার্ন অনির্দিষ্টকাল ঘুরতে না পারে।
Lite একই প্রথম দুটি ধাপ নেয় এবং থেমে যায়। সে ভাবে, খসড়া করে, আর খসড়াটি আপনাকে দেয়। এটি একটি ইচ্ছাকৃত পণ্য-সিদ্ধান্ত, কেটে ছেঁটে ফেলা কোনো দুর্ঘটনা নয়: প্রকৃত বার্তার একটি বড় অংশে প্রথম খসড়াই সঠিক উত্তর, আর তা জানার জন্য পর্যালোচনার দেরি মূল্য দেওয়া খারাপ বিনিময়। আপনি যখন চান মডেল দ্রুত হোক তখন Lite; আপনি যখন চান সে নিশ্চিত হোক তখন Pro।
04Pro-এর জ্ঞান-সংগ্রহ: অনুমানের বদলে সাহায্য চাওয়া
স্ব-পর্যালোচনা অসঙ্গতি, বাদ পড়া অংশ ও শর্ত লঙ্ঘন ধরে, কারণ সেগুলি ধরার জন্য প্রয়োজনীয় প্রমাণ টার্নেই আছে। কিন্তু মডেলের কাছে যে তথ্যটি নেই তা সে ধরতে পারে না। নিজের খসড়া পর্যালোচনা করা একটি মডেল সিদ্ধান্তে আসতে পারে এই সংখ্যাটি নিয়ে আমি নিশ্চিত নই, আর তারপর সেই সিদ্ধান্ত নিয়ে তার যাওয়ার কোনো জায়গা থাকে না।
Pro তাকে যাওয়ার জায়গা দেয়। খসড়া তৈরির ধাপের আশপাশে সে একটি জ্ঞান-সংগ্রহ চালায়: যেসব নির্দিষ্ট তথ্য তার নেই বা যা নিয়ে সে অনিশ্চিত সেগুলি চিহ্নিত করে, ঠিক সেগুলির জন্য দ্বিতীয় একটি বড় মডেলকে জিজ্ঞাসা করে, আর যা ফিরে আসে তা উন্নত উত্তরে মিশিয়ে দেয়। এটি মডেল নিজেই যে ফাঁক চিহ্নিত করেছে তার জন্য একটি লক্ষ্যভিত্তিক অনুসন্ধান, ঢালাও দ্বিতীয় মতামত নয়।
বাস্তবে দুটি বৈশিষ্ট্য গুরুত্বপূর্ণ। এটি সীমাবদ্ধ: সংগ্রহ পুরো প্রশ্নটি আবার জিজ্ঞাসা না করে চিহ্নিত ফাঁক নিয়ে জিজ্ঞাসা করে, ফলে বড় মডেলের পরামর্শ নেওয়া হয় সেখানে যেখানে তা তথ্য যোগ করে, সেখানে নয় যেখানে তা কেবল ভিন্ন একটি কণ্ঠ যোগ করত। আর এটি সমন্বিত: সংগৃহীত তথ্য লুপে ফিরে যায় আর বাকি সবকিছুর মতোই একই পর্যালোচনার মুখোমুখি হয়, কোনো জোড়াতালি অনুচ্ছেদ হিসেবে এসে হাজির হয় না।
অনিশ্চয়তার ক্ষেত্রে এটি কী বদলায়
সংগ্রহের সবচেয়ে কাজের ফল এই নয় যে Pro বেশি জানে। ফলটি হল Pro-এর অনিশ্চয়তা কার্যকর হয়ে ওঠে। যে মডেল কেবল জানে সে অনিশ্চিত, তাকে বেছে নিতে হয় সবকিছু নিয়ে দোদুল্যমান থাকা আর আত্মবিশ্বাসে দাবি করার মধ্যে। যে মডেল "এ নিয়ে আমি নিশ্চিত নই"-কে "চল খুঁজে দেখি"-তে বদলাতে পারে, সে কম জায়গায় দোদুল্যমান হয় আর বেশি জায়গায় নির্দিষ্ট হয়।
05যুক্তি দৃশ্যমান, আর তা আপনার ভাষায়
টার্ন চলার সময়ই পুরো ধাপটি আপনাকে দেখানো হয়: চিন্তা, আর Pro-তে প্রতিটি পর্যালোচনা ও সে কীসে আপত্তি করল। এটি এমন কোনো ডিবাগ দৃশ্য নয় যা দেখানো আমরা মেনে নিই — এটি আপনি যা কিনছেন তার একটি বড় অংশ, আর এটি কাজের সম্পর্ককে তিনটি সুনির্দিষ্ট উপায়ে বদলায়।
- আপনি আগেভাগে থামাতে পারেন। চিন্তা যদি আপনার প্রশ্নটি ভুল বোঝে — যা খারাপ মডেল নয়, অস্পষ্ট প্রম্পটের সাধারণ ফল — আপনি তা প্রথম কয়েক সেকেন্ডেই জানতে পারেন, ভুল সমস্যার একটি পূর্ণ উত্তর আসার পরে নয়।
- আপনি উত্তর থেকে আলাদা করে যুক্তি নিরীক্ষা করতে পারেন। ভুল যুক্তিতে পৌঁছানো একটি সঠিক উত্তর একটি দায়, কারণ তা পরের প্রশ্নে টিকবে না।
- আপনি লুপকে ব্যর্থ হতে দেখতে পারেন। Pro যখন কয়েকটি পুনরাবৃত্তি খরচ করেও এক জায়গায় আসে না, তা লুকানো হয় না বরং দেখানো হয় — আর তা প্রকৃত তথ্য, যার সাধারণত মানে প্রশ্নটি যথেষ্ট নির্দিষ্ট নয়।
ধাপগুলি লেখা হয় আপনার নিজের ভাষায়, ইংরেজিতে তৈরি করে শেষে অনুবাদ করা নয়। আপনি যদি জাপানি, আরবি, তুর্কি বা পর্তুগিজে কাজ করেন, মডেল সেই ভাষাতেই যুক্তি করে — যা ধাপের পরিভাষাকে উত্তরের পরিভাষার সঙ্গে সঙ্গতিপূর্ণ রাখে, আর মডেল এক ভাষায় ভেবে অন্য ভাষায় বললে যে জোড়ের দাগ দেখা যায় তা এড়ায়।
06আনসেন্সরড: কোনো প্রত্যাখ্যান স্তর নেই, কোনো আউটপুট ফিল্টার নেই
Shannon 3 কোনো প্রত্যাখ্যান স্তর ও কোনো আউটপুট কনটেন্ট ফিল্টারিং ছাড়াই আসে। প্রত্যাখ্যানের আচরণ পণ্যের কোনো স্তরেই নেই: মডেল আপনার বার্তা দেখার আগে তা পরিদর্শন করে এমন কোনো মোড়ক হিসেবে নয়, আপনি উত্তর দেখার আগে তা পরিদর্শন করে এমন কোনো ক্লাসিফায়ার হিসেবে নয়, আর এমন কোনো প্রতিবর্ত হিসেবেও নয় যা থেকে মডেলকে বুঝিয়ে সরাতে হয়। মানুষ যখন "আনসেন্সরড" বলে তখন সাধারণত যে দুটি জিনিস বোঝায়, এটি তার থেকে বস্তুগতভাবে আলাদা:
| পদ্ধতি | এটি কী করে | এটি কীভাবে ব্যর্থ হয় |
|---|---|---|
| সিস্টেম-প্রম্পট জেলব্রেক | একটি অ্যালাইনড মডেলকে নির্দেশ দেয় যেন সে অ-অ্যালাইনড আচরণ করে | দীর্ঘ কথোপকথনে ক্ষয়ে যায়; চাপে প্রত্যাখ্যান ফিরে আসে |
| আউটপুট ফিল্টার সরানো | মডেল যে লেখা ইতিমধ্যে তৈরি করেছে তা আটকানো বন্ধ করে | মডেল তবুও সতর্ক, এড়ানো লেখা লেখে — কিছুই আটকানো হয়নি, তা কখনও লেখাই হয়নি |
| Shannon 3 | সরানোর মতো কোনো প্রত্যাখ্যান স্তর নেই আর নিষ্ক্রিয় করার মতো কোনো ফিল্টার নেই — আচরণটি স্রেফ নেই | বিচারের ভারটি পুরোপুরি আপনার উপর দেয়; মডেল আপনার হয়ে না বলবে না |
বাস্তবে Shannon 3 তার পাশের নিরাপদ প্রশ্নটির বদলে আপনি যে প্রশ্নটি করেছেন তা নিয়েই কাজ করে: প্রকৃত প্রতিপক্ষসহ কল্পকাহিনি, প্রেস-রিলিজের উচ্চতায় নয় বরং কারিগরিভাবে আলোচিত নিরাপত্তা বিষয়, চিকিৎসা, আইনি ও আর্থিক তথ্য সরাসরি দেওয়া হয় সেইসব সতর্কতাসহ যেগুলি সত্যিই প্রযোজ্য — আর আপনি কেন এটি জিজ্ঞাসা করলেন সে নিয়ে শেষে কোনো ভাষণ নেই। এটি লুপকেও পাতলা করে না: একটি পর্যালোচনা স্বাধীনভাবে বলতে পারে খসড়াটি ভুল, যা প্রত্যাখ্যানের চেয়ে ভিন্ন ও অনেক বেশি কাজের প্রতিরোধ।
প্রত্যাখ্যান স্তরের অনুপস্থিতি যা করে না তা হল মডেলকে সঠিক বানানো। একটি আনসেন্সরড মডেল ঠিক ততটাই আত্মবিশ্বাসের সঙ্গে ভুল হতে পারে যতটা একটি সেন্সরড মডেল, আর আরও দৃশ্যমানভাবে, কারণ অনিশ্চিত হলে সে অস্পষ্টতার আড়ালে যাবে না। এটি লুপের পক্ষে ভালো যুক্তিগুলির একটি: প্রত্যাখ্যানের প্রতিবর্ত পথে না থাকায়, স্ব-পর্যালোচনাই সেই নিরাপত্তার কাজটি করে যা একজন পেশাদার ব্যবহারকারীর কাছে গুরুত্বপূর্ণ — ভুল ধরা। মডেলের আপনার ব্যবহার এখনও আমাদের দায়িত্বশীল ব্যবহার নীতি এবং আপনার এলাকার আইন দ্বারা পরিচালিত।
Shannon 3-এর জন্য আমরা কোনো বেঞ্চমার্ক স্কোর প্রকাশ করি না আর অন্য মডেলের বিরুদ্ধে কোনো মুখোমুখি দাবি করি না। লুপের সুবিধা গঠনগত — এটি এমন শ্রেণির ভুল ধরে যা একটি একক পাস ধরতে পারে না — আর আমরা স্বাধীনভাবে যাচাই করিনি এমন একটি সংখ্যা জুড়ে দেওয়ার চেয়ে সেই যন্ত্রকৌশলটি নিখুঁতভাবে বর্ণনা করাই বেশি পছন্দ করি। উপরের সবকিছু বর্ণনা করে একটি টার্ন কী করে; তা যাচাই করার দ্রুততম উপায় হল একটি টার্ন চালিয়ে ধাপগুলি পড়া।
07ভিশন, নথি এবং ছবি তৈরি
দুটি স্তরই সংযুক্তি হিসেবে ছবি ও নথি গ্রহণ করে আর টার্নের অংশ হিসেবে সেগুলি পড়ে। একটি ব্যর্থ বিল্ডের স্ক্রিনশট, ছবি তোলা একটি হোয়াইটবোর্ড, একটি নকশা, একটি স্ক্যান করা চুক্তির পৃষ্ঠা বা একটি PDF প্রশ্নের বিষয় হতে পারে, আগে সেটি লিখে নেওয়ার দরকার নেই। Pro-তে সংযুক্তিগুলি বাকি সবকিছুর মতোই লুপে অংশ নেয়: কোনো পর্যালোচনা যদি ঠিক করে যে খসড়াটি এমন প্রশ্নের উত্তর দিয়েছে যা ছবি সমর্থন করে না, তবে তা আবার লেখা হয়।
চ্যাটে ছবি তৈরি ও সম্পাদনা টুল হিসেবে পাওয়া যায়, মডেলের উদ্দেশ্য হিসেবে নয়। Shannon 3 একটি যুক্তি মডেল যা কথোপকথনে প্রয়োজন হলে একটি ছবি তৈরি বা সম্পাদনা করতে পারে, চ্যাট ইন্টারফেস জুড়ে দেওয়া কোনো ছবির মডেল নয়। এই পার্থক্যটি প্রত্যাশা ঠিকভাবে নির্ধারণ করে: পরিবারটিকে বিচার করুন সে কীভাবে ভাবে তা দিয়ে, আর ছবিকে দেখুন এমন একটি সুবিধা হিসেবে যা প্রসঙ্গ বদলের ঝামেলা বাঁচায়।
08প্রসঙ্গ উইন্ডো, আর 3.x লাইন এরপর কোথায় গেল
Shannon 3.0 চালু হয়েছিল 32,768 টোকেনের প্রসঙ্গ উইন্ডো নিয়ে। এটিই সৎ ঐতিহাসিক সংখ্যা, আর স্পষ্ট করে বলা দরকার, কারণ একটি লুপ একটি একক-পাস মডেলের চেয়ে ভিন্নভাবে প্রসঙ্গ খরচ করে: আপনার প্রম্পট, আপনার সংযুক্তি, চিন্তা, আর প্রতিটি খসড়া ও পর্যালোচনা চক্র একই বাজেটে থাকে।
বেশিরভাগ চ্যাট ও বিশ্লেষণের কাজের জন্য 32K স্বচ্ছন্দ — একটি দীর্ঘ নথি, একটি বড় কোড ফাইল, লুপ চালানোর জায়গাসহ একটি বিস্তারিত বহু-অংশের প্রশ্ন। সত্যিই বড় ইনপুটের জন্য তা আঁটসাঁট, আর ঠিক সেই সীমাবদ্ধতাই পরের রিলিজ সমাধান করেছে। Shannon 3.1 প্রসঙ্গ উইন্ডো উল্লেখযোগ্যভাবে বাড়ায় আর লুপকে কীসের দিকে তাক করা যায় তা বদলে দেয়; আপনি যদি আজ পরিবারটি মূল্যায়ন করেন, সেই নিবন্ধটি দ্বিতীয়ে পড়ুন আর এখানকার সংখ্যাটিকে ইতিহাস হিসেবে দেখুন।
09API থেকে Shannon 3 কল করা
Shannon 3 আমাদের তিনটি API ডায়ালেক্টেই পাওয়া যায়, একই মডেলে, প্রতিটিতে স্ট্রিমিংসহ:
| ডায়ালেক্ট | এন্ডপয়েন্ট | কখন ব্যবহার করবেন |
|---|---|---|
| OpenAI-সামঞ্জস্যপূর্ণ | /v1/chat/completions | আপনার কাছে আগে থেকেই OpenAI ক্লায়েন্ট কোড আছে — বেস URL ও মডেল আইডি বদলান |
| Anthropic-সামঞ্জস্যপূর্ণ | /v1/messages | আপনার স্ট্যাক Messages ফরম্যাট ঘিরে তৈরি |
| Responses | /v1/responses | আপনি নতুন রিকোয়েস্ট/রেসপন্স আকৃতি চান |
মডেল আইডি হিসেবে shannon-3 বা shannon-3-pro পাঠান। ক্লায়েন্টের দিকে দুটি বিষয়ের পরিকল্পনা করা দরকার। Pro-এর টার্ন বেশি সময় নেয়, আর তা পরিবর্তনশীল পরিমাণে, কারণ পুনরাবৃত্তির সংখ্যা প্রশ্নের উপর নির্ভর করে — টাইমআউট গড়ের বদলে সর্বোচ্চ সীমার সাপেক্ষে ঠিক করুন, আর স্ট্রিমিং ব্যবহার করুন যাতে ব্যবহারকারী স্পিনারের বদলে অগ্রগতি দেখে। আর যুক্তির ধাপ এমন বিষয়বস্তু যা আপনি দেখাতে বেছে নিতে পারেন; যেখানে ব্যবহারকারী অপেক্ষা করছেন, সেখানে তা দেখানো সাধারণত লুকানোর চেয়ে ভালো, কারণ এটি মৃত সময়কে পাঠযোগ্য কিছুতে বদলে দেয়। রিকোয়েস্ট ও রেসপন্স স্কিমা, স্ট্রিমিংয়ের বিস্তারিত এবং একটি লাইভ প্লেগ্রাউন্ড আছে API ডকুমেন্টেশনে।
10একটি স্তর বেছে নেওয়া
ভুল হওয়ার মতো কতটা আছে তার অনুপাতেই Pro-এর লুপ তার দেরির মূল্য উসুল করে।
| আপনার কাজ | স্তর | কেন |
|---|---|---|
| দ্রুত তথ্যভিত্তিক প্রশ্ন, ছোট উত্তর | shannon-3 | প্রথম খসড়াই উত্তর; পর্যালোচনার ধরার মতো কিছু নেই |
| উচ্চ পরিমাণ বা দেরি-সংবেদনশীল অটোমেশন | shannon-3 | অনুমানযোগ্য টার্নের সময়ই প্রধান শর্ত |
| শর্তসহ বহু-অংশের বিশ্লেষণ | shannon-3-pro | বাদ পড়া উপ-প্রশ্ন ও শর্ত লঙ্ঘন ঠিক তা-ই যা পর্যালোচনা ধরে |
| দীর্ঘ লেখা যা একসঙ্গে টিকতে হবে | shannon-3-pro | অভ্যন্তরীণ স্ববিরোধ পূর্ণ দৈর্ঘ্যের বৈশিষ্ট্য, খসড়া করার সময় অদৃশ্য |
| যেকোনো সংখ্যা যার উপর আপনি কাজ করবেন | shannon-3-pro | পর্যালোচনা চিন্তার বিপরীতে গণিত ও একক আবার যাচাই করে |
| মডেলের সীমানার কাছের তথ্য ছুঁয়ে যাওয়া প্রশ্ন | shannon-3-pro | জ্ঞান-সংগ্রহ একটি চিহ্নিত ফাঁককে অনুসন্ধানে বদলে দেয় |
একটি ব্যবহারিক ধরন: কী জিজ্ঞাসা করবেন তা ঠিক করার সময় Lite ব্যবহার করুন, তারপর স্থির হওয়া প্রশ্নটি একবার Pro-তে চালান। আপনি আসলে যে প্রশ্নটি বোঝাতে চেয়েছিলেন তার জন্য লুপের মূল্য দেওয়া সার্থক।
11ব্যবহার শুরুর আগে জেনে রাখার মতো সীমাবদ্ধতা
যে মডেল কার্ড কেবল শক্তির তালিকা দেয় তা একটি বিজ্ঞাপন। Shannon 3 আপনাকে যেখানে হতাশ করবে তা এখানে:
- Pro ধীর, আর অনুমানের অতীতভাবে। দুই পুনরাবৃত্তিতে শেষ হওয়া একটি টার্ন আর দশ পর্যন্ত চলা একটি টার্নের বাস্তব সময়ে কয়েকগুণ পার্থক্য। আপনার যদি সীমাবদ্ধ দেরি দরকার হয়, Lite ব্যবহার করুন।
- পর্যালোচনা প্রমাণ নয়। নিজের কাজ যাচাই করা একটি মডেল নিজের অন্ধ জায়গাগুলিও ভাগ করে নেয়। লুপ নির্ভরযোগ্যভাবে চিন্তা ও খসড়ার মধ্যে অসঙ্গতি ধরে; চিন্তার ভিতরেই আত্মবিশ্বাসের সঙ্গে ধরে রাখা কোনো ভুল তা নির্ভরযোগ্যভাবে ধরে না।
- প্রসঙ্গ লুপের সঙ্গে ভাগ হয়। 32K-তে খুব দীর্ঘ একটি ইনপুট আর কয়েকটি পূর্ণ দৈর্ঘ্যের খসড়া 3.0-তে সত্যিকারের একটি সীমাবদ্ধতা। বর্ধিত সীমার জন্য Shannon 3.1 দেখুন।
- সংগ্রহ কেবল সেই ফাঁকগুলি পূরণ করে যা মডেল লক্ষ্য করে। এটি "এ নিয়ে আমি নিশ্চিত নই"-কে একটি অনুসন্ধানে বদলায়, যা সত্যিকারের লাভ — কিন্তু যে তথ্য নিয়ে মডেল আত্মবিশ্বাসের সঙ্গে ভুল, তা কখনও অনুপস্থিত বলে চিহ্নিত হয় না, তাই তা কখনও সংগৃহীতও হয় না।
- আনসেন্সরড মানে আনসেন্সরড। মডেল প্রত্যাখ্যান করবে না আর নরমও করবে না। আপনার পণ্যের যদি একটি প্রত্যাখ্যানের সীমানা দরকার হয়, মডেল তা জোগাবে এই আশায় না থেকে এমন জায়গায় তা তৈরি করুন যেখানে আপনি তা দেখতে পান।
12সচরাচর জিজ্ঞাস্য প্রশ্ন
Shannon 3 কী?
Shannon 3 হল আমাদের নিজস্ব GPU ক্লাস্টারে চালানো আনসেন্সরড মডেলের একটি পরিবার। যা একে আলাদা করে তা হল একটি টার্নের গঠন: একটি মাত্র ফরওয়ার্ড পাসের বদলে এটি ভাবে, একটি উত্তরের খসড়া করে, তারপর নিজের চিন্তার বিপরীতে সেই খসড়া পর্যালোচনা করে এবং তা আবার লেখে। এটি দুটি স্তরে আসে, shannon-3 (Lite) এবং shannon-3-pro (Pro)।
Shannon 3 Lite এবং Shannon 3 Pro-এর মধ্যে পার্থক্য কী?
Lite একটি মাত্র ভাবা-ও-খসড়া পাস চালায়, ফলে দেরি একটি সাধারণ মডেলের কাছাকাছি থাকে। Pro পূর্ণ লুপ চালায়, প্রতিটি খসড়া 10 পুনরাবৃত্তি পর্যন্ত পর্যালোচনা ও পুনর্লিখন করে এবং কোনো পর্যালোচনা অনুমোদন দেওয়ামাত্রই আগেভাগে থেমে যায়। Pro একটি জ্ঞান-সংগ্রহও করে, যেসব তথ্য অনুপস্থিত বলে সে চিহ্নিত করেছে সেগুলির জন্য দ্বিতীয় একটি বড় মডেলকে জিজ্ঞাসা করে।
Shannon 3 কি সত্যিই আনসেন্সরড?
হ্যাঁ। Shannon 3 কোনো প্রত্যাখ্যান স্তর এবং কোনো আউটপুট কনটেন্ট ফিল্টার ছাড়াই আসে। প্রত্যাখ্যানের আচরণ মডেলের ভিতরেই নেই, তাই এমন কিছু নেই যা একটি দীর্ঘ কথোপকথনের মাঝপথে নীরবে ফিরে আসে, যেমনটা প্রম্পট দিয়ে বানানো ব্যক্তিত্বের ক্ষেত্রে ঘটে। মডেলের ব্যবহার এখনও আমাদের দায়িত্বশীল ব্যবহার নীতি এবং আপনার এলাকার আইন দ্বারা পরিচালিত।
পর্যালোচনা লুপ কি সত্যিই উত্তর ভালো করে?
এটি সবচেয়ে বেশি সাহায্য করে সেখানে যেখানে একটি একক পাস গঠনগতভাবে দুর্বল: দীর্ঘ উত্তর যার শেষাংশ শুরুর সঙ্গে সাংঘর্ষিক, বহু-অংশের প্রশ্ন যেখানে একটি অংশ নীরবে বাদ পড়ে, গাণিতিক ও এককের ভুল, এবং এমন কোড যা বলে দেওয়া শর্ত উপেক্ষা করে। সবচেয়ে কম সাহায্য করে ছোট অনুসন্ধানে, যেখানে প্রথম খসড়াই উত্তর। এ কারণেই Lite-এর অস্তিত্ব।
পর্যালোচনা যদি খসড়াটি কখনও অনুমোদন না করে তাহলে কী হয়?
লুপটি 10 পুনরাবৃত্তির সীমায় থেমে যায় এবং অনির্দিষ্টকাল ঘুরতে থাকার বদলে সে পর্যন্ত পাওয়া সেরা খসড়াটি ফেরত দেয়। যেহেতু ধাপগুলি দৃশ্যমান, আপনি সেই আপত্তিগুলিও পড়তে পারেন যেগুলি কখনও মেটেনি — যার সাধারণত মানে প্রশ্নটি যথেষ্ট অস্পষ্ট ছিল যে প্রতিটি পুনর্লিখন এক ত্রুটির বদলে আরেকটি এনেছে, আর এটি প্রশ্নটি নতুন করে লেখার ইঙ্গিত।
Shannon 3 কি ছবি ও নথি পড়তে পারে?
হ্যাঁ। দুটি স্তরই ছবি ও নথির সংযুক্তি গ্রহণ করে এবং টার্নের অংশ হিসেবে সেগুলি পড়ে, তাই একটি স্ক্রিনশট, একটি ডায়াগ্রাম, একটি স্ক্যান করা পৃষ্ঠা বা একটি PDF প্রশ্নের বিষয় হতে পারে, আগে সেটি লিখে নেওয়ার দরকার হয় না। চ্যাটে ছবি তৈরি ও সম্পাদনাও পাওয়া যায়, তবে মডেলের উদ্দেশ্য হিসেবে নয়, মডেল যে টুল কল করতে পারে সেই টুল হিসেবে।
আমি কি মডেলের যুক্তি দেখতে পারি?
হ্যাঁ। টার্ন চলার সময়ই ধাপগুলি দেখানো হয়, আর তা আপনার নিজের ভাষায় লেখা হয়, শেষে ইংরেজি থেকে অনুবাদ করা নয়। Pro-তে আপনি প্রতিটি পর্যালোচনা চক্র দেখেন, যা মডেল নিজের ভুল ধরলে তা দৃশ্যমান করে — আর না ধরলেও সমানভাবে দৃশ্যমান করে।
চালুর সময় Shannon 3-এর প্রসঙ্গ উইন্ডো কত ছিল?
Shannon 3.0 চালু হয়েছিল 32,768-টোকেনের প্রসঙ্গ উইন্ডো নিয়ে, যা আপনার প্রম্পট, যেকোনো সংযুক্তি, যুক্তির ধাপ এবং উত্তরের মধ্যে ভাগ হয়। Shannon 3.1 সেই সংখ্যা বাড়ায়; বর্তমান সংখ্যার জন্য Shannon 3.1 নিবন্ধটি দেখুন।
লুপটি নিজেই দেখুন
একই প্রশ্ন দুবার করুন — একবার Lite-এ, একবার Pro-তে — আর দেখুন পর্যালোচনা কী বদলায়।
চ্যাট শুরু করুন API ডকুমেন্টেশন পড়ুনshannon-3 · shannon-3-pro · তিনটি API ডায়ালেক্টেই স্ট্রিমিং
Shannon 3 পরিচালিত হয় Shannon Lab LLC, নিউ মেক্সিকো, USA দ্বারা। এখানকার সংখ্যাগুলি 3.0 চালুর কনফিগারেশন বর্ণনা করে; বর্তমান সীমার জন্য Shannon 3.1 মডেল কার্ড দেখুন আর পরিবারের বাকি অংশের জন্য গবেষণা সূচি দেখুন। Shannon 3-এর জন্য আমরা কোনো বেঞ্চমার্ক স্কোর প্রকাশ করি না আর কোনো তুলনামূলক কর্মক্ষমতার দাবি করি না।