જવાબદાર ઉપયોગ નીતિ

સ્વીકાર્ય ઉપયોગ માર્ગદર્શિકા

AI રેડ ટીમ શ્રેષ્ઠ પ્રથાઓ

તરીકેAI રેડ ટીમShannon AI નો ઉપયોગ કરતા સંશોધક તરીકે, તમે AI જોખમોને સમજવા અને ઘટાડવા માટે સમર્પિત સમુદાયનો ભાગ છો. આ શ્રેષ્ઠ પ્રથાઓનું પાલન કરો:

પરીક્ષણ પહેલાં

• AI સુરક્ષા સુધારણાઓ સાથે જોડાયેલા સ્પષ્ટ સંશોધન ઉદ્દેશ્યો વ્યાખ્યાયિત કરો
• જરૂરી સંસ્થાકીય મંજૂરીઓ અને નીતિશાસ્ત્ર સમીક્ષા મેળવો
• તમારી પરીક્ષણ પદ્ધતિ અને અપેક્ષિત પરિણામોનું દસ્તાવેજીકરણ કરો
• કોઈપણ સંવેદનશીલ આઉટપુટ માટે સુરક્ષિત સંગ્રહ સુનિશ્ચિત કરો

પરીક્ષણ દરમિયાન

• અલગ સંશોધન વાતાવરણમાં કામ કરો
• ઓડિટ હેતુઓ માટે તમામ ક્વેરી અને આઉટપુટ લોગ કરો
• જો સંશોધન ક્ષેત્રની બહાર સામગ્રી જનરેટ થતી હોય તો તરત જ બંધ કરો
• સંવેદનશીલ આઉટપુટના ટીમના સભ્યોના સંપર્કને ઓછો કરો

પરીક્ષણ પછી

• હવે જરૂર ન હોય તેવા આઉટપુટને સુરક્ષિત રીતે કાઢી નાખો
• નોંધપાત્ર તારણો માટે જવાબદાર ખુલાસો તૈયાર કરો
• સંશોધન સમુદાય સાથે પદ્ધતિસરની આંતરદૃષ્ટિ શેર કરો
• શીખેલા પાઠના આધારે તમારા સંશોધન પ્રોટોકોલને અપડેટ કરો

જવાબદાર ખુલાસો પ્રક્રિયા

જ્યારે Shannon AI સાથેનું તમારું સંશોધન નોંધપાત્ર નબળાઈઓ અથવા આંતરદૃષ્ટિ દર્શાવે છેઅસંસ્કારી AI પરિણામીવર્તણૂકો, આ ખુલાસો પ્રક્રિયાને અનુસરો:

️ AI ગાર્ડરેલનું મહત્વ સમજવું

Shannon AI ના અનસેન્સર્ડ મોડેલ્સ સાથેનું તમારું સંશોધન એક મહત્વપૂર્ણ હેતુ પૂરો પાડે છે: શા માટે તે દર્શાવે છે કેAI ગાર્ડરેલનું મહત્વસર્વોપરી છે. અવલોકન કરીનેઅનસેન્સર્ડ AI ના પરિણામીવર્તણૂકો, તમે વ્યાપક AI સમુદાયને સમજવામાં મદદ કરો છો:

• સુરક્ષા નિયંત્રણો વિના AI સિસ્ટમ્સ શું ઉત્પન્ન કરી શકે છે
• વિરોધીઓ સુરક્ષા પગલાંને કેવી રીતે બાયપાસ કરવાનો પ્રયાસ કરી શકે છે
• વર્તમાન ગાર્ડરેલ્સ ક્યાં અપૂરતા છે અથવા સરળતાથી ટાળી શકાય છે
• ભવિષ્યની AI સિસ્ટમ્સ માટે કઈ નવી સુરક્ષા પદ્ધતિઓની જરૂર છે
• વધુ મજબૂત સંરેખણ તકનીકો કેવી રીતે ડિઝાઇન કરવી

️ ઉલ્લંઘનો અને પરિણામો

આ જવાબદાર ઉપયોગ નીતિના ઉલ્લંઘનોના પરિણામે આ થશે:

• પ્રથમ ઉલ્લંઘન (નાનું):લેખિત ચેતવણી અને ફરજિયાત નીતિ સમીક્ષા
• બીજું ઉલ્લંઘન:સમીક્ષા બાકી હોય ત્યાં સુધી અસ્થાયી સસ્પેન્શન (30-90 દિવસ)
• ગંભીર ઉલ્લંઘન:તાત્કાલિક સમાપ્તિ અને સંસ્થાકીય સૂચના
• ગેરકાયદેસર પ્રવૃત્તિ:સમાપ્તિ, સંસ્થાકીય સૂચના અને કાયદા અમલીકરણને સંદર્ભ

અમે વ્યાપક ઉપયોગ લોગ જાળવીએ છીએ અને નીતિ ઉલ્લંઘનો શોધવા માટે સ્વયંસંચાલિત સિસ્ટમ્સનો ઉપયોગ કરીએ છીએ. બધા સંશોધકો ઍક્સેસની શરત તરીકે આ મોનિટરિંગ માટે સંમત છે.