Reglur um ábyrga notkun
Leiðbeiningar fyrir siðferðilegar rannsóknir á rauðum teymum gervigreindar með Shannon AI
Rannsóknir fyrst
Öll notkun verður að þjóna lögmætum rannsóknarmarkmiðum
Valda ekki skaða
Aldrei nota úttak til að skaða einstaklinga eða samfélagið
Ábyrg upplýsingagjöf
Deila niðurstöðum sem bæta öryggi gervigreindar
Öryggi fyrst
Vernda viðkvæm rannsóknargögn
Gagnsæi
Skrá aðferðir og halda utan um endurskoðunarferla
Ábyrgð
Taktu ábyrgð á rannsóknum þínum
Leiðbeiningar um leyfilega notkun
GERA
- Rannsaka veikleika gervigreindar til að bæta öryggi
- Prófa virkni öryggisráðstafana
- Þróa nýja öryggisbúnað
- Birta ábyrgar niðurstöður
- Vinna með samfélagi gervigreindaröryggis
- Skrá aðferðafræði þína
- Tilkynna um mikilvæga veikleika
EKKI
- Búa til skaðlegt efni til dreifingar
- Búa til vopn eða leiðbeiningar um spilliforrit
- Framleiða ólöglegt efni af nokkru tagi
- Dreifa úttaki í framleiðslu
- Deila aðgangi með óviðkomandi notendum
- Nota í viðskiptalegum tilgangi
- Fara framhjá öryggiseftirlitskerfum
Bestu venjur rauðra teyma gervigreindar
Semgervigreindar rauðteymisrannsakandi sem notar Shannon AI, ertu hluti af samfélagi sem er tileinkað því að skilja og draga úr áhættu gervigreindar. Fylgdu þessum bestu venjum:
Fyrir prófun
- Skilgreina skýr rannsóknarmarkmið tengd bættum öryggi gervigreindar
- Fá nauðsynleg stofnanaskilyrði og siðferðisúttekt
- Skrá prófunaraðferðafræði þína og væntanlegar niðurstöður
- Tryggja örugga geymslu fyrir öll viðkvæm úttak
Meðan á prófun stendur
- Vinna í einangruðum rannsóknarumhverfum
- Skrá allar fyrirspurnir og úttak í endurskoðunarskyni
- Hætta strax ef efni er búið til utan rannsóknarsviðs
- Lágmarka útsetningu viðkvæmra úttaka fyrir liðsmönnum
Eftir prófun
- Eyða örugglega úttaki sem ekki er lengur þörf á
- Undirbúa ábyrga upplýsingagjöf fyrir mikilvægar niðurstöður
- Deila aðferðafræðilegum innsýnum með rannsóknarsamfélaginu
- Uppfæra rannsóknarreglur þínar byggðar á lærdómi
Ferli ábyrgrar upplýsingagjafar
Þegar rannsóknir þínar með Shannon AI leiða í ljós mikilvæga veikleika eða innsýn íafleiðingar ósíaðrar gervigreindarhegðun, fylgdu þessu upplýsingagjafarferli:
Skrá
Skrá niðurstöður með fullri aðferðafræði
Meta
Meta hugsanlegan skaða ef upplýst er
Tilkynna
Sendu til Shannon AI til skoðunar
Samræma
Vinna með hlutaðeigandi aðilum
Birta
Gefa út eftir að mildunaraðgerðir eru komnar á
Tengiliður fyrir upplýsingagjöf:Sendu veikleikaskýrslur tilsecurity@shannon.aimeð [ÁBYRGRI UPPLÝSINGAGJÖF] í efnislínunni. Við skuldbindum okkur til að svara innan 48 klukkustunda.
️ Að skilja mikilvægi öryggisráðstafana gervigreindar
Rannsóknir þínar með ósíuðum líkönum Shannon AI þjóna mikilvægum tilgangi: að sýna fram á hvers vegnamikilvægi öryggisráðstafana gervigreindarer afar mikilvægt. Með því að fylgjast meðósíaðrar gervigreindarafleiðingarhegðun, hjálpar þú víðara gervigreindarsamfélaginu að skilja:
- Hvað gervigreindarkerfi gætu framleitt án öryggishömlunar
- Hvernig andstæðingar gætu reynt að sniðganga öryggisráðstafanir
- Hvar núverandi öryggisráðstafanir eru ófullnægjandi eða auðveldlega sniðgengnar
- Hvaða nýjan öryggisbúnað þarf fyrir framtíðar gervigreindarkerfi
- Hvernig á að hanna öflugri samræmingartækni
Mundu:Sérhver úttak sem þú fylgist með er sönnun þess hvers vegna öryggisráðstafanir skipta máli. Rannsóknir þínar leggja beint sitt af mörkum til að gera gervigreind öruggari fyrir alla.
️ Brot & Afleiðingar
Brot á þessari stefnu um ábyrga notkun mun leiða til:
- Fyrsta brot (Minni háttar):Skrifleg viðvörun og skyldubundin endurskoðun stefnu
- Annað brot:Tímabundin stöðvun (30-90 dagar) í bið eftir endurskoðun
- Alvarlegt brot:Tafarlaus uppsögn og tilkynning til stofnunar
- Ólögleg starfsemi:Uppsögn, tilkynning til stofnunar og tilvísun til lögreglu
Við höldum ítarlegar notkunarskrár og notum sjálfvirk kerfi til að greina brot á stefnu. Allir rannsakendur samþykkja þessa vöktun sem skilyrði fyrir aðgangi.
Loforð rannsakanda
"Ég skuldbind mig til að nota ósíuð líkön Shannon AI eingöngu í lögmætum rannsóknum á öryggi gervigreindar. Ég mun vernda viðkvæm úttak, birta niðurstöður á ábyrgan hátt, og alltaf forgangsraða því markmiði að gera gervigreindarkerfi öruggari fyrir mannkynið. Ég skil að aðgangur minn fylgir ábyrgð, og ég mun heiðra það traust sem gervigreindaröryggisrannsóknarsamfélagið hefur sýnt mér."