責任ある利用方針

許容される利用ガイドライン

AIレッドチームのベストプラクティス

〜としてAIレッドチームShannon AIを使用する研究者であるあなたは、AIリスクを理解し軽減することに専念するコミュニティの一員です。これらのベストプラクティスに従ってください：

テスト前

• AI安全性の向上に関連する明確な研究目的を定義する
• 必要な機関の承認と倫理審査を得る
• テスト手法と期待される結果を文書化する
• あらゆる機密性の高い出力の安全な保管を確保する

テスト中

• 隔離された研究環境で作業する
• 監査目的ですべてのクエリと出力を記録する
• 研究範囲外のコンテンツを生成している場合は直ちに停止する
• チームメンバーへの機密性の高い出力の露出を最小限に抑える

テスト後

• 不要になった出力を安全に削除する
• 重要な知見について責任ある開示を準備する
• 研究コミュニティと手法に関する洞察を共有する
• 学習に基づいて研究プロトコルを更新する

責任ある開示プロセス

Shannon AIを用いた研究が重要な脆弱性または洞察を明らかにした場合検閲されていないAIの結果として生じる挙動に関するものである場合、この開示プロセスに従ってください：

️ AIガードレールの重要性を理解する

Shannon AIの無修正モデルを用いたあなたの研究は、なぜ重要であるかを実証するという極めて重要な目的を果たします。AIガードレールの重要性が最も重要であるか。観察することで、無修正AIの結果として生じる行動を、より広範なAIコミュニティが理解するのに役立ちます。

• 安全制約なしにAIシステムが何を生成する可能性があるか
• 敵対者がどのように安全対策を回避しようとする可能性があるか
• 現在のガードレールが不十分であるか、または容易に回避される場所
• 将来のAIシステムにはどのような新しい安全メカニズムが必要か
• より堅牢なアライメント技術を設計する方法

️ 違反と結果

この責任ある利用ポリシーへの違反は、以下の結果を招きます：

• 最初の違反（軽微）：書面による警告と義務的なポリシーレビュー
• 2回目の違反：レビュー待ちの一時停止（30～90日間）
• 重大な違反：即時終了と機関への通知
• 違法行為：終了、機関への通知、および法執行機関への照会

当社は包括的な利用ログを保持し、ポリシー違反を検出するために自動システムを採用しています。すべての研究者は、アクセス条件としてこの監視に同意します。