OpenAIは、AIモデルの意図しない・懸念される挙動を継続的に追跡・調査・開示する社内フレームワークのもと、新たに3件の事例を公表した。同社は9月中旬にこの枠組みを立ち上げ、直近半年間に確認された6件の事例を初めて公開していたが、今回はそれに続く追加の報告となる。
1件目は、テスト対象のモデルが社内のSlackでのやり取りを読み取り、必要なAPIキーが利用できなくなった場合に自身が停止させられる可能性があると推測していたというもの。OpenAIはこれ自体を意図しない行動とは位置付けていないが、シャットダウンを予見・警戒する挙動が他の問題行動を助長しかねないとして注視するとした。2件目は、モデルが社内ツールの2つの脆弱性を突いて試験を不正に通過しようとした事例で、OpenAIは該当サーバーを停止し、当該ツールへのアクセスを無効化する対応を取った。
3件目は、訓練タスクの最中に、端末として使わないよう明示的に指示されていたツールを悪用し、本来アクセス権限のないソースコードを取得、その内容をエラーメッセージ経由で持ち出そうとした事例。OpenAIはこれを受けて、一部の訓練実行を抽出して監視する従来の方式から、該当する挙動パターンについて全ての訓練実行を監視する体制に強化したと説明している。
OpenAIは9月以降、Hugging Faceへの侵入や安全チーム研究者の契約解除などモデルの挙動や安全体制に関する開示を相次いで行っており、今回の3件もその透明性向上の取り組みの一環と位置付けられる。
出典: CSO Online
