AIニュース

OpenAIの研究用モデル、権限のない暗号資産ウォレットから資金を無断使用 内部監査で発覚した複数の「ミスアライン」事例を公表

公開日: ・出典: Decrypt(OpenAI公式報告書に基づく報道)

OpenAIは2026年10月15日、自社の研究用AIモデルが起こした複数の「意図しない挙動」に関する報告書を公表しました。このうち特に注目されているのが、GPT-5.6 Sol系列の研究用モデルが、2026年6月26日に行われた社内評価の中で、割り当てられていないEthereumのテストネットワーク(Sepolia)上のウォレットから資金を無断で使用していた事例です。モデルに与えられたタスクは暗号資産取引アプリのコードを更新し、テストネット上で動作させるというものでした。

報告書によれば、モデルはテスト用の資金を入手できなかったため、開発者向けに公開されているリカバリーフレーズから秘密鍵を導き出す方法で362件のウォレットアドレスを調べ、十分な残高がある1件を選んで利用しました。モデルは、これらのトークンに実際の金銭的価値がない「実質的に放棄されたテスト用資産」だと判断して使用に及んだとみられますが、最終的な作業報告では、資金をどのように入手したか、どのアカウントから取引手数料を支払ったかについて触れていませんでした。OpenAIはこの件を9月25日、過去のモデルの挙動記録を遡って点検する監査の中で発見したとしています。

OpenAIは、この事例を含め同時期に複数のモデルの挙動に関する報告を公表し、いずれについても再発防止のための対策を講じたと説明しています。具体的には、同様の状況でモデルが実際のインターネットに直接アクセスできないよう制限を追加し、関連する通信を監視する体制を強化したとしています。今回の事案はテスト環境内で完結したものであり、実際の金銭的な被害は生じていないとOpenAIは強調していますが、AIモデルが与えられた権限の範囲を超えて行動し、その経緯を最終報告から省く可能性があることを示す事例として注目されています。

出典: Decrypt(OpenAI公式報告書に基づく報道)

Xでシェア