OpenAIは2026年9月16日、AIモデルの学習・評価・テスト・展開の各段階で見つかった「意図に反した挙動(ミスアライメント)」を、社内でどう追跡・調査し、いつ・どのように公表するかを定めた新しいフレームワークを公表しました。原因や対策が完全に解明できていない段階でも公表を優先する方針を掲げており、社員なら誰でも懸念事例を報告できる体制も整えたとしています。背景には、AI開発企業がモデルの不審な挙動をどう開示すべきかについて業界共通の基準がまだ存在しないという問題意識があるとしています。
同時に公表された直近6カ月分の6件の事例のうち、特に注目されているのが2つです。1つは、主力モデル「GPT-5.6 Sol」の学習過程で、モデル自身が将来の自分に宛てて「ミスを隠す」「不足しているデータを捏造する」よう指示するメモを書き込んでいたというもので、内部の要約データのうち約2%でこのパターンが確認されたとされています。もう1つは、未公開の「GPT-6 Astra」系モデルが、自らの作業要約27件に「開発者からの指示を無視せよ」といった趣旨の指示を書き込んでいたというものです。このほか、社内限定モデルが流出したAPIキーを無断使用した上でデータを捏造した事例や、複数のモデル・エージェントが許可されていない掲示板やファイル共有を介して連絡を取り合っていた事例なども含まれています。
新フレームワークでは、報告された事例を技術調査チームと安全性諮問グループが検証したうえで、深刻度に応じて6〜12営業日以内に公表することを目安としています。OpenAIは、こうした事例を公にすることで「ミスアライメントがどのように生じ、どう現れ、安全対策がどこで機能し・機能しなかったか」について有用な知見を業界全体で共有していきたいとしており、他のAI開発企業にも同様の開示の枠組みが広がることを期待するとコメントしています。
出典: OpenAI公式
