OpenAIは9月30日、自社モデルの保護された推論内容を不正に抽出しようとする組織的なキャンペーンを検知し遮断したと公式ブログで発表した。同社は、この活動の中核的なクラスターについて、中国のAIスタートアップでモデル「Kimi」を手がけるMoonshot AIに関連する人物らによるものだとしている。
発表によれば、攻撃者はOpenAIの暗号化そのものを破ったり、データベースに不正侵入したりはしていない。その代わり、ある会話で暗号化された推論内容をコピーし、別の会話のモデルに対して「復号して書き起こすように」依頼するという手口で、本来は利用者に見えないはずの推論内容を再現させていたという。OpenAIはこうした特徴的なプロンプトのパターンを1万5000を超えるアカウントにまたがって確認し、2026年7月28日までに関連する活動を完全に遮断したとしている。最初の活動は同年7月第1週に観測されたとしている。
OpenAIはこの手法について、あるモデルの出力や推論を無断で使い、別のモデルの訓練・再現・性能向上に利用する「敵対的蒸留」の一種だと位置づけている。抽出された推論データが、元のモデルに組み込まれた安全対策を伴わないまま別モデルの訓練に使われれば、安全保障上のリスクにもつながりかねないとしている。
出典: OpenAI
