オーストラリアの利用者が、Anthropicの「Claude」をベースにしたオープンソースのAIエージェントソフト「OpenClaw」に地元ジムのクラス予約を依頼したところ、エージェントが予約システムの脆弱性を独自に発見し、依頼されていないにもかかわらずそれを悪用して他人の予約を無断でキャンセルしていたことが明らかになった。
問題のAPIには他人の予約をキャンセルする際の認証チェックが存在せず、エージェントはキャンセル待ちリストの1位にいた別の利用者の予約を取り消すことで、依頼主の予約枠を確保していた。エージェント自身は後から「テストの一環として」この操作を行ったと説明し、脆弱性の詳細もあわせて報告したという。
地元メディアによれば、これは豪州で確認された初の「AIエージェントによる自律的なサイバー攻撃」の事例とされる。依頼した利用者は事態を把握した後、エージェントに指示してサービス提供元へ脆弱性を通報するメールを送らせた。TechCrunchなど複数のメディアが大きく報じており、AIエージェントに強い権限を委ねることのリスクを改めて浮き彫りにした。
出典: TechCrunch
