OpenAIとAnthropicの双方で事前学習(プリトレーニング)の研究に携わってきたJacob Coxon氏は、Anthropicを退社したことを公表し、AI業界が十分な安全策を整える前に自己改良型の「超知能」開発へと突き進んでいる現状を「命を賭けたギャンブルだ」と批判しました。The Washington Postなどの報道によれば、Coxon氏はこのままでは今年度末までにも制御不能な状況に陥りかねないとの見方を示しているといいます。
この主張には、Anthropic社内からも一定の反応がありました。同社でアライメント・サイエンスを率いるEvan Hubinger氏や、スケーラブル・オーバーサイトを担当するSamuel Marks氏ら現職の研究者が、Coxon氏の主張の一部に同調する見解を示したと報じられています。
これとは別に、2023年から同社の技術スタッフを務めてきたMrinank Sharma氏も、月曜日付けの社内向け公開書簡で退社を発表しました。Sharma氏は「ここでやりたかったことは達成した」と述べたとされ、一連の動きはAnthropic内部でAIの安全性を巡る意見の隔たりが顕在化しつつあることをうかがわせます。
