OpenAIは9月9日、米商務省傘下でAIの試験・評価を担う「AI基準・イノベーションセンター(CAISI)」のシニア技術顧問を務めるポール・クリスチアーノ氏を、傘下の非営利団体「OpenAI Foundation」の理事会メンバーに招聘したと発表しました。クリスチアーノ氏は理事会内の「安全・セキュリティ委員会」(委員長はゾコ・コルター氏)にも参加するほか、営利事業体であるOpenAI Group PBCの取締役会には議決権を持たないオブザーバーとして関与します。
クリスチアーノ氏は2017年から2021年までOpenAIに在籍し、アライメント研究を主導。人間のフィードバックからの強化学習(RLHF)の基礎となる研究に携わった人物として知られています。退社後はアライメント研究センター(ARC)を設立し、現在はCAISIでフロンティアAIの安全性・セキュリティに関する助言を行っています。
OpenAI Foundationは、営利法人OpenAI Group PBCの支配株主として約26%の株式(直近の資本再編後の評価額でおよそ1300億ドル相当)を保有する非営利団体です。今回の招聘は、フロンティアAI開発企業が能力の高まるモデルを制御できるのかという懸念が業界内で高まる中で行われました。
出典: OpenAI
