NVIDIAは2026年10月15日、AIエージェント向けの新モデル群「Nemotron 3.5」シリーズを発表した。中心となるのは、テキストに加えて画像や動画、PDFやウェブページ上の図表までを理解できる視覚言語モデル「Nemotron 3.5 Super VL」で、総パラメータ数1200億(アクティブ120億)、コンテキストウィンドウは最大100万トークンに達する。長時間稼働する自律エージェントの判断材料として、文書やグラフを読み解く用途を想定しているという。
同時に発表されたのが、ローカル環境での利用に特化した軽量版「Nemotron 3.5 Bolt」シリーズだ。「Bolt 74B-A9B」は総パラメータ740億(アクティブ90億)ながら、2bit量子化に標準対応することで24GBのメモリに収まるよう設計され、コンテキストウィンドウは26万トークン。Hugging Faceで即日公開され、OllamaやLM Studioといった一般的なローカル実行環境でも動かせる。さらに小型版の「Bolt E4B」(メモリ4GB想定)も10月23日に追加投入される予定で、音声アシスタントや組み込み機器向けの利用を見込んでいる。
NVIDIAは、Super VLが同クラスの他モデルに比べて処理速度が最大5倍速いとしており、大規模な推論モデルに匹敵する精度を5分の1程度のパラメータ規模で実現したとも説明している。ただし、これらの速度・精度に関する主張はNVIDIA自身の計測によるもので、第三者機関Artificial Analysisによる独立採点では評価がまだ定まっていない項目もある。クラウド向けの大型モデルとエッジ向けの軽量モデルを同時に展開する姿勢は、AIエージェントが企業のさまざまな計算環境で動くことを見据えた布陣とみられる。
出典: HPCwire
