NVIDIA 推 Nemotron 3.5 Super VL，1200億參數可在 DGX Spark 本機執行

健康 國際 地方 蒐奇 影音 財經 娛樂 汽車 時尚 體育 3 C 評論 藝文 玩咖 食譜 地產 專區 TAIPEI TIMES 求職

NVIDIA於 10月15日發表開放權重多模態模型 Nemotron 3.5 Super VL，總參數達1200億，每次推論約啟用120億參數，支援最高100萬 token 上下文，主打長時間執行的 AI 代理與企業自動化工作。這款模型可處理文字、圖片、文件及影片內容，並具備推理、程式開發與工具呼叫能力。NVIDIA 同時推出較小型的 Nemotron 3.5 Bolt 系列，讓部分 AI 代理任務能直接在配備24GB記憶體的本機設備上執行。

Nemotron 3.5 Super VL 完整名稱為 NVIDIA-Nemotron-3.5-Super-VL-120B-A12B，採用混合專家（MoE）架構，結合 Mamba-2、Transformer 注意力層與 C-RADIO 視覺編碼器。模型以 Nemotron 3 Super 為基礎，並透過規模更大的 Nemotron 3 Ultra 進行知識蒸餾，在減少推論運算量的同時保留複雜任務處理能力。官方將其定位於需要反覆讀取資料、分析文件及操作工具的長程代理工作。

這款模型除了能閱讀一般文字，也能辨識文件中的表格、圖表及影像資訊，影片則透過擷取影格進行分析，支援最長約2分鐘的影片輸入，結果以文字形式輸出。企業可將它用於財務文件審查、搜尋與資料分析，或讓代理根據文件內容執行後續操作。最高100萬 token 的上下文可容納較長的對話、工具執行紀錄與大量文件，但實際可用長度仍取決於部署設備的記憶體與並行設定。

效能方面，第三方評測機構 Artificial Analysis 公布的 Intelligence Index 顯示，Nemotron 3.5 Super VL 取得26.5分，超越 NVIDIA 先前的 Nemotron 3 Ultra，成為該機構當時評分最高的美國開放權重模型。不過，全球開放權重模型的評比中，部分中國與阿拉伯聯合大公國模型仍取得更高成績。

推論速度則是另一項特色。Artificial Analysis 在預發布的 DeepInfra 端點測試 NVFP4 量化版本時，於10萬 token 輸入條件下測得約每秒630個輸出 token，約為同場比較的 Inkling Small 五倍，也高於 Nemotron 3 Ultra 的每秒235個 token。這項結果反映特定部署環境的效能，並非所有硬體配置都能達到相同速度。

NVIDIA 已在 Hugging Face 公開 BF16 與 NVFP4 版本的模型權重，採 OpenMDW-1.1 授權。BF16 版本的模型檔案規模超過230GB，量化後的 NVFP4 版本則縮減至約70GB，降低了本機部署所需的記憶體容量。根據官方模型卡，NVFP4 版本可使用單台 DGX Spark、單張 H200、兩張 H100 或一張 GB200 執行，並提供對應的 vLLM 部署設定。其中 DGX Spark 的官方範例以文字與圖片輸入為主，影片處理則另有其他硬體配置。

推論軟體方面，Super VL 支援 vLLM、SGLang 與 TensorRT-LLM，並針對 NVIDIA Hopper、Blackwell 等 GPU 架構最佳化。模型也加入 Multi-Token Prediction（MTP）機制，可預測多個後續 token，再透過驗證加速生成。開發者除了直接部署模型，也能使用 NVIDIA NeMo 進行後訓練，將企業資料、工具及工作流程整合進代理系統。

NVIDIA 表示，已有企業開始針對特定用途客製化 Super VL。Scale AI 曾將模型用於 Skydance 的供應商信用財務代理，以及 EY 的併購盡職調查工作；Ramp、AI21、CrowdStrike 等業者也投入金融文件分析或資安相關應用。部分案例宣稱透過後訓練改善準確率、推論成本與延遲，但相關成果仍須依個別工作負載與測試條件解讀。

與 Super VL 同場推出的 Nemotron 3.5 Bolt，則將重點放在本機運行。首款 Bolt 74B-A9B 擁有740億總參數、啟用約90億參數，透過模型壓縮與2位元量化，將記憶體需求控制在24GB左右，可在 NVIDIA RTX、DGX Spark 等設備上處理程式開發、資料查詢及其他日常代理工作。Artificial Analysis 給予這款模型約21.4分的 Intelligence Index 成績，與參數規模更大的 Nemotron 3 Ultra 相差約1.5分。

NVIDIA 另預告推出僅需約4GB記憶體的 Bolt E4B，主要面向本機對話、互動式代理及嵌入式設備，預計10月23日開放。Super VL 與 Bolt 74B-A9B 已可透過 Hugging Face 取得，其中 Super VL 也提供 NVIDIA NIM 及託管推論管道；Bolt 74B-A9B 則支援 llama.cpp、Ollama、LM Studio、Unsloth 與 vLLM 等本機部署工具。

不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法

自由爆新聞》台北中間選民挺誰？街訪全說了！名嘴看「黃安合體」開嗆

震撼彈！張秀卿自爆離婚嫩尪3年 扛3400萬鉅債怒斥：陷我於不義

斷交多年頻來台！巴拿馬媒體揭3大經濟實力太香了 點名1台企超猛

「靠牆半蹲」也能降血壓！6步驟這樣做 研究曝4週見效

新聞360》中共戰狼嗆動武輕易取勝遭菲律賓狠K！學者曝「落漆真相」：北京拿石頭砸自己的腳

一貫道4道親長住中國遭逮捕 羅文嘉：風險升級「快回台」

台積電德州新廠砸3.8兆？魏哲家證實派人勘查 美媒揭神祕選址

自由說新聞》習近平開嗆自爆「有人跳船」！中共內幕流出恐驚變？

券商App改版「買賣鈕」互換！一票股民手誤「賣台積電」氣炸

中職》台灣大賽前夕「任意引退」 味全龍左投曝原因