AI 時事新聞發布 2026 / 10 / 18 · 6 分鐘 · 約 2,896 字

NVIDIA 發布 Nemotron 3.5 Super VL：單卡吞吐量提升 5 倍的 120B 多模態專用代理模型

NVIDIA 釋出 Nemotron 3.5 Super VL，一個 120B 參數、每 token 活化 12B 的混合專家多模態模型，支援長文本、圖像、文件與影像理解，並透過後訓練在企業場景中達到 40x 降低推論成本、10x 降低延遲與 40% 提升準確率。

NEWS

PLAY AI 觀察追蹤模型、產品與平台更新，優先整理官方來源與對一般使用者真正有影響的變化。

本篇內容

NVIDIA 發布 Nemotron 3.5 Super VL：單卡吞吐量提升 5 倍的 120B 多模態專用代理模型

Nemotron 3.5 Super VL 是什麼樣的模型？

NVIDIA Nemotron 3.5 Super VL 是一個開放的 120B 參數混合專家（MoE）多模態模型，每次推論僅激活 12B 參數，結合了推論、工具使用與文字、圖像、文件及影像的理解能力，專為長時間運行的 AI 代理設計。

該模型採用混合 Mamba-Transformer 架構，內建多 token 預測（MTP）與 NVFP4 KV 快取量化技術，並加入視覺編碼器以處理多模態輸入，使代理能讀取文件、解讀應用畫面與分析影片片段。

Nemotron 3.5 Super VL 架構與能力 — 混合專家多模態模型如何整合推理、工具與多模態理解以支援長運行代理

單卡效能如何？與其他開放模型相比有何優勢？

在單一 GPU 上，Nemotron 3.5 Super VL 的代理任務吞吐量可達其他同尺寸開放模型的 5 倍，這意味著在相同硬體下可處理更多請求或使用者。

單 GPU 性能：代理任務吞吐量提升 5 倍 — 在相同硬體下，Nemotron 3.5 Super VL 的處理效能顯著領先同尺寸開放模型

後訓練在企業場景中的實際表現如何？

透過 NVIDIA NeMo 進行後訓練，不同企業已針對特定工作流優化該模型：Scale AI 用於自動化供應商信用處理，聲稱推論成本降低 40x、延遲降低 5x；Ramp 用於將收據圖像轉換為結構化 JSON，期望吞吐量提升 50%、延遲降低 10x；AI21 與 Alice 則用於威脅情報與漏洞分析，準確率提升約 40%。

企業後訓練應用案例 — 透過 NeMo 後訓練，Super VL 在金融、文件與安全領域達成顯著效能提升

在基準測試中，Super VL 的表現如何？

在 CharXiv 圖表推理基準上，Super VL 得分 80.8%，高於 Nemotron 3 Nano Omni 的 63%；加入 Python 代碼解釋後得分可達 84%。在 Hermes Bench 上得分 63.44%，超過 Nemotron 3 Ultra 的 56.33%；在 LangChain 行為評估中得分 87.05%，亦高於 Ultra 的 84.3%。

基準測試表現：Super VL 優於對比模型 — 在多項推理、代碼與代理任務基準上，Super VL 展現參數效率優勢

此外，Super VL 在 10,000 個代碼任務上完成速度可達基準模型的 4 倍，同時保持強大的 SWE-Bench Pro 準確率；在 GDPval 上以 Elo 1190 分數擊敗 Nemotron 3 Super 的 493，並在 SciCode 與 GPQA-diamond 基準上表現更佳。

Super VL 與 Bolt 模型的定位與特色是什麼？

NVIDIA 同時釋出兩個開放模型：Nemotron 3.5 Super VL 為 120B 參數、每 token 活化 12B 的多模態模型，支援多達 1M 個 token 的上下文長度；而 Nemotron 3.5 Bolt 則為其壓縮版，總參數 74B、每 token 活化 9B，設計為在 24GB 記憶體下運行的本地代理任務，上下文長度可達 256K token。

兩模型的權重、訓練資料與食譜皆採用 OpenMDW 1.1 授權，Super VL 可在多 GPU 設備（如 4× H100 或 2× GB200）上以 BF16 精度運行，或在單一 DGX Spark、H200、2× H100 或 1× GB200 上使用 NVFP4 版本；Bolt 則針對工具調用、瀏覽、終端操作與日常編碼輔助等本地代理場景，並已在 Hugging Face 上架，支援 llama.cpp、Ollama、LM Studio、Unsloth 與 vLLM 等推論框架。

Bolt 還有更小的 4B 參數版本，適合 GeForce RTX、Jetson 與 RTX/DGX Spark 等邊緣設備上的實體與對話型代理，預計於 2026 年 10 月 23 日推出。

開發者如何獲得與自訂 Nemotron 3.5 Super VL？

開發者可透過 NVIDIA NeMo 使用自有資料、工具、政策與工作流進行後訓練；模型亦可在 Baseten 平台上透過 Dedicated 或 Model API 取得評估版，並使用 Baseten Loops SDK 進行監督微調與強化學習。

模型為完全開放，權重、資料與訓練食譜皆可取得，允許客製化以適應金融、網路安全、科學實驗、文件智慧與旅遊等專業領域的需求。

資料來源與延伸閱讀

以下來源用於核對本文的技術背景與關鍵事實；產品規格與時效性資訊仍以原始官方頁面最新版本為準。

查看 12 個來源