光進銅退還是光銅並進？獨家解析輝達 GTC 2026！震撼全整理！AI算力暴增一萬倍，揭露「五層架構

🏭 AI 产业阶段转型与五层架构

• 产业阶段转变：人工智能已从第一阶段以训练为主的模式，进入第二阶段以推论为主的模式。这意味着云端服务供应商需开始关注盈利，而通用图形处理器（GPU）在提升推论运算效能上存在局限，需引入专用加速器。
• 五层蛋糕架构：
• 第一层：能源。
• 第二层：晶片。
• 第三层：基础设施。
• 前三层共同构成“人工智慧工厂”。
• 第四层：模型，即通过资料输入电脑找出规则建立的模型。
• 第五层：应用，包括聊天机器人、数位生物学、自动驾驶、企业 AI 代理、科学应用、机器人制造及 AI 程式撰写。
• 统一计算架构：强调 CUDA 软体框架、安装基础及开发者生态系，该回圈在业界已快速运转 20 年。

💰 推论效能与营收驱动模型

• 运算量增长：2023 年深层式 AI 运算量为基准 1；2024 年推理型 AI 使模型和情境运算增加 10 倍，Token 运算增加 10 倍，总运算量增加 100 倍。
• 业绩预测：GTC 2025 业绩（2025-2026 年）为 0.5 兆美元；GTC 2026 业绩（2025-2027 年）预计达 1 兆美元。其中 60% 来自大型云端服务供应商，40% 来自辉达云端伙伴、主权云端设施及工业应用。
• 浮原成本革新：
• GB300 伺服器每瓦效能比 H200 增加 50 倍。
• GB300 的浮原成本比 H200 减少 35 倍。
• Semi-Ansis 评测显示，辉达平台被称为“推论之王”（King of InferenceMax）。
• 营收对比：
• 使用 Blackwell 平台，年度总营收约 300 亿美金。
• 导入 Rubin 平台，年度总营收可达 1500 亿美金，增加 5 倍。
• 导入 Rubin GPU 加上 Grok LPU 解决方案，年度总收入可达 3000 亿美金，比 Blackwell 增加 10 倍。
• 使用者层级影响：针对超级使用者（进行更复杂运算且愿付更高费用），Blackwell 的运算量趋近于零，而 Rubin + Grok LPU 方案仍能保持良好营收，运算量可增加高达 35 倍。

🧠 语言处理器（LPU）与推论加速

• LPU 定义与角色：Grok 语言处理器（LPU）是专为 AI 推论运算设计的加速器，旨在提升推论效能，协助云端服务供应商提升业绩。
• 推论流程：
• 预填阶段（Prefill）：处理输入或辨识使用者提示（Prompt）。
• 解码阶段（Decode）：生成输出或计算 Token 数量。
• 辉达使用 NVIDIA Dynamo 进行推论加速，包含 KV Cache（键值快取）及 Activation（激励）处理。
• LPU 技术规格：
• Grok 3 LPU 晶片含有 500MB 静态随机存取记忆体（SRAM），直接整合在晶片上。
• 提供每秒 150TB 的 SRAM 频宽，每秒 1.2 千兆次浮点运算，含 981 亿个电晶体。
• LPX 伺服器包含 8 个 LPU、1 个 CPU、BlueField 4 DPU 及 LPU C-to-C 连接器。
• LPX 伺服器提供每秒 315 千兆次浮点运算，128GB SRAM，每秒 40 千兆次记忆体频宽。
• 向上扩展的 LPU 总共有 256 个晶片，提供每秒 640TB 的向上扩展记忆体频宽。
• GPU 与 LPU 差异：
• Rubin GPU 使用两个晶片整合，提供 288GB HBM，每秒 22TB 频宽，每秒 50 千兆次浮点运算，含 3360 亿个电晶体。
• LPU 晶片面积较小，成本较低，适合推论加速。

🏗️ 人工智慧工厂演进与硬件架构

• 历史演进：
• 10 年前推出 P100 GPU，8 个 GPU 经 NVLink 1 串接，每秒 170 兆次浮点运算。
• 后续推出 V100、A100、Hopper、Blackwell 系列，分别搭配 NVLink 2、3、4、5 及 ConnectX 系列网卡。
• 过去 10 年推出 6 代产品，运算力增加 4000 万倍。
• Rubin 世代架构：
• 包含 Rubin GPU、Vera CPU、NVLink 交换晶片、ConnectX 9 Smart NIC、BlueField 4 DPU、Spectrum X 以太网路交换晶片及 Grok 3 LPU，共 7 个晶片。
• 形成“人工智慧运算重集”，包含 Vera Rubin 运算托盘、NVLink 交换托盘、Vera 运算托盘、BlueField 4 STX 伺服器、Spectrum X 交换机及 Grok 3 LPX 运算托盘。
• 整个系统包含 30 万个 GPU，提供每秒 160 亿兆次浮点运算，每秒 260 兆次记忆体频宽，每秒 100 百万兆次记忆体频宽，每秒 7 亿次浮原运算。
• Kyber 刀锋伺服器：
• Rubin Ultra 运算节点使用 Kyber 机架，为垂直式伺服器结构，提供更高密度。
• Rubin Ultra NVL576 预计于 2027 年下半年推出。
• NVLink 6 交换器晶片设计给 Kyber 刀锋伺服器架构使用。

🌐 生态系合作与开放模型

• 结构化与非结构化资料：
• 结构化资料：辉达开发 QDF（CUDA DataFrame），利用开源引擎处理，建立 1200 亿美元结构化资料生态系。
• 非结构化资料：辉达开发向量搜寻，处理每年 100 阶位元组（10 亿兆位元组）的非结构化资料。
• 企业合作案例：
• 雀巢（Nestlé）与 IBM、辉达合作，处理资料成本降低 83%。
• NTT Data 使用辉达 AI 数据平台，处理速度增加 3 倍。
• Snapchat 与辉达、Google Cloud 合作，处理大量数据成本降低 76%。
• 辉达与 Google Cloud、AWS、Microsoft Azure、Oracle、Dell、Lenovo 等合作，建立 AI 平台及软体工具。
• 开放模型生态系：
• 辉达提供 BioNemo、S2、Nemotron、Cosmos、Groot、Alpamayo 等开源 AI 软体。
• Nemotron 3 Super 在 OpenCloud 最佳开源模型中排名第四，在峰值吞吐量、多任务语言理解、代码生成、数学运算、知识广度等评比中领先 GLM 和 Kimi K2。
• 辉达宣布全球 AI 领导者加入 NVIDIA Nemotron 联盟，推动主权 AI 及开放前沿模型。

🤖 应用扩展与未来展望

• 应用全面扩展：包括自动驾驶、财务服务、健康管理、生命服务、工业应用、媒体娱乐、量子运算、消费零售、机器人及通讯设备。
• OpenCloud 与 AI 代理：
• OpenCloud 在 2026 年迅速超越其他工具，代表 AI 推论及 AI 代理的重要性。
• 辉达推出 AI 代理新运算平台，包含工具、电脑使用、档案资料、多模型提示记忆体、大型语言模型及次代理。
• 辉达发布 NVIDIA Nemo Cloud，参考 OpenCloud，结合 Dynamo 推论作业系统及 MIM 最佳化推论。
• 太空应用：辉达 Vera Rubin 运算模组通过太空规格验证，型号为 NVIDIA Space One，通过外太空辐射测试，为未来将 AI 数据中心置于外太空做准备。
• 机器人解决方案：辉达提供人型机器人、工具机器人及自动驾驶应用解决方案，使用 GB300 AI 工厂进行训练，RTX Pro 进行模拟，SOR 处理器进行推论。