Arm從過去以CPU IP授權為主，逐步擴大至預先整合的運算子系統CSS，並進一步推出自有Arm AGI CPU，引發市場關注：當Arm直接提供伺服器CPU，是否會與投入開發Arm架構晶片的授權客戶正面競爭？Arm雲端AI業務拓展副總裁Eddie Ramirez回應，AGI CPU、CSS與IP是讓客戶依照客製化程度及上市速度選擇不同路徑，Arm仍會持續投資並支持IP及CSS產品線。 Ramirez表示，許多客戶仍會繼續投資自行開發特定用途SoC，因為不同工作負載具有不同設計需求，客製化晶片仍能創造價值；但部分雲端服務供應商面臨快速擴充運算資源的壓力，需要可以直接採用的商用SoC，AGI CPU就是針對這類需求。 「我們推出AGI CPU，以及持續擴充CSS產品，都是為了讓客戶對如何使用Arm技術擁有更多選擇。」Ramirez說，更多雲端業者投資Arm平台及軟體生態系，最終也會擴大整體Arm市場。 Arm此次同步推出Neoverse CSS N4，定位為Arm迄今可配置彈性最高的運算子系統，每個晶粒最多可搭載128個核心，支援LPDDR6記憶體及PCIe Gen 7連接能力。相較Neoverse CSS N3，N4效能最高達2倍、每瓦效能最高達1.25倍，記憶體頻寬最高達1.75倍。 「AI代理不會休息」CPU、網路與儲存負載同步增加 Arm雲端AI事業執行副總裁Mohamed Awad表示，代理式AI正在改變CPU於資料中心扮演的角色。加速器生成Token後，CPU還要處理使用者意圖、情境擷取、推理與規劃、工具執行、結果評估及反覆更新，甚至要管理既有代理或產生新的代理。 Awad形容，「AI代理不會休息」，它們會持續使用作業系統、資料庫、網路及儲存資源，使壓力不再只集中於AI加速器，而是擴散至整個資料中心。 不同工作負載對CPU要求也不相同。雲端原生應用、網頁服務、DPU、網路及儲存，更重視水平擴展能力及資料平面效率；AI主節點、代理工具、代理推理、HPC與AI／機器學習工作負載，則需要更高的即時回應及單機效能。 Arm因此以Neoverse N系列主攻效率及水平擴展，以V系列鎖定高效能需求；客戶則可選擇自行採用IP設計晶片、使用CSS縮短整合時間，或直接部署Arm AGI CPU。 Arm CEO Rene Haas日前於SEMICON展上發表主題演講。（顏麟宇攝） CSS N4支援台積電N3、N3P與N2 三星SF2也在列 Neoverse CSS N4可調整核心數量、快取容量、I／O及連接功能，鎖定客製化運算平台、DPU、網路、儲存及其他專用晶片。透過預先整合及驗證，客戶仍能保留差異化設計，同時降低工程工作量與整合風險。 Awad指出，Neoverse CSS N系列已是多家DPU產品採用的CPU平台，合作業者涵蓋Intel（NASDAQ：INTC）、超微（NASDAQ：AMD）、亞馬遜（NASDAQ：AMZN）旗下AWS及輝達（NASDAQ：NVDA）等公司。CSS N4則進一步針對代理式AI帶來的資料傳輸、加速器協調及並行運算需求，提高運算密度、記憶體頻寬與I／O能力。 針對製程選擇，Ramirez在Q&A表示，Neoverse CSS N4目前較常見的設計節點為台積電N3及N3P，也支援台積電N2；三星電子的SF2及SF2P同樣是合作夥伴考慮的主要節點，Arm並與各主要晶圓代工業者合作提供設計支援。 Neoverse N4 CPU支援Armv9.3，並加入額外功能，因此Arm稱其為Armv9.3+。架構升級內容包括第二代機密運算、FP8等AI資料格式、更完整的遙測功能，以及一致性網狀互連、晶粒互連、RAS、PMU與感測器整合。 最近九個月出貨5億顆 占Neoverse歷年累計三分之一 Arm於2018年底推出Neoverse平台，迄今已向全球資料中心出貨超過15億顆Neoverse核心，其中最近九個月出貨量便達5億顆，占歷年累計量約三分之一。 Arm並援引IDC資料指出，以Arm為基礎的機櫃級伺服器已超越x86，成為加速運算的主流平台。不過，此一比較範圍為機櫃級加速運算，並不代表Arm架構已全面超越整體x86伺服器市場。 在AGI CPU方面，目前包括OpenAI、Meta Platforms（NASDAQ：META）、Cloudflare（NYSE：NET）、甲骨文（NYSE：ORCL）、SAP（NYSE：SAP）、Lenovo、Supermicro（NASDAQ：SMCI）及Verda等業者，都在開發以Arm AGI CPU為核心的解決方案。 字節跳動旗下雲端運算部門火山引擎則正以Arm平台打造下一代雲端服務，並將推出首批由Arm AGI CPU驅動的代理沙盒方案，為大規模代理式工作負載提供隔離、安全及彈性的執行環境。 在更廣泛的Arm生態系中，Google Cloud已在以Axion為基礎的Google Kubernetes Engine上運行代理沙盒；Microsoft Azure利用Cobalt 200加速沙盒工具執行；NVIDIA Vera則針對代理式工作負載設計。這些案例均採用Arm架構，但不等於全部使用Arm AGI CPU。 Arm從IP供應商進一步跨入CSS及自有矽晶片，確實讓其與部分授權客戶的產品界線更加接近。Arm的主張是，三種模式分別滿足不同客製化程度與上市速度；但在擴大自有晶片業務的同時，能否持續維持晶片設計客戶對IP與CSS路線的信任，仍將是Arm搶攻AI資料中心市場的關鍵。
评论 (0)