
(中央社記者張欣瑜舊金山16日專電)AI基礎設施峰會在矽谷舉行,科技巨頭聚焦產業瓶頸。任職Google的圖靈獎得主派特森指出第一大瓶頸是記憶體,「我們確實可能進入以記憶體為中心的時代」。英特爾執行長陳立武則表示,明年情況會更加嚴峻。
AI基礎設施峰會(AI Infra Summit)15至17日在矽谷舉行。台廠世芯、晶心科、華擎、創意、宜鼎、神達、華邦電等多家業者參展,橫跨客製化晶片設計、處理器矽智財、AI伺服器、記憶體及儲存等領域,反映台灣在AI基礎設施供應鏈中的關鍵地位。
峰會期間,科技巨頭包括超大規模資料中心與雲端服務業者Google、亞馬遜(Amazon)旗下AWS、Meta,及晶片業者輝達(NVIDIA)、英特爾(Intel)、高通(Qualcomm)談話聚焦產業技術和挑戰。整體而言,記憶體、電力、互連技術為3大重點。
陳立武談記憶體荒:明年的情況將會更加嚴重
Google傑出工程師、圖靈獎得主派特森(Dave Patterson)在對談中表示,首要瓶頸是記憶體,「我們確實有可能正在進入以記憶體為中心(memory-centric)的時代」。
派特森闡述,廠商產能無法滿足市場需求,建造一座晶圓廠又需要數年時間,這不是未來6個月內就能解決的難題。價格暴漲是否會在短期內消失,目前還不明確。
他說,基於記憶體在物料清單中占比攀升,大部分支出流向記憶體,記憶體頻寬可能成為瓶頸,「我們可能正進入一個以記憶體及記憶體導向架構為出發點的時代」。
陳立武則表示,「明年的情況將會更加嚴重」。
陳立武指出,目前產能受到非常大的限制,許多企業的業務因為無法取得足夠的記憶體而放緩。記憶體價格也上漲許多,漲到原來的5倍、6倍,甚至7倍。生產低階手機或筆記型電腦,情況就會變得很困難,因為不可能讓記憶體占產品成本的70%或80%。
突破AI記憶體牆 業界推HBF、HBC新技術
8月在矽谷舉辦的記憶體與儲存技術大會(Future of Memory and Storage)上,中央社在現場觀察,以SanDisk、SK海力士為主的業者已聚焦在高頻寬快閃記憶體(HBF)技術。這項技術以NAND快閃記憶體為基礎,透過多層堆疊和平行傳輸資料,在保有容量的同時提高傳輸頻寬。
派特森在AI基礎設施峰會表示,HBF可能成為一種具備實用價值的新型記憶體技術,自己正在參與HBF的技術研發。
高通則是提出高頻寬運算(HBC)技術,將低功耗雙倍資料速率記憶體(LPDDR)堆疊在運算晶粒上方,藉由縮短資料傳輸距離,提高AI推論的資料傳輸頻寬與能源效率。
高通資料中心事業負責人皮亞里斯(Tony Pialis)今天指出,「記憶體牆」已成為限制AI發展的瓶頸。由於資料傳輸頻寬不足,大型雲端業者斥資購買的GPU部分時間無法充分運作,持續耗電卻未能創造收益,突破「記憶體牆」成為AI擴展的關鍵。(編輯:張芷瑄)1150917
台灣記憶體廠華邦電參加AI基礎設施峰會。中央社記者張欣瑜舊金山攝 115年9月17日記憶體模組廠宜鼎參加AI基礎設施峰會。中央社記者張欣瑜舊金山攝 115年9月17日記憶體與儲存技術大會(Future of Memory and Storage)上,SanDisk聚焦高頻寬快閃記憶體(HBF)技術開發。圖攝於115年8月6日。中央社記者張欣瑜舊金山攝 115年9月17日
评论 (0)