人工智慧不是算不動,而是記不夠!Kioxia AiSAQ技術讓SSD取代DRAM解鎖效能瓶頸!
外来客 • 2026-08-27 01:53:51
声明:本文为对公开内容的摘要整理,
未经本站独立核实,可能与原内容存在出入,不代表本站立场、观点或建议;
观点与版权归原作者及原平台所有。
如涉及版权问题,请联系我们,核实后立即删除。
[ 免责声明 ]
🧠 核心观点与技术定位
- 技术本质:Kioxia 推出的 AiSAQ(All-Storage Approximate Nearest Neighbor Search)技术旨在解决 AI 推论阶段中向量数据库规模扩大导致的 DRAM 容量瓶颈。
- 核心策略:通过全存储近似最近邻搜索,将原本依赖 DRAM 的向量索引和量化向量完全卸载至 SSD,利用 SSD 的大容量和低单价特性取代部分 DRAM 需求。
- 效能目标:在大幅降低 DRAM 使用量的同时,保持与基于 DRAM 的记忆体内索引方案相近的查询效能(QPS)和准确率。
📊 关键事实与基准测试数据
- DRAM 用量对比:
- 传统 HNSW(层级式可导航小世界图)方案:需使用 60GB DRAM。
- AiSAQ 技术:仅需 155MB DRAM。
- 缩减比例:DRAM 使用量减少了约 400 倍。
- 效能表现:
- 每秒查询次数(QPS):两种方案均超过 12,000。
- 准确率(召回率):两种方案均超过 96%。
- 成本结构差异:
- DRAM:速度快、容量小、单价高。
- SSD(Flash):速度相对慢、容量大、单价低。
- AiSAQ 通过利用 SSD 的大容量优势,解决了向量索引规模超过实际资料大小时所需的 TB 级 DRAM 成本问题。
🏗️ 技术架构与实现机制
- 演进路径:
- 传统模式:检索和向量资料全部储存在 DRAM,由 CPU 执行 ANN 运算。
- Disk ANN 模式:将大部分索引资料卸载至 SSD,仅保留量化向量在 DRAM。
- AiSAQ 模式:将量化向量、索引及向量资料库全部搬移至 SSD,DRAM 仅用于其他即时数据。
- 核心优势:
- 高租户密度:在单一服务器上为不同客户执行 ANN 搜索,不受限于服务器 DRAM 容量,可通过 SSD 分区实现多租户隔离。
- 启动延迟缩短:处理器直接存取 SSD,无需先将索引资料从 SSD 载入 DRAM,大幅缩短服务启动时间。
- 硬件接口:该技术专为 Kioxia 设计的高速企业级和数据中心级 SSD 设计,支持 PCIe 或 NVMe 接口。
📉 行业背景与挑战
- AI 发展五大趋势:
- 从训练为主转向推论重要性增加。
- 从 GPU 为主转向 AI 加速器重要性增加。
- 从云端运算转向终端/边缘运算。
- 记忆体从 DRAM/HBM 为主转向 Flash/SSD 重要性增加。
- 从电运算/电通讯转向光电整合(CPO)。
- RAG 技术痛点:
- 检索增强生成(RAG)需引入外部资料以提升 LLM 准确性,避免“一本正经胡说八道”。
- 向量数据库规模随资料增加而膨胀,导致 DRAM 需求激增,成为推论成本的主要瓶颈。
- 现有解决方案(如减少索引表示大小、Disk ANN)仍受限于 DRAM 容量,无法彻底解决索引规模随数据集增长的问题。
✅ 结论与适用场景
- 核心价值:AiSAQ 技术通过整合向量搜寻引擎与 SSD,实现了在最小化 DRAM 需求的同时,提供可扩展的向量搜寻架构。
- 适用情境:
- 需要处理大规模向量数据库的 AI 推论场景。
- 对成本敏感且需要高租户密度的云服务环境。
- 需要快速启动服务且避免 DRAM 容量限制的企业级应用。
- 最终效果:为 AI 解决方案铺平道路,通过降低硬件成本(DRAM 替换为 SSD)支持未来更大规模的数据发展。
👤 同一博主
太耗電!乾脆把AI送上太空 ?軌道資料中心的成本與技術難題!
AI不能出錯還能自動化嗎?AI Agent落地的致命難題
比GAA更關鍵?台積電2奈米真正王牌!晶背供電BSPDN決定下一代晶片勝負?
AI晶片背後的巨人!EUV、光罩、先進封裝全掌握!獨家專訪蔡司高層!
不能只看台積電先進製程了!AI晶片下個關鍵戰場?先進封裝!載板!PCB印刷電路板!
不只降血糖!糖尿病有機會逆轉?台灣新藥挑戰6億人「終身吃藥」難題!
摩爾定律失效後,華為找到新解法?韜定律2.0,實測數字曝光!
晶片小到「看不見」怎麼製造?一個微小缺陷就讓晶片報廢!蔡司如何替半導體找出真兇?
羊水藏著再生醫療新希望!?羊水幹細胞,蘊含神經修復再生潛力!
矽極限的下一步?台積電技術再突破!二硫化鉬MoS₂攻克關鍵瓶頸,下一代晶片技術來了?
🧭 类似博主
-
妄想型阴谋论者气疯了
-
50美元以下最佳 iPhone 18 Pro Max 手机壳推荐
-
阻止OneDrive接管桌面和文档文件夹
-
如何整理邮箱收件箱(并保持整洁)
-
「竟然這樣監視民眾的日常生活?」對 AI 監視網現況感到憤怒的參議員!
-
Muse AI 国内注册成功!免费 10 亿 Token,免信用卡/排队 免费生成AI视频,超过 M
-
2026年亚马逊会员日:Apple用户必抢M6 Mac mini、Apple Watch Serie
-
学习与发展的空间
-
最新研究:太陽是如何從銀河系中心逃離的!?| 天文新鮮事 | Linvo說宇宙
-
一家游戏博物馆的非意外死亡 | 在广州,说说“万物破元”的故事
0 条评论
发表评论
请先 登录 后参与讨论。