1月13日最新消息,花旗银行在其最新研报中强调,随着nvidia引入推论情境记忆存储(inference context memory storage,icms)等前沿技术,全球nand闪存供应紧张局面或将进一步加剧。
在AI推理任务中,为减少重复运算、加快响应效率,系统普遍采用KV缓存机制——这一机制可类比为大模型的“短期记忆”。然而,随着上下文长度呈指数级扩张,成本高昂且容量受限的HBM内存已难以持续承载激增的缓存压力。
为突破该瓶颈,NVIDIA正式发布基于BlueField-4 DPU构建的ICMS平台,并同步定义了一个全新存储层级G3.5:将原本高度集中于HBM中的KV缓存迁移至扩展性更优的本地SSD中。

借助这一架构革新,NVIDIA显著优化了推理性能——更高提速达5倍,能效提升同样高达5倍,端到端延迟亦实现大幅压缩。
据花旗测算,在单套Vera Rubin NVL72 ai系统配置中,为保障ICMS高效运行,NVIDIA将在每个机架额外部署更高16TB SSD,整套系统SSD总容量可达约1152TB。
市场数据显示,Vera Rubin服务器预计2026年出货量为3万台,2027年将跃升至10万台。
Figstack
一个基于 Web 的AI代码伴侣工具,可以帮助跨不同编程语言管理和解释代码。
下载由此推算,仅该平台就将在2026年催生3456万TB的新增NAND需求,占当年全球NAND总需求的2.8%;至2027年,该数字将飙升至1.15亿TB,占比攀升至9.3%。
值得注意的是,花旗当前预测仅覆盖Vera Rubin平台,尚未纳入更高阶的Rubin ultra系统,也未考量下一代Feynman架构可能带来的增量需求,因此实际NAND用量增长幅度或远超当前预估。
花旗指出,NVIDIA大规模落地ICMS技术,有望成为NAND存储厂商的重要利好驱动因素,三星、SK海力士、铠侠、西部数据及美光等头部供应商料将率先受益。

扫描二维码推送至手机访问。
版权声明:本文由2345好导航站长资讯发布,如需转载请注明出处。
扎根印制电路板技术研发二十年,专注于汽车电子、高频通讯等中高端领域的协和电子(605258)本周启动招股,下周四(11月19日)即将网上申购。 多年的沉淀,令其收获了一批优质客户。不过随着行业规模增长放缓、各类成本抬升以及行业龙头集中度提高,协和电子往日优势逐渐消退,利润水平也逐年降低,此...
1947年,美国贝尔实验室的威廉.肖克利和他的两位助手布拉顿、巴丁,研制出了世界上第一只晶体管,为集成电路产业打开时代大门,也造就了现代信息社会的根基――“芯片”。 但是现代信息社会并不能避不开国与国之间的问题。 “芯片强则产业强,芯片兴则经济兴,没有高端芯片就没有真正的产业安全和国...
威腾电气,一家缺乏科创属性、爱夸夸其谈还带着问题供应商的公司,正在冲击科创板市场。 2021年1月14日,以输配电中母线产品研发、制造及销售为主业的威腾电气,正式通过上市委会议,距离科创板上市又近了一步。 但这对投资者而言,可能并不是一件好事。 由于身在传统电力行业,科研步伐又...
钱流不进口袋的企业,真的算是赚钱企业吗? 盈利,是大部分投资者最关心的问题。但企业盈利的有效性,是有前提的,现金流就是这个前提。但这部分,往往会被许多投资者忽略,正如巴菲特的那句著名评论:“现金是氧气,99%的时间你不会注意它,直到它没有了”。 没有现金流入的盈利只是纸面数字,纸面数...
以19%市占率位居精微屏蔽罩市场头部玩家的和林微纳,即将亮相科创板。 2021年3月9日,主要产品为微机电(MEMS)精微电子零部件的和林微纳,开启了科创板招股。公司与楼氏电子、瑞声科技、裕元电子和银河机械,一同成为精微屏蔽罩市场的主要玩家,2019年五家企业合计占到全球市场总份额的80%...
作为“光伏、风电”等大热门行业上游关键零部件供应商的新风光,即将登陆科创资本市场。 2021年3月24日,以大功率电力电子节能控制技术为核心技术平台,构筑电气控制装备产品体系的新风光,在科创板开启招股环节。 招股资料显示,新风光本次共计将募资5.9亿元,其中1.5亿元用于变频器和SV...