news 2026/4/15 5:44:12

AI 正在“吃光内存”,NVIDIA与SK海力士把目光投向了 NAND

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
AI 正在“吃光内存”,NVIDIA与SK海力士把目光投向了 NAND

继大规模蚕食DRAM市场后,英伟达与SK海力士计划推出性能提升近10倍的"AI SSD",引发NAND供应警报。随着AI产业重心从训练转向推理,技术栈需全面升级以构建低延迟、高吞吐环境,行业正聚焦通过NAND芯片打造推理优化的AI存储方案,SK海力士预计在2027年前推出相关解决方案。

AI SSD可以扩展到1亿IOPS,这比传统的企业SSD要大得多。当研究这种解决方案的需求时,很明显,当前的AI工作负载结构需要连续访问大量模型参数,这是HBM或通用DRAM产品无法满足的。AI SSD最终将允许伪内存层,针对AI工作负载进行优化,显著提升模型加载、参数访问以及数据调度效率,为大模型推理带来数量级上的性能改善。

随着传统AI工作负载向推理侧迁移,这一趋势的动因之一在于英伟达已决定在Rubin CPX GPU中集成通用GDDR7内存处理预填充阶段。据有关媒体报道,类似技术路径或将延伸至NAND领域,一系列举措可能彻底重塑NAND产业格局。

近年来,AI 训练和推理对 DRAM 尤其是 HBM 的需求急剧上升,头部厂商的大规模采购几乎锁定了未来一段时间的高端内存产能,供需紧张已经成为行业共识。在这样的背景下,仅依赖 DRAM/HBM 来承载越来越大的模型参数和中间数据,成本和可获得性都在变得越来越不友好。

AI SSD 的出现,本质上是一种向“内存层级外延”要空间的尝试。通过让高性能 NAND 承担部分原本由内存负责的数据访问工作,尤其是在推理场景中对容量和吞吐更敏感、对极致时延要求相对可控的环节,AI SSD 有机会在不显著推高成本的前提下,缓解内存压力,提升整体系统效率。这也意味着,NAND 在 AI 系统中的角色,正在从“冷数据存储”向“主动参与计算的数据层”演进。

从产业链角度看,这并非孤立动作。一方面,DRAM 与 HBM 供给趋紧、价格上行已是公开事实;另一方面,AI 服务器整体配置正在变得越来越“存储密集”,无论是本地推理、企业私有化部署,还是多模型并行运行,对高速、大容量存储的依赖都在明显提升。NVIDIA 与 SK hynix 在这一时间点推动 AI SSD,既是技术演进的结果,也是供应链现实倒逼下的一种必然选择。

对于 AI 服务器供应商和用户而言,这类变化意味着,未来的算力系统不再只是“GPU + 内存”的简单叠加,而是需要从更系统的角度重新审视 计算、内存与存储之间的分工与协同方式。谁能更早理解这种变化,并在架构设计和选型阶段提前做出调整,往往就能在成本、可扩展性和交付确定性上占据主动。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/14 18:36:14

测试反馈的心理艺术:构建高效沟通的测试文化

在软件开发的生命周期中,测试反馈是连接开发与测试团队的关键纽带。2025年的今天,随着敏捷开发模式的普及和远程协作的常态化,测试人员面临的已不仅是技术挑战,更有沟通艺术的心理考验。一条有效的测试反馈不仅能准确描述问题&…

作者头像 李华
网站建设 2026/4/11 13:36:05

乐迪信息:人员违规识别新方案!AI摄像机+智慧煤矿,降本增效保安全

在众多技术创新中,基于AI视觉识别技术的智能监控系统,正逐步成为提升煤矿安全管理水平、实现降本增效的关键工具。人员违规识别作为安全生产管理中的重要一环,也因AI摄像机的引入而迎来新的解决方案。 一:煤矿安全 煤矿生产环境复…

作者头像 李华
网站建设 2026/4/5 5:59:58

Higress健康检查实战指南:构建微服务高可用性的核心技术

Higress健康检查实战指南:构建微服务高可用性的核心技术 【免费下载链接】higress Next-generation Cloud Native Gateway | 下一代云原生网关 项目地址: https://gitcode.com/GitHub_Trending/hi/higress 在云原生微服务架构中,服务实例的健康状…

作者头像 李华
网站建设 2026/4/13 19:40:06

结构化机器学习项目 第一周:机器学习策略(二)数据集设置

本周为第三课的第一周内容,本周的内容关于在实际项目进行中的一些基本策略,并不涉及技术性的知识。经过整个第一课和第二课后, 我们已经了解了足够支持我们构建一个完整的基础神经网络项目的知识和技术,本周便是在这些基础上的一个…

作者头像 李华
网站建设 2026/4/15 4:58:20

Dolphin文档解析神器:从学术论文到技术文档的全能解决方案

还记得上次为了提取一篇技术论文中的数学公式,你不得不手动复制粘贴,结果符号全乱了套的尴尬场景吗?今天我要给你介绍一个能彻底解决这类烦恼的神器——Dolphin文档解析工具。这个来自字节跳动的开源项目,就像一个贴心的文档助理&…

作者头像 李华