news 2026/8/16 12:41:10

英伟达产业链梳理之(计算托盘及液冷)

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
英伟达产业链梳理之(计算托盘及液冷)

托盘结构

先看拆掉液冷的:

1:GB300一共有四个GPU,两个CPU,四个Connect—X8(网卡)。

2:每个GPU周边有8个12层堆叠的HBM3e显存(专业术语是8堆栈12Hi HBM3E),因此每个GPU的显存带宽就是8*36=288GB。

3:每个CPU旁边有4个128GB带宽的SOCAMM(内存模组),共计4*128GB=512GB带宽。

液冷:

1:冷板(Cold Plates):散热的第一道防线,这些模块直接覆盖在主要的热源之上,包括GPU、CPU及内存模块。

2:分液歧管(Manifolds),在机柜内部,歧管扮演着流体分配中心的角色,它将来自主冷却回路的冷却液精确地分配到各个服务器托盘,并将回流的热液体汇集起来。其设计通常采用盲插(blind-mating)连接方式,以支持服务器的热插拔维护,极大提升了运维效率。

3:液冷管,用于输送冷却液。

4:快接头,连接冷板、服务器托盘与歧管的关键接口。这些接头必须具备无溢出(non-spill)、高可靠性的特点,并支持简便、快速的插拔操作,是整个液冷系统中最关键和最频繁操作的活动部件之一。

5:液冷的路径

CDU:液冷分配单元,主要负责在液冷系统中分配和管理冷却液体。

泵:用于为冷却液体的循环提供动力,推动液体在系统内流动。

水箱:储存冷却液体,保证系统有足够的液体进行循环冷却。

板式换热器:用于将吸收了服务器热量的冷却液体与其他冷却介质进行热量交换,使冷却液体降温,以便再次循环使用。

Cooling Tower(冷却塔)

通过与外界空气等进行热交换,将从板式换热器传来的热量散发出去,从而使用于交换的冷却介质降温,以便再次回到板式换热器参与热量交换。

六:价值量拆解(估算)

1:冷板,GB300为每个芯片配备独立冷板,单机柜含108块小冷板(72颗GPU + 36颗CPU),每块冷板价值约240美元,单机柜价值26000美元。

2:快接头,每个Tray14对,单机柜252对,大概55美元/对,单机柜价值13860美元。

3:软管1800到2000美元/柜,Manifold 28000美元/柜。

4:CDU,30000美元,每机柜配置一个。

七:液冷检测设备

英伟达出货之前都要进行老化检测,老化测试设备和托盘几乎一样,需要提前根据英伟达给的数据进行开发定制,这一块目前只有淳中科技。

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/8/16 8:26:58

【必学收藏】大模型原理深度解析:从Transformer到GPT的完整指南

本文系统性地介绍了大模型的推理原理,从Transformer架构和注意力机制入手,详细解析了不同类型的Transformer架构,特别是GPT模型的工作方式。文章深入浅出地解释了自注意力机制(MHA)、KV缓存、MQA/GQA优化技术以及前馈神经网络(FFN)的核心原理…

作者头像 李华
网站建设 2026/8/15 21:41:27

21、Linux磁盘存储与打印操作全解析

Linux磁盘存储与打印操作全解析 1. Linux磁盘存储概述 在Linux系统中,所有文件和目录都存储在Linux文件系统上,这是一种经过格式化以存储目录树的磁盘设备,如硬盘。Linux系统的磁盘存储主要分为两种类型:固定存储和可移动存储。 固定存储 :指牢固连接到计算机系统,通常…

作者头像 李华
网站建设 2026/8/16 2:29:18

收藏!小白也能看懂的大模型核心原理:从Token到Next Token Prediction详解

本文详细解析了大语言模型的核心原理,重点介绍了Token的定义与分词过程、Next Token Prediction机制、位置编码的作用以及模型架构。通过nano-GPT代码实例,展示了训练与推理阶段的实现差异,并解释了温度参数如何控制生成文本的随机性。文章从…

作者头像 李华
网站建设 2026/8/14 3:24:18

服务器数据恢复—Raid5热备盘同步中断的数据重生

服务器数据恢复环境&故障: 某品牌服务器中有一组raid5磁盘阵列,作为共享存储池使用,存储数据库文件和普通文件。 服务器中一块硬盘掉线,D分区无法识别。管理员查看后重启服务器,掉线的硬盘重新上线并同步数据。数据…

作者头像 李华
网站建设 2026/8/14 21:04:35

Excalidraw图像处理:上传、裁剪与优化全解析

Excalidraw图像处理:上传、裁剪与优化全解析 在数字协作工具日益普及的今天,一张“能看懂”的图片,可能比十段文字更高效。Excalidraw 作为一款以手绘风格脱颖而出的开源虚拟白板,早已不只是简单的绘图工具——它承载着产品原型推…

作者头像 李华