HBM3E内存容量和带宽统计口径
摘要:HBM3E内存容量与带宽统计应统一口径,容量需区分单颗裸片、单个堆栈及整卡总容量,并注明堆叠层数、堆栈数量和GB/GiB单位差异,带宽应区分单堆栈与整卡指标,理论值通常按单引脚传输速率乘以接口位宽,再除以8计算;整卡带宽则汇总各堆栈带宽,对比不同产品时,还应明确数据速率、启用配置及理论峰值或实测持续…
HBM3E内存容量与带宽统计应统一口径,容量需区分单颗裸片、单个堆栈及整卡总容量,并注明堆叠层数、堆栈数量和GB/GiB单位差异,带宽应区分单堆栈与整卡指标,理论值通常按单引脚传输速率乘以接口位宽,再除以8计算;整卡带宽则汇总各堆栈带宽,对比不同产品时,还应明确数据速率、启用配置及理论峰值或实测持续带宽,避免因统计层级和测试条件不同产生误判。
HBM3E内存容量与带宽统计口径:单堆栈不等于整卡
【硬件知识解读】HBM3E是面向高性能GPU及计算加速器的高带宽内存,阅读产品规格时,容量和带宽必须先确认统计对象:数字对应单个堆栈、单颗加速器,还是多卡服务器,三个层级不能混用,封装内的内存也不应与服务器主内存相加后统称为显存。
容量首先取决于单颗DRAM裸片的密度和堆叠层数,厂商标注的8层、12层,通常指参与堆叠的DRAM层数,而不是整块封装的全部结构层数;逻辑基底不能算作一层存储芯片,相同层数的产品,也可能因裸片密度不同而具有不同容量。
以标称24Gb密度的DRAM裸片举例,按产品规格的常见标注方式,每层对应3GB容量,8层堆栈为24GB,12层堆栈为36GB,这里的小写b表示比特,大写B表示字节,二者相差八倍,不能把24Gb裸片直接写成24GB裸片。
整颗加速器的容量,应以官方公布的配置为准,不能只看封装照片数堆栈,即使已知单堆栈容量,也需确认启用了多少堆栈,以及产品是否存在容量保留或配置差异,多颗加速器的容量可以统计总量,但总量不代表单颗芯片能够直接使用的本地容量。
带宽则由接口数据速率和总线宽度共同决定,HBM3E单堆栈的数据接口宽度为1024位,理论带宽可按“每引脚数据速率×1024÷8”计算,若数据速率使用Gb/s,结果就是十进制GB/s,这里的数据速率不是可以直接替代使用的时钟频率。
假设一个堆栈的每引脚数据速率为9.2Gb/s,计算得到理论带宽1177.6GB/s,即1.1776TB/s,这只是明确条件下的算例,不代表所有HBM3E都以该速率运行,整颗加速器还应依据其实际内存速率和启用堆栈数量计算。
多个堆栈的理论带宽可以相加,但不能据此认定任意任务都能跑满,实际吞吐受到访问模式、读写切换、内存控制器调度以及计算负载限制,规格表中的峰值带宽,与测试程序测得的持续带宽属于不同口径;比较实测成绩,还须统一测试方法和工作条件。
单位同样需要核对,带宽中的TB/s通常采用十进制换算,1TB/s等于1000GB/s;TiB/s则属于二进制单位,容量统计也应区分厂商标称值与系统显示值,不能仅凭数字不同就判断容量缩水,引用资料时,最好保留原始单位并说明换算规则。
统计服务器配置时,应分别列出加速器数量、单颗容量、单颗带宽以及合计值,并标注容量和带宽是否仅作算术汇总,跨卡互连速度不能冒充HBM3E带宽,最终表格应记录来源、型号和配置版本,让读者知道每个数字对应什么硬件边界。


