80GB都不够了!NVIDIA H100计算卡要上120GB HBM2e显存

大千世界 72 0

  你的显卡显存有多大?想没想过显存超过100GB是什么概念?

  NVIDIA上一代加速计算卡A100首发40GB HBM2显存,后来升级到80GB HBM2e。

  新一代H100上来就是80GB,其中PCIe5.0形态的还是HBM2e,SXM5形态的则是最新标准HBM3。

  

80GB都不够了!NVIDIA H100计算卡要上120GB HBM2e显存-第1张图片-大千世界


  根据最新曝料,NVIDIA正在准备120GB HBM2e显存版的H100计算卡,PCIe形态,显存带宽还是高达3TB/s。

  GH100核心采用台积电4nm工艺制造,集成800亿个晶体管,核心面积814平方毫米,内部集成了多达18432个CUDA核心、576个Tensor核心、60MB二级缓存,分为144个SM单元,另有12个512-bit显存控制器,总位宽6144-bit。

  H100 SXM版本只开放15872个CUDA核心、528个Tensor核心,PCIe版本更是只有14952个CUDA核心、456个Tensor核心,功耗却最高达700W。

  曝料称,新的H100 120GB PCIe将开启16896个CUDA核心,距离满血更近了一步。

  另外,曝料中还提到了一款代号ADLCE的工程样卡,显然是RTX 40 Ada Lovelace的缩写,应该对应RTX 4090,不过功耗限制在了350W。

  

80GB都不够了!NVIDIA H100计算卡要上120GB HBM2e显存-第2张图片-大千世界


标签: NVIDIA

抱歉,评论功能暂时关闭!