ddj7

英伟达针对AI市场推出双GPU产品H100NVL,最高使用188GBHB

发布时间:2023-03-22 13:03:58 文章来源:IT之家   阅读量:19938   
当前位置: 主页 > 财经 > 正文

,英伟达在 GTC Spring 2023 主题演讲中,针对不断增长的 AI 市场,推出了全新的双 GPU 产品 H100 NVL。H100 NVL 在顶部配备了 3 个 NVLink 连接器,使用两个相邻的 PCIe 显卡插槽。

英伟达表示在运行大型语言模型时,常规显卡的显存无法驾驭庞大的数据流。因此本次推出的 H100 NVL 最高可以提供 188GB HBM3 显存,单卡显存容量 94GB。

H100 NVL 的功耗略高于 H100 PCIe,每个 GPU 为 350-400 瓦,增加了 50W。IT之家从报道中获悉,总性能实际上是 H100 SXM 的两倍:FP64 为 134 teraflops,TF32 为 1979 teraflops,FP8 为 7916 teraflops,INT8 为 7916 teraops。

内存带宽也比 H100 PCIe 高很多,每个 GPU 为 3.9 TB / s,总和为 7.8 TB / s。

声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多企业信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险,需谨慎。

频道精选

667

关于我们 | 广告报价 | 本站动态 | 联系我们 | 版权所有 | 网站地图

同花顺经济网   欢迎广大网友来本网站投稿,网站内容来自于互联网或网友提供

Copyright©2011-   news.httzkg.cn   All Rights Reserved