AI成为当下的热点话题，而NVIDIA在今天的台北电脑展主题演讲上发布了一款专为AI而推出的大内存超算系统——DGX GH200。这款超算系统配备了256个Grace Hopper芯片，总计拥有1.8万个CPU核心和144TB内存，相较之前的版本提升了500倍。
由于AI计算对内存容量的要求更高，DGX GH200采用了最新的NVLink、NVLink Switch等技术，将256块Grace Hopper超级芯片连接在一起，实现了非常惊人的性能和内存能力。
Grace Hopper芯片是一款集成了CPU和GPU的超级芯片。其中，CPU部分采用了NVIDIA自研的72核处理器，搭载了Neoverse V2内核，拥有480GB LPDDR5内存和512GB/s的带宽。GPU部分则是H100，FP64性能达到34TFLOPS，但更强大的是其在INT8性能方面，AI计算能力可达到3958TFLOPS，搭载了96GB的HBM3内存。
DGX GH200共有256块Grace Hopper芯片，因此总共拥有18432个CPU核心和144TB的HBM3内存，AI性能达到了1 exaFLOPS，即100亿亿次。这个性能水平对比目前最强的TOP500超级计算机，虽然也达到了百亿亿次的性能，但NVIDIA的超算系统侧重于AI计算。
为了实现256个超级芯片之间的互联，GH200还采用了256块单口400Gb/s InfiniBand互联芯片和256块双口200Gb/s InfiniBand芯片，此外还有96组L1 NVLink和36组L2 NVLink开关等复杂的设计。
NVIDIA表示，谷歌、Meta和微软是首批获得DGX H200系统的公司，未来还将向更多客户开放，并支持客户定制化需求。
然而，值得注意的是，DGX H200并不是NVIDIA最强大的超算系统。NVIDIA计划在今年晚些时候推出名为"NVIDIA Helios"的AI超算系统，它由4组GH200组成，总计1024个Grace Hopper超级芯片和576TB的HBM内存。这一系统将进一步提升AI计算的性能和能力。
#免责声明#
①本站部分内容转载自其它媒体，但并不代表本站赞同其观点和对其真实性负责。
②若您需要商业运营或用于其他商业活动，请您购买正版授权并合法使用。
③如果本站有侵犯、不妥之处的资源，请联系我们。将会第一时间解决！
④本站部分内容均由互联网收集整理，仅供大家参考、学习，不存在任何商业目的与商业用途。
⑤本站提供的所有资源仅供参考学习使用，版权归原著所有，禁止下载本站资源参与任何商业和非法行为，请于24小时之内删除!
