英伟达发布最强 AI 加速卡:性能提升约5到30倍!

3 月 19 日消息,英伟达最强 AI 加速卡–Blackwell GB200,正式发布,今年发货!

英伟达发布最强 AI 加速卡:性能提升约5到30倍!

◆ 英伟达表示,亚马逊、谷歌、微软和甲骨文都已计划在其云服务产品中提供 NVL72 机架。

——亚马逊 AWS 已计划采购由 2 万片 GB200 芯片组建的服务器集群,可以部署 27 万亿个参数的模型。

英伟达发布最强 AI 加速卡:性能提升约5到30倍!

英伟达发布最强 AI 加速卡:性能提升约5到30倍!

❶注释:英伟达使用 10 TB / sec NVLink 5.0 连接每块 Die,官方称该链路为 NV-HBI。Blackwell complex 的 NVLink 5.0 端口可提供 1.8 TB / 秒的带宽,是 Hopper GPU 上 NVLink 4.0 端口速度的两倍。

英伟达发布最强 AI 加速卡:性能提升约5到30倍!

❷注释:在此之前,训练一个 1.8 万亿个参数的模型,需要 8000 个 Hopper GPU 和 15 兆瓦的电力。Nvidia 首席执行官表示,如今2000 个 Blackwell GPU 就能完成这项工作,耗电量仅为 4 兆瓦。在参数为 1,750 亿的 GPT-3 LLM 基准测试中,Nvidia 称 GB200 的性能是 H100 的 7 倍,而训练速度是 H100 的 4 倍。

英伟达发布最强 AI 加速卡:性能提升约5到30倍!

英伟达发布最强 AI 加速卡:性能提升约5到30倍!

英伟达发布最强 AI 加速卡:性能提升约5到30倍!

#免责声明#

①本站部分内容转载自其它媒体,但并不代表本站赞同其观点和对其真实性负责。

②若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。

③如果本站有侵犯、不妥之处的资源,请联系我们。将会第一时间解决!

④本站部分内容均由互联网收集整理,仅供大家参考、学习,不存在任何商业目的与商业用途。

⑤本站提供的所有资源仅供参考学习使用,版权归原著所有,禁止下载本站资源参与任何商业和非法行为,请于24小时之内删除!

给TA打赏
共{{data.count}}人
人已打赏
数码硬件

有没有什么好用的挂耳式耳机,推荐开放式蓝牙耳机

2024-3-18 0:00:00

数码硬件

Wooting最佳的平替出现了?!你就说一不一样吧!

2024-3-20 0:00:00

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索