3月19日,又到了一年一度的英伟达GTC大会,老黄今天发布了最新的AI加速卡GB200,采用新一代GPU架构Blackwell!GB200性能达到H100的五倍,可以达到每秒2万次浮点计算,让AI大模型能够达到万亿参数级别,预计将在今年晚些时间上市!
此外老黄还像去年H100 NVL一样,发布了全新的GB200 NVL72,包含了36颗GB 200超级AI芯片,推理能力达到了逆天的1440petaflops,内部拥有5000根单独的电缆,总长度达到了2英里。
对比H100,GB200 NVL72功耗成本降低了25倍,性能提升了30倍,训练一个1.8万亿参数的混合专家架构MoE模型,只需要2000个Blackwell GPU,功耗“仅”需要4兆瓦。
全新升级的NVLink可以实现576个GPU通信,能够提供1.8TB/s的双向吞吐量,在1750亿参数的GPT3基准测试中,GB200性能是H100的7倍,训练速度是H100的4倍。
GB200引入了第二代Transformer引擎,能够大大加速LLM的推理速度,老黄称人类即将进入万亿级别参数大模型时代。
相比于往年,大家还会在GTC大会期待面向游戏市场的消费级显卡,今年则是ALL in AI,老黄表示未来英伟达不仅仅只提供GPU,也会像微软或者苹果一样,成为AI平台的服务商。
黄仁勋:给AI圈一点小小的英伟达震撼,11分钟训练ChatGPT!
英伟达重磅:史上最强AI算力芯片,老黄发布会终极大招!
英伟达重磅:AI读取视频,可直出3D游戏模型!
CES科技春晚:英伟达、AMD、英特尔三大厂商汇总!
CES科技春晚:索尼、三星等十大黑科技亮相!
CES 2023:英伟达发布4070Ti,ROG全系40系笔记本配置!
CES 2023:索尼汽车官宣亮相,打造元宇宙进军太空!
英伟达GTC22:40系显卡参数解读,你打算购买哪一款?
英伟达GTC22:40系显卡价格过高,老黄剑指元宇宙AI!
英伟达GTC23:核弹级AI芯片,专供ChatGPT速度提升30倍!
CES 2021:AMD6000系处理器发布,轻薄本畅玩3A!
CES 2021:英特尔12代处理器发布,最快的游戏CPU!
CES 2021:英特尔游戏性能怪兽,RTX 3090Ti发布!
CES 2021:英特尔首款ARM架构CPU,超x86架构十倍性能
#免责声明#
①本站部分内容转载自其它媒体,但并不代表本站赞同其观点和对其真实性负责。
②若您需要商业运营或用于其他商业活动,请您购买正版授权并合法使用。
③如果本站有侵犯、不妥之处的资源,请联系我们。将会第一时间解决!
④本站部分内容均由互联网收集整理,仅供大家参考、学习,不存在任何商业目的与商业用途。
⑤本站提供的所有资源仅供参考学习使用,版权归原著所有,禁止下载本站资源参与任何商业和非法行为,请于24小时之内删除!