英伟达发布最强AI加速卡BlackwellGB200-今年发货

2024-03-19 15:01:59发表 作者:白衣苍汪

英伟达发布最强AI加速卡BlackwellGB200,今年发货。英伟达在GTC大会上发布最强AI加速卡Blackwell GB200,采用台积电4纳米工艺制造,集成两个Die,AI性能达20 petaflops,较H100显著提升。GB200内置双B200 GPU和Arm Grace CPU,大幅提高大型语言模型推理性能并降低成本。多家云服务商计划采用GB200,且英伟达推出多种服务器解决方案,展现强大扩展性和性能潜力。

英伟达AI加速卡BlackwellGB200新闻详情

英伟达公司在今日举行的GTC开发者大会上重磅发布了迄今为止最强大的AI加速卡——Blackwell GB200,并计划在今年稍晚时间开始发货。

英伟达发布最强AI加速卡BlackwellGB200

英伟达发布最强AI加速卡BlackwellGB200

在此次大会上,英伟达展示了新一代基于Blackwell架构的AI图形处理器,首席执行官黄仁勋表示:“虽然Hopper架构已经相当卓越,但我们追求的是更为强大的GPU性能提升。”

英伟达发布最强AI加速卡BlackwellGB200

遵循每两年更新一次GPU架构的步伐,继2022年推出了基于Hopper架构的H100加速卡之后,英伟达现在推出的基于Blackwell架构的加速卡在处理AI任务方面表现得更为强劲。

Blackwell GPU拥有高达20 petaflops的AI性能,相较于H100的4 petaflops有着显著提升。黄仁勋强调,这种额外的处理能力将助力人工智能公司训练更大规模、更复杂的人工智能模型。

英伟达发布最强AI加速卡BlackwellGB200

Blackwell GPU采用台积电4纳米(4NP)工艺制造,集成了两个独立制造的裸晶(Die),共计2080亿个晶体管,并通过NVLink 5.0技术像拉链一样将芯片紧密连接起来。

英伟达发布最强AI加速卡BlackwellGB200

英伟达发布最强AI加速卡BlackwellGB200

Blackwell单个Die的浮点运算能力相比Hopper Die提升了25%,并且每个封装包含两个Blackwell芯片,整体性能因此提高了2.5倍;若运行FP4八精度浮点运算,则性能提升可达5倍。实际工作负载的性能表现还将取决于Blackwell设备的不同内存容量和带宽配置。

Blackwell GPU之间通过10 TB/s的NVLink 5.0高速链路进行互联,该链路被称为NV-HBI,其带宽是Hopper GPU上NVLink 4.0端口速度的两倍,达到1.8 TB/s。

全新的GB200加速卡内置了两个B200 Blackwell GPU和一个基于Arm架构的Grace CPU,相较于H100,在处理大型语言模型推理任务时,性能提升了30倍,同时将成本和能耗降低至原来的二十五分之一。

英伟达发布最强AI加速卡BlackwellGB200

英伟达发布最强AI加速卡BlackwellGB200

在1.8万亿参数模型训练的例子中,原本需要8000个Hopper GPU和15兆瓦电力,而现在仅需2000个Blackwell GPU即可完成,耗电量缩减至4兆瓦。

在针对1750亿参数的GPT-3 LLM基准测试中,英伟达宣称GB200的性能是H100的7倍,训练速度则达到了H100的4倍。

英伟达发布最强AI加速卡BlackwellGB200

此外,英伟达还为企业用户提供了完整服务器解决方案,如GB200 NVL72服务器,集成了36个CPU和72个Blackwell GPU,采用一体化水冷散热方案,能够实现高达720 petaflops的AI训练性能或1.4 exaflops的推理性能。这些服务器内部布线长度累计接近2英里,由近5000条独立电缆组成。

英伟达发布最强AI加速卡BlackwellGB200

据悉,包括亚马逊、谷歌、微软和甲骨文在内的云服务提供商均有计划在其产品中引入搭载Blackwell GPU的NVL72服务器。特别是亚马逊AWS已计划购买由2万片GB200芯片构建的服务器集群,足以支持部署高达27万亿参数的模型。

英伟达发布最强AI加速卡BlackwellGB200

除了标准服务器方案外,英伟达还展示了DGX GB200的DGX Superpod系统,该系统整合了八个单元,共配备288个CPU、576个GPU、240TB内存以及11.5 exaflops的FP4计算能力。英伟达强调,其系统可以扩展至数千乃至数万个GB200超级芯片,并通过Quantum-X800 InfiniBand(最高144个连接)或Spectrum-X800以太网(最高64个连接)实现800Gbps网络连接。

目前,英伟达尚未公布GB200加速卡及其配套系统的具体售价信息。

0
网友评论
  • 😊
  • 😂
  • ❤
  • 😭
  • 😍
  • 😘
  • 🙄
  • 💀
  • 😫
  • 🤔
没有符合条件的内容