当前位置: 首页 > 资讯 > 科技 > 英伟达Blackwell架构驱动万亿参数边界,DGX SuperPOD超算系统革新AI模型处理能力
  • 0
  • 0
  • 分享

英伟达Blackwell架构驱动万亿参数边界,DGX SuperPOD超算系统革新AI模型处理能力

英伟达(NVIDIA) 2024-03-19 14:52:32 爱吃爆米花

在3月19日举办的GTC全球技术峰会上,英伟达揭晓了新一代基于Blackwell架构的DGX SuperPOD超级计算平台,该平台专为驾驭万亿级参数规模的AI模型而设计,致力于确保对大规模生成式AI训练任务及复杂推理过程提供持续、高效的算力支持。

从报道中获悉,全新的 DGX SuperPOD 采用全新的高效水冷机架式架构,搭载英伟达 DGX GB200 系统,在 FP4 精度下提供 11.5 exaflops 的人工智能超级计算能力和 240 terabytes 的快速内存,客户可通过增加机架进一步扩展。

每套 DGX GB200 系统拥有 36 个英伟达 GB200 加速卡,其中包括 36 个英伟达 Grace CPU 和 72 个英伟达 Blackwell GPU,通过第五代英伟达 NVLink 连接成一台超级计算机。

与英伟达(NVIDIA)H100 Tensor Core GPU 相比,GB200 加速卡在大型语言模型推理工作负载方面的性能最多可提升 30 倍。

DGX SuperPOD 包含 8 套及以上 DGX GB200 系统,通过英伟达 Quantum InfiniBand 连接,可扩展至数万片 GB200 加速卡。

英伟达目前为客户提供的默认配置包含 576 个 Blackwell GPU,通过 NVLink 连接 8 套 DGX GB200 系统。

英伟达公司创始人兼首席执行官黄仁勋表示:

英伟达 DGX 人工智能超级计算机是人工智能产业革命的工厂。全新的 DGX SuperPOD 结合了英伟达加速计算、网络和软件方面的最新进展,让每个公司、行业和国家都能完善和生成自己的人工智能。

来源:it之家
免责声明:本内容来自互联网,不代表本网站的观点和立场,如有侵犯你的权益请来信告知;如果你觉得好,欢迎分享给你的朋友,本文网址 https://wangzhidaquan.com/zixun/26149.html
评论

文明上网,理性发言,共同做网络文明传播者

验证码
提交
热门游戏
换一换
热门软件
换一换