当前位置: 首页 > 资讯 > 科技 > 英伟达新一代AI加速卡性能飞跃,针对大型语言模型处理能力飙升至H100的30倍
  • 0
  • 0
  • 分享

英伟达新一代AI加速卡性能飞跃,针对大型语言模型处理能力飙升至H100的30倍

英伟达(NVIDIA) 2024-03-19 11:25:26 爱吃爆米花

3月19日 消息,英伟达于GTC开发者大会披露年度力作,宣布将于今年下半年推出颠覆性AI加速卡Blackwell GB200。

GB200采用新一代 AI 图形处理器架构 Blackwell,其 AI 性能可达20petaflops,比之前的 H100提升了5倍。每个 Blackwell Die 的浮点运算能力比 Hopper Die 高出25%,每个封装中有两个 Blackwell 芯片,总性能提高了2.5倍。

GB200包含两个 B200Blackwell GPU 和一个基于 Arm 的 Grace CPU,推理大语言模型性能比 H100提升30倍,成本和能耗降低至25分之一。

NVIDIA 表示,2000个 Blackwell GPU 就能完成之前需要8000个 Hopper GPU 和15兆瓦电力的训练任务。英伟达还提供了 GB200NVL72服务器,提供了36个 CPU 和72个 Blackwell GPU,并实现了720petaflops 的 AI 训练性能或1.4exaflops 的推理性能。

英伟达的系统还可扩展至数万 GB200超级芯片,具有11.5exaflops 的 FP4计算能力。

来源:it之家
免责声明:本内容来自互联网,不代表本网站的观点和立场,如有侵犯你的权益请来信告知;如果你觉得好,欢迎分享给你的朋友,本文网址 https://wangzhidaquan.com/zixun/26055.html
文章标签
评论

文明上网,理性发言,共同做网络文明传播者

验证码
提交
热门游戏
换一换
热门软件
换一换