当前位置: 首页 > 资讯 > 科技 > 英伟达H100 MLPerf评测中大放异彩:9项挑战破5项纪录,GPT-3训练效率飙升27%
  • 0
  • 0
  • 分享

英伟达H100 MLPerf评测中大放异彩:9项挑战破5项纪录,GPT-3训练效率飙升27%

英伟达(NVIDIA) 2024-06-14 13:24:44 爱吃爆米花

6月14日消息,英伟达的H100 GPU持续巩固其在人工智能领域的霸主地位,目前无直接对手能撼动其市场领军角色。在最新一轮MLPerf性能评估中,H100再度书写辉煌,刷新了多个性能纪录,展现其在AI计算领域的非凡实力与持续进步。

注:MLPerf 是衡量 AI 芯片性能的主流基准之一,该平台最新推出了新的测试项目,专门针对微调(Fine-tuning)大语言模型和图神经网络(GNN),而英伟达 H100 创下了多项纪录。

Fine-tuning 是指在预训练模型的基础上,通过在特定任务上进行额外的训练来调整模型的参数,以使其更好地适应该任务。

本次测试使用了 11616 片英伟达 H100 GPU,在最新 9 项测试中,都取得了最高性能,并在其中 5 项测试中创造了新的纪录。

谷歌和英特尔等竞争对手也参与了本次测试,谷歌的 TPU 系统在速度上有了显著提高,英特尔的 GPU 也取得了明显进步,但其性能和英伟达相比仍有差距。

英伟达表示由于进行了多项软件优化,训练 GPT-3 的时间比 2023 年 6 月的基准测试缩短了 27%。这些优化包括更好地使用 8 位浮点运算、更高效的计算引擎电源管理以及改进 GPU 之间的通信。

来源:it之家
免责声明:本内容来自互联网,不代表本网站的观点和立场,如有侵犯你的权益请来信告知;如果你觉得好,欢迎分享给你的朋友,本文网址 https://wangzhidaquan.com/zixun/55259.html
文章标签
评论

文明上网,理性发言,共同做网络文明传播者

验证码
提交
热门游戏
换一换
热门软件
换一换