当前位置: 首页 > 资讯 > 科技 > 华为高层宣布:昇腾AI计算力实现飞跃,超越英伟达A100,国内近半数大型模型采用昇腾方案
  • 0
  • 0
  • 分享

华为高层宣布:昇腾AI计算力实现飞跃,超越英伟达A100,国内近半数大型模型采用昇腾方案

华为 2024-06-19 13:21:35 爱吃爆米花

6月19日消息,2024世界半导体大会在南京召开期间的分论坛上传来喜讯,江苏鲲鹏·昇腾生态创新中心COO王陶指出,昇腾计算集群已成为国内率先达成千亿参数大模型训练的技术力量,并在性能指标上实现了对英伟达A100的超越,彰显了国内AI计算能力的显著提升。

王陶还透露,在中国大模型里面,有将近 50% 选择了昇腾技术路线。昇腾 AI 芯片在训练效率层面最高可达英伟达 1.1 倍。在训练 Meta Llama、BloomGPT 等模型中,昇腾 AI 的算力训练效率更是“大大优于”英伟达 A100,“10 倍领先”于其他国产友商。

王陶表示,当前昇腾“已成为国产化大模型第一选择”。经过测试,科大讯飞也采用了华为的万卡集群,该集群与英伟达 A100 相比能达到 0.8~1.2 倍的效率。“在跟英伟达 A100(指 0.8 倍)的确还有一定差距,但在大模型训练这一块已跟英伟达 A100 芯片没有明显差距。特别是在万卡算力集群,包括鲲鹏云脑、科大讯飞这一块都经过了市场检验。”

据IT之家此前报道,去年 9 月举行的华为全连接大会 2023 期间,华为常务董事、ICT 基础设施业务管理委员会主任、企业 BG 总裁汪涛正式发布全新架构的昇腾 AI 计算集群 ——Atlas 900 SuperCluster,可支持超万亿参数的大模型训练。新集群采用了全新的华为星河 AI 智算交换机 CloudEngine XH16800,借助其高密的 800GE 端口能力,两层交换网络即可实现 2250 节点(等效于 18000 张卡)超大规模无收敛集群组网。

来源:it之家
免责声明:本内容来自互联网,不代表本网站的观点和立场,如有侵犯你的权益请来信告知;如果你觉得好,欢迎分享给你的朋友,本文网址 https://wangzhidaquan.com/zixun/57090.html
文章标签
评论

文明上网,理性发言,共同做网络文明传播者

验证码
提交
热门游戏
换一换
热门软件
换一换