当前位置: 首页 > 资讯 > 科技 > 腾讯星脉网络2.0重磅发布:提速20%,引领大模型训练新时代
  • 0
  • 0
  • 分享

腾讯星脉网络2.0重磅发布:提速20%,引领大模型训练新时代

腾讯 2024-07-02 09:38:34 爱吃爆米花

7月2日消息,腾讯对外宣布了其自主研发的“星脉网络2.0”版本的正式登场。这一迭代升级的网络系统展现了显著的技术飞跃,实现了对超大规模组网的支持,单集群能够容纳多达10万张计算卡的同时作业。

而且在网络通信效能方面取得了革命性提升,较前代产品效率增强了60%,为数据密集型应用和人工智能模型训练铺设了更为畅通无阻的信息高速公路。

腾讯自研交换机从 25.6T 升级到 51.2T,容量提升一倍;自研硅光模块从 200G 升级到 400G,速率提升一倍;搭载自研算力网卡;整机通信带宽 3.2T,为业界最高。

腾讯自研全新通信协议 TiTa2.0 的部署位置从交换机转移到了网卡上,拥塞算法也从被动拥塞算法升级为主动拥塞控制算法,将星脉网络的通信效率提升 30%,让大模型的训练效率提升 10%。

腾讯全新高性能集合通信库 TCCL2.0 采用 NVLINK+NET 异构并行通信,实现数据的并行传输。Auto-Tune Network Expert 自适应算法可以根据机型、网络规模、模型算法等差异,自动调整数据包分割大小、匹配算法等参数。星脉网络通信性能提升 30%,让大模型的训练效率再提升 10%。

TiTa 与 TCCL 升级带来的效果叠加,让星脉网络的通信效率共提升 60%,大模型训练效率共提升 20%。

来源:it之家
免责声明:本内容来自互联网,不代表本网站的观点和立场,如有侵犯你的权益请来信告知;如果你觉得好,欢迎分享给你的朋友,本文网址 https://wangzhidaquan.com/zixun/61496.html
文章标签
评论

文明上网,理性发言,共同做网络文明传播者

验证码
提交
热榜
热门游戏
换一换
热门软件
换一换