资讯
近日消息，摩尔线程和无问芯穹近日携手披露，双方已成功实现了一项里程碑式的合作——利用完全由国产高性能GPU MTT S4000构成的千卡规模集群，完成了针对30亿参数大规模AI模型“MT-infini-3B”的实践训练。
此次壮举依托于摩尔线程强大的硬件支持与无问芯穹自主研发的AIStudio平台，标志着双方在国产GPU技术应用于大型AI模型实训领域取得了重大突破。
据悉，这次的 MT-infini-3B 模型训练总共用时 13.2 天，全程稳定无中断，集群训练稳定性达到 100％，千卡训练和单机相比扩展效率超过 90％，号称“充分验证了夸娥千卡智算集群在大模型训练场景下的可靠性，同时也在行业内率先开启了国产大语言模型与国产 GPU 千卡智算集群深度合作的新范式”。
实训出来的 MT-infini-3B 性能在同规模模型中跻身前列，相比在国际主流硬件上训练而成的其他模型，在 C-Eval、MMLU、CMMLU 等 3 个测试集上均实现性能领先。
无问芯穹联合创始人兼 CEO 夏立雪表示，当前无问芯穹正在打造“M 种模型”和“N 种芯片”之间的“M x N”中间层产品，实现多种大模型算法在多元芯片上的高效、统一部署，已与摩尔线程达成深度战略合作，而目前“MT-infini-3B”这一训练成果是行业内首次实现基于国产 GPU 芯片从 0 到 1 的端到端大模型实训案例。
文明上网，理性发言，共同做网络文明传播者