7月5日消息,世界人工智能大会AI基础设施论坛现场,无问芯穹联合创始人兼CEO夏立雪宣布了一项颠覆性的技术突破——该公司自主研发的大规模模型异构分布式混合训练系统。据夏立雪介绍,该系统在千卡级别的异构集群上实现了高达97.6%的算力利用率,为业界树立了新的标杆。
夏立雪还宣布无问芯穹 Infini-AI 云平台已集成大模型异构千卡混训能力,是全球首个可进行单任务千卡规模异构芯片混合训练的平台,具备万卡扩展性,支持包括 AMD、华为昇腾、天数智芯、沐曦、摩尔线程、英伟达六种异构芯片在内的大模型混合训练。
无问芯穹表示:
打开水龙头前,我们不需要知道水是从哪条河里来的。同理,未来我们用各种 AI 应用时,也不会知道它调用了哪些基座模型,用到了哪种加速卡的算力 —— 这就是最好的 AI Native 基础设施。
据此前报道,无问芯穹与摩尔线程在 5 月联合宣布,双方已经正式完成基于国产全功能 GPU 千卡集群的 3B 规模大模型“MT-infini-3B”实训,性能在同规模模型中跻身前列。
文明上网,理性发言,共同做网络文明传播者