资讯
近日消息，中国电信人工智能研究院（TeleAI）与智源研究院携手宣布了一项重量级成果：全球首个多维度单体稠密万亿参数级别语义理解模型——Tele-FLM-1T的成功问世。
该模型作为Tele-FLM系列的旗舰成员，与先前的52B百亿参数版及102B千亿参数版并肩，共同构建起一套跨越参数量级、面向未来的人工智能模型体系，标志着我国在大规模语言模型研究领域迈入新的里程碑。
TeleAI 和智源研究院基于模型生长和损失预测等技术，Tele-FLM 系列模型仅使用了业界普通训练方案 9% 的算力资源，基于 112 台 A800 服务器，用 4 个月完成 3 个模型总计 2.3T tokens 的训练。模型训练全程做到了零调整零重试，算力能效高且模型收敛性和稳定性好，Tele-FLM-1T 版本即将开源。
目前，TeleFLM 系列模型已经全面开源了 52B 版本，核心技术 （生长技术、最优超参预测）、训练细节（loss 曲线、最优超参、数据配比和 Grad Norm 等） 均开源，开源模型下载量过万，积累超 40 万用户。
此外，中国电信在某市民生诉求场景项目上，通过引入 TeleChat-52B 模型能力，整体应用效果提升 40%，达到行业领先水平。
文明上网，理性发言，共同做网络文明传播者