近日消息,全球开源技术峰会(GOTC2024)近日在上海浦东软件园圆满落幕,此次峰会由开源中国与园区携手共办。会上,华为数据存储软件领域首席专家张群辉就ModelEngine在特定行业大规模模型应用方面的实践进行了深入分享,展示了其在推动垂域大模型技术创新与落地方面的最新成果。
据张群辉介绍,ModelEngine 是华为 DCS(Data Center Stack)全栈的 AI 训推全流程工具链,业界首个采用 AI 流式编程框架,提供从数据处理、知识生成,到模型微调和部署,以及 RAG 应用开发、应用部署,为数据处理工程师、模型工程师、应用开发者提供开箱即用的全流程 AI 开发体验。
张群辉在演讲中称,基于 ModelEngine 开放的数据使能、模型使能和应用使能工具链,支持使用开放的数据处理算子、主流的模型和开放的应用算子,语料生成时间从月缩短到天。面向开发者提供一站式 AI 应用开发、评估优化和部署,帮助快速构建 AI 应用,支持 LangChain、LlamaIndex 等插件,保护已有 AI 资产。
文明上网,理性发言,共同做网络文明传播者