7月25日消息,上海交通大学医学院附属第六人民医院的贾伟平与李华婷教授团队,联合上海交通大学电院及清华大学、新加坡国立大学的科研队伍,在医学与工程学的交叉领域取得重大突破。他们共同研发了DeepDR-LLM系统,这是全球首个专为糖尿病诊疗设计的视觉-大语言模型多模态集成智能平台。
该研究成果已于2024年7月19日在《Nature Medicine》杂志上发表,论文题为《基于图像的深度学习与语言模型在初级糖尿病护理中的集成应用》,标志着糖尿病治疗与管理进入了一个全新的智能化时代。
据介绍,DeepDR-LLM 系统融合了大语言模型和深度学习技术优势,实现了医学影像诊断与诊疗意见的多模态生成功能,能提供糖尿病视网膜病变辅助诊断结果及个性化糖尿病综合管理意见。
该系统在覆盖亚非欧三大区域七个国家的多中心队列中进行了回顾性验证,以及针对中国基层医疗实际开展了前瞻性真实世界验证,首次向全球提供了面向糖尿病医疗垂直领域的多模态大模型应用成效的高质量循证证据。研究团队表示,研究证明 DeepDR-LLM 系统可有效改善 DR 筛查和基层糖尿病管理水平,为未来全球糖尿病治理提供了革命性的数字解决方案。
既往的 AI 系统研发主要集中在糖尿病的并发症筛查或辅助管理的单一领域。随着全球范围内以 ChatGPT 为代表的生成式人工智能技术的迅猛发展,多模态大模型正不断推动医疗领域的新应用场景和模式的涌现,但这些模型尚不能根据患者的医学影像和具体病情,提供准确且安全的糖尿病综合诊疗建议。
针对当前的技术空白和临床的实际需求,该团队成功研发了全球首个面向糖尿病基层诊疗的视觉-大语言模型多模态集成智能系统 DeepDR-LLM。
其可适配包括 LLaMA 在内的大语言模型,LLM 模块将训练网络层与大语言模型的固有权重参数相融合,突破低算力资源约束下的多模态大模型优化的瓶颈,并进一步基于 37.2 万条基层慢病诊疗和慢病管理数据和知识实现了高效优化训练,使 DeepDR-LLM 系统可基于患者个体的临床信息生成精准糖尿病管理意见。
文明上网,理性发言,共同做网络文明传播者