资讯
7月19日消息，商汤科技的联合创始人兼首席科学家王晓刚于本月17日宣告，商汤绝影引领行业潮流，成功完成了业内首个原生多模态大模型的车载部署。
该创新成果体现在车载环境下的8B模型，其初始响应时间缩短至300毫秒之内，展现出极快的启动速度，同时模型推理效能达到了每秒40个Token，全面适配当前市场上的主要计算硬件平台。
商汤绝影为多模态大模型打造计算引擎“HyperPPL”，目前扩展并支持主流车载计算硬件，兼容多种主流操作系统，适配多个车载芯片的部署平台。
商汤绝影称 HyperPPL 针对车载多人场景进行优化，使得车内多人并发情况下，车端多模态大模型的模型推理效率相比单人没有明显降低。
据报道，商汤绝影此前表示，深圳首条自动驾驶公交线路采用其车辆与技术，所有驾驶操作都无需人员介入。
明年上千 TOPS 算力的车载芯片（英伟达 Thor）就会问世。基于更高算力的计算平台，商汤预计绝影多模态大模型车端部署方案的首包延迟将大幅降低，推理速度进一步提高。
文明上网，理性发言，共同做网络文明传播者