电商设计师 商汤绝影在行业内率先实现了原生多模态大模型的车端部署
7月19日消息，商汤科技联合创始人、首席科学家王晓刚17日宣布，商汤绝影在行业内率先实现了原生多模态大模型的车端部署。车载端侧8B模型首包延迟在300毫秒以内电商设计师电商设计师电商设计师，推理速度40Tokens/秒，覆盖主流算力平台。
商汤绝影为多模态大模型打造计算引擎“HyperPPL”，目前扩展并支持主流车载计算硬件，兼容多种主流操作系统，适配多个车载芯片的部署平台。
商汤绝影称HyperPPL 针对车载多人场景进行优化，使得车内多人并发情况下，电商美工外包网车端多模态大模型的模型推理效率相比单人没有明显降低。
画册设计据IT之家此前报道，商汤绝影此前表示，深圳首条自动驾驶公交线路采用其车辆与技术，所有驾驶操作都无需人员介入。
明年上千TOPS算力的车载芯片（英伟达Thor）就会问世。基于更高算力的计算平台电商设计师，商汤预计绝影多模态大模型车端部署方案的首包延迟将大幅降低，推理速度进一步提高。
特别声明：以上内容（如有图片或视频亦包括在内）来源于网络，不代表本网站立场。本网站仅提供信息存储服务。如因作品内容、版权和其他问题需要同我们联系的，请联系我们及时处理。联系方式：451255985@qq.com，进行删除。上一篇：外包美工 向特斯拉Model Y发起挑战！华为鸿蒙智行智界R7申报 下一篇：外包美工 正泰新能源陆川呼吁进一步形成稳定的国内光伏新增装机市场预期
