商汤绝影：首发原生多模态大模型车端部署

7月5日上午，在由WAIC 2024战略合作伙伴商汤科技召开的“大爱无疆·向新力”人工智能论坛上，商汤科技联合创始人、首席科学家、绝影智能汽车事业群总裁王晓刚表示，商汤绝影在行业内率先实现了原生多模态大模型的车端部署。据了解，绝影智能汽车的车载端侧8B模型首包延迟可低至300毫秒以内，推理速度40Tokens/秒，并且能够覆盖主流算力平台。