行业首推商汤绝影原生多模态大模型，专为车载应用设计：具备80亿参数，每秒处理40个Tokens，重新构建车载智能体验。
编辑日期：2024年07月20日
7月19日的报道透露，商汤科技的联合创始人及首席科学家王晓刚于17日披露，商汤绝影已成功在业内首度实现原生多模态大模型的车载部署。该车载端8B模型的初始响应时间少于300毫秒，推理速率可达40 Tokens/秒，且兼容市面上的主要计算平台。
商汤绝影精心构建了名为“HyperPPL”的计算引擎，专为多模态大型模型提供强大动力。当前，这一引擎已实现对广泛使用的车载计算硬件的覆盖与支持，同时，它还展现了对多种主流操作系统的高度兼容性，并成功适配了多样化的车载芯片部署平台，彰显了其卓越的灵活性和广泛应用潜力。
HyperPPL，被誉为商汤绝影，针对车载多人环境进行了专门优化，确保在车内多人同时交互的场景下，车端的多模态大型模型仍能保持高效的推理性能，与单人情况相比几乎没有显著下降。
先前的消息指出，商汤绝影已明确声明，深圳市率先开通的自动驾驶公交线路，全面采用了其提供的智能车辆及核心技术。在这一先进的系统支持下，整个驾驶过程实现了全自动操作，无需人工参与，彻底开启了无人驾驶的新篇章。
未来一年，我们将见证搭载着英伟达 Thor 芯片的车载处理器，其算力将达到惊人的上千 TOPS。依托于这一强大计算平台，商汤科技预期其绝影多模态大模型在车辆端的部署方案将实现显著的首包延迟减少，并且推理速度将有显著提升。
大家在看
AI安装教程
AI本地安装教程
微软AI大模型通识教程
微软AI大模型通识教程
AI大模型入门教程
AI大模型入门教程
Python入门教程
Python入门教程
Python进阶教程
Python进阶教程
Python小例子200道练习题
Python小例子200道练习题
Python练手项目
Python练手项目
Python从零在线练习题
Python从零到一60题
