机械工程学报

作者：褚文博, 甘露, 李国法, 唐小林, 李克强

单位：1. 重庆大学机械与运载工程学院 重庆 400044;2. 西部科学城智能网联汽车创新中心(重庆)有限公司 重庆 401329;3. 重庆理工大学机械检测技术与装备教育部工程研究中心 重庆 400054;4. 清华大学车辆与运载学院 北京 100084

关键词：自动驾驶,大模型,综述,高效压缩技术；

基金：国家重点研发计划(2022YFB2503205)、国家自然科学基金(52372377，52272421，52222215，52072051)、工信部产业技术基础公共服务平台(2021-0176-1-1)和智能绿色车辆与交通全国重点实验室开放基金课题(KFZ2409)资助项目。

随着自动驾驶系统(Autonomous driving systems, ADS)在全球范围内的快速发展和广泛应用，大模型在自动驾驶技术中扮演着关键角色。这些模型通过整合多传感器数据，实现对复杂驾驶环境的快速准确理解和决策。然而，大模型面临超大规模参数、高计算成本和大存储需求等挑战，尤其在资源有限的车端设备上更为突出。有效压缩大模型成为当前研究的重要方向，可以降低大模型的计算和存储需求的同时保持性能。首先深入探讨了大模型技术的最新进展和应用实践，从而衍生出高效压缩技术。然后从剪枝、神经网络架构搜索、低秩分解、量化和知识蒸馏等角度出发，分析各种压缩技术的原理和性能特征。最后，基于现有研究，提出大模型高效压缩技术未来的挑战和发展方向，旨在为自动驾驶技术提供新思路和解决方案，推动系统向更高效、更智能、更安全的方向发展。

来源：2024年第22期

《机械工程学报》期刊编辑部

查看机械工程学报杂志2024年第22期