ArmKleidi投身汽车市场浪潮，促使车载AI性能实现加速飞跃

Arm 控股有限公司正式宣布将 Arm? Kleidi 技术拓展至汽车市场。Arm Kleidi 是一项涉及广泛软件及软件社区参与的计划，旨在大力推动人工智能(AI)发展。借助这一技术，合作伙伴能够深入挖掘下一代特定应用 AI 模型在汽车领域的优势，并且加快其部署进程。

Arm 汽车事业部产品和解决方案副总裁 Suraj Gajendra 指出，在汽车行业，AI 常被视为自动驾驶汽车的核心，看似颇具未来感，距大规模量产上路仿佛还有数年之遥。但实际情况是，如今新车型的诸多应用和功能，如自适应巡航控制、个性化车载信息娱乐系统、驾驶员和乘客监控系统等，早已运用 AI 技术，且这些特定应用模型和工作负载已在 Arm 平台高效运行。这得益于 Arm 计算平台卓越的灵活性、性能、能效和可扩展性，使其成为汽车行业开发者的首选。

不过，随着汽车应用与功能的不断升级，对更多 AI 功能和复杂工作负载的需求持续攀升，汽车行业也面临一系列独特挑战。例如，汽车行业拥有庞大复杂的软件系统，开发环境极为繁杂;需要强大的从云端到车端的软件开发和验证基础设施，以便将云端应用无缝部署到汽车中;软件必须符合严格的汽车功能安全和信息安全行业标准与法规;汽车使用周期长，软件需具备升级能力以适应未来新增功能和更新。

Arm 凭借领先的汽车增强型技术以及在汽车生态系统中的合作来应对这些挑战。合作涉及虚拟平台和基于标准的软件解决方案，通过面向嵌入式边缘侧的可扩展开放架构(SOAFEE)加速汽车开发周期。这些解决方案为开发者提供工具，使其能借助广泛应用的 Arm 计算平台无缝获取更高性能，加快产品上市。

Arm Kleidi 于 2024 年推出，旨在为 Arm CPU 上运行的 AI 推理工作负载进行软件性能优化，开发者无需额外操作。目前该软件库已应用于移动端、云和数据中心等领域，且已集成到 ExecuTorch、Llama.cpp、MediaPipe 和 PyTorch 等热门 AI 框架的最新版本中，开发者构建应用程序时，在基于 Arm 架构的平台上可自动获得显著性能提升。如今，Kleidi 的性能优化特性已引入汽车市场。例如，AWS Automotive 借助 Arm 与 Corellium 联合开发的虚拟平台，为软件定义汽车打造全新概念验证 AI 聊天机器人，集成 Kleidi 的最新版 Llama.cpp 使其聊天机器人响应速度提高 10 倍，响应时间缩短至 1 - 3 秒，还节省了六周开发时间。VicOne 的 xCarbon 车载解决方案借助 TinyLlama - 1 1B 模型，在 Kleidi 帮助下，预填充提示速度翻倍，词元生成速度提升超 60%，缩短了检测网络安全威胁的响应时间。Sonatus 的 AI Technician Builder 平台最初在云端 GPU 运行，引入 Kleidi 优化框架后，可轻松移植到搭载 Arm 架构的 AWS Graviton EC2 云实例上，为在 Arm 架构汽车计算平台运行边缘 AI 工作负载奠定基础。全球 94% 的车厂在最新车型中采用 Arm 技术，其在车载 AI 应用性能优化方面优势显著。将 Kleidi 集成到现有软件堆栈，推动了更高效先进的 AI 应用场景实现，为关键汽车应用提供更快响应速度，助力开发者在 Arm CPU 上优化并运行新的特定应用 AI 模型和工作负载 。