Arm在边缘处理器支持主流大模型架构 引领边缘AI与AIoT低成本高效能新篇章

  【天极网数码频道】随着边缘智能和终端智能的快速发展，Arm在此领域展现出强大的影响力。从早期的嵌入式系统到如今的物联网时代，Arm通过其先进的技术，推动了边缘计算设备的普及与智能化。

  物联网的兴起使得数据变得极具价值，而机器学习和人工智能技术则成为发掘这些宝藏的关键。随着AI模型的不断进步，边缘智能正变得越来越强大，为多个领域带来智能化转型的机遇。

  Arm的客户与生态伙伴在智能家居、智能零售与智能制造等领域持续创新，实现了感知、决策与行动的闭环，提高了自动化水平。Arm不断优化其技术，推出了一系列解决方案，助力AI在边缘侧的部署与应用。

  对此，我们与 Arm 物联网事业部业务拓展副总裁马健(Chloe Ma)进行了深入交流。

  Arm推动边缘AI成熟发展，助力大模型多模态在边缘侧的部署

  近日，Arm物联网事业部业务拓展副总裁马健在接受采访时表示，边缘AI的成熟条件已经具备，并在多个领域得到广泛应用。随着技术的不断进步，边缘AI的部署已经趋向成熟，为各个行业带来前所未有的智能化机遇。

  马健强调，边缘AI并非新兴概念，而在过去五到十年间已经在语音助手和智能视觉系统等应用中实现。特别是在中国市场，边缘AI的发展尤为迅速，广泛应用于智能安全监控、智能门铃等领域。而这些部署大多基于Arm架构的AI计算平台，证明了Arm在边缘AI领域的深厚实力。

  Arm一直致力于边缘AI的投资与优化。通过不断升级Cortex-M和Cortex-A处理器，Arm加强了AI和机器学习在边缘侧的支持。特别是Cortex-M处理器引入的Helium矢量指令集，为嵌入式设备的数字信号处理和机器学习带来了显著的性能提升。同时，Cortex-A应用处理器也通过矢量扩展和矩阵计算优化，增强了边缘AI和数据处理能力。

  随着边缘AI的部署规模持续扩大，Arm推出的Ethos系列AI加速器可以满足更高性能和更复杂的AI工作负载。

  近期，Arm宣布推出全新第三代面向边缘AI的NPU产品——Arm Ethos-U85神经网络处理器 (NPU)，是Arm迄今性能最高且能效最佳的Ethos NPU产品。与上一代产品相比，Ethos-U85性能提升四倍，能效提高20%，同时，其 MAC 单元可从 128 个扩展到 2048 个(在 1GHz 时，算力实现 4 TOPs)，能够为诸如工厂自动化和商用或智能家居摄像头等需要更高性能的应用提供有力的支持。

  与此同时，Arm也推出了全新物联网参考设计平台——Arm Corstone-320，以加速实现语音、音频和视觉系统的部署。Arm Corstone-320集成了Arm最高性能的Cortex-M CPU——Cortex-M85、Mali-C55 ISP和全新的Ethos-U85 NPU，为语音、音频和视觉等广泛的边缘AI应用提供所需的性能，例如实时图像分类和目标识别，或在智能音箱上启用具有自然语言翻译功能的语音助手。

  马健进一步表示，Arm全新推出的Corstone-320参考设计平台和Ethos-U85 NPU，能够释放大模型和多模态AI在边缘部署的巨大潜力。这将为行业带来更强大的智能化能力，推动边缘AI在更多领域的广泛应用。

  展望未来，马健充满期待。她表示，随着技术的不断进步，边缘AI将在更多领域得到应用，并推动相关产品的大规模量产。Arm将继续致力于边缘AI的发展，为行业带来更多创新和突破。

  同时，Arm也不断强化边缘AI安全性，TrustZone与PSA Certified共筑数据防线

  Arm在边缘AI计算芯片设计中，在安全方面有着长期且持续的投入。通过在处理器中引入TrustZone技术，Arm确保处理器具备更高的安全性，有效保护用户信息的隐私性。此外，Arm还联合生态合作伙伴创立了PSA Certified安全认证体系，至今已有超过两百个产品通过该认证，为全球用户提供更加可靠的安全保障。Arm将持续加强产品安全性，并推动更多合作伙伴的产品通过安全标准合规要求，共同构建安全的边缘AI生态。

  Arm实现AI与ML能力的同时，实现降本增效双丰收

  Arm架构以其优异的能效而著称，无论是嵌入式还是移动终端领域，Arm都展现出强大的支持和卓越表现。在实现强大的AI及ML能力的同时，Arm通过低功耗设计和构建通用计算平台策略，帮助广大合作伙伴实现了更低成本和更优能效。Arm不仅关注硬件的获得和运行成本，还注重软件开发、应用开发、工具链支持等方面，帮助合作伙伴实现最低的总拥有成本(TCO) 。

  Arm内核技术全面布局AIoT，助力物联网发展

  在AI时代面向人工智能物联网(AIoT)，Arm拥有丰富的内核技术。其Cortex-M嵌入式处理器适用于MCU及低功耗终端嵌入式设备，通过不断优化工具链和增加对AI和ML的支持，助力开发者设计出更多智能芯片和解决方案。此外，Cortex-A应用处理器系列也不断演进，提升了安全特性和对边缘AI的支持。Arm还推出了专用AI加速器，如Ethos-U系列，已应用于多款量产芯片。Arm在嵌入式 AI 市场的全面布局和领先技术，为物联网发展提供了强大支持。

  Arm 持续创新赋能行业发展针对包括工业物联网在内的物联网应用，Arm不断推出IP解决方案，结合Arm在处理器设计、安全技术和AI加速方面的优势，为工业物联网设备提供了高性能、低功耗和安全的计算能力。通过优化处理器架构、增强安全性和提升能效，Arm能够满足工业物联网应用对可靠性、实时性和安全性的高要求。同时，Arm还与合作伙伴紧密合作，共同推动工业物联网应用的创新和发展。

  未来，随着边缘AI的进一步发展，我们有望见证更多领域的智能化演进。Arm将继续在边缘智能领域深耕，为行业带来更多创新和突破。