东谈主工智能 (AI) 是当前最紧要的技能变革之一有没有好看的三级，并正以前所未有的速率激动着百行万企的发展。动作应用最为普及的计较架构，Arm 为无为的应用市集提供全面且种种化的计较平台，并在此基础上，联袂合作伙伴，共同构筑起坚实的软硬件生态系统，使 Arm 成为最高效、最易探员的计较平台，抓续赋能开发者进行 AI 改革。跟着计较变得愈发复杂，计较后果的攻击性更胜以往。高性能和出色能效一直是 Arm 的 DNA，这一上风使得 Arm 技能约略很好地欢娱企业在 AI 时间的业务需求。
孙悦车震门软件成为各异化的枢纽
要使硬件施展其作用，离不开软件的救助，软硬件的协同发展方能充分开释 AI 的性能价值。以 Arm 为计较基础构建的软件平台是天下上最为普适且攻击的软件平台。Arm 在开发计较平台的同期，也多量插足软件开发，咱们的工程师团队死力于确保合作伙伴所构建的居品在部署的第一天就能带来巨大的价值。如今，咱们的技能还是涵盖统统这个词软件栈的各个层面。从底层固件和操作系统的开发，到与游戏引擎、开源社区和孤苦软件供应商 (ISV) 的计谋合作，咱们确保统统这些在 Arm 平台上齐能“开机即用”。
在基础要道领域，Arm 具备闇练且健全的云软件生态系统。跟着超大领域云劳动提供商意识到软件生态系统的进展，初始将基于 Arm 架构的计较平台动作一种高性能且具有本钱效益的处置决策提供给第三方开发者，用于通用责任负载。云原生软件开发者正越来越多地禁受基于 Arm Neoverse 平台的云基础要道来构建和运行他们的应用，以提高性能、后果和可抓续性，并省俭本钱。统统主要云劳动提供商也均提供基于 Neoverse 的云实例。在基于 Arm 平台部署的种种云责任负载中，客户可已毕更高的性能和本钱效益。
除了对云责任负载的出色救助外，Arm 还插足了多量元气心灵与汽车行业进行合作。跟着软件成为车载各异化的枢纽要素，汽车行业靠近着很多挑战。汽车软件不仅需要被快速请托，且一朝被部署在汽车上，常常需要在十年或更永劫辰内抓续建立罅隙并增添新的功能。而这些关于云软件开发者来说已了然于心，因为大领域原型想象、测试、部署和更新软件恰是当代云软件开发的枢纽场所。从云表到车载，Arm 平台无处不在。基于 Arm 架构的云技能已成为汽车开发的攻击部分，使合作伙伴约略在云环境中构建和测试广阔的汽车软件组件。与此同期，为了进一步确保汽车软件在包括云表在内的多个平台上具有可移植性，统统这个词生态系统的通力配合至关攻击，这亦然 Arm 在 2021 年牵头成立 SOAFEE（面向镶嵌式边际的可膨打盛开架构）的初志。通过 SOAFEE，Arm 为汽车和云计较社区构建起一个共同的平台，以促进配合和测试，进而激动软件界说汽车 (SDV) 时间的发展。
在迁徙平台方面，末端用户关于包括游戏与 AI 应用等迁徙体验的极致追求为性能带来了更高的条目。而 Arm 抓续在软件前沿领域引颈迁徙端图形渲染技能的发展，死力于确保开发者不错支吾愚弄咱们通过 Arm Immortalis GPU 带来的种种先进技能与突出性能。而在本年稍早前，为已毕更为突出的迁徙体验，与 Arm 末端计较子系统 (CSS) 同步推出了 Arm Kleidi，这是一组可与推理引擎进行集成的开源软件内核，其中包括面向 AI 责任负载的 KleidiAI 和面向计较机视觉应用的 KleidiCV。Arm Kleidi 的推出再次印证了 Arm 动作端侧生成式 AI 计较平台的高出地位。它使开发者无需学习非凡的用具和手段，就约略在无为的硬件中获取 Arm CPU 的出色 AI 性能。此外，适用于安卓系统的 CSS 参考软件栈搭配固定臆造平台 (Fixed Virtual Platform， FVP)，有助于咱们的合作伙伴加快流片前的软件开发。
赋能软件开发者已毕 AI 改革
AI 动作当下最大的责任负载，奈何使其能更高效、浅近地运行于 Arm 计较平台之上是咱们柔柔的要点之一，其主要挑战在于奈何管束好将 AI 推理从云表膨大到边际侧时所带来的复杂性，使得开发者能更顺畅地进行 AI 改革。
AI 企业当前仍处于用户获取阶段，快速发展和已毕新功能远比研讨本钱更为攻击。然则，跟着企业在市集趋向踏实之后初始寻求盈利，咱们深信 AI 推理将会被膨大至边际侧。除了本钱要素以外，边际侧推理还具备增强心事保护、减少延伸，以及约略在无法鸠合到云表时照常提供劳动等多种上风。但与此同期，复杂性也随之加多。在云环境中，企业不错把控架构、CPU 和性能等各个方面，并只需针对一个平台进行优化。而在端侧，以安卓生态系统为例，咱们展望其在昔日十年间就推出了不下 30 款 CPU、25 款 GPU 和 20 款 NPU，其中的多数处理器仍会应用于现今破钞者所使用的开垦中。但不消置疑的是，若能将更多的 AI 推理卸载到端侧，企业的云表本钱就会裁汰。
Arm KleidiAI 有助于确保开发者约略获取 AI 开发所需的性能、用具和软件库，从而打造新一波突出的 AI 体验。AI 应用需要研讨本钱、心事、延伸和鸠合性等问题，愚弄 KleidiAI 将责任负载膨大至边际侧，约略确保咱们的合作伙伴以较低的本钱为开发者提供出色的用户体验。
与此同期，Arm 通过将 KleidiAI 集成到主流的 AI 框架中，包括 Google 和 Meta 的推理引擎中，为生成式 AI 责任负载带来了显赫的性能擢升，进而惠及庞杂的开发者群体。具体来说，与参考 CPU 已毕决策比较，Meta Llama 3 和微软 Phi-3 谎言语模子 (LLM) 的初次词元反当令辰擢升了近三倍。与此同期，Unity Sentis 在集成 KleidAI 后，收效启用了 int4 量化功能，将运行 Phi-2 LLM 时的模子内存占用率裁汰了约 73%。而在国内，动作Arm 多年来攻击的合作伙伴，咱们已联袂腾讯，将 KleidiAI 集成到了腾讯混元大模子中，加快端侧 AI 推理。这些只是只是一个来源，咱们改日还策画推出更多软件库、计较内核和引擎集成，抓续在 Arm 平台上构建 AI 的改日。
Arm 是软件运行的基石
Arm 抓续的软件插足正建立起公共最大的 AI 开发者社区，以期已毕咱们的愿景，使得统统软件齐能无缝地运行在基于 Arm 架构的系统之上。Arm 不仅提供了应用无为的通用计较平台，况且通过 IP 与开源软件和用具乃至无为的行业高降生态系统相勾通，让公共上千万开发者齐不错使用 Arm 计较平台动作 AI 改革的基础有没有好看的三级，基于 Arm 平台的 AI 将无处不在。