整理 | 苏宓
出品 | CSDN（ID：CSDNnews）
“一次编程，到处运行”的这个梦想，我们从编程语言 Java 讲到了跨平台工具 Flutter ，又探究到了操作系统 HarmonyOS 和 Fuchsia，如今放眼逐渐走上规模化的 AI 领域，又是否有一套这样的方案，能够将所有智能网联边缘设备串起来？
6 月 22 日，高通宣布推出一套全新 AI 软件栈（Qualcomm AI Stack），旨在帮助开发者和企业实现“一次开发，各端运行”的愿景。该软件栈是面向 OEM 厂商和开发者的一套完整的 AI 解决方案，这也是高通首次通过单一的 AI 软件组合，实现跨高通技术广泛产品组合和层级间的自由迁移。
覆盖硬件、软件和工具三大维度，高通 AI 软件栈发布！
如今数字化经济时代的到来，开发者所使用的底层工具在潜移默化间发生了巨大的改变，传统的一些跨平台工具不足以支撑整个领域的迭代。
之所以开发这套软件栈，高通技术公司产品管理副总裁Ziad Asghar 在接受 CSDN 采访时表示，原因很简单。“从外部来看，很多合作伙伴的产品不仅会在云端运行，也会在边缘侧运行。对于一些投入了大量工作来进行开发的模型，我们希望能确保将这些模型的作用发挥到极致，让其适用于不同类型的产品，而这显然可以带来巨大优势。对于高通内部而言，推出高通 AI 软件栈的出发点其实很简单，那就是让我们的开发工作变得更加轻松、简单。”
具体来看，围绕 AI 技术，当市场不断地从移动领域向其他领域拓展时，诸多企业也正面临着诸多的挑战。譬如，过去火爆的智能手机应用开发相比当下物联网、汽车业务领域存在诸多差异，在不同场景下，功耗需求分析、模型类型、模型部署方式不同，不同业务对于准确性、功耗以及时延等方面的平衡要求也各不相同。此外，不同业务领域所使用的 AI 模型和神经网络模型也不同。
在软硬一体的趋势下，今天，高通用 AI 软件栈这款方案交上了一份答卷。根据官方介绍，高通 AI 软件栈主要包括三大关键组成部分：硬件、软件和工具。
在硬件上，我们很惊喜地看见，这套方案几乎能够在所有高通技术支持的终端产品上运行，覆盖了广泛的智能网联边缘产品，包括智能手机、汽车、XR、计算、物联网和云平台，以此实现在某一业务线的投入能够轻松扩展到其他不同领域中。
从下图中可以清晰地看出，由底层向前端开发的过程中，高通 AI 软件栈还支持不同产品使用的不同操作系统，包括 Android、Windows、Linux 以及面向网联汽车的 QNX 等。在系统软件层面，该方案能够完整支持系统接口、加速器驱动、仿真支持等。
在更上一层的开发者库与服务层面，高通 AI 软件栈还支持数学库、编译器和虚拟平台，以及分析器和调试器，它可以帮助开发者知晓开发过程中使用了哪部分神经网络处理，这部分神经网络处理使用的是哪种模型，以及在硬件端应该采用怎样的权重进行分析。
此外，该方案还能够支持编程语言和核心库。前面提到的编译器，它可以针对特定内容进行定制化处理，用 Python 只要几行代码就可以完成更多工作，为开发者提供很多便利。
除了以上，这套 AI 软件栈方案还集成了高通在 AI 领域十余年来的研发成果，如支持高通 AI 模型增效工具包（AIMET），它提供模型量化和模型压缩技术，能够进行量化感知训练（Quantization Aware Training）和无数据训练，将浮点运算模型转化为整数运算模型，比如将 32 位浮点模型转换为 8 位整数模型，使模型能效提升达 4 倍之多；其也提供了开源的 AI 模型增效工具包模型库，方便业界开发者可以自行评估模型的能效和准确性，找到最适合的方案；同时，高通 AI 软件栈还提供神经网络架构搜索（NAS）能力，保障低时延和高精度AI计算，同时确保低内存和高能效。
在基础设施上，我们常用的 Prometheus、Kubernetes 和 Docker 均在支持的范围内。
在使用上，OEM 厂商和开发者将获得高通 AI 软件栈访问权限，通过单个 AI 软件包即可实现更高性能，解锁智能手机、物联网、汽车、XR、云和移动 PC 等智能网联边缘产品的 AI 能力。基于此，无论是企业，还是个人开发者，都可以将自身的工作重点放在探索创新的 AI 用例上，而无须关注模型的重复开发。
如何实现一次开发，各端运行？
与此同时，高通也提供了诸多统一的 SDK，如面向汽车 ADAS 解决方案的 Snapdragon Ride SDK、面向物联网的高通智能多媒体 SDK，以及 Snapdragon Spaces XR 开发者平台。
真正想要实现一次开发的愿景，高通将所有的相关技术整合在一起，由此提供的统一模型可以在无论是音频设备、可穿戴设备还是云端，都能够实现跨平台和跨产品线的自由迁移。
一键三连 「分享」「点赞」「在看」
成就一亿技术人
来源：CSDN
声明：本站部分文章及图片转载于互联网，内容版权归原作者所有，如本站任何资料有侵权请您尽早请联系jinwei@zod.com.cn进行处理,非常感谢！