在 2019 年 4 月，高通公司发布了一款专用于云端 AI 加速的处理器 Qualcomm Cloud AI 100，采用 7nm 工艺，性能比当时业界最先进的 AI 推理解决方案高出 10 倍以上。 而在 2020 年 9 月 16 日，高通宣布 AI 推理加速器 Cloud AI 100 已经面向全球部分客户出货 。 高通 Qualcomm Cloud AI 100 加速器拥有先进的信号处理能力和领先的能效，能够支持诸多运行环境对于 AI 解决方案的需求，包括数据中心、云端边缘、边缘设备和 5G 基础设施等。 而全新宣布的 Qualcomm Cloud AI 100 边缘方案开发套件通过提供一整套面向 AI 处理的系统级解决方案，支持高达 24 路的 1080p 视频流和 5G 连接，旨在加速边缘应用的普及。 硬件方面，Qualcomm Cloud AI 100 支持高达 400TOPS 的 AI 算力，同时在 7nm 工艺的加持下，拥有出色的性能功耗比，旨在提供业界领先的 AI 推理效率。Qualcomm Cloud AI 100 还支持从 15W 到 75W 功率的多种设备形态，其中包括 PCI-E 卡。 至于 Qualcomm Cloud AI 100 软件套件，其中包含一套完整的工具栈，并支持 Tensorflow、PyTorch 和 Caffe 等主流框架，以及 GLOW 和 ONNX 等 runtimes。 该软件套件包括具备编译器和模拟器的 Qualcomm Cloud AI 100 应用 SDK，以及具备 runtimes、API、内核驱动程序和工具的平台 SDK，旨在支持 Qualcomm Cloud AI 100 平台在多个运行环境中的开发、测试及部署。 Qualcomm Cloud AI 100 开发套件由三个模组化的 Qualcomm 组件构成： Qualcomm Cloud AI 100——支持低功耗、高性能的 AI 推理 Qualcomm 骁龙 865 模组化平台——支持应用和视频处理 骁龙 X55 调制解调器及射频系统模组——支持全球运营商的预认证模组实现领先的 5G 连接能力 总体来说，Qualcomm Cloud AI 100 边缘方案开发套件是已经优化的系统级解决方案，能够提供高性能的 AI 推理、视频处理和 5G 连接。 高级副总裁、计算与边缘云业务总经理 Keith Kressin 表示：＂高通在提供拥有业界领先的性能功耗比、从边缘到云端的高性能 AI 解决方案方面处于绝佳地位。目前，Qualcomm Cloud AI 100 正面向全球部分客户出货，我们预计采用该产品的商用设备将于 2021 年上半年面市。＂ 随着 AI 技术在社会生产、生活中的应用越来越深入，AI 产业的规模也在不断增大，小到我们手上的智能手机，大到工业生产的设备，越来越需要 AI 的助力。这些 AI 中，有数据采集、计算、决策都在前端设备本地进行的终端 AI，也有数据训练、处理都是在云端进行的云端 AI。而未来终端 AI 和云端 AI 都不可能孤立存在，两者的彼此无缝协同联动才是大势所趋。 此背景下，在终端侧 AI 领域有着强大号召力的高通，通过 Qualcomm Cloud AI 100 加速器和开发套件将自身的 AI 实力拓展到云端，就很容易理解了。 过去高通一直以来给人的印象都是终端侧 AI 的坚定执行者，基于骁龙 AI Engine 人工智能引擎，高通通过终端 AI 为这个星球上一半以上的智能手机提供 AI 运算，方便人们的生活。但我们不知道的是，除了终端侧 AI，高通在运算 AI 方面也拥有深厚的积累，事实上，高通一直都在促进终端 AI 和云端 AI 的合作与协同，是分布式 AI 的先行者和践行者。 而本次交付的 Qualcomm Cloud AI 100 加速器和边缘方案开发套件，峰值性能能达到骁龙 855 和骁龙 820 的的 3 至 50 倍，就是高通在云端 AI 方面强大实力的最好例证。随着 5G 商业部署的深入，高通将推进 AI 在运算进行大规模的训练和推理，然后通过高速率低时延的 5G 网络，将 AI 的具体能力和执行落实到边缘终端侧，让边缘计算和云端的运算实时协同，既拥有强大的运算性能，又拥有极低的时延，从而让 AI 能够赋能社会生产生活的各方各面，彻底变革我们的生活方式。