加速AI开发与部署管理边缘AI应用，英伟达企业型AI服务双料升级

　　机器之心报道
　　作者：杜伟
　　当今时代，AI 无处不在，对于企业来说更是如此。企业有时想要在混合云业务中加入 AI 功能，有时又想要发挥边缘计算的效用，但自身 AI 基础设施无法提供支持怎么办呢？英伟达新推出的面向企业的即时 AI 基础设施 AI LaunchPad 以及 20 年提出、现已全面上市的托管型边缘 AI 服务平台 Fleet Command 将加速其他企业的 AI 开发和部署，扩展他们的边缘 AI 服务。
　　随着从信息时代迈入智能时代，人工智能（AI）在这一过程中发挥着无可比拟的重要作用，成为当前和未来企业发展中最关键的技术之一。但应看到，在企业的生产与运营过程中，AI 依然面临着「被误解」和「管理不善」的困境。此前，全球分析软件公司 FICO 和市场情报公司 Corinium 联合发布的一份报告显示：近 65% 的受访企业无法解释它们使用的 AI 如何做出决策或预测。因此，相关知识的缺失导致这些企业很容易误用或滥用 AI。
　　在这种情况下，企业在部署自身 AI 基础设施和启动 AI 开发时将不可避免地遇到困难，并且有可能耗费大量资源也无法很好地达到预期目标。这时，如果企业可以通过其他方提供的 AI 基础设施和软件来快速实现自身扩展 AI 部署的目标，这样既省时又省力。
　　芯片巨头英伟达一直致力于为客户提供端到端的 AI 基础设施软件栈，并希望成为其他企业 AI 平台的供应商。
　　近日，英伟达推出了 NVIDIA AI LaunchPad，这是一个通过混合云供应商提供的综合计划，企业能够即时访问由英伟达提供的基础设施和软件。AI LaunchPad 将率先部署在全球数据中心「领头羊」Equinix 上，客户可以访问托管在 Equinix 上的安全、分布式和混合云优化的私有基础设施。
　　此外，客户还可以通过 AI LaunchPad 利用顶级 IT 解决方案供应商提供的加速软件和硬件，进而能够轻松地扩展和管理从开发到部署的整个 AI 生命周期。Equinix 预计于今年夏天首次提供 AI LaunchPad。
　　英伟达企业计算负责人 Manuvir Das 表示：「当今企业正在寻找一种既简单又全面的解决方案，让他们可以即时访问所需的资源，从而轻松构建和部署 AI。NVIDIA AI LaunchPad 使全球各地的企业都能够轻松驾驭 AI，为 AI 生命周期的每个阶段提供全自动混合云基础设施和软件。」
　　Manuvir Das
　　与此同时，英伟达宣布此前推出的管理型边缘人工智慧平台 Fleet Command 全面上市，进入开放使用阶段。该平台可以帮助企业解决在成千上万个地点的 NVIDIA 认证系统上安全部署和管理 AI 应用的难题。
　　据介绍，Fleet Command 混合云托管服务由英伟达直接提供，可用于配合带有 NVIDIA 认证系统的边缘 AI 部署。该平台的早期采用者包括世界领先的零售、医疗和物流公司以及与它们合作的专业软件公司。
　　英伟达 AI LaunchPad：加速企业 AI 开发和部署，简化 AI 生命周期
　　NVIDIA AI LaunchPad 计划包含端到端 NVIDIA 硬件和软件栈，能够从混合云到边缘加速 AI。数字基础设施领导者 Equinix 将首先加入 AI LaunchPad 计划，其将通过 Platform Equinix 平台向全球提供由 NVIDIA 支持的混合云解决方案。
　　就其效果而言，Equinix 基础设施在几分钟内就能部署完毕，使企业能够访问所有 NVIDIA 为 AI 的几乎每一个方面提供的支持资源，从数据中心训练、推理到边缘上的全面部署。
　　那么，操作上有没有难度呢？据介绍，通过 AI LaunchPad，Equinix 客户不仅可以在一个类似 AI 开发中心的 NVIDIA Base Command Platform 平台管理的 NVIDIA DGX SuperPOD 上开发先进的 AI 工作负载，还能通过 Base Command Platform 对戴尔和联想等领先制造商的 NVIDIA 认证系统上的主流 AI 工作负载进行管理和部署。这些行业标准服务器建立在 NVIDIA EGX 平台之上，非常适合用于在 VMware vSphere 上运行 NVIDIA AI Enterprise 软件套件，进而部署一个可以在混合云中扩展 AI 的 AI-Ready Enterprise Platform 平台。
　　NVIDIA AI LaunchPad 的重要组件和运行流程示意图。
　　客户还可以通过 NVIDIA Fleet Command 托管式云服务在 Equinix 的分布式边缘基础设施上安全地部署和管理 AI 应用。该服务今天已与 NVIDIA 认证系统连接并进入供应阶段。
　　加速主流服务器上的 AI
　　AI LaunchPad 的关键组成部分是 NVIDIA AI Enterprise。这是一套端到端云原生 AI 和数据分析软件，由 NVIDIA 提供优化、支持和独家认证，可在 VMware vSphere 上运行并带有 NVIDIA 认证系统。
　　图左为 VMware vSphere + NVIDIA AI-READY 平台；图右为 NVIDIA AI Enterprise 软件套件，涵盖 AI 研究者、数据科学家和开发者使用的 AI 应用、框架和工具。
　　通过在 NVIDIA 认证系统上运行 AI Enterprise 和 VMware vSphere，企业可以轻松地在 Equinix 数据中心部署 AI，在多个节点上实现近乎裸金属的性能，为大型、复杂的训练和机器学习工作负载提供支持。
　　VMware 云计算平台业务高级副总裁兼总经理 Krish Prasad 表示：「企业正在寻求能够将 AI 与其现有基础设施轻松整合的解决方案。VMware vSphere 是使 AI 成为企业主流技术的关键。现在，NVIDIA AI LaunchPad 将把我们的 AI-Ready Enterprise Platform 作为一站式解决方案提供给企业，以实现快速部署、管理和扩展 AI 工作负载。」
　　混合云 AI 全球生态系统
　　为了建立精确的 AI 模型，应用对分布在公有云和企业私有数据中心的多个外部数据源的访问需求越来越多。在这种主流趋势下，使用 Equinix 等互联枢纽上的 AI LaunchPad，企业可以通过 Equinix Fabric 安全、高速地接入一个由在 Equinix 运营其数字基础设施的企业所组成的生态系统。Platform Equinix 在五大洲 60 多座城市战略性地建立了 220 多个数据中心，这一全球覆盖范围也有助于满足数字企业的实时性能需求。
　　Platform Equinix 的可视化示意图。
　　对此，Equinix 业务拓展副总裁 Steve Stienhilber 表示：「出于性能、数据隐私、所有权和主权原因，许多行业使用私有云来保有计算资源和数据来降低成本。随着 NVIDIA AI LaunchPad 通过 Equinix 向全球开放提供，企业将能够在一个综合全面的混合云解决方案中即时访问 NVIDIA 软件和 NVIDIA 认证基础设施。」
　　为各行业提供混合云一站式解决方案
　　汽车行业是 Equinix 所服务的重要行业之一。全球最大的汽车科技公司之一—大陆集团（Continental）使用托管在 Equinix 数据中心的 NVIDIA DGX 系统为制造商开发自动驾驶汽车技术。
　　大陆集团高级驾驶辅助系统业务研发高级副总裁 Ismail Dagli 表示：「开发先进的 AI 技术需要大量加速计算基础设施。在 Equinix 数据中心上提供全球可用的 NVIDIA 系统确保了我们的团队始终能够访问他们所需要的资源。在 Equinix 数据中心增加 NVIDIA 支持的 AI 推理和边缘选项是非常有意义的，因为这能够使 AI 从开发阶段进入到生产阶段。」
　　最后，AI LaunchPad 使用 NVIDIA GPU 和 DPU 提高企业安全性和速度，通过运用由 NVIDIA Ampere 架构 GPU 和 NVIDIA BlueField DPU 驱动的系统，为企业提供加速 AI 工作负载的能力，同时获得 DPU 提供的安全性、隔离性和提升性能的优势。
　　英伟达 Fleet Command：为企业扩展边缘 AI 服务
　　近年来，物联网设备连接数呈现出线性增长趋势。人工智能与物联网在实际应用中的落地与融合推动人类社会进入万物智能互联时代，随之产生的数据也将呈井喷式爆发。云计算成功地缓解了日益增长的数据所带来的存储、管理等问题，但云计算面临着带宽不足等问题。这时，边缘计算的出现成为云计算的一种补充和优化。
　　边缘计算可以理解为边缘侧、靠近终端（例如手机、智能语音交互设备等）的大数据处理，是持续迭代更新的概念。AI 和神经网络等技术的应用和融合使得边缘计算的内核不断创新，赋能了边缘 AI 的落地。随着机器学习、神经网络训练等网络架构和工具不断适配、兼容到嵌入式系统上，越来越多的 AI 应用也可以直接在边缘设备运行，边缘 AI 成为了当下讨论的热点。
　　在 2020 年 10 月的 GTC 技术大会上，英伟达创始人兼 CEO 黄仁勋宣布了边缘 AI 方面的重大举措：推出一项用于简化服务器 AI 应用部署和管理的 NVIDIA Fleet Command 新服务早期访问计划，通过一个统一的控制平面集中管理分布在广大地区的服务器。
　　在推出 NVIDIA AI LaunchPad 计划的同时，英伟达也宣布托管型边缘 AI 服务平台 Fleet Command 全面上市，旨在帮助企业解决在成千上万个地点的 NVIDIA 认证系统上安全部署和管理 AI 应用的难题。该平台的远程管理软件让企业在不牺牲边缘计算的实时处理能力的前提下，能够安全发布和管理其 AI 应用。Fleet Command 专为减轻企业 IT 负担而设计，通过让用户能够从中央位置快速安装、更新和管理软件，帮助各处实现 AI 大众化。
　　NVIDIA Fleet Command 只需几分钟就能完成安装，管理员可使用它添加或删除应用、通过无线网络更新系统软件并监测分布在远距离的设备的健康状况。
　　NVIDIA Fleet Command 运行流程示意图。
　　NVIDIA 证系统将 NVIDIA Ampere 架构 GPU 和 NVIDIA 网络整合到领先的 NVIDIA 合作伙伴的服务器中。经过 NVIDIA 认证的系统已配置好能够为边缘 AI 工作负载提供出色的性能，并且针对 Fleet Command 进行优化。
　　此外，企业从 NVIDIA 订阅的 AI 部署和管理工具可以与作为云托管开发中心的 NVIDIA Base Command 结合使用。这可以使企业能够快速将其 AI 项目从原型推向生产。这些平台使得企业能够快速构思、部署和管理边缘和工业 AI。
　　NVIDIA 企业计算负责人 Manuvir Das 表示：「在迈向物联网时代的过程中，企业所面临的最复杂的问题之一便是在边缘部署和管理 AI 应用，包括智能工厂、智能零售和智慧城市。NVIDIA Fleet Command 推动整个企业的效率，帮助它们以前所未有的速度扩展边缘 AI。」
　　应用案例
　　排名前十的零售物流公司 Bollore Logistics 在全球拥有 700 多个配送中心。该公司正在使用 AI 提高其配送中心的订单执行准确性和速度。同时，该公司也在通过 NVIDIA 合作伙伴 Dematic 和 Osaro 的解决方案，这些解决方案将使用 Fleet Command 来部署及管理其众多地点的 AI 应用。
　　AI 咨询公司 Data Monsters 是使用 Fleet Command 的十多家早期体验合作伙伴之一。这家 AI 咨询公司正在与全球最大的饮料公司之一合作，为其众多生产设施部署和管理软件，通过计算机视觉捕捉饮料罐的凹痕和褶皱并在出现问题时通知工作人员。
　　对于 Fleet Command 的体验效果，Data Monsters 工业 AI 负责人 German Suvorov 表示：「Fleet Command 提供统一的大规模计算资源安全部署和管理方法，包括硬件资源配置、部署自动化和监控。它还提供与 NGC (NVIDIA GPU CLOUD) 的整合，NGC 是一个用于应用容器和 DNN 模型的一站式全球私有注册中心。所有这些功能使我们的边缘 AI 应用能够在全球制造基地网络上进行无缝扩展。」
　　参考链接：
　　https://www.webpronews.com/65-of-companies-cant-explain-how-their-ai-works/
　　https://www.fierceelectronics.com/electronics/nvidia-builds-ai-launchpad-cloud-equinix
　　https://www.webpronews.com/nvidias-launchpad-and-fleet-command-further-democratizing-ai/
　　https://venturebeat.com/2021/06/22/nvidia-launches-ai-edge-and-hybrid-cloud-services-to-support-enterprise-workloads/