AI芯片市场，到底是怎么一回事？

　　目前，整个AI芯片市场都围绕着深度学习而展开。深度学习(DL)，则正是让AI应用程序在现实世界中真正发挥作用的最成功的机器学习技术范例。
　　如今的AI芯片市场把所有注意力都集中在了加速深度学习方面——无论是训练过程还是推理过程，加速已经成为最核心的诉求。AI芯片市场的参与者也在迅速增加：在最近一份研究报告中，我们统计了全球约80家初创企业，发现投资商为此投入105亿美元，已经有34家成熟参与者奋力竞争。很明显，这种状态不可能长期持续下去，但我们有必要对AI芯片市场进行剖析，更好地理解为什么一切会是现在这个样子、未来可能如何变化、这些又意味着什么。
　　时光倒转回2010年左右，当时英伟达在图形处理单元(GPGPU)领域推出了高端通用计算(即如今的GPU)方案，将大型神经网络的训练时间由几个月缩短至数周、又进一步缩短至几天乃至几小时，最终推动深度学习技术的兴起。英伟达围绕AI计算市场拓展出价值数十亿美元的新业务，同时也促使更多其他芯片厂商与芯片架构师开始考虑如何从零开始打造一套专门用于运行AI工作负载的架构，并借此更好地支持更多后续工作负载。如今的AI工作负载已经集中为单一的深度学习领域，这也是市场需求所使然。
　　但市场的需求又呈现出多种多样的面貌。虽然大多数AI训练在数据中心(包括超大规模云环境)以及工作站上进行，但AI推理却是随处可见：云端、工作站上以及边缘位置。其中，又以边缘位置最为重要。
　　图一：AI硬件加速器细分市场应用
　　AI芯片市场的细分方式
　　无论选择哪个具体领域，初创企业面临的竞争都将极为激烈。我发现大家可以参考图一，将整个市场理解成三角形结构，各个顶点都拥有自己的一套用于代表特殊市场需求的标准。最高点为数据中心、云以及高性能计算(HPC)环境对于AI芯片的需求。Cerebras很好地抓住了这一市场，制造出世界上最大的芯片——即晶圆级引擎。该细分市场只追求计算性能的最大化，功耗与成本都在其次。初创企业在这一领域面临的最大挑战，在于超大规模企业与老牌厂商已经牢牢把持住自己的优势区间——英伟达就在不断发布新的改进式架构，其最新版本Ampere已经于今年5月正式亮相。
　　而在以推理为基础的三角形下边，生存着能够在保持一定准确率的同时对精度要求较低的芯片。其限制条件有所不同：芯片尺寸不能太大，延迟要低，功耗越低越好，而且单位成本必须低廉可控。正因为如此，边缘应用市场可以说是初创企业的活跃区域。这方面的竞争没有英伟达这类巨鳄级企业的参与，他们也明确表示不打算参与大宗商用推理芯片市场。但竞争对手较弱实际上意味着客户本身话语权及实力较强，这些客户甚至有能力随时建立或者收购一家初创公司。
　　AI芯片未来将走向何方
　　我们之前提到过，AI芯片领域存在着太多竞争者，图一中的各个顶点附近实际上都有厂商在盘踞。而在之前提到的各项因素中，厂商需要打造出成熟的软件开发栈、建立起投身于市场竞争的明确意愿，同时也要探索将深度学习应用嵌入广泛产品的可行道路。市场波动已经初现端倪，Wave Computing于今年4月宣布破产正是其中一例。
　　但好消息是，激烈的竞争为我们带来速度更快、性能更好的AI芯片。AI研究人员能够由此获得助益，安心运行自己的种种新颖模型设计，而未来必将出现的新型算法也将逐步取代深度学习目前的霸主地位。最重要的是，对于希望能够利用AI重现人类大脑机能的研究者来说，深度学习已经是一条明确走不下去的道路。因此，下一代算法可能迎来重大变革，同时对加速技术类型提出新的要求。
　　在实际使用案例中，深度学习应用的广度使这些芯片拥有了价值数十亿美元的市场。而随着5G设施的普及，市场规模将继续保持增长，对AI硬件加速器的需求也不会动摇。AI芯片市场的合理化进程已经开始，未来竞争态势将随着下一代AI算法的出现而改变——但具体时间目前谁也说不清楚。