三年两代AI训练芯片，燧原科技凭什么

　　机器之心发布
　　机器之心编辑部
　　燧原科技完成对 AI 训练芯片的二次迭代，仅用了三年时间。
　　7 月 7 日，燧原科技在上海发布第二代人工智能训练产品——＂邃思 2.0＂芯片、基于邃思 2.0 的 ＂云燧 T20＂ 训练加速卡和 ＂云燧 T21＂ 训练 OAM 模组，以及全新升级的 ＂驭算 TopsRider＂ 软件平台，成为国内首家发布第二代人工智能训练产品的公司。
　　燧原科技 CEO 赵立东（左）与 燧原科技 COO 张亚林（右）共同发布 ＂云燧 T20＂ 训练加速卡和 ＂邃思 2.0＂ 芯片
　　燧原有产品，AI 有力量。从 2018 年 3 月成立，到 2019 年 12 月推出第一款云端训练芯片 ＂邃思＂ 和第一代训练产品 ＂云燧 T10＂，再到如今的＂邃思 2.0＂ 和＂云燧 T20＂。也就是说，燧原科技完成对 AI 训练芯片的二次迭代，仅用了三年时间。
　　燧原科技第二代通用人工智能训练芯片＂邃思 2.0＂
　　＂志存高远，脚踏实地＂，燧原科技 COO 张亚林在接受采访时，用这短短的八个字总结了公司过去三年来的变化。
　　跟进国际创新步伐，加速普惠算力落地
　　燧原科技的第二代 AI 训练芯片——＂邃思 2.0＂一经推出，便受到了业界的关注，并作为 2021 世界人工智能大会十大镇馆之宝之一，亮相于本次盛会当中。
　　燧原科技的第二代人工智能训练产品在多个技术层面实现了突破，其设计研发到流片成功的速度更是惊人。＂2020 年 1 月，燧原科技启动了二代训练产品计划，2020 年 11 月 6 日，即进行了流片，2021 年 3 月 9 日，新产品成功被点亮。＂张亚林说道。
　　从这样的计划上看，其实燧原科技对其训练芯片的更新速度已经到达了一年半即推出一代产品。这样的产品迭代速度已经处于业内顶尖水准。
　　拥有 15 年以上的高端芯片及相关软件生态系统的开发及量产经验，成功开发并量产过多颗大型芯片的研发老将们，为燧原科技实现产品的快速迭代提供了坚实的基础。
　　负责人工智能服务器大芯片的架构定义、逻辑和物理设计，功能验证和可测性方案的芯片硬件团队；负责打造基于自研人工智能训练和推理芯片的产品硬件设计、系统验证和测试、功耗和性能优化，以及最后产品化的完整过程，为云端人工智能产品提供完整的芯片到系统级解决方案的产品系统团队；负责打造基于自研人工智能训练和推理芯片的软件栈，包括驱动、编译器（自研指令集），中间件 / SDK，分布式训练 / 推理框架等，针对各种人工智能应用场景为客户提供易用的开发环境的软件研发团队，共同构建了燧原科技的硬实力。
　　凭借他们在技术方面的实力，和对市场的敏锐洞察之下，燧原科技的第二代训练芯片产品也应运而生。
　　燧原科技第二代通用人工智能训练加速卡＂云燧 T20＂
　　张亚林表示，从 2020 年燧原科技公布第一个客户落地开始，就一直深耕泛互联网、传统行业和新基建三大业务线。正是在这三个业务线上的建设，使燧原科技更加深刻地了解市场痛点，客户对产品的反馈催化第二代产品的诞生。
　　据资料显示，燧原科技的二代训练芯片在算力规格方面有了全面提升，尤其是训练场景高度依赖的单精度浮点有了极大地提升，这也是中国第一个支持 TF32 数据精度的 AI 芯片。
　　需要注意的是，TF32 数据精度由英伟达于去年发布其新一代旗舰产品 A100 时推出，并大力推广应用。而随着 ＂邃思 2.0＂ 的推出，也表示燧原科技持续紧跟国际的创新步伐。
　　不同于业内企业的战略布局，燧原科技的愿景是为业界提供普惠算力，即用具有性价比的算力，以及及时的客户响应、客户价值，实现 AI 商用落地。
　　基于这种愿景和市场需求，燧原科技相信，TF32 数据精度能够真正让用户使用更低的数据带宽、更小的能耗，通过获得更有效的计算力，来实现同等业务，从而进一步拓展燧原科技普惠算力的愿景。
　　燧原科技的二代训练产品无论是在单卡、单机多卡、还是大规模集群等不同规模下，其模型性能相对第 1 代训练产品得到大幅度提升。
　　张亚林认为，大芯片革新的意义已经不仅仅拘泥于芯片本身的升级，而是芯片能为 AI 系统的提升所带来的价值，软件、硬件、互联，以及整体解决方案。
　　因此，＂邃思 2.0＂还搭载 4 颗三星 HBM2E（高带宽内存），支持最高 64 GB 内存，内存带宽高达 1.8 TB/s，也是中国第一个支持世界最先进内存 HBM2E 的产品。他们认为，这样的升级，能够为国内数据中心和云计算提供更好的底层技术和可靠的算力。
　　在互联方面，第 2 代云燧训练加速卡强大的互联能力让邃思 2.0 能以更高的集群性能提供更快的数据处理能力，支持多样化模型训练，并有效降低基础设施系统的整体复杂度和成本。
　　在软件方面，燧原科技的驭算 2.0 可以提供高度契合业界标准的编程接口以支持高性能自定义算子开发，并全面优化动态性模型支持，从而实现绝大多数模型可无缝迁移到燧原的平台，对开发者非常友好。
　　据张亚林介绍，随着燧原科技二代训练产品的发布，公司将推出从芯片到系统集群的解决方案。公司将会以整个多机、多卡、多互联分布式软件、云端部署一套交钥匙的方案，并结合低碳绿色化的集群，来赋能 AI 训练系统。
　　从展露头角到星火燎原
　　2018 年，师出 AMD 的赵立东和张亚林携手创办了燧原科技。本着以 ＂做大芯片，拼硬科技＂ 的初心，燧原科技从成立之初就选择了高举高打的路线：瞄准数据中心，做 AI 训练加速芯片。
　　放眼整个 AI 芯片市场，据研究机构赛迪顾问报告显示，从 2019 年到 2021 年三年中国 AI 芯片市场规模仍将保持 50% 以上的增长速度，到 2021 年，市场规模将达到 305.7 亿元。其中，从 2019 年到 2024 年，云端训练芯片的年复合增长率达到 32%。在这一片具有诱惑性的蓝海中，国内外企业几乎同时发力。挑战与机遇并存，燧原高举高打的战略，吸引了资本的关注。
　　2018 年 8 月，燧原科技由腾讯领投获得 Pre-A 轮融资 3.4 亿元人民币。2019 年 5 月，燧原科技完成 3 亿人民币 A 轮融资，领投方为红点创投中国。2020 年 5 月，燧原科技完成 7 亿人民币 B 轮融资，领投方为半导体产业基金武岳峰资本，老股东腾讯继续跟投。2021 年 1 月，燧原科技完成 18 亿人民币 C 轮融资。
　　燧原科技的产品研发，也快得有些出乎意料。
　　燧原科技 CEO 赵立东介绍公司发展历程
　　2019 年 12 月，在燧原科技第一代产品发布会当中，＂邃思 1.0＂和基于 ＂邃思 1.0＂ 的云端训练加速卡＂云燧 T10＂，让业界看到了这家初创公司的实力。
　　一年后，燧原科技宣布，第一代人工智能训练加速卡 ＂云燧 T10＂ 和由其组成的多卡分布式训练集群已在云数据中心落地，正式进入商用阶段。由此，燧原科技也开始迈进 2.0 时代，即建立市场销售和服务支持体系、加强学术交流、拓展业务，以实现产品的规模化落地。这个过程也被公司称为是从 1 到 N 的进程。
　　在 2021 年 ＂芯云长天＂ 产品发布会上，燧原科技对 2.0 时代有了更明确的规划。他们将围绕异构计算生态施行 ＂燎原＂ 计划。
　　燧原科技 CEO 赵立东表示，坚持原始创新、共建标准、以及携手合作伙伴建立生态是 ＂燎原＂ 计划的三大核心。以燎原计划为基础，除了赋能深度学习计算、通用人工智能之外，公司还将用异构计算赋能科学计算、工程计算、视觉计算等多应用领域。
　　从训练产品的商用化落地，再到如今产品升级，燧原科技的星星之火已然为中国 AI 市场点燃了希望，未来可期。
　　打造标杆产品，赋能绿色智能数据中心
　　根据赛迪顾问发布的报告显示，未来三年，随着各地数据中心的持续建设，以及大数据、云计算等技术的持续发展，部署于服务器的 AI 芯片的需求量得到提升，云端训练芯片市场将依然保持快速增长的态势。预计到 2021 年，市场规模将增长 52.5%，达到 139.3 亿元。
　　这样的市场环境为燧原科技提供了发展的土壤，但要想赢得更多市场的青睐，还需要面对英伟达这样的对手。
　　张亚林表示：＂燧原处在天时地利人的好时候，虽然是后发，但也有机会。＂
　　＂燧原科技作为一个追赶者，差异化竞争是赢得市场的关键之一＂，张亚林坦言道，＂在差异化竞争方面，燧原科技主要聚焦于三个方面，一是为业界提供普惠算力，让 AI 成为一种‘用得起’的技术；其二是深入到细分 AI 场景当中，在一些传统领域，打造泛化性，实现端对端场景的价值；其三是在本土化、定制化的服务方面建立优势，赋能国内 AI 企业。＂
　　与此同时，在国家政策和市场发展的双重驱动之下，也出现了本土众多厂商在云端 AI 芯片市场进行竞速，而谁能够成为最后的赢家则需要时间和市场的考验。
　　燧原在技术上不断追求突破，保持产品迭代升级的同时，把未来的发展重心由 ＂点＂ 及＂面＂拓展到构建智能数据中心解决方案，旨在打造中国智能计算中心的标杆产品。未来，燧原科技将立足智能数据中心和云计算，建设低碳的绿色智能数据中心，推动普惠算力的实现，助力中国发展＂新基建＂。
　　燧原科技创始人兼 COO 张亚林
　　据悉，燧原科技已经开始打造从国家层面出发的，低碳的绿色智能数据中心，充分符合国家关于碳中和、碳达峰的政策导向，是 IDC 的未来发展趋势。
　　路虽远行则将至，事虽难不做不成。通过以上种种，可以看到，发生在燧原科技身上的传奇，或许才刚刚开始.....