阿里达摩院发布全球最大AI预训练模型M6参数跃迁至10万亿

　　IT之家11月8日消息，今天，阿里巴巴达摩院公布多模态大模型M6最新进展，其参数已从万亿跃迁至10万亿，成为全球最大的AI预训练模型。
　　M6是达摩院研发的通用性人工智能大模型，拥有多模态、多任务能力，尤其擅长设计、写作、问答，在电商、制造业、文学艺术、科学研究等领域有广泛应用前景。
　　与传统AI相比，大模型拥有成百上千倍神经元数量，认知和创造能力也更胜一筹，被普遍认为是未来的基础模型。但大模型的算力成本相当高昂，训练1750亿参数语言大模型GPT3所需能耗，相当于汽车行驶地月往返距离。
　　今年5月，通过专家并行策略及优化技术，达摩院M6团队将万亿模型能耗降低超八成、效率提升近11倍。
　　10月，M6再次突破业界极限，使用512GPU在10天内即训练出具有可用水平的10万亿模型。相比去年发布的大模型GPT3，M6实现同等参数规模，能耗仅为其1。
　　将10万亿参数放进512张GPU
　　模型扩展到千亿及以上参数的超大规模时，将很难放在一台机器上。
　　为了帮助多模态预训练模型进行快速迭代训练，达摩院在阿里云PAI自研Whale框架上搭建MoE模型，并通过更细粒度的CPUoffload技术，最终实现将10万亿参数放进512张GPU：
　　自研Whale框架：自研Whale分布式深度学习训练框架，针对数据并行、模型并行、流水并行、混合并行等多种并行模型进行了统一架构设计，让用户在仅仅添加几行API调用的情况下就可以实现丰富的分布式并行策略。
　　MoE专家并行策略：在Whale架构中实现MixtureofExperts（MoE）专家并行策略，在扩展模型容量、提升模型效果的基础上，不显著增加运算FLOPs（每秒所执行的浮点运算次数），从而实现高效训练大规模模型的目的。
　　CPUoffload创新技术：在自研的分布式框架Whale中通过更细粒度的CPUoffload，解决了有限资源放下极限规模的难题，并通过灵活地选择offload的模型层，进一步地提高GPU利用率。
　　此外，针对训练效率问题，M6团队设计了PseudotoReal（共享解除）机制，即利用训练好的共享参数模型初始化大模型，让收敛效率进一步提升7倍，解决大模型训练速度慢的问题。
　　对比不使用该机制，预训练达到同样loss用时仅需6；和此前万亿模型相比，训练样本量仅需40。
　　作为国内首个商业化落地的多模态大模型，M6已在超40个场景中应用，日调用量上亿。
　　今年，大模型首次支持双11，应用包括但不限于：
　　M6在犀牛智造为品牌设计的服饰已在淘宝上线；
　　凭借流畅的写作能力，M6正为天猫虚拟主播创作剧本；
　　依靠多模态理解能力，M6正在增进淘宝、支付宝等平台的搜索及内容认知精度。
　　M6设计的飞行汽车
　　未来，M6将积极探索与科学应用的结合，通过AIforscience让大模型的潜力充分发挥，并加强M6与国产芯片的软硬一体化研究。
　　目前，达摩院联合阿里云已推出M6服务化平台（https：m6。aliyun。com），为大模型训练及应用提供完备工具，首次让大模型实现开箱即用，算法人员及普通用户均可方便地使用平台。