性能1。55倍于NV350WRTX!寒武纪发布全新AI训练GPU
3月21日,中国本土AI创新企业寒武纪正式发布了新款训练加速卡“ MLU370-X8 ”,搭载双芯片四芯粒封装的思元370,集成寒武纪MLU-Link多芯互联技术,主要面向AI训练任务。
寒武纪MLU370-X8智能加速卡 首次整合了双芯片四芯粒的思元370,也就是每张卡两颗芯片,每颗芯片内封装两个Die ,因此可提供两倍于思元370加速卡的内存、编解码资源。
架构基于Cambricon MLUarch03,支持AI训练加速中常见的 FP32、FP16、BF16、INT16、INT8、INT4 数据格式计算,峰值性能分别为32TFlops、96TFlops、96TFlops、128Tops、256Tops、512Tops。
该卡采用7nm制造工艺,集成48GB LPDDR5内存 ,内存带宽614.4GB/s, PCIe 4.0 x16系统接口,整卡最大训练功耗250W ,全高全长双插槽设计,系统被动散热。
单卡架构图
通过MLU-Link多芯互联技术,提供卡内、卡间互联功能,并专门设计了MLU-Link桥接卡, 可实现4张加速卡为一组、8颗思元370芯片全互联。
每张加速卡通讯吞吐性能200GB/s,带宽为PCIe 4.0的大约3.1倍,可高效执行多芯多卡训练、分布式推理任务。
4卡桥接
单机8卡部署配置
4卡桥接拓扑
根据官方数据,Cambricon NeuWare SDK实测, 在常见的4个深度学习网络模型上,MLU370-X8单卡性能与主流350W RTX GPU相当。
多卡加速,借助MLU-Link多芯互联技术、Cambricon NeuWare CNCL通讯库的优化, 8卡环境下达到更优的并行加速比,YOLOv3、Transformer、BERT、ResNet101训练任务中,8卡并行平均性能达350W RTX GPU的155%。
寒武纪未透露对比的NVIDIA 350W RTX GPU是哪一款,从规格来看, 350W功耗的目前只有RTX 3090、RTX 3080 Ti。
当然,一个是专用AI加速卡,一个是GPU通用游戏卡,其实没有太大可比性。
MLU370-X8产品定位中高端,与高端训练产品思元290、玄思1000相互结合,进一步丰富了寒武纪的训练算力交付方式,同时与基于思元370芯粒(chiplet)技术构建的MLU370-X4、MLU370-S4智能加速卡协同,形成完整的云端训练、推理产品组合。
单卡性能对比
8卡性能对比
【来源:快科技】【作者:上方文Q】
微软预告Windows10时光轴功能马上推出昨天,微软Insider团队进行了在线直播访谈,其中谈到了Timeline(时间线时光轴)特性的上线时间。按照微软的说法,就在下一个快速预览版中(周四之后),会员们就能尝鲜时间线了
黄牛盯上支付宝积分称1天帮赚1万2017年马上结束了,支付宝之前发出积分清零的通知,1年前获取但未被使用的积分,每年1月1日将自动清零。不过支付宝近期推出的ldquo年终大回馈rdquo活动,用户用支付宝积攒的蚂
WinXPATM机轻松被黑连按五次ShiftWindowsXP已经停更多年(除了对付勒索病毒那样的紧急安全补丁),但因为种种原因,仍有用户乃至组织机构在使用它,安全隐患可想而知。据一位俄罗斯网友发现,俄罗斯联邦储蓄银行(Sb
微信封杀3万涉赌帐号春节持续高压打击每年春节前后,都是网络赌博的高发期,微信团队今天也宣布对于网络赌博坚持零容忍,并已采取一系列持续性的打击措施,春节期间也会保持高压的打击态势。一方面,微信会根据用户投诉,对平台中所
史上首次!微信重磅功能宣布喜大普奔在1月15日上午举办的2018年微信公开课pro版上,腾讯高级副总裁ldquo微信之父rdquo张小龙现场玩了最近风靡的小游戏ldquo跳一跳rdquo,成绩近1000分。张小龙表
前诺基亚工程师总结WP失败原因最有希望成为第三大手机操作系统平台的WindowsPhone(后被命名为Windows10Mobile)已经灭亡。微软很想在移动领域有所建树,从1996年发布的WindowsCE(
干掉磁贴!Win10全新开始菜单完全重做今日晚间,微软意外地将前一天刚编译完成的Windows10候选预览版本Build18947推送,而且是几乎所有32位64位的Insider会员都收到了,不仅仅是快速通道(FastR
微软发布Win10v19031909重要安全更新只针对Intel处理器用户针对目前用户最多也是最稳定的版本,微软向Windows10November2019(Version1909)和May2019(Version1903)功能更新发布了安全更新KB44
真的有后悔药微信号能改了!一直以来,微信号都和很多网站的用户名一样,一经设置就无法修改。这让无数年幼无知胡乱设置微信号的用户们悔青了肠子。好消息是,微信官方现在给了我们一次ldquo改过自新rdquo的机会
腾讯黄金红包大升级更多专属场景今天,腾讯微黄金宣布,黄金红包升级了!新版不但收发流程更顺畅视觉效果更酷炫。更重要的是,在原有群红包拼手气一对一祝福玩法的基础上,增添了更多专属场景!目前已有拼手气祝福爱情生日结婚
安卓微信新版内测终于可以发送文件微信团队今天发布了安卓微信的最新内测版,版本号为6。5。24。除了加入iOS微信6。6。0版本里的已撤回消息可以再次编辑收藏里的笔记可以保存为图片并分享至朋友圈之外,新版安卓微信还