范文健康探索娱乐情感热点
投稿投诉
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文
国学影视

瀚博首款AI推理芯片出炉,性能超越英伟达T4,年内即将量产

  机器之心报道
  作者:泽南
  瀚博推出的 AI 推理芯片,性能超过英伟达最新的 A10 与 T4,同时使用成本还更低。
  7 月 7 日,在上海举行的首场发布会上,芯片创业公司瀚博半导体展示了旗下最新产品,SV100 系列云端通用 AI 推理芯片和 VA1 通用 AI 推理加速卡。刚刚推出的芯片实现了业内领先的性能指标。
  瀚博半导体 CEO 钱军在发布会上展示 SV102 芯片。
  「我们要做的是服务器级别的芯片,SV100 系列是全方位超过英伟达同类产品的芯片解决方案。」瀚博半导体创始人、CEO 钱军在发布会上说道。
  本次推出的产品包括芯片 SV102,以及基于该芯片的 AI 加速卡 VA1,即将在今年第四季度投入量产。
  云端通用 AI 推理芯片
  瀚博推出的 SV102 是 SV100 系列的首款芯片,它面向云端的 AI 的通用化推理任务,INT8 算力高达 200TOPS,其内含多颗瀚博自主设计的 IP 核,配备通用软件栈,对于云计算客户提供了完整的解决方案。
  选择推理作为突破点,是瀚博对于市场和业内竞争力分析之后作出的决定。
  随着 AI 应用的逐渐成熟,落地业务的增多,目前云服务市场上推理任务的需求逐渐超过训练。相关数据显示,2021 年 AI 推理市场已超过训练市场,未来其差距还会逐渐拉大。高通则认为到 2025 年将有 90% 的算力将被用于机器学习推理。
  而在推理任务上,相对更加专精的 DSA 芯片性能显著超过目前业内普遍采用的 GPU,前者可能会成为芯片领域的下一个发展方向。
  瀚博提出的 SV100 系列芯片,对于视频任务进行了特别的优化。当前,计算机视觉任务占据了 AI 市场的大部分,视频流占据数据流的 70%,而且比例持续攀升。这些任务需要强大的视频解码能力,对于处理延迟、吞吐量和能耗效率提出了较高要求。
  SV102 是一款高性能人工智能与视频处理芯片,深度学习推理性能指标数倍于现有主流数据中心 GPU(如英伟达 T4、A10)。基于瀚博自研的,针对多种深度学习推理负载而优化的通用架构,该芯片支持计算机视觉、视频处理、自然语言处理和搜索推荐等推理应用场景,同时集成高密度视频解码,广泛适用于云端与边缘解决方案,节省设备投资、降低运营成本。
  通用 AI 推理加速卡,效率超越英伟达
  基于 SV102 芯片,瀚博推出了适用于云服务器的 VA1 机器学习加速卡,其提供高效率深度学习 AI 推理加速,在同等能耗下可以实现 2-10 倍于 GPU 的最高 AI 吞吐率,适合实时应用,同时兼备良好的通用性和可扩展性,支持 FP16, BF16 和 INT8 数据类型的众多主流神经网络快速部署——包括检测,分类,识别,分割,视频处理,LSTM/RNN,NLP/BERT,搜索推荐等。
  瀚博半导体 CTO 张磊向我们介绍了 VA1 加速卡的性能指标。
  VA1 具备强大的视频处理性能:支持 64 路以上 H264,H265 或 AVS2 1080p 解码,分辨率支持最高达 8K。另一方面,作为标准半高半长 75W 功率的 PCIe 4.0 板卡,VA1 适用于绝大多数服务器,被动散热且无需额外供电,可实现高密度的部署。
  和英伟达最新发布的安培架构 A10 板卡对比,在 ResNet-50(int8)任务上,瀚博芯片在 75W 功率时效率是对手的两倍以上。「即使英伟达的产品运行在 150W,我们的芯片运行在 75W 功率时性能也是超过它的,」张磊介绍道。「在 BERT int8 任务上,VA1 的性能也是 A10 在 75W 上的两倍,T4 的两倍多。」
  如果以整体运行成本 TCO 的方式来计算,采用 VA1 的服务器整机算力可以达到 T4 设备的 2.5 倍以上,功耗却相对更低,可以节省超过 60% 的服务器成本。
  除了硬件产品外,瀚博也搭建了自己的 VastStream 软件平台,支持 TensorFlow、PyTorch、Caffe2 等主流深度学习框架模型。
  今年 6 月,SV100 系列芯片宣布测试成功。瀚博创造的几个数字引人关注:在开始测试后 8 分钟全部点亮,在 40 小时之内,芯片所有功能模块基础测试全部完成。对于全新设计的高端芯片来说,这是一个奇迹。
  「我们与重要合作伙伴快手的合作非常紧密。打造芯片必须理解客户的实际需求,我们打造了高性能的数据中心,会把最新的板卡插在服务器里,跑各类实际应用,验证产品的性能。」钱军表示。据介绍,目前已有多家国内外科技公司正在和瀚博合作,并等待芯片的大规模量产。
  除了 SV102 以外,瀚博半导体还计划推出功率为 15W 和 150W 的推理产品,覆盖更多市场。
  「我们不是一个国产替代的故事,我们希望打造国际级别的产品。为了这样的目的,我们组建了有能力的团队。」钱军说道。
  瀚博半导体于 2018 年底成立于上海,目前在北京、深圳、多伦多等地均设有研发中心。
  这家公司的核心团队源自于 AMD,部分成员曾设计了业界首款 7nm 制程 GPU。自公司创立起,瀚博一直致力于核心 IP 的自主研发,至今已完成多个 IP、高端设计流程,并拥有完善的数据中心构建能力。目前,瀚博的员工总数已超过 200 人。
  在融资方面,2019 年 3 月,瀚博获得了来自真格基金的天使轮融资,2019 年 7 月完成 Pre A 轮。2020 年 7 月,红点、快手领投了该公司的 A 轮融资;最近一轮则在今年 3 月,由中国互联网投资基金和经纬中国联合领投,融资金额高达 5 亿元人民币。
  瀚博旗下首款芯片的推出,宣告了国内 AI 芯片业内又加入了一股强大的势力。随着各家的 DSA 芯片不断出炉,国内造芯的竞争已经进入了全新的阶段。

人生真的就那么有意义吗?人们真的知道自己为什么而活吗?如果从宇宙大爆炸学说角度看,地球的诞生不过是一次偶然。地球跟着太阳系,在茫茫宇宙中飘浮了46亿年,能够存在到今天,没有被宇宙中那么多我们已知或者更多未知的不可估量的神秘力量干掉,更天文学术语不规则星系在这个系列中,我们正在探索天文学术语的奇异而奇妙的世界!看完今天的话题,你会觉得有点奇怪不规则星系!说到星系,有美丽醒目的旋涡,它们发光的手臂延伸数万光年。有骄傲而庄严的椭圆星系,中国天眼开启新征程图来源新华网12月19日拍摄的中国天眼全景(维护保养期间摄,无人机照片)。自2017年10月10日首次对外宣布发现脉冲星以来,截至目前,被誉为中国天眼的500米口径球面射电望远镜已发南科大胡佳顺课题组在沉积物俯冲调节造山过程方面取得研究新进展近日,南方科技大学地球与空间科学系助理教授胡佳顺课题组在俯冲带动力学和造山机制的研究上取得新进展。研究成果以Southwardexpandingplatecouplingdueto中国火星计划灵魂人物上榜!Nature发布2021十大科学人物Nature封面本文涉及人物图片均来源于Nature今天,顶级科学期刊自然(Nature)公布了2021年度十大人物榜单(Natures10)这一榜单旨在选出10位在这一年所有重大自然2021年度十大人物公布中国火星探测总设计师等入选来源中国新闻网中新网北京12月16日电(记者孙自法)全球著名学术期刊自然北京时间16日凌晨揭晓其年度十大人物,中国火星探测任务总设计师张荣桥等影响2021年科学事件的10位人物入选恒星落灰或有助于遥远的行星成长3D模拟提供对原行星之谜的见解世界上第一个同时考虑年轻恒星周围圆盘中尘埃运动和增长的三维模拟显示,中心区域的大型尘埃可以被气体外流夹带,然后被喷射出来,并最终落回圆盘的外部区域,在那里它可能促成行星的形成。这个SpaceX计划发射土耳其通信卫星SpaceX公司计划于北京时间12月19日12时58分使用猎鹰9号Block5运载火箭发射土耳其通信卫星Trksat5B,火箭将在美国佛罗里达州卡纳维拉尔角太空部队基地SLC40发南科大吴紫辉课题组在光捕获和光束缚的非厄密性方面取得最新进展近日,南方科技大学物理系副教授吴紫辉课题组在光捕获和光束缚的非厄密性方面取得重要进展,相关研究成果以NonHermitianphysicsforopticalmanipulatio自然杂志年度十大人物公布中国火星探测任务总设计师张荣桥上榜来源科技日报自然杂志年度十大人物公布中国火星探测任务总设计师张荣桥上榜今日视点本报记者张梦然英国自然杂志15日公布了2021年度十大人物榜单,这一榜单旨在选出十位在当年重大科学事件中国首次火星探测任务工程总设计师张荣桥入选自然年度十大人物澎湃新闻首席记者贺梨萍北京时间12月16日0时,国际权威科学杂志自然发布2021年度十大人物,我国首次火星探测任务工程总设计师张荣桥入选。2021年5月15日,当中国的火星探测器天
多国祝贺天问一号成功着陆!赵立坚解读火星车祝融号寓意最近,许多国家祝贺天问一号成功登陆火星。中国外交部发言人赵说,这是中国航天事业发展的又一里程碑。天问一号模型首次展示天问一号模型首次展示他提到,从神舟到嫦娥玉兔到天宫天问,中国人把太空探索简史从天圆地方到火星登陆抬头望一下星空,我们看到星星,其实并不是现在的星星,而是它们十万年前,一百万年前的样子。十万年前,人类几乎还没有在地球存在呢。想到这件事,后背就一阵凉嗖嗖的。在巨大的时间尺度面前,国外同行,只要有中国人的地方,必须提速,火星探索也不例外这一次,2021年5月15日,中国的天问1号火星探测器,也是Biu!地一下,落到了火星表面!还记得去年12月2日的嫦娥5号么,也是在月球背面,Biu!地一下,弹出了一面A4纸大小的天问一号教科书式着陆火星中国问天之路再上新台阶2021年5月15日,经过295天的太空之旅,我国首个火星探测器天问一号成功着陆火星。中国首次火星探测任务一战即胜,一气呵成。中国科学院院士叶培建兴奋地说这是一次教科书式的着陆,落白岩松对话天问一号总设计师未来火星上的事还可以聊得更多5月15日7时18分,天问一号着陆巡视器成功着陆于火星乌托邦平原南部预选着陆区,我国首次火星探测任务着陆火星取得圆满成功。5月15日,中国首次火星探测任务总设计师张荣桥做客白问对话我国高海拔宇宙线观测站发现最高能量光子来源人民日报客户端由中国科学院高能物理研究所牵头的中国高海拔宇宙线观测站(LHAASO拉索)国际合作组17日在北京宣布,拉索在银河系内发现大量超高能宇宙加速器,并记录到1。4拍电子建造外星潜水艇的第一步周一知古通今周二牧夫专栏周三太空探索周四观测指南周五深空探测周六茶余星话周日视频天象翻译王婧彧校对王茸张砚斌杨伯顺审阅牧夫校对组后台库特莉亚夫卡李子琦徐坤胡永葳正在按照2019年的天舟二号整装待发!它也是个大家伙,比天宫二号还大,它都装了啥要搞载人航天,只会往天上送人还不行,也得能往天上送货,所以我国研制了神舟号飞船负责送人,而天舟号飞船送负责送货。我国已经于2017年4月20日发射过天舟一号,它于2017年4月22也许是磁力影响占宇宙70的暗能量真的存在吗?直到现在,许多研究者都相信暗能量在不断加速膨胀的宇宙中占据了近70的质能。多年来,对暗能量的描述一直与爱因斯坦在1917年提出的所谓宇宙常数有关,它指的是一种未知的排斥性的宇宙力量冥王星,一颗曾经的行星,这才是它表面真正的样子在地球,火星和庞大的气态巨行星以外的遥远太空,在那被称为柯伊伯带的疆域内,隐藏着一处小小的冰雪世界冥王星和他的5个卫星。1930年的二月,冥王星被美国科学家克莱德汤博发现,并曾经被开普勒第三定律的诞生应用,类比牛顿38开普勒第三定律的诞生应用,类比牛顿在16651666年间只用离心力定律和开普勒第三定律,因而只能证明圆轨道上的而不是椭圆轨道上的引力平方反比关系。离心力定律见牛顿21开普勒