NVIDIA发布新一代H100GPU核心4nm工艺
黄仁勋终于公布了NVIDIA新一代架构与核心,当然这次是面向HPC高性能计算、AI人工智能的“Hopper”,对应核心编号“GH100”,同时发布的还有基于新核心的加速计算卡“H100”、AI计算系统“DGX H100”。
与传闻不同, GH100核心采用的其实是 台积电目前最先进的4nm工艺 ,而且是定制版,CoWoS 2.5D晶圆级封装,单芯片设计, 集成多达800亿个晶体管 ,号称世界上最先进的芯片。
官方没有公布核心数,但已经被挖掘出来,和此前传闻一直。
完整版有8组GPC(图形处理器集群)、72组TPC(纹理处理器集群)、144组SM(流式多处理器单元),而每组SM有128个FP32 CUDA核心, 总计1843个。
显存支持六颗HBM3或者HBM2e,控制器是12组512-bit, 总计位宽6144-bit。
Tensor张量核心来到第四代,共有576个,另有60MB二级缓存。
扩展互连支持PCIe 5.0、NVLink第四代,后者带宽提升至900GB/s ,七倍于PCIe 5.0,相比A100也多了一半。整卡对外总带宽4.9TB/s。
性能方面,FP64/FP32 60TFlops(每秒60万亿次),FP16 2000TFlops(每秒2000万亿次),TF32 1000TFlops(每秒1000万亿次),都三倍于A100,FP8 4000TFlops(每秒4000万亿次),六倍于A100。
H100计算卡采用SXM、PCIe 5.0两种形态,其中后者功耗高达史无前例的700W,相比A100多了整整300W。
按惯例也不是满血, GPC虽然还是8组,但只开启了66组TPC(魅族GPC屏蔽一组TPC)、132组SM,总计有16896个CUDA核心、528个Tensor核心、50MB二级缓存。
显存只用了五颗,最新一代HBM3,容量80GB,位宽5120-bit,带宽高达3TB/s ,相比A100多了一半。
DGX H100系统集成八颗H100芯片、搭配两颗PCIe 5.0 CPU处理器 (Intel Sapphire Rapids四代可扩展至器?), 拥有总计6400亿个晶体管、640GB HBM3显存、24TB/s显存带宽。
性能方面,AI算力32PFlops(每秒3.2亿亿次),浮点算力FP64 480TFlops(每秒480万亿次),FP16 1.6PFlops(每秒1.6千万亿次),FP8 3.2PFlops(每秒3.2千亿次),分别是上代DGX A100的3倍、3倍、6倍,而且新增支持网络内计算,性能3.6TFlops。
同时配备 Connect TX-7网络互连芯片,台积电7nm工艺,800亿个晶体管 ,400G GPUDirect吞吐量,400G加密加速,4.05亿/秒信息率。
DGX H100是最小的计算单元,为了扩展,这一次 NVIDIA还设计了全新的VNLink Swtich互连系统,可以连接最多32个节点,也就是256颗H100芯片,称之为“DGX POD”。
这么一套系统内,还有20.5TB HBM3内存,总带宽768TB/s,AI性能高达颠覆性的1EFlops(100亿亿亿次每秒),实现百亿亿次计算。
系统合作伙伴包括Atos、思科、戴尔、富士通、技嘉、新华三、慧与、浪潮、联想、宁畅、超威。
云服务合作伙伴包括阿里云、亚马逊云、百度云、Google云、微软Azure、甲骨文云、腾讯云。
【来源:快科技】【作者:上方文Q】
方舟投资管理公司申请设立比特币交易所交易基金据国外媒体报道,美国证券交易委员会(SEC)的一份文件显示,凯西middot伍德(Cathiewood)旗下的方舟投资管理公司(ArkInvestmentManagement)已经
摩根大通目前的价格水平使机构对比特币兴趣下降据国外媒体报道,比特币目前呈整体看跌走势,比特币基金继续亏损,大大降低机构逢低买入的可能性。在周三发给投资者的一份报告中,摩根大通详细说明了其认为中期内比特币的公允价值在23000
滴滴上市在即有人8年赚了1万倍比买比特币还爽6月25日,滴滴出行向美国证券交易委员会(SEC)提交了更新版IPO(首次公开招股)上市申请文件。IPO定价区间为每股ADS1314美元,预计定价为13。5美元,以每股13。5美元
比特币中国全面退出加密货币交易业务收手了日前,来自21世纪经济报道称,比特币中国(BTCChina)宣布,此前于2019年1月投资的新加坡交易平台ZG。COM股份已被迪拜某加密基金会全额收购,具体出售条款目前尚未公开。这
Microstrategy约4。89亿美元价格购买13005枚比特币据国外媒体报道,当地时间周一,商业情报公司MicroStrategy表示,该公司以4。89亿美元现金购买了约13005枚比特币,平均每枚比特币价格约为37617美元(含费用和支出)
数据显示人工智能(AI)企业同比新增1502021世界人工智能大会将于7月中上旬在上海开幕。人工智能引起各界广泛关注。企查查数据显示,目前我国现存ldquo人工智能rdquo相关企业共43。9万家。2020年是企业注册量的
深圳制定人工智能领域全国首部地方性法规据深圳特区报报道,深圳经济特区人工智能产业促进条例(草案)已提请深圳市七届人大常委会第二次会议审议。作为全国人工智能领域的首部地方性法规,草案从深圳人工智能产业发展实际出发,围绕l
字节跳动开源AI训练引擎字节跳动火山翻译团队宣布推出LightSeq训练加速引擎,并向全球开发者开源。Transformer是自然语言处理计算机视觉等AI技术领域最常用的基础模型,被广泛应用在机器翻译文本
李开复预测未来20年AI将深刻影响五大产业创新工场的创始人李开复在近日发表了飞奔的AI时代演讲。在演讲中,李开复预测了在未来二十年,AI等技术发展会深刻影响五大产业变革。李开复提到这五大产业分别是世界工厂AI自动化升级,中
华为公开控制智能汽车车速专利可提高驾驶舒适度随着科技的进步,人工智能技术也随之得到飞速发展,同时,该技术在汽车领域的应用,使得具有自动驾驶功能的智能汽车受到广泛关注。今日,从企查查网站了解到,6月29日,华为技术有限公司公开
加码无人驾驶,亚马逊拟入股AI机器人卡车初创公司Plus北京时间6月22日早间消息,据报道,亚马逊已经拥有一家机器人出租车公司,还在尝试一种可以在人行道上送货的机器人,现在则考虑收购某AI机器人卡车创业公司的大量股权。位于美国加州的Pl