专栏电商日志财经减肥爱情
投稿投诉
爱情常识
搭配分娩
减肥两性
孕期塑形
财经教案
论文美文
日志体育
养生学堂
电商科学
头戴业界
专栏星座
用品音乐

液冷,让AI模型更庞大

  1943年,当心理学家W。S。McCulloch和数理逻辑学家W。Pitts,经过反复地推算验证,提出神经网络和数学模型,并接受掌声和鲜花时,他们心中必然有一丝遗憾,因为在晶体管还未发明的年代,纷繁复杂的数学公式无异于纸上谈兵。他们肯定很难想象,80年后的今天,一场绿色的智能算力变革,会像电力、宽带一样,向我们奔腾而来。
  01hr超大AI模型呼唤更强算力
  两年前,大洋彼岸传出的一则的消息,震动了当时的学界。人工智能公司OpenAI发布了一篇长达72页的论文,作者多达30人,内容描述了一种超大AI语言模型GTP3,包含了1750亿神经网络参数,不仅能自己造句子,还能编故事。在大家都在感叹《终结者》电影中的狡猾天网似乎正走进现实时,很少有人注意到强悍功能的背后,超大AI模型正在贪婪的吞噬着有限的算力。
  大模型成为人工智能工程化的重要方向,智能算力需求几何级增长,9月19日,中国智能计算产业联盟发布的《东数西算下新型算力基础设施发展白皮书》,一针见血地指出当下智能算力的紧迫氛围。
  AI的发展绕不过三大核心要素,数据、算法、算力。如果把数据比作工业原材料,算法就对应着生产关系,而算力就是生产力,看得见摸得着的计算中心是它现实中的代表。十年前,业内广泛流传的段子是得大数据者得天下,如今却是得算力者得天下。
  从数据来看,超大AI模型对算力挑战巨大。比如说,OpenAI为了训练含有1750亿参数的GPT3,从无到有耗费了5亿美元,新搭建了一个算力中心,用掉了1万张显卡。而这个模型在训练上则消耗了355个GPU的年算力,训练的成本超过了460万美元。
  除了算力,超大AI模型对电力的需求同样让人吃惊,GPT3被训练一次就要消耗电量19万度,按照美国碳排放标准计算,大约产生了85000kg二氧化碳当量。
  可如今,对更大AI模型的疯狂追求却成了趋势。尤其是在AlphaGo以5比4的成绩击败李世石之后,各家科技巨头像着魔一般,疯狂挑战超大AI模型。在OpenAI推出GPT3之后,微软和英伟达也不甘心被落下,一年后立马公布了拥有5300亿参数的MTNLG大模型。
  所以,研究人员现在不得不面对一个现实困境,智能算力越来越不够用。在半导体产业,摩尔定律广为人知,芯片中的晶体管每隔18个月左右,基本会翻一番,性能同时会提升一个档次。而从2012年以来,人工智能产业也呈现了类似规律,复杂的AI训练任务所需的算力,每3。43个月就会翻倍。OpenAI在整理2012到2018年算力数据后,更是发现了一个惊人的事实,六年时间内,AI算力需求竟然增长了30万倍,这比摩尔定律更震撼。
  中国工程院院士郑纬民曾指出,下一代AI的发展亟需建设大规模AI算力基础设施,GPT3取得了很好的进步,但是离强人工智能还有差距,下一代人工智能模型可能超过万亿参数。
  当AI大模型成为推动AI能力提升的重要工具和手段时,它的非线性甚至是几何式增长的参数数量,将导致AI大模型、巨量模型的计算规模越来越大,需要的硬件资源越来越多,对算力需求及其巨大。若是步入强人工智能时代,所需算力更是将呈现几何倍增长。
  02hr更强的算力中心急需降温
  在算力需求嗷嗷待哺的同时,如何给数据中心节电省钱,也成了工程师们必须面对的难题,光是2021年,全国近2。6的电力都用在了数据中心运维上,且年电力消耗增速超过60。所以,各地数据中心面临节能减排的重任,而接二连三的政府文件,也恰好证明了这一点。
  2017年,国务院印发的《十三五节能减排综合工作方案》明确要求,新建的大型云计算数据中心能源利用效率值(PUE)要优于1。5。2021年,政府发布的《新型基础设施绿色高质量发展实施方案》又再次强调,到2025年,国家枢纽节点的PUE值要进一步降到1。25以下,绿色低碳等级要达到4A以上。
  所谓的PUE,简单点解释就是数据中心消耗的所有能源与IT设备能耗的比值,越接近1证明能效水平越好,也就说明数据中心的大部分电力都被服务器、网络设备、储存设备消耗掉了。但PUE1只是理想情况,按照正常的物理逻辑,强悍的算力往往意味高耗、高热量。
  首先就单个芯片来说,在制程不断突破极限、功率奔向千瓦时,如何冷却是头号问题。英特尔曾在1999年对外展示过一张折线图,内容是处理器功率密度随时间变化的趋势。可以很明确地看到,按照摩尔定律的发展路径,晶体管的尺寸和芯片的功率密度呈现负相关,也就是说晶体管尺寸减少的同时,芯片的功率密度反而高了。
  而随着新的数据中心不断建设、装备了先进制程芯片的机柜投入使用,单个机柜的功率密度也在快速抬升。根据UptimeInstitute发布的《2020全球数据中心调查报告》显示。2020年数据中心平均但机架功率为8。4(KW机架),相比于2017年的5。6(KW机架)、2011年的2。4(KW机架)有明显提高,年复合增长率达到了15。
  而且短期来看,功耗问题难以顺利解决。因为在经典的冯诺依曼架构中,数据的处理和存储是放在不同的地方,频繁地高速传输必然导致系统功耗很高。从某种角度理解,这也是冯诺依曼架构的缺陷所在。所以,当全球媒体津津乐道AlphaGo打败人类时,有一组让人大跌眼镜的事实,人类只用了20瓦的大脑能耗,而AlphaGo的能耗达到了2万瓦。
  先进制程芯片的突破、功率更高的单机柜使用,迫使数据中心使用更多的能源用于散热。
  03hr液冷技术成为破局要素
  2022年,《求是》杂志第二期中的一张图片,吸引了众多通信界人士的目光。这张图片展示的是一款浸泡在液体中的处理器,在其周围附着了很多移动的气泡。在图片旁边还注明了一行文字:对数字经济对经济社会的引领带动作用日益凸显,图中液冷计算节点能够将数据中心能效比PUE降至1。1以下,比传统风冷技术节电20。
  实际上,这款图展示的正是曙光自主研发的浸没式相变液冷技术,通过特殊的、沸点很低的液体,将CPU、内存、电源系统等发热部件运行时产生的热量带出设备,之后这些液体再与水做热交换,最终将热量排除,达到给数据中心降温的效果。从具体的数据来看,这样的冷却技术达到了极好的效果,甚至能将PUE值控制最低1。04,这说明数据中心的电力基本很少有浪费。而且,这些液体带出的热量还能被回收,供附近居民采暖。
  在液冷技术上,曙光很早就开始埋头耕耘。2011年,在业内竞相追逐互联网泡沫时,曙光开始了服务器液冷技术的探索与研究,2013年推出首台冷板液冷服务器原理机,并在一年后完成产品化。有了冷板液冷经验,先进的浸没相变液冷技术也就手到擒来了。2013年,首台浸没相变液冷原理验证机被推出,2014年原型机诞生,2017年启动商用,两年后,国内首个浸没相变液冷服务器大规模应用项目落地。
  在东数西算的大背景下,曙光的绿色算力方案也在有序的落地中。在全国一体化算力网络成渝枢纽节点内,曙光在重庆市璧山区科学城打造的数据中心,就是以浸没相变液冷技术为底座,布局建设。实际上,依托液冷技术,曙光的绿色大脑正在为国内各地、各行业提供算力,相比传统风冷技术,一年节电量达2亿度。
  由曙光承建西部(重庆)科学城先进数据中心效果图
  基础设施意味着普惠性、大众化,也就意味着东西便宜、用的人多。18世纪的蒸汽、19世纪的电力、20世纪的宽带,都在相应的时间节点上,顺利地演变成那个时代的基础设施,有的仍存延至今。在以液冷技术为代表的绿色算力席卷全球、贯通各行各业时,我们似乎看到了强人工智能时代的算力基础设施,正呼之欲出。
  来源科工力量

POSHPOSHx林柏叡初泛涟漪的梦TopTrousersby8on8BootsbyHunterShortsbyHIENDARCHIVSneakeby鸿星尔克x雾山五行联名休闲鞋VacuumCupbySHAKORIR内马尔缺席贝利葬礼挨批,名记炮轰荒谬!能开派对却不来告别周一,贝利的葬礼在桑托斯进行。内马尔以及众多世界杯冠军成员没有出席葬礼,引发了媒体的不满,著名解说员伊戈尔甚至认为这样的举动太荒谬。媒体一度透露,内马尔会回到巴西参加贝利的葬礼。然郭艾伦246张镇麟2110皮特森476辽宁力克同曦取4连胜直播吧12月25日讯CBA常规赛辽宁对阵同曦,辽宁近来取得3连胜排在联赛第二,同曦上场比赛不敌北京排在联赛第九。开场后两队首先打了个势均力敌,辽宁在首节后半段依靠冲击内线打出一波攻载人飞船升至50度!返回舱座位不够,航天员站着,能活着回来吗?不久前,国际空间站联盟MS22飞船被确定发生故障,初步断定原因是冷却剂泄漏所致,这小小的一个泄漏,直接导致飞船内的温度,急剧飙升,一路升至50多!虽然经过一系列抢救措施之后,目前飞猜想地球起转之谜,欢迎讨论树为什么是圆柱形,因为它要全方位接收阳光的照射,不能有死角,由此延伸出生命的起源不是水,而是太阳,或者说太阳光。光照射冰冷的石头,出现了露珠,露珠如何形成呢?阳光穿透大气,形成了温苹果原装快充同厂电源芯片加持,邦克仕45W双USBC口充电器拆解前言知名配件品牌Benks邦克仕推出了一款双USBC口充电器,这款充电器采用折叠插脚,具有圆润的外观设计,手感舒适,便于收纳和携带。这款充电器具备45W输出功率,单口输出时满足笔记红米K60下周二发布!卢伟冰升任小米总裁后的狂暴旗舰不得不说,卢伟冰这几年简直是开挂的存在,不仅在小米站稳了脚跟,而且每年几乎都向上升一级。就在近期,雷军宣布任命卢伟冰为小米公司总裁,接替前总裁王翔的工作,目前来看,卢伟冰已经成为了男子捉奸收情夫赔偿被判敲诈勒索最新进展申请再审被驳回妻子张某在孩子上辅导班时与另一名男子刘某某在酒店偷情,31岁的山东淄博人路某某跟踪后在酒店房间内撞破这一场景,并收取了刘某某2万多元补偿金。后路某某被控敲诈勒索罪,一审被判处有期徒15助,14助,又14助,此人这样打下去,哈登助攻王就悬了NBA常规赛继续进行,截止到12月23日,各项数据榜首争夺都非常激烈,比如得分榜领跑者是恩比德,场均32。5分,身后的东契奇则是32。2分,篮板榜排首位的是萨博尼斯,场均12。3个宣化上人19岁出家,为母亲守孝3年,在美国旧金山创立万佛圣城出生时,母亲梦见阿弥陀佛降临。1918年的一个漆黑的夜晚,一个太夫人在临产,随着哇的一声响亮的哭声,一个婴儿平安地诞生,他就是将佛教传入西方世界的先驱者之一宣化上人。令人称奇的是,李永宪西藏考古知识图谱关键技术研发的难点在哪里?中国西藏网讯最近,2022年西藏科技重大专项课题西藏考古知识图谱关键技术研发获批立项,并召开了开题论证会暨学术研讨会,会议由西藏民族大学主办。图为2021年,西藏民族大学实习生在布
现在的人为什么就没有了亲情三十年以前,人们生活的范围面小,基本上不超过方圆几公里之内,互相见面交流的时间间隔时间不太长,而且呢互相还能帮一把。这样的话就加深了亲戚朋友之间的感情,彼此之间的感情越来越深。现在一看就哭的伤感文案,你来一阵子,我却疼一辈子我很喜欢你又好像有些释怀那股偏执的爱混杂着委屈和不甘退下去又涨起来犹犹豫豫反反复复那个曾经说过永远不离开你的人,是不是到最后也只是对你说了一声对不起,我怪铁树不开花,我怪乌鸦不会说国风漫画赛尔号!带你游历名山大川,探索中华文化遗产前段时间,网络上兴起一股怀旧风,怀念2019年的夏天。那个夏天的阳光和之后几年的夏天并无差别,而那个夏天最为特别的地方在于,我们出门不用戴口罩,进出任何场合都不用测温扫码,可以自由古迹掠影位于市中心的古清真寺凤凰寺杭州凤凰寺外墙位于杭州中山中路羊坝头的凤凰寺,历史悠久,在许多评选中被纳入中国四大古清真寺之列。作为杭州宗教文化的一部分,凤凰寺代表着杭州2万余位穆斯林,是伊斯兰教在历史发展过程中辽宁默默无闻的旅游小县,藏中国第一大雄殿,你猜和哪位太后有关?头条创作挑战赛若不是一次辽宁义县的旅行,我或许会错过这座历史悠久的古城。这座城名气不大,如今虽然偏安于一隅,但在古代凭借着独特的地理位置成为辽西走廊上的重镇,见证着五燕皇朝和大辽萧在泉城仰望中国红国庆期间,在泉城的主干道两侧,在居民小区商铺等的门口,彩旗飘飘,红旗漫卷,那一排排一列列一面面中国红,常常让我驻足仰望。鲜艳的中国红带给人们的不仅仅是亮丽的风景,更是奋进前行的信心游走大别山风景道翻越舒桐界岭老虎岭,桐城市叫它老关岭,沿S237穿过黄甲镇,向西到达当天的第一站唐湾镇。观赏了网上说的八卦田,因为规划时间紧凑,就没去红旗洞,留着下次再来。离开唐湾,沿北冲河黑河前探店广州柏悦酒店正对广州塔!城市高空中深藏的一座岭南大宅在广州,住在哪里,能看到最好的风景?带着这个问题,我来到了广州。作为南中国的最大城市,广州的酒店可选择的可真是多。不过既然要看城市风景,那就是市中心仅有的几家高空酒店了。自然而然的巴溪洲一起去秋游在长沙,你一定听说过颇具盛名的橘子洲,外地游客打卡的网红圣地。但是更小众更归隐的巴溪洲,其实与橘子洲差不多大小,且风景优美,别有一番意境,更值得一去。目之所及皆是绿巴溪洲位于长沙市实拍戴安娜王妃最后的居所肯辛顿宫,这里秋意正浓,阳光灿烂那年我们到达肯辛顿公园的时候是一个阳光明媚,空气清新的日子。穿过肯辛敦公园里幽静的小路,我们来到了戴安娜生命中最后的住所肯辛敦宫。在肯辛敦宫的大门上有一个戴安娜生前的照片,戴妃灿烂南沙力争明年建成广东省全域旅游示范区南都讯记者王美苏通讯员罗瑞娴吴晓冬日前,南沙区召开创建全域旅游示范区动员大会。记者从会上了解到,南沙于2021年10月申请成为广东省全域旅游示范区创建单位,计划于2023年6月前申
友情链接:快好找快生活快百科快传网中准网文好找聚热点快软网