ChatGPT专用GPU提速10倍英伟达GTC大会还有哪些看
每经记者:文巧每经编辑:高涵
如果要问,除了OpenAI和微软之外,谁是ChatGPT引领的人工智能(AI)革命中最大的赢家?毫无疑问,英伟达算得上一个。凭借全球领先的图形处理单元(GPU),该公司走到了AI舞台的中央。
3月21日晚间,英伟达CEO黄仁勋在2023年GTC开发者大会上发表了主题演讲,介绍了英伟达在AI领域的最新进展,包括全新的量子计算系统、云服务平台、视觉图像系统等,以及这些技术将如何影响每个行业和日常生活。我们正处于AI的iPhone时刻,黄仁勋表示,初创公司正在竞相打造颠覆性产品和商业模式,科技巨头也在寻求突破。
多年来,黄仁勋一直倡导AI和机器学习,长期押注AI的潜力也注定了英伟达是ChatGPT浪潮中受益最多的公司之一。因为,对于大型语言模型来说,算力是其中最重要的一环,因此高度依赖英伟达强大的GPU芯片。
今年年初至今,英伟达股价的涨幅已超80。英伟达2023财年第四季度财报显示,该公司的AI数据中心业务再次成为最大的收入来源。尽管四季度营收同比下滑21,但基于AI芯片的销售,该公司在当季的表现略好于市场预期。
如今,谷歌、亚马逊等正在自研芯片的科技巨头,英伟达的未来之路并不好走。有分析认为,英伟达不太可能和巨头在云服务上直接竞争,但可能会推出特定的AI产品。此外,鉴于微软是唯一一家尚未推出AI芯片的超大规模厂商,其与英伟达的合作对双方来说意义重大。英伟达可以更好地耕耘数据中心,微软不一定需要通过构建基础设施来与亚马逊竞争,而是依靠前者成为AI最大的参与者之一。
视觉中国图
AI领域新进展,涵盖五个方面
GTC开发者大会于3月20日23日举行,本届大会将举办超过650场由技术、商业、学术和政府领域领导者主持的会议。
在3月21日晚的主旨演讲中,黄仁勋介绍了英伟达在AI领域的最新进展,并展示了这些技术在包括科技、医疗、金融、图像、物流配送等各行各业的应用场景,并宣布了包括量子硬件公司AnyonSystems、AtomComputing、电信巨头ATTCorp、医疗保健技术提供商美敦力、甲骨文、Adobe、GettyImage等一批全新的合作伙伴。
我们正处于AI的iPhone时刻,黄仁勋说道,初创公司正在竞相打造颠覆性产品和商业模式,而科技巨头们也在寻求突破。他表示,新的AI技术和迅速蔓延的应用正在改变科学和各行各业,并为成千上万的新公司开辟新的疆域。这将是迄今为止最重要的一次GTC。
《每日经济新闻》记者总结了英伟达最新发布的几个重大进展。
首先是推出DGXQuantum。英伟达宣布和QuantumMachines推出DGXQuantum,这是首个结合GPU和量子计算的系统,使用新的开源CUDAQuantum软件平台,该系统为从事高性能和低延迟量子经典计算的研究人员提供了革命性的新架构。
其中最主要的是H100NVL,它将英伟达的两个H100GPU拼接在一起,以部署像ChatGPT这样的大型语言模型(LLM)。当前唯一可以实际处理ChatGPT的GPU是英伟达HGXA100。与前者相比,现在一台搭载四对H100和双NVLINK的标准服务器速度能快10倍,可以将大语言模型的处理成本降低一个数量级。黄仁勋说。
其次是推出的DGXTMCloud。英伟达宣布推出NVIDIADGXTMCloud,这是一项AI超级计算服务,能让企业立即访问为生成式AI和其他突破性应用程序训练高级模型所需的基础设施和软件。企业可按月租用DGXTMCloud集群,确保快速轻松地扩展大型多节点训练工作负载的开发,而无需等待通常需求量很大的加速计算资源。微软Azure预计将在下个季度开始使用DGXTMCloud,并且该服务将很快扩展到谷歌云。
再来看全新的BioNeMoCloud。英伟达公布了全新的BioNeMo云服务,用于定制AI基础模型,以加速新蛋白质和疗法的创造,以及基因组学、化学、生物学和分子动力学领域的研究,安进和其他十几家生物科技初创公司已经接入该服务。
同时,英伟达还公布了CVCUDA测试版,这是一个用于云规模计算机视觉的开源GPU加速库。黄仁勋透露,微软、腾讯和百度等公司都正在采用CVCUDA进行计算机视觉AI研究。
最后,英伟达宣布了一项突破将加速计算带入计算光刻领域,使ASML、台积电和Synopsys等半导体领导者能够加速下一代芯片的设计和制造。
喊话初创企业,必备A100芯片
黄仁勋将GPT4等生成式AI模型的能力增长描述为计算的新时代。他认为,对于许多公司来说,在获得使AI运行所需的资源和技能方面,仍然面临无法逾越的障碍,这也是英伟达提供AI服务业务的原因。具体来说,客户直接从该公司购买AI服务,部署预训练生成式AI模型,并利用该公司的DGXAI超级计算机。
而英伟达长期押注AI的决定了该公司是从ChatGPT浪潮中受益最多的公司之一,因其强大的GPU被用于训练GPT4模型,以及用来运行AI超大规模云提供商服务器上的工作负载。GPU是其主要业务,占该公司收入的80以上。
GPU即图形处理器,是一种专门在个人电脑、工作站、游戏机和一些移动设备上做图像加速和通用计算工作的微处理器。大约十年前,我们就看到,这种做软件的方式可以改变一切,黄仁勋在近期接受CNBC采访时这样说道,我们制造的每一个芯片都专注于AI,这从各个方面改变了英伟达。
事实证明,这是英伟达做过的最正确的决定之一。对于研究大型语言模型的公司来说,算力是其中最重要的一环,AI大模型的推理和训练高度依赖英伟达的GPU芯片。缺少芯片会导致算力不足,计算能力不足意味着无法处理庞大的模型和数据量,最终的结果是模型存在智商差距。美国银行证券的半导体分析师VivekArya作了一个比喻,计算能力现在基本上是硅谷的货币。
鉴于英伟达在高性能GPU方面的技术领先地位,一些云计算专业人士认为,1万颗英伟达A100芯片是一个好的AI模型的算力门槛。而微软为OpenAI构建的用于训练其模型的AI超级计算机就配备了1万颗英伟达的GPU芯片。
A100芯片是英伟达性能最好的芯片,现在售价约为1万美元。市场研究公司TrendForce在一份报告中计算得出,要处理1800亿参数的GPT3。5大型模型,需要的GPU芯片数量高达2万颗,未来GPT大模型商业化所需的GPU芯片数量甚至会超过3万颗。
黄仁勋在接受CNBC采访时回忆道,大概五年前,当英伟达生产出第一个超级AI芯片时,他亲手把这片芯片交给了ChatGPT的开发商OpenAI,这也是全球首个这样的芯片。
如今,ChatGPT席卷全球,黄仁勋表示,我们是全球AI的发动机。全球有超过3。5万家公司不论是科技巨头还是初创企业,都在使用英伟达的产品来开发AI,领域从消费者互联网、生物科学到机器人研发等。
他同时还喊话硅谷初创企业,称英伟达还有很多A100芯片。他表示,今天的AI行业,非常像手机的iPhone时刻,是一个革命性的转变时刻。对今天的创业者来说,创业是和AI一起进行的,A100芯片驱动的超级AI计算机将成为你的创业伙伴。里面的算法、庞大的数据等等都将成为创业计划的一部分,这是一个很大的转变,这也将成为AI行业的分水岭。他这样说道。
外界普遍认为,英伟达的AI系统很贵,只有科技巨头才能买得起。黄仁勋说,AI数据中心现在的价格是1亿美元,但是可以由100家公司共同使用,因此,这些成本对这些公司来说,基本上是九牛一毛。而且从芯片研发的角度来说,我们花了20到30亿美元才研发出来A100这款AI芯片。更不要说我请芯片代工厂制造这些芯片,以及用这些芯片来进行大规模语言模型训练产生的成本了。
推出特定产品,与微软加强合作
自ChatGPT掀起这场AI风暴后,英伟达股价节节走高。今年年初至今,英伟达股价的涨幅已超80。黄仁勋表示,并没有预见今天的一切,也不把英伟达的成功视作是幸运。
我预见的是,加速计算机的发展,而不是AI的发展,黄仁勋这样说道,我们做了很多伟大的决定,包括搭建平台,并且让每个人都能够连接到这个平台,和全球的研究型大学建立联系等。我们只是相信,在某一天,总有一些新的东西会出现。英伟达在AI芯片上的部署也帮助其数据中心收入在2020年首次超过游戏部门,企业相关收入目前占该公司收入的大部分。上个月,英伟达发布了2023财年第四季度的财报,数据显示,该公司的数据中心业务再次成为最大的收入来源,该业务营收在当季同比增长11,但环比下降6。
但是,由于经济放缓,英伟达的总体收入停滞不前。财报显示,2023财年第四季度营收为60。5亿美元,同比下滑21。尽管如此,上个季度它的表现略好于市场预期,这主要是基于AI芯片的销售。
Gartner分析师AlanPriestley表示,尽管市场上大型语言模型和相关工具的数量与日俱增,但英伟达的GPU不太可能很快出现供不应求的情况。目前对高端性能的需求正在推动英伟达的业务,他表示,我们仍处于这种生成式AI趋势的斜坡上,没有人真正知道它会在哪里结束。
AlanPriestley认为,英伟达的中长期前景不太明朗。因为,它不得不与一些想要分一杯羹的科技巨头抗衡。例如,去年10月,谷歌发布了其最新的Tensor处理单元,这些单元经过优化来训练和运行AI和机器学习模型;亚马逊市场领先的云平台AWS也拥有自己的内部芯片。我们将看到这种情况越来越多地发生,Priestley说道。
面对日益激烈的竞争,Forrester高级分析师TracyWoo认为,英伟达有可能会提供能与超大规模厂商竞争的服务和产品。不过,大众不太可能看到英伟达推出面向所有业务的云服务(与超大规模厂商竞争的启动成本至少为10亿美元),但可能会看到特定用于AI的产品。
Woo说:没有人会尝试全面与超大规模企业竞争,但你可以试图去蚕食某些市场领域,因为他们(超大规模企业)不一定能主宰一切。
除此之外,Woo表示,英伟达与微软的合作意义重大,后者是唯一一家尚未推出AI芯片的超大规模厂商。两家公司在去年11月宣布了一项多年合作,微软将使用英伟达的GPU在其Azure云平台上构建强大的AI超级计算机。
另一方面,Woo表示,与英伟达保持紧密联系可能也是微软与亚马逊竞争对手保持同步的一种方式。这可能是一个非常富有成效的合作伙伴关系,他们都能从中受益,她说道,英伟达可以更好地耕耘数据中心,而微软不一定需要通过构建自己的基础设施来与亚马逊竞争,而是依靠前者成为AI最大的参与者之一。
每日经济新闻
湖南省建立地名管理厅际联席会议制度红网时刻新闻1月12日讯(记者陈彦兵通讯员刘婧)为进一步加强地名管理工作,积极构建地名规范管理长效机制,形成各司其职各负其责齐抓共管的良好局面,根据新修订的地名管理条例有关要求,湖
学会欣赏别人欣赏别人是一种境界,是一种胸怀,是一种涵养,是一种快乐。有这么一则故事有一个男孩酷爱音乐,他在家练习拉小提琴,说实在的,他的琴声拉的的确不怎么样,他的妹妹一听到他的琴声,就紧捂耳朵
如果2022一地鸡毛,2023为什么不拼搏一把2022是一个极不平凡的一年,我们每一个人都坚持到了疫情的尾声,尽管过去很难,现在也不轻松,将来也还是一个谜团,但我相信未来一定是阳光灿烂的,日子得一天一天过,好事得一件磨,那就借
醒醒吧,新年愿望,就是自欺欺人的谎话!东风昨夜到,送喜入城来。仗尔春阳力,千门万户开。又是新的一年,2023年来到了我们的身边,做好准备了吗?去年的今天,我们也是满怀憧憬2022年能有大突破,工资达到20万,订单多上一
2023无谓去闯荡,果敢去翱翔陪你走过万重山陪你踏过千重浪陪你细数春日繁花陪你沐浴冬日的暖阳陪你听见夏日蝉鸣陪你拾起秋日落叶黄四季辗转,往事依稀匆忙故人依旧,一盏烈火茶汤往昔不可追忆,明日无惧悲凉你听,涛声依旧
写在20222023年的新旧之交2022年临别的钟声已经敲响,2023年就在眼前,回首这风云变幻的一年,我们每个人都有自己不一样的感受,有些人在艰难地生存,而有些人选择了放弃。世界的潮流裹挟着我们每个人艰难前行,
2023年,是时候做出些改变了!2022年刚刚过去,这是一个不平凡的一年,这一年发生了太多的事情,个人的国家的世界的。我本人也是刚刚阳康,在经历了三年的疫情后,相信发生在每个人身上的故事不少,感慨心得也很多,但无
外卖小哥送餐,竟把自己送进了派出所近日,浙江舟山一名外卖小哥骑着偷来的电动自行车到派出所送餐没想到订餐的正是办案民警办案民警点外卖一眼看出外卖小哥是嫌疑人近日,有群众报警称停在家楼下的电动自行车不见了舟山市公安局定
炫手串也能有牢狱之灾?文玩人不可不知的禁品,你见过吗?现在玩手串的人越来越多,一些人为了与众不同,喜欢挑些冷门手串来玩,但是却对于手串本身了解不多,一不小心就踩了法律红线。前一阵,桐乡濮院一位小伙就因为玩手串遭遇了牢狱之灾,他究竟玩的
2023年第一天,找回当年写的一首歌你说,这是你的故乡你说,这是你的故乡,这里鸟语花香,是你生长的地方。你说,我们在九曲桥,弯弯曲曲地走,鱼儿在水中悠悠。你说,走坡广场上,谁还在,唱着山歌。(壮语)今天啊,咱到这啊,听人唱山歌啊河里的
当你忘掉白头偕老的时候,它反而变得成为可能很幸运能够让你遇到一个有正知正见的闺蜜,因为很多的关系不好,都是闺蜜怂恿的,这个是事实。比如说两个闺蜜都是因为跟自己的另一半有意见,吵架离婚,然后跟自己的伴侣有摩擦有矛盾的时候,那