范文健康探索娱乐情感热点
投稿投诉
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文
国学影视

百度飞桨亮相GTC2023,助力AI大模型高效生产及应用

  NVIDIA GTC 是人工智能领域的全球 AI 开发者盛会,2023年度春季大会于3月20-23日在线上举办。NVIDIA 创始人兼 CEO 黄仁勋指出,AI 的 iPhone 时刻来临。AI 行业已经到达了像 iPhone 横空出世时为手机行业带来的革命性颠覆的时间点。
  百度 AI 技术生态总经理马艳军,百度主任架构师、MEG 商业模型中台技术负责人焦学武在 GTC 中国特别活动 China AI Day 上,就飞桨深度学习平台如何高效支持大模型生产及应用,基于 GPU 的超大规模图模型训练技术等进行分享。百度技术专家还在 GTC 上带来大模型开发套件 PaddleFleetX 和 AI 部署工具 FastDeploy 的详细介绍。全球数十万开发者注册观看。
  长期以来,飞桨与 NVIDIA 密切合作,联合发布了基于 NVIDIA GPU 定制优化的飞桨容器 NGC,同时在深度学习培训中心和深度学习模型示例方面开展深入合作。NVIDIA 也是最早加入飞桨"硬件生态共创计划"的伙伴。该计划截至目前,已包括 NVIDIA、Intel、瑞芯微、Arm、Imagination 等29家生态伙伴。飞桨还联合 NVIDIA 在内的13家合作伙伴共同发布了飞桨生态发行版,实现软硬件协同深度优化。
  飞桨助力大模型高效生产及应用,
  降低AI落地门槛
  马艳军在主题演讲中首先介绍了大模型的发展趋势和面临的挑战,以及在此趋势和挑战之下飞桨深度学习平台和文心大模型的发展现状,随后具体分享了飞桨框架的训练和推理技术,最后通过 ERNIE 3.0(知识增强千亿大模型)、ERNIE-ViLG 2.0(知识增强跨模态大模型)、VIMER-UFO 2.0(视觉多任务大模型)和 HelixFold(蛋白结构预测模型)四个大模型案例,展示了飞桨如何高效支持大模型训练和推理的应用实践。
  他讲到,不同类型的大模型需要不同的分布式策略来实现高效训练。飞桨同时支持去中心化的集合通信和中心化的参数服务器训练架构。飞桨结合应用持续创新,先后发布了 4D 混合并行训练、端到端自适应分布式训练、超大规模图训练引擎等核心技术。而大模型的高效推理是实现大模型产业应用落地的关键所在。飞桨提供了灵活、高性能的部署工具链,支持模型压缩、自适应多 GPU 分布式推理和服务化部署。飞桨推理引擎可以同时考虑内存、带宽和算力等硬件特性,自动将模型跨设备分区,并且支持灵活配置。
  基于飞桨,百度自主研发的产业级知识增强大模型"文心",通过引入知识图谱,将数据与知识融合,提升了学习效率和可解释性,目前涵盖基础、任务、行业三级体系共36个大模型,包括在能源、金融、制造等领域与相关头部企业联合发布11个行业大模型,全面满足产业应用需求、降低应用门槛。
  业界首个同时支持
  复杂算法+超大图+超大离散模型的
  图模型训练技术PGLBox
  焦学武分享了图模型训练技术 PGLBox 相关内容。百度基于飞桨平台完成了图神经网络架构的全新升级,为业界带来了超大规模图学习训练技术 PGLBox。PGLBox 是业界首个同时支持复杂算法+超大图+超大离散模型的大规模图学习训练技术,通过显存、内存、SSD 三级存储技术和训练框架的性能优化技术,单机即可支持百亿节点、数百亿边的图采样和训练,并可通过多机扩展支持更大规模。
  工业场景中现阶段普遍采用分布式 CPU 主引擎去做图模型训练,但该方案存在算力较弱、稳定性差,很难通过增加节点来提升训练效率等诸多现实局限。为解决这些挑战,百度首先构建分布式的 GPU 图学习训练框架解决性能问题,并创新性地采用了多级存储体系,将图规模提升一个数量级。百度还利用 PGLBox 提供的 GPU 算力和大规模存储能力,将跨模态的各种信息进行统一表达,传统的 CPU 则无法做类似处理。
  在 PGLBox 的支持下,百度的 R-UniMP 模型赢得了 NeurIPS 2022 大型 GNN 挑战赛冠军。PGLBox 为百度业务创新提供了广阔的空间,目前已经在信息推荐、搜索等标杆场景实现落地,大幅提升业务效率和用户体验。
  端到端大模型开发套件PaddleFleetX,
  一站式搞定大模型
  百度资深工程师敖玉龙介绍了针对大模型的端到端开发套件 PaddleFleetX。PaddleFleetX 依托于飞桨深度学习平台,旨在提供高性能、易于使用和可扩展的组件,支持环境构建、预训练、模型微调、模型压缩,以及基于工业实践的推理部署。
  PaddleFleetX 的核心技术包括全场景分布式并行策略、极致的分布式训练优化技术、丰富多样的模型小型化能力和高效的大模型分布式推理与部署方案。该开发套件中的关键组件可支持大模型开发与部署的端到端工作流,其中模型并行组件涵盖了各种各样的并行策略,分布式训练组件可以高效地扩展到数千台设备,模型压缩组件可实现无损压缩,分布式推理组件能通过硬件感知来实现低延迟。
  全场景高性能AI部署工具,
  加速打通AI落地"最后一公里"
  百度飞桨高级产品经理雷青介绍了一个全场景、高性能、简单易用的 AI 部署工具 FastDeploy。FastDeploy 可为产业实践中需要推理部署的开发者提供最优解。
  为解决开发者部署 AI 时面临的复杂环境问题,FastDeploy 将飞桨和生态 AI 部署引擎 API 统一起来,开发者可通过一行命令灵活地切换多个推理引擎后端,并适用于云端、移动端和边缘端。
  FastDeploy 为不同语言设计了统一部署 API,只需要三行核心代码就可以实现高性能的AI部署,并可以通过160多个先进的模型演示完成工业AI部署。会上分享了一些使用 FastDeploy 和 NVIDIA 硬件落地的案例,如在智慧油田场景实现了油气田作业智能防护系统,有效降低企业事故发生率。
  扫描下方二维码或点击 阅读原文 即可观看百度演讲精彩回顾

佟丽娅演少女,何润东再饰帝王,戏骨云集,女二号陈都灵要火了古偶遍地走,仙侠多如狗!这就是如今的国剧乱象,工业化的糖精千篇一律的虐恋也成了当下的流量密码,在我看来,颜值即正义也不该成为影视剧的追求,古代剧更应该是展现历史和传奇。不把观众当傻51岁韩红到超市扫货被拍,挺大肚腋下赘肉明显,男司机作陪显亲密近日,51岁知名歌手韩红现身某超市扫货被狗仔拍到,当时她身穿浅色运动衣,戴着帽子和口罩,身形圆润格外引人注目。韩红一路走到了蔬菜区,正在低头认真挑选食材,与她同行的还有一位三十岁左大S婚纱照冲上热搜!这一次汪小菲输惨了大S和具俊晔这一对跨国恋,刚开始真的被很多网友不看好。但是见识了汪小菲一系列骚操作,再回头看看具俊晔在韩国节目的恋爱脑状态,不得不说这个男人还有点可爱特别是和具俊晔在一起后,大S状影评伟大的电影约旦日记(2021)浪漫戏剧这部电影的标题是约旦的日记,但就像它所依据的书一样,这部电影实际上是两份日记,由一个婴儿的父母保存,他的父亲在伊拉克遇害前只见过他一次。这是一个关于两个截然不同的人之间不可霸气31,意大利女排逆转当家球星狂轰29分豪取第7胜2022世界女排联赛一场焦点战,意大利女排对阵波兰女排,最终,意大利队先输一局的情况下完成逆转,霸气31击败了波兰队!本场比赛,埃格努狂轰29分,状态出色,意大利队豪取第7胜。本场看看环法卫冕冠军波加查的自行车梅花V3RS(纯正意大利血统)每个骑自行车的都想知道,最快的公路车选手骑什么车,是什么让他们如此之快。当今世界上最快的自行车的选手,非波加查莫属。1999年2005年,兰斯阿姆斯特使用崔克马东,取得环法七连冠,小米12Sultra这次会翻车吗?小米11之前,因为火龙888翻车了,那么这次的小米12SUltra会像上次一样翻车吗?小米12接盘徕卡,雷总对12SUltra可以说是信心满满,我们接下来分析分析,看看小米12超大温网爆出4大冷门!中国33岁老将再创新历史,奖金高达97万北京时间2022年6月30日,温网结束第三比赛日争夺,单打赛场爆出了4个大冷门,鲁德拉杜卡努穆古鲁扎康塔维特等高排位种子选手惨遭淘汰。中国选手表现不错,33岁的张帅横扫科斯秋克,职小米12S系列即将发布,不仅有徕卡可乐标,存储及电池均有新突破记得早在几年前,华为和徕卡的联名让许多智能手机厂商羡慕至极,充满德味的徕卡照片放在朋友圈或者是微博非常抢眼。因为种种原因,华为和徕卡公司的合作也告一段落。紧接其后的便是小米与徕卡公ESG行动派沙龙社会责任报告成企业品牌价值新名片,数娱企业如何做好ESG信披?每经记者李佳宁每经编辑梁枭今年4月,ESG首次纳入上市公司投资者关系管理的沟通内容中,可持续发展理念已经成为一种趋势,ESG报告愈发受到企业投资者机构监管部门的重视。6月30日,每4年4000万!恭喜字母哥,将迎回夺冠帮手!他场均可以得到1494年4000万!恭喜字母哥,将迎回夺冠帮手!他场均可以得到149!相信熟悉密尔沃基雄鹿的球迷应该对球队前锋波蒂斯都是喜爱有加!这位防守顶级的锋线悍将,可以说在过去这几年时间里真的是
特斯拉Model3最大的对手来了,比亚迪海豹21。28万开启预售5月20日,比亚迪新车海豹正式开启预售,共推出4款车型,新车预售价21。2828。98万元。新车亮点一流线车身,颜值超高海豹是比亚迪海洋系列的重要车型,设计灵感来自于海洋美学,新车iPhoneXSMax重新上架512G版本,低价位之下,多少人还会买单?因为性能和流畅度确实过于优秀,在iPhone中经常会留下很多顶尖的畅销机型,这些机型是很多人梦寐以求的产品,特别是带有Max命名的iPhone产品,集成了当时每一代iPhone最强皇马球迷姆巴佩在最大的俱乐部面前选择钱,你会后悔一生直播吧5月20日讯此前马卡报消息,姆巴佩已和皇马达协议。不过今日姆巴佩加盟皇马的风向又变了,法媒透露姆巴佩5月22日(本周日)将宣布自己的未来。斯基拉消息,巴黎为姆巴佩开出2年合同飞船飞到1亿公里外,传回一张月食照片,看完后就知道我们多渺小地球是距离太阳第三远的类地行星,也是包括我们人类在内无数生物共同的家园,它的半径接近6400公里,对于人类或者其他的生物来说,地球显然就是庞然大物,站在地面上完全看不到尽头,所以在520!张常宁与丈夫吃棒棒糖,冠军夫妻自拍,孙杨鲜花送给谁?北京时间5月20日,520,众位体坛明星们都秀出了恩爱。张常宁晒出了与吴冠希的恩爱照片,2人一起吃棒棒糖,非常甜蜜,张常宁写道一起度过的第五个520。显然,2人已经恩爱很久了,下个李霄鹏下课倒计时!足协心仪国足主帅浮出水面,球迷直言太意外中国男足在结束了世界杯亚洲区12强全部比赛后,就彻底宣布了冲击世界杯又一次以失败告终。事实上,国足今年的所有赛事已经完全结束,之后举行的东亚杯也将派遣U23球员出征。国足已经没有了细数中国女排18任队长,郎平定居美国,期待朱婷王者归来中国女排将在5月26日从福建漳州出发,前往土耳其参加世界女排联赛第一站的比赛。众所周知,袁心玥成为了新一任中国女排队长,下面我们就细数中国女排的18任队长,共同感受女排精神带给我们葚是甜蜜!这里的桑葚熟啦眼下正是采桑葚的好时候一串串桑葚垂挂在枝头每一颗桑葚珠圆玉润胖嘟嘟的让人喜欢等待着游客采摘什么?!不知道哪里有桑葚?那小伙伴们就问对人了!今天,小编就带大家去阿克苏市依干其镇良种尤再见,老炮退役!下赛季或将无球可打的5位球星,勇士5小成历史詹姆斯杜兰特走下神坛,这些在00年代就曾叱咤风云的人物,终究没有敌过时间。东契奇塔图姆正像詹杜年轻时候一样,用自己出色的天赋和技术在联盟奠定了自己的地位,打出了令人意想不到的表现。张常宁和老公吴冠希,享受二人世界!他们的婚礼,将于下个月进行张常宁和老公吴冠希,享受二人世界!他们的婚礼,将于下个月进行北京时间2022年5月21日星期六消息。2016年里约奥运会,中国女排夺冠,让中国球迷对于女排的关注度,重新升高。球迷和110分钟绝杀,脱衣庆祝!越南队大爆发,5场不败进决赛,比国足强正在越南举行的新一届东南亚运动会上,越南U23男足跟马来西亚U23男足进行半决赛的较量,最终越南队通过加时赛第110分钟的进球,以10绝杀晋级决赛,将跟泰国U23男足争夺金牌。此前