IT之家 10 月 12 日消息 语言模型（Language Model）简单来说就是一串词序列的概率分布，主要作用是为一个长度为 m 的文本确定一个概率分布 P，表示这段文本存在的可能性。
　　大家之前可能或多或少听说过 GPT-3，OpenAI 最新的语言模型，堪称地表最强语言模型，也被认为是革命性的人工智能模型。除此之外还有 BERT、Switch Transformer 等重量级产品，而且业内其他企业也在努力推出自家的模型。
　　微软和英伟达今天宣布了由 DeepSpeed 和 Megatron 驱动的 Megatron-Turing 自然语言生成模型（MT-NLG），这是迄今为止训练的最大和最强大的解码语言模型。
　　IT之家了解到，作为 Turing NLG 17B 和 Megatron-LM 的继任者，这个模型包括 5300 亿个参数，而且 MT-NLG 的参数数量是同类现有最大模型 GPT-3 的 3 倍，并在一系列广泛的自然语言任务中展示了无与伦比的准确性，例如：
　　完成预测
　　阅读理解
　　常识推理
　　自然语言推理
　　词义消歧
　　105 层、基于转换器的 MT-NLG 在零、单和少样本设置中改进了先前最先进的模型，并为两个模型规模的大规模语言模型设定了新标准和质量。
　　据悉，模型训练是在基于 NVIDIA DGX SuperPOD 的 Selene 超级计算机上以混合精度完成的，该超级计算机由 560 个 DGX A100 服务器提供支持，这些服务器以完整的胖树（FatTree）配置与 HDR InfiniBand 联网。每个 DGX A100 有 8 个 NVIDIA A100 80GB Tensor Core GPU，通过 NVLink 和 NVSwitch 相互完全连接。微软 Azure NDv4 云超级计算机使用了类似的参考架构。
　　更多内容可查看微软和英伟达官方说明：
　　微软
　　英伟达

一季度全国铁路新线开通447公里，其中高铁233公里IT之家4月9日消息，国铁集团数据显示，今年一季度，全国铁路固定资产投资完成1065亿元，同比增长3。1，铁路新线开通447公里，其中高铁233公里。IT之家了解到，国铁集团发展和中国高铁将迈入跨海时代，福厦高铁最后一座跨海大桥合龙感谢IT之家网友情系半生nh的线索投递！IT之家4月7日消息，据国资委网站，4月6日，国内首条跨海高铁福厦高铁安海湾特大桥成功合龙。这是世界首座无砟轨道跨海大跨斜拉桥，预计2023华为鲁勇国企数字化转型关系中国数字经济的成败IT之家12月19日消息，据新浪报道，华为公司高级副总裁中国区总裁鲁勇表示，2018到2021年期间，全球8300家标杆企业中，全面拥抱数字化的前10企业比后25企业，营收增速快了荣耀新机通过3C认证支持40W快充，消息称为荣耀X30i衍生机型IT之家12月29日消息，荣耀近日有多款产品通过了国家3C质量认证，其中一款型号为TFYAN40被爆料称是此前发布的荣耀X30i的衍生版本。IT之家了解到，荣耀X30i型号是TFY谷歌和Facebook参与，2024年新海底电缆将连接日本和东南亚北京时间8月16日午间消息，谷歌和Facebook公司联合宣布，将参与2024年新海底电缆系统的开发，以改善亚太地区的互联网连接。Facebook表示，这项名为杏子的基础设施项目将谷歌申请驳回美国反垄断诉讼不能因为用户多就认为搜索引擎属于公用事业北京时间8月16日早间消息，据报道，谷歌上周五申请驳回俄亥俄州总检察长发起的一场诉讼，他们认为不能仅仅因为该公司的搜索引擎广受欢迎就认定它是公用事业。要像俄亥俄州那样认定谷歌搜索是OPPO小布助手现已支持粤语模式，自称粤语十级学者感谢IT之家网友伦流挂科的线索投递！IT之家12月20日消息，OPPO自家的小布助手现已支持粤语模式，音色还原经典年代感的大湾区之声，可以带给用户原汁原味的粤语交流环境。你现在可以一加8周年，首次面向用户推出盲盒产品可获得2022年新机等产品IT之家12月14日消息，一加方面今日宣布，为庆祝一加8周年特开启无畏无限线下活动，今日起至12月28日，用户可在线下收集盲盒，首个集齐的用户可获得2022年限定新机全家桶。除此之何刚华为折叠屏手机中国区发货同比增长200，中国发货量第一IT之家11月17日消息，在今日的华为智慧生活发布会上，华为推出了多款产品，例如华为WATCHGT3系列智能手表华为MateX2折叠屏手机典藏版新款MateBookE二合一笔记本电OPPO开启贴心续航计划原厂电池换新59元起IT之家11月16日消息，OPPO方面今日宣布，现OPPO贴心续航计划正式起航，覆盖40多款机型，原厂电池一口价59元起。IT之家了解到，华为和小米此前经常会开启此类低价电池换新活曝OPPO折叠屏有望下月到来，内部代号孔雀IT之家11月14日消息，预计高通将会在今年12月推出由三星4nm工艺的新一代的sm8450（暂称骁龙898），并在明年年中推出转由台积电代工的sm8475（暂称骁龙898Plus