范文健康探索娱乐情感热点
投稿投诉
热点动态
科技财经
情感日志
励志美文
娱乐时尚
游戏搞笑
探索旅游
历史星座
健康养生
美丽育儿
范文作文
教案论文
国学影视

这段涉及百度AI秘史,说明AI注定是一场中美的ampampquot新军备竞赛ampampquot

  2013 年 3 月,Google 花费 4400 万美元收购了多伦多大学的一家初创公司 DNNResearch。
  这家公司在当时不仅没有任何产品,也压根没有生产产品的计划。它只有三位员工:当时已经六十余岁的多伦多大学计算机系教授 Geoffrey Hinton,和他的两个学生 Alex Krizhevsky 和 IIya Sutskever。有人调侃,Google 花费数千万美元,只是买到了几篇论文。
  但之后科技行业的发展证明了 Google 的眼光。深度学习从边缘学科一跃成为显学,而这一学派的开山祖师正是 Geoffrey Hinton。因为在深度学习上的突出贡献,他在 2018 年获得了图灵奖。Hinton成了AI领域举足轻重的人物,中国互联网也习惯于为他"封神",称呼他为"AI教父"、"深度学习之父"等。而Google因为有了Hinton,成为AI技术最出色的公司之一。
  但这场收购的细节鲜少被外界了解。事实上,Google 并不是最初"发现"Hinton的公司,最早意识到Hinton和他在深度学习上的研究价值的,其实是一家中国公司——百度。
  在3月16日发布的一本新书《Genius Makers: The Mavericks Who Brought AI to Google, Facebook, and the World》(天才制造者:那些将 AI 带到 Google、Facebook 和全世界的特立独行者,下称《天才制造者》)中,《连线》杂志资深撰稿人 Cade Metz 揭开了这一段鲜为人知的"秘史"。 这本书记录了Google、Facebook和百度等公司在AI上的你争我夺,并试图解释为何AI注定会变成一个中美之间的新军备竞赛。而全书的开篇,就从这场被形容为"今天所有AI领域故事的开端"的竞拍开始。 百度与Hinton曾接近达成协议
  Cade Metz通过大量采访,还原了2012 年Hinton主导的一场拍卖。当年12 月,在美国内华达州边界的太浩湖旁,举办了每年一届的 NIPS。NIPS 全称 Neural Information Processing Systems(神经信息处理系统),是 AI 领域的顶级会议。
  2012 年那一届 NIPS,对多伦多大学教授 Hinton 和他两个学生来说,意义尤为不同。他们在会议酒店的房间里,举办了一次线上拍卖会。美国科技巨头 Google 和微软,中国科技巨头百度以及英国的 AI 初创公司 DeepMind,用竞拍的方式争夺 Hinton 刚刚成立的、没有任何产品的小公司 DNNResearch。
  (Geoffrey Hinton 和他的学生 Alex Krizhevsky 及 IIya Sutskever)
  这些公司中,百度其实是最早接触 Hinton 的公司。
  2012 年秋天,Hinton 和学生们发表了一篇长达 9 页的论文《ImageNet Classification with Deep Convolutional Neural Networks》。这篇论文提到的 Alexnet 引入了全新的深层结构和 dropout 方法,在 ImageNet 图像识别大赛中,将错误率从 25% 以上提升到了 15%,获得了第一名。
  那一年的 ImageNet 比赛,Google 也在数据集上做了内部测试,也用了深度学习方法,但识别精度比 Hinton 团队差了很多。Google 拥有大多数团队无法企及的硬件和数据资源,但却输给了一个学界的团队。这让工业界感到吃惊,大大促进了深度学习的传播。
  这个事情在今天来看,也是一个AI技术发展的历史性转折时刻。但当时还只有很少人意识到它的意义。而就在论文发出没几天,Hinton 收到了一封来自一名中国AI研究者的电子邮件。
  这封邮件的署名为余凯。余凯2015年离开百度创办了AI芯片公司地平线,现为地平线CEO。
  余凯比 Hinton 小 30 岁,两人最早在加拿大一个学术研讨会上认识。2012 年 4 月,余凯离开美国 NEC 研究院,回到中国加入百度,领导新成立的百度多媒体部。 这一年,百度开始大规模采购和建立 GPU 运算集群,开发了世界上第一个支持 GPU&CPU 的并行深度学习平台。
  同年 9 月,百度当时的首席科学家威廉·张离职,这家搜索巨头开始寻找更能面向未来研究的首席科学家。 10 月,余凯向李彦宏介绍深度学习方面的进展,并且推荐了 Hinton。
  (余凯)
  当时 Hinton 远没有今天知名,但百度决策很快,李彦宏安排当时负责百度战略投资的副总裁汤和松与 Hinton 取得联系,并直接提出邀约。 百度提出的方案是,出价 1200 万美元聘请 Hinton 及其学生,合约期三年。双方进展很快。
  但在眼看要达成协议前,Hinton 的那两名学生"拦住"了 Hinton,在他们的建议下,Hinton意识到,与招聘"三个新员工"相比,百度和其他公司显然更可能为收购一家公司付出更可观的资金。
  Hinton 问百度,自己可否评估一下其他邀约。而原本已经接近谈成的百度,同意了。
  "当百度同意后,Hinton彻底颠覆了局面。"《天才制造者》的书中写到。Hinton 立刻创建了只有他和那两名学生的初创公司——DNNresearch。
  据《天才制造者》的记录, Hinton 当时特意询问了一位多伦多的律师,如何能让一家只有三名员工、没有产品、几乎没有历史的初创公司的价值最大化。 律师给了他两个选择:聘请专业谈判代表,但会有激怒买家的风险。或者,进行一次拍卖。
  Hinton 选择了后者,于是,共有四家公司加入了竞拍: 最先找到Hinton且本已接近拿下的百度,以及在百度之后也开始给Hinton家频繁打电话的Google和微软,以及一家当时刚刚成立两年的伦敦初创公司—— DeepMind。这家公司后来被 Google 所收购,研发出大名鼎鼎的 AlphaGo。
  作为最早接触Hinton,以及百度在那次投标中的代表人,余凯看到事情变成百度和多家美国公司的竞争后,已经预感到了最终结局。 出价最高的百度没有赢得竞拍
  Hinton 和学生们在酒店房间里"举办"了拍卖会——它通过 Gmail 进行,四家公司的高管远程出价,从加利福尼到伦敦再到北京。Hinton将每个竞拍者的身份隐藏了起来,他们相互不知道对方是谁。
  微软首先对这种竞拍方式提出疑问,他们不喜欢用 Gmail 来竞拍,认为 Google 可能会偷偷读取邮件。Hinton 和学生们商量过后,依然采用这种方式, 他们"相当确信 Google 不会读取 Gmail" 。
  Hinton 对Google的好感已经很明显。
  Google 对深度学习的兴趣,很大程度也受到Hinton的影响。2006 年Hinton 发表了论文《A fast learning algorithm for deep belief nets》(深度信念网络的一种快速学习算法)。这篇论文发表之前,没有人知道怎么训练深度神经网络,因此这个领域鲜有人问津。该论文提出了一种训练深度网络的方法,对每一层网络先进行预训练,然后再微调,网络的学习速度大幅提高。
  这篇论文成为开启深度学习热潮的一个因素,Google等公司开始注意到深度学习。另一个重要的因素是算力。2009 年,计算机的算力发展到足以挖掘庞大的数据库,神经网络在语言和图像识别方面,开始胜过基于逻辑的传统计算机。
  Google也在那时开始投资AI。2010 年,当时还是斯坦福大学教授的吴恩达与 Google 里颇具声望的高级研究员 Jeff Dean 一起,建立一个名为 Project Marvin(以著名的 AI 先驱马文・明斯基命名)的项目,以研究神经网络。后来,一些 Google 工程师开始用 Google Brain 称呼 Project Marvin。
  这个项目成果之一,是大型深度学习软件平台 DistBelief。包括 Google 搜索、Google 地图 和 YouTube 在内的 50 多个团队,利用 DistBelief 来改进产品。
  2012 年,Google X 宣布建立了一个包含 16000 个计算机处理器的神经网络,并在 YouTube 上部署。这个神经网络通过学习 YouTube 上大量包含猫的、未标记的视频,识别出了"猫"这种生物。
  这在当时是一个重要突破。"在训练中我们从来没有告诉过神经网络, 这是一只猫。"Jeff Dean 说,"它基本上发明了猫的概念。"
  Google在这次拍卖中也势在必得。Hinton设计的拍卖规则很简单。每次竞价后,四家公司有一个小时将购买价格提高至少100万美元。这一个小时从最新竞价的邮件上的时间戳开始。一个小时结束后,如果没有人提出新的竞价,拍卖就结束了。
  Hinton 每天会为下一轮竞价设定一个时间,到了指定的时间,他和学生聚集在他的房间里,看着笔记本电脑上出现的竞价。数字开始飞快攀升。
  DeepMind用公司股票而非现金竞拍,因此很快就退出了。这似乎也预示了它在之后被Google收购的结局。而在价格飙到2000万美元时,微软也退出了。但它随后又回来了一次,然后再次退出。
  事实上,微软在此之前已经邀请Hinton担任过顾问。
  微软对深度学习的研究,依托雷德蒙德研究院展开。2009 年 11 月至 12 月期间,当时在研究院里关注深度学习的华裔科学家邓力,邀请 Hinton 为雷德蒙德研究院进行咨询,研究如何将深度学习方法应用于语音特征编码和语音识别问题。
  (邓力)
  此前的语音识别模型一直处于非常令人沮丧的"局部最优"状态,准确率很难大幅提升。在读过 Hinton 2006 年发表的两篇开创性的论文后,邓力产生了将深度学习引入语音识别的想法。
  在 Hinton 为微软咨询期间,他和邓力一同开发了深层信念网络的方法 "食谱" 及在语音特征提取上的应用。这种方法使得大规模语音识别系统的错误率大幅减少,2011 年微软公布这一成果时,业界大为惊叹。
  而邓力就是代表微软在那次拍卖中出价的那个人。
  也就是说,在这个决定后来AI领域很多事情走向的历史性时刻,三个主要的直接竞价操作者中有两人是华人。
  看着飞升的金额,Hinton和他的学生们不停争论他们更愿意加入哪家公司。
  《天才制造者》中甚至记录了一段"迷信"的对话。一天午后,当他们望向窗外时,两架飞机从相反方向飞过,在天空中留下的烟道,就像一个巨大的X,正好在一组山峰之上。他们思索着这可能意味着什么,然后才想起 Google 的总部就在一个叫山景城的地方。"这是不是意味着我们应该加入 Google?"Hinton问道,"还是说我们不应该?"
  在2200万美元左右时,Hinton暂时中止了拍卖,与其中一个竞拍者进行讨论,半小时后,微软又退出了。
  最后剩下百度和Google。
  随着时间推移,两家公司依然在抬高价格。余凯处理了百度最初的竞拍,但当价格达到2400万美元时, 百度的一位高管从北京接手,并且愿意给出更高的价格:2500万美元、3000万美元、3500万美元。
  Hinton将竞价窗口从一个小时缩短到30分钟。竞价迅速攀升到4000万美元、4100万美元、4200万美元、4300万美元。"这感觉就像我们在拍电影一样。"他说。一天晚上,接近午夜时分,当价格达到4400万美元时,他又暂停了竞价。《天才制造者》中这样记载。
  第二天,在竞标恢复前约30分钟,Hinton发了一封邮件,说开始时间会推迟。大约一个小时后,他又发了一封:
  拍卖结束了。
  事实上,在前一天晚上的某个时刻,Hinton已经决定将他的公司卖给Google。他给百度的邮件中说,公司发送的任何其他信息都会转发给他的新雇主,不过他没有说那是谁。
  《天才制造者》中写到,Hinton 后来承认,这是他一直想要的。因为对他来说,为他的研究找到合适的归宿,比获得最高竞标价格更重要。
  《天才制造者》也写到, 余凯猜到 Hinton 最终会在 Google,或者至少是另一家美国公司工作。 毕竟他的背部不好,无法前往中国。他在十几岁时受了背伤,到五十多岁时,已经无法坐下,否则会有椎间盘滑落风险。他不得不一直站着办公,出远门也不坐飞机,因为飞机起飞降落时不允许站起来。
  尽管如此,余凯还是很满意百度在竞标者中占据了一席之地。书中写道,他相信,这段经历帮助他的上级看到了他眼中的世界。通过把美国竞争对手逼到极限,百度高层已经意识到深度学习在未来几年的重要性。
  Hinton 的拍卖和 NIPS 会议结束后,余凯登上了前往北京的飞机。在那里,他遇到了邓力。
  他们在飞机上挑选了相邻的座位。由于竞拍者一直保持匿名,两人都不太清楚谁参与了拍卖。因为受到雇主的约束,所以都不能透露自己参与拍卖的情况。他们试图在不泄露自己秘密的情况下,了解对方所知道的事情。
  "拍卖就像一把起跑枪"。《天才制造者》的书中这样写到,它把这次拍卖定义为"一场全球新的军备竞赛的开始"。在那次竞拍结束后的返程飞机上,余凯和邓力两人都知道,新的竞争已经开始了,他们的公司将不得不回应 Google 的大动作。

塔利班带记者参观前副总统豪宅(喀布尔法新电)塔利班接管阿富汗政权后,前副总统杜斯塔姆的豪宅曝光,其奢靡程度令人震惊,也揭露了加尼政府内阁中腐败程度。据悉,塔利班占领首都喀布尔后,政府高官早已携款逃跑,其中包括美国大规模驱逐海地难民联合国难民专员表示震惊(日内瓦综合电)联合国难民事务高级专员对成千上万名滞留美国得克萨斯州边境难民的状况以及美国展开的大规模驱逐行动表示震惊,并呼吁美国政府根据国际准则保护避难申请者应有的权利。美墨边境印度大规模军队重组要跟美国等联合抗中?(新德里综合电)彭博社分析说,随着印度向美国和盟友靠拢,印度将会展开拖延已久的整军行动,提高防卫能力,集体对抗中国。莫迪周五在白宫出席四方安全对话机制(Quad)的首脑峰会,同美国中国从火星发图回来,为什么比美国慢?中国国家航天局15日宣布天问一号火星探测器的着陆巡视器成功在火星表面软着陆后,并没有像不久前在火星着陆的美国毅力号火星车那样,在短时间内发回火星照片。有外媒曾以此怀疑天问一号成功着为什么塔利班如此坚挺?1252年,蒙古新上任的大汗蒙哥命令他的弟弟旭烈兀率领庞大的蒙古军再次西征,其第一目标就是摧毁一个叫做阿萨辛派的恐怖组织。这个组织的根据地远在里海南岸山区,跟蒙古人八竿子都打不着,你相信吗?在美国至少60000人过着一夫多妻的生活一夫可以多妻想必是很多男人心里想但是又不能说的愿望。这样的事情若是发生在一百年前,或是在非洲某处原始部落是不会让人感到惊奇。可就是没想到,它竟发生在当下,而且还是在号称现代化文明的知己知彼方能百战不殆美军的太平洋舰队海军力量有多大?美国海军太平洋舰队是美在亚太地区的主要军事力量,其辖区范围包括整个太平洋印度洋海域,约9400万平方英里。舰队司令部设在夏威夷的珍珠港,下辖有美国海军第三七舰队,拥有CVN68尼米恒大危机升级传政府拟安排工作组进驻(深圳综合讯)中国房地产商恒大集团债务危机不断升级,该公司前晚发表声明否认破产重组传闻。不过,据报中国政府拟安排联合工作组进驻恒大,对其财务状况摸底调查,或为重组做相应准备。众多投新加坡每日新增病例即将破千政府如何应对?作者陈可扬新加坡这波疫情自8月23日开始,至今已有超过8000起病例,其中只有10人须送入加护病房。每日确诊者大概每周翻倍,染病人数估计会在暴发后四到八星期时达到高峰。新加坡卫生部中秋后病例达新高这个国家也开始讨论与病毒共存作者姜贵瑛尽管韩国防疫当局表明若七成人口完成接种疫苗,将考虑过渡到与病毒共存,但韩国中秋长假一结束,确诊病例再创新高,引起担忧。韩国防疫当局和各地方政府统计,从昨日零时到下午6时,今天是国家公祭日,缅怀同袍,勿忘国耻!81年前,12月13日(也有学者认为是12月5日),侵华日军攻陷南京,施行了惨绝人寰的大屠杀。炼狱六周,生灵涂炭,血染秦淮,水赤长江,我三十万同胞惨遭日寇灭绝人性的杀戮。南京大屠杀
地球重达60万亿亿吨,是什么力量在托着它不掉下去呢?地球是太阳系中的一颗类地行星,也是目前已知宇宙中最特殊的一颗行星,就算忽略地球上的各种生命,我们生活的这个行星仍然是比较特殊的,比如说大量的液态水,虽然在宇宙中液态水并不少见,可是神舟十二号着陆时,会不会砸到人?3个月前,聂海胜刘伯明汤洪波乘坐神舟十二号飞入太空,与中国空间站成功对接,我国自主研制的空间站迎来了第一批入驻的航天员。在太空中飞行期间,三位航天员完成了各项任务,包括两次出舱任务超轻超弹耐极温!中国科学家研制有望用于外太空探测的碳弹簧轻似海绵,弹性伸缩如弹簧,可耐从100到350的极端温度提起碳材料,人们往往会想起煤炭石墨金刚石,近期中国科学技术大学俞书宏院士团队受人类足弓和弓弩等结构启发,研制出一种微结构如煎猎户座腰带喷射出双向弓形激波,北半球可见,难怪古埃及人敬畏之由于猎户座在北天,显然是北半球可见,也难怪古埃及人敬畏之,金字塔的布局就与猎户座腰带上的三颗星有关。甚至可以说,猎户座是非常吸引人的天体群,也是古文明时常研究的天体。当然,我们也是研究一下万物起源(五)40亿年前,地球上第一个生命出现。生命的诞生时偶然的,它涉及到天体物理学生物化学生物物理学地球化学分子生物学海洋学和古生物学,也就是在极小极小的概率下,生命才得以诞生。和地球相比,14分钟读完上帝掷骰子吗?万物到底是随机的还是确定的?伟大的物理学家爱因斯坦曾经说过一句话上帝是不会掷骰子的!,这句话源于与玻尔辩论的第五届的索尔维会议上,意思是世界万物都具有确定性。那么世界万物是否真的具有确定性呢?这就要进入上帝掷10微米厚的诺奖级发现,就这样在争议中弄丢了金属氢作为未来的一种高密度高储能材料,一直是人类梦寐以求的能量物质。90多年来,人们一直在试图制造出以金属形态存在的氢气,并为此付出不懈努力,但稳定的金属氢样品始终没能得到。从理论5亿年前类蠕虫化石,亲历寒武纪生命大爆发大约5。35。4亿年前的寒武纪大爆发时期,很多动物群体开始大规模出现。基于目前掌握的化石线索,这个观点得到了大多数科学家的共识。就像在巨大拼图的碎片一样,从这个时期开始的每一个发现霍金地球将在200年内毁灭,人类想存活只能移民外星球目前,天文学家能发现的最遥远的星系,距地球130。1亿光年,被命名为UDFy38135539星系。著名物理学家史蒂芬霍金曾曝出惊人言论随着各类资源的日渐枯竭,地球将在200年内毁灭这些中国人的名字镌刻在水星之上来源人民网人民日报海外版新华社发9月14日,水星迎来今年第三次东大距。作为距离太阳最近的行星,水星在太阳系八大行星中个头最小。到目前为止,人类在水星上已命名了近500个地貌,其中2中国天眼搜索地外文明,能否有重大突破?人类一直在探索地外生命和外星文明,但是数十年间一直未有突破,那么宇宙中到底是否存在外星文明呢?大部分科学家都认为外星文明一定存在,只是由于人类的科技落后,无法真正的走出太阳系,寻找