FUTURE | 远见 暮成雪 选编 八年前，一种机器学习算法学会了识别一只猫，它震惊了全世界。几年后，人工智能可以准确地翻译语言，打败世界围棋冠军。人工智能将变得更加强大，而且可能比我们想象的还要快! 现在，机器学习已经开始在诸如 ＂星际争霸＂ 和 ＂dota2＂ 等复杂的多人视频游戏，以及诸如扑克之类的微妙游戏中脱颖而出，人工智能正在快速发展。 但是速度有多快呢，是什么在驱动着速度呢？虽然更好的计算机芯片是关键，但 AI 研究机构 OpenAI 认为，我们也应该衡量实际机器学习算法的改进速度。 由 OpenAI 的 Danny Hernandez 和 Tom Brown 撰写并发表在 arXiv 上的论文指出，研究人员称他们已经开始跟踪衡量机器学习的效率，即用更少的资源做更多的事。他们使用这种方法表明，人工智能已经以一种极快的速度变得更加高效。 算法效率提升加快研究 一般说来，驱动 AI 进步的有三个因素：运算量、数据和算法创新。计算能力更容易跟踪，但算法方面的改进却有点难以捉摸。 我们可以将算法效率定义为减少训练特定功能所需的计算量，它是衡量计算机科学中算法进度的主要指标。传统问题（如排序）的效率提升比机器学习更易于衡量，因为它们可以更清晰地衡量任务难度。但是，可以通过保持性能恒定来将效率透镜应用于机器学习。 自 2012 年以来，在 ImageNet 分类中训练神经网络达到相同性能所需的计算量，每 16 个月减少了 2 倍。与 2012 年相比，现在将神经网络训练到 AlexNet（一种基准图像识别算法）所需的计算量减少了 44 倍。研究结果表明，对于最近投入大量资金的 AI 任务，算法进步比传统硬件效率产生了更多收益。 用于训练到 AlexNet 级别的总计算量（以太字节 /天为单位），在任何给定时间的最低计算点都以蓝色显示，所有测量点都以灰色显示。 尤其在翻译和游戏等其他流行功能，在较短时间范围内改进的速度更快。在翻译方面，三年后的英法翻译中，Transformer 算法的计算能力比 seq2seq 算法低 61 倍；仅仅一年后，DeepMind 的 AlphaZero 在围棋比赛中，其计算量比 AlphaGoZero 少 8 倍，就能与 AlphaGoZero 匹敌；而仅三个月后，OpenaAI Five Rerun 在 Dota2 上使用了比原来低五倍的计算能力，就能超越了世界冠军 OpenaAI Five。 算法效率的提高，使得研究人员可以在给定的时间和金钱下进行更多感兴趣的实验，加速未来 AI 的研究。 机器学习的摩尔定律 机器学习中是否存在某种算法摩尔定律？ 研究人员表示，目前还没有足够的信息来说明这一点。他们的工作只包括了几个数据点，原始的摩尔定律图表同样几乎没有被观察到，所以任何推断纯属推测。此外，研究仅关注少数几个流行的功能和顶级程序。目前尚不清楚观察到的趋势是否可以更广泛地推广到其他 AI 任务。 对于语言、游戏等领域，大规模的计算对于整体性能仍然很重要，因此追踪效率显得尤为重要，测量效率整体性能的长期趋势将有助于描绘总体算法进展的定量情况。研究人员观察到，硬件和算法效率提升是可乘的，并且在有意义的范围内可以达到相似的规模，这表明 AI 进步的良好模型应该整合两者的衡量指标。 研究结果还表明，对于具有高投资水平（研究人员花极大时间和精力）的 AI 任务，算法效率可能超过硬件效率（摩尔效率）带来的收益。 摩尔定律是在 1965 年提出的，即当价格不变时，集成电路上可容纳的元器件的数目，约每隔 18-24 个月便会增加一倍，性能也将提升一倍。 当时集成电路只有 64 个晶体管，之后出现了个人计算机和智能手机（iPhone11 拥有 85 亿个晶体管）。如果我们观察到数十年来 AI 算法效率的指数级提高，它可能会带来什么？ 出于这些原因，研究人员开始公开跟踪效率的整体性能，首先探索视觉和翻译效率基准，包括 ImageNet 和 WMT14，之后再考虑随着时间的推移将添加更多的基准。跟踪多种措施，包括硬件的措施，可以描绘出一幅更完整的进展情况，并有助于确定未来的努力和投资在哪些方面最有效。 人工智能的未来 值得注意的是，这项研究的重点是深度学习算法，这是目前占主导地位的人工智能方法。深度学习是否能继续取得如此巨大的进步，是人工智能领域争论的焦点。该领域的一些顶级研究人员质疑深度学习解决该领域最大挑战的长期潜力。 OpenAI 在较早的一篇论文中表明，最新热门的人工智能需要相当惊人的计算能力来进行训练，并且所需的资源正以惊人的速度增长。在 2012 年之前，人工智能程序使用的计算能力的增长主要遵循摩尔定律，而自 2012 年以来，机器学习算法使用的计算能力的增长速度是摩尔定律的 7 倍。 这也是 OpenAI 对跟踪进展感兴趣的原因。例如，如果机器学习算法的培训成本越来越高，那么增加对学术研究人员的资助就很重要；如果效率趋势被证明是一致的，那么就更容易预测未来的成本并相应地计划投资。 进步是否会持续不减，摩尔定律式的理论在未来几年或即将碰壁，仍有待观察。 但正如作者们所写的那样，如果这些趋势在未来继续下去，人工智能将变得更加强大，而且可能比我们想象的还要快。 资料来源： https://singularityhub.com/2020/05/17/openai-finds-machine-learning-efficiency-is-outpacing-moores-law/ https://openai.com/blog/ai-and-efficiency/
60部小米MIXFOLD免费抽！小米即将开启宠粉模式好消息来了！想免费抽取近万元的小米MIXFOLD吗？看下去，攻略如下免费抽取小米MIXFOLD最新消息5月1日5月5日期间，全国5000余家小米之家将同步开启更换全新LOGO模式，X17粒子，可能是第五种力的载体，或将能揭开暗物质之谜科学家现在发表了一项研究，暗示了一种以前不为人知的亚原子粒子的存在，该团队在2016年首次报告发现了这种粒子的痕迹，现在他们在另一个不同的实验中报告了更多痕迹。如果结果得到证实，所太痛心不知道养孩子的真正目的，让人类变成一种没有灵魂的物种如果真让你回答为什么养孩子这一问题，下面哪个答案是你最想选择的因为爱而生养，因为父母逼迫，害怕老无所依，需要继承家业？很多人都觉得每一个都对，但仔细想一想哪个似乎也不是主要的，这是全民狂欢急需反思低俗娱乐引爆粉丝癫狂，奶头之乐换来心灵迷失这两天一段为打投偶像而向河中倒奶的视频引起网友和有关部门的关注，让人们不得不再次思考我们的社会到底怎么了？是什么让当今的娱乐圈如此扭曲呢？据中央广播电视总台中国之声新闻晚高峰报道，扫黑决战反腐题材大突破你敢官商勾结黑，我必为民除害狠关于黑社会题材的电影在国际上并不是新鲜题材，美国的教父日本的恶极非道香港的无间道系列和廉政公署系列简直数不胜数。而国内这类影片一直是忌讳题材。今年五一的扫黑决战应该是对这一题材的突综艺PK学员从中国好声音走出的九位冠军为何都没有火起来？中国老百姓无人不知的持续热播综艺节目中国好声音是浙江卫视的看家栏目，今年是这档综艺节目的第十个年头，全国各地的海选正如火如荼地进行着。从2012年开播以来，中国好声音一直站在中国各初代选秀冠军从草根到影响世界，天下只有一个李宇春到底有多牛？进入手机和网络时代以来，在娱乐圈神一般的人物只有一个，那就是2005年超级女声冠军李宇春，如果我们从头到尾梳理一下这个传奇般的明星，她的经历真让人惊掉下巴。1984年，李宇春出生在发现神奇的赚钱秘密一个提问赚七千多，如何提爆款问题挣大钱？虽然我入驻头条号还不到1个月，但一直坚持做问答这个栏目，基本上每天都会提出一两问题，也会回答两三个问题，但结果简直是令人绝望。问题几乎没有得到任何回答，即便是邀请他人回答也都是毫无八零九零太逼真杨青刻画的悲剧式人物戳中残酷的社会现实？最近热播的电视连续剧八零九零是由白敬亭吴倩倪大红杨青等人主演的都市家庭剧，该剧主要根据一家养老院展开，讲述了几个90后年轻人和一群老年人之间发生的各种人情冷暖的故事。阳光之家是林奶又将大火骂遍半个娱乐圈的毒舌金星销声匿迹后在策划什么？图注头条百科资料中的金星5月8日素有毒舌之称的金星历时4年精心打造的野花在澳门隆重登场了，这是即今年3月26日和27日，上海金星舞蹈团在上海大宁剧院举办的两场现代舞野花和如梦的旅行揭开影响儿童心理健康的隐藏秘密被人忽视的心灵是如何成长的？每个孩子从呱呱落地到走完一生平均有七八十年左右的时间，但你不敢相信的是，人只是在12岁左右时就已经基本定型了。老百姓常说的三岁看大，七岁看老就是这其中的两个关键时间点，即3岁和7岁