为什么人工智能比我们想象得困难？袁岚峰

　　关注风云之声
　　提升思维层次
　　导读
　　总的来说，其实我们不知道自己的大脑最擅长什么。
　　视频链接：
　　抖音视频：
　　https://v.douyin.com/e7P9aqs/
　　本视频发布于2021年6月8日，点赞量已达1.2万
　　精彩再现：
　　人工智能的前景如何？外行往往会十分乐观，甚至认为会出现技术奇点、机器人统治人类等等。而内行却正相反，因为他们知道，人工智能在历史上有过多次大起大落，每一次过度乐观之后都是长期的萧条。
　　为什么会这样？人工智能专家、畅销书《复杂》的作者梅拉妮·米歇尔教授最近写了一篇文章《为什么人工智能比我们想象得困难》（Why AI is harder than we think），进行了深入的分析。她指出，对人工智能的思考经常出现四种谬误（fallacy），导致人们对智能机器产生错误的信心。
　　梅拉妮·米歇尔
　　畅销书《复杂》
　　谬误一：每个小进步都是通往最终人工智能路上的基石。
　　哲学家Hubert Dreyfus将这种认知称为＂第一步谬论＂。他说：＂我们总是认为，自从我们在计算机智能方面的第一次工作以来，我们就一直在朝着通用人工智能缓慢前进，并最终实现终极态的人工智能。我们还盲目的相信，我们对代码和程序的任何改进，无论多么微不足道，都算作是一种人工智能的进步。＂他引用了他的工程师哥哥Stuart Dreyfus的一句话调侃道：＂这就像是说第一只爬上树的猴子正在朝着登陆月球前进一样荒诞不经。＂
　　谬误二：容易的任务很容易做，难办的任务很困难。
　　这听起来好像是句废话，但它是个谬误。实际情况是，对人类来说容易的事情对人工智能很难，而对人类困难的事情对人工智能却很容易。
　　人工智能先驱马文·明斯基解释过，人类在没有太多思考的情况下所做的事情，比如眺望世界，理解我们所看到的，进行对话，走在拥挤的人行道上而不撞到任何人等等，这些事情对机器来说是最困难的挑战。反之，解决复杂的数学问题，掌握国际象棋和围棋等游戏，以及在数百种语言之间互相翻译……这些对人类非常困难的问题，对机器来说却相对容易。
　　这被称为＂莫拉韦茨悖论＂（Moravec＂s paradox），以机器人学家Hans Moravec的名字来命名。他写道：＂让计算机在智力测验或跳棋时表现出成人水平的表现相对容易，但在感知和行动能力方面，计算机穷极一生很可能也达不到一岁孩子的水平。＂马文·明斯基指出，总的来说，其实我们不知道自己的大脑最擅长什么。
　　谬误三：助记法的陷阱（wishful mnemonic）。
　　例如，IBM有一台著名的超级电脑叫做沃森，IBM说＂沃森可以在几秒内阅读世界上所有的医疗保健文本＂。IBM的网站声称，沃森能够＂理解其中语言的上下文和细微差别＂。又如，DeepMind的联合创始人Demis Hassabis说：＂AlphaGo的目标是击败世界上最好的人类玩家，而不仅仅是模仿他们。＂AlphaGo的主要研究人员David Silver说：＂我们在比赛的过程中总是去问AlphaGo，问它觉得它在比赛的过程中表现如何。但是直到比赛快结束的时候，AlphaGo才认为它将获胜。＂
　　请问，沃森和AlphaGo真的知道什么叫阅读、理解、击败和认为吗？当然不知道，它们只是在执行程序。
　　人们可能会争辩说，类似这样的词汇只是方便机器速记而已。然而，这种速记可能会误导那些试图理解结果的吃瓜群众，从而连带着影响媒体对这些结果的报道。而且这还会潜移默化地改变人类对于AI系统的思考方式，即使是人工智能专家也会受此影响，从而对AI系统与人类智能的相似程度作出错误的判断。
　　谬误四：智能都在大脑中。
　　这话的意思是，智能可以与身体分离。它既可以作为一种非物质的信息存在，也可以完全封装在大脑中。缸中之脑（brain in a vat），就是对此一个著名的比喻。
　　这种假设导致了这样的猜测：要实现人类级别的人工智能，我们只需要扩大机器的计算存储单元，以匹配大脑的＂计算能力＂，然后为这种大脑匹配的＂硬件＂开发合适的＂软件＂。
　　硬件当然是需要提升的，但这是否就够了呢？越来越多的研究人员开始质疑＂智能仅存在于大脑＂这个基础假设，希望从另一个角度理解和创造人工智能。
　　几十年来，许多认知科学家一直在主张让人们关注身体在所有认知活动中的中心地位。这个领域叫做具身认知（embodied congnition）。认知心理学和语言学的结果表明，我们的许多抽象概念，几乎都是基于物理的、基于自身的内部模型的，还有一部分是由日常语言中发现的基于身体的隐喻系统所揭示的。
　　与具身认知理论相关的是，伴随着我们深层社会生活的情感和＂非理性＂的偏见，通常会被认为与智力是分开的，或者阻碍理性的。但实际上它是使智力成为可能的关键。人工智能通常被认为是针对一种＂纯粹的智力＂，一种独立于如饮食和睡眠等情绪、非理性和生存需求的存在。但这种定义可能正是在某些方面限制了人工智能的发展，导致了人们对人工智能的误解与恐慌。
　　扩展阅读：
　　《复杂》作者梅拉妮·米歇尔发文直指AI四大谬论，探究AI几度兴衰背后的根源
　　人工智能与心理学的迷思 | 返朴
　　即使贱民改信佛教，印度人仍然歧视他们 | 袁岚峰
　　＂奥陌陌＂是外星人的探测器吗？| 袁岚峰
　　一个概率问题测出你的认知能力 | 袁岚峰
　　作者简介：  本文作者   袁岚峰，中国科学技术大学化学博士，中国科学技术大学合肥微尺度物质科学国家研究中心副研究员，中国科学技术大学科技传播系副主任，中国科学院科学传播研究中心副主任，科技与战略风云学会会长，＂科技袁人＂节目主讲人，安徽省科学技术协会常务委员，中国青少年新媒体协会常务理事，中国科普作家协会理事，入选＂典赞·2018科普中国＂十大科学传播人物，微博@中科大胡不归，知乎@袁岚峰（   https://www.zhihu.com/people/yuan-lan-feng-8   ）。