撰文：王飞跃中国自动化学会监事长、中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任 当今最好的人工智能程序到底有多智能？它们是如何工作的？能做些什么？我们有必要担心机器比人类聪明且将很快夺取我们的工作吗？以上这些问题都颇受人们的关注。＂广义歌德尔定理＂ ＂GEB＂的作者侯世达教授在谷歌的一次内部研讨会上表示自己被人工智能的快速发展＂吓坏了＂开始。更具体地说，侯世达是被＂音乐智能实验＂（Experiments in Musical Intelligence，EMI）的优美创作吓坏了，他曾这样说道：＂我被 EMI 吓坏了，完全吓坏了。我厌恶它，并感受到了极大的威胁 —— 人工智能对我最珍视之人性的威胁。我认为 EMI 是我对人工智能感到恐惧的最典型的实例。＂我曾听说过侯世达对人工智能的担忧，但当时不以为然，我认为一个对人工智能了解如此之深、认识如此之深刻的学者不应过度害怕智能技术。 作为一个坚信人工智能只是一项技术，不会主动侵害人类的科技工作者，我当时觉得这可能是由于侯世达远离科研一线太久或年纪增长的原因，但书中侯世达的自白，让我认识到我的猜测都不对，真正的原因在于音乐在他的心里有着一种十分神圣甚至神秘的地位。 在＂GEB＂一书的最后，侯世达曾列出关于人工智能的＂十大问题和猜想＂，其中第一个就是关于音乐的。那时他认为计算机可以谱写出优美的音乐，但并不会很快实现，因为音乐是一种关于情感的语言，在程序能够拥有我们人类所拥有的这种复杂的情感之前，它绝无可能谱写出任何优美的作品。我认为，侯世达由此对人工智能产生的＂恐惧＂是中国艺术家潘公凯＂错构＂理论的一种典型的体现，它不是一种在理性或技术层面的反应，而是一种本然的艺术或哲学性的反映。对此，我希望结合智能研究的起源以及我一直提倡的＂广义歌德尔定理＂来说明我的看法。 近代以来，人们对智能的认识源自数学家希尔伯特（D。Hilbert）的梦想，即数学推理机械化的＂希尔伯特纲领＂。伯特兰・罗素（Bertrand Russell）与阿尔弗雷德・怀德海（Alfred N。Whitehead）为了给这一梦想奠定坚实的基石，二人花了 10 年的心血成就了一部三卷本的《数学原理》。但是不久，这基石就让三个年轻人击碎。先是歌德尔证明了不完备定理，接着图灵提出了图灵机，并将计算的本质归于机械的操作，进而约翰・冯・诺依曼（John von Neumann）建立了数字计算机的逻辑操作结构。自此，我们有了现代计算机，并开始了人工智能研究，成就了今日之信息产业＂旧＂IT （information technology，信息技术 ），目前，已开始迈向智能产业＂新＂IT （intelligent technology，智能技术 ）。在这一智能的计算化过程中，从邱奇 - 图灵论题（Church-Turing thesis）开始，在诺依曼有意无意的引导下，学界关于智能的思考和认识逐渐形成了两个派别：＂图灵派＂和＂歌德尔派＂。 图灵派本质上是计算主义，认为基于简单规则的计算可以涌现出复杂的行为和智能。从物理符号系统的逻辑智能到联结主义的计算智能，这一思想主导了人工智能至今的发展历史，是构建智能系统的主要理论和方法源泉。歌德尔派认为根本没有构建智能的一般规律和方法，而且现有的一些规律和方法不应成为第一性的，只有动因和信念才是本质，接受现状继续演化是发展人工智能的唯一途径。歌德尔派在人工智能的研究上至今并没有产生很大的影响，然而，在理解智能的影响和意义方面，歌德尔派的认识则非常重要，而且对智能科学的未来发展更具有指导性意义。 歌德尔认为，存在先于可计算的不可计算，即存在不可计算的客观存在。存在不可计算的物理、生命和数学过程，且计算机不能真正理解语言和想象等相关的活动。研究人工智能的第一位华人学者王浩晚年曾致力于歌德尔的思想与哲学的研究，他总结道：＂歌德尔认为机器不可能超越人脑，除非数学不是人类发明的。而且，就算数学不是人类发明的，机器还是无法超越人脑。＂ 我曾把歌德尔关于智能的思想总结为＂广义歌德尔定理＂，即智能分为算法智能（algorithmic intelligence，AI）、语言智能（linguistic intelligence，LI）和想象智能（imaginative intelligence，II）三个层面，算法智能无法超越语言智能，语言智能又无法超越想象智能。正如歌德尔在普林斯顿高等研究院的同事爱因斯坦所言：＂智能的真正标识不是知识，而是想象。＂ 我们可以从两个方向来理解广义歌德尔定理：一是图灵的想法，即 AI 的全体和极限是 LI，LI 的全体和极限是 II ；二是 II 的局部和具体化是 LI，而 LI 的局部和具体化是 AI。计算机的智能只能是 AI，无法达到人类所具有的 LI 和 II 层面。歌德尔对智能的认识及理解与中国哲学史上人们对《道德经》开头的两种不同解读十分相似：一是＂道可道，非常道＂，即凡是能被言说的道，就不再是永恒的本源之道，就像世上每一个能被看到的具体的圆形，都无法符合圆形的抽象定义一样；二是＂道，可道，非常道＂，即道有三种形态，自然中可执行的道（算法之道）、只能说出来的道（语言之道）、只能想象出来的道（想象之道）。总之，＂道＂一经说出，就不是本来的自然之道了。 哲学家伏尔泰曾说：＂定义你的术语…… 否则我们将永远无法相互理解。＂然而前文的讨论使我们认识到，即便有了定义，我们在语言和想象层面上可能也无法彻底理解。在人工智能领域，＂智能＂＂思维＂＂意识＂＂认知＂＂情感＂等术语很难定义，且至今没有达成共识。这也正是 20 世纪的科学哲学家托马斯・库恩（Thomas Kuhn）在其＂3C＂理论中所阐述的：在人类语言词典及其多维结构里，我们进入一种本质上不可公度、不可比较、不可交流的境地。或许，在量子力学中的＂薛定谔的猫＂或海森堡的＂测不准原理＂之外，我们在智能的 AI、LI、II 层面上是否分别存在各自的＂算不清原理＂＂说不明原理＂＂想不准原理＂？ 回到侯世达对人工智能的＂过激反应＂这一问题，我想再用世界围棋高手柯洁的例子加以说明。在李世石以 1∶4 输给 AlphaGo 之后，柯洁发表了迫不及待想要挑战 AlphaGo 的声明：＂就算 AlphaGo 战胜了李世石，但它赢不了我。＂在以 0∶3 的比分负于 AlphaGo 之后，柯洁浑身颤抖，只想大声痛哭，认为 AlphaGo 实在太完美了，并称它就是＂上帝＂。我记得在《时代》杂志上首次看到这一报道时，我的第一反应就是：＂上帝？谁的上帝？反正不是我的上帝。＂在我看来，柯洁的反应与侯世达是一样的，是专业执着后的应激错构，我们没有因为柯洁的失利而对 AlphaGo 感到畏惧，也无须因侯世达而对人工智能感到担忧。实际上，我认为，对这类问题进行持续深入的讨论应是哲学家或有闲阶级培养智能科学素质的脑力练习，专业人员更应关注探索人工智能技术及应用的合法、合规、合理与合情问题。 广义杰文斯悖论 讨论完对人工智能的＂恐惧＂之后，我们再来看看人工智能对人类工作的冲击。近年来，在这方面总有许多令人担忧的言论，如＂机器取代人＂＂人工智能将使 50%~70% 的人失业＂，有些世界著名的科学家和企业家甚至声称人工智能的兴起意味着人类文明的终结。 正如哲学家黑格尔所揭示的：历史给我们的教训是，人们从来都不知道汲取历史的教训。实际上，人类在过去 100 多年内至少经历了三次这种担心，这就是＂老＂＂旧＂＂新＂三次 IT 变革。当年，人们对老 IT（工业技术）的担心远大于今天我们对新 IT（智能技术）的担心。在工业革命的发源地英国，纺织工业诱发＂羊吃人＂现象，女王担心机器的大规模使用将使她的臣民变成乞丐，民众更是揭竿而起，干脆一把火将机器烧了。 70 多年前，诺伯特・维纳的控制论和数字计算机的出现开启了旧 IT（信息技术）的变革，又一次引发社会对机器取代人类工作的担心。为此，维纳还发表了《人有人的用处》（The Human Use of Human Beings ）来专门讨论这一问题，其中特别强调＂信息永远不能取代启迪＂（Information will never replace illumination。）。启迪是语言和想象的核心功能，因此机器及其生产的代码与信息根本无法取代人类，而且，计算机还为＂机器取代人＂做了一个绝好的说明。20 世纪 50 年代之前，英文中＂computer＂一词其实是指从事计算工作的人类，但今天作为机器的＂computer＂已经完全代替了作为人类的＂computer＂；然而，被称为＂computer＂的机器，不但没有使人类大规模失业，而且还为人类创造了更好、更多的新工作，比如程序员、架构师、算法工程师、网络管理员，等等。事实胜于＂恐＂辩，尽管机器可能造成一定程度的短暂的社会错位，使一些人失去工作，但不会造成人类的大规模失业，相反，机器能够创造出更多、更好、适合人类的工作，推动社会进步。 其实，这个问题在 100 多年前就已被研究清楚，这就是著名的＂杰文斯悖论＂（Jevons paradox）。威 廉姆・斯坦利・杰文斯（William Stanley Jevons）是 19 世纪英国的数学家、哲学家和经济学家，现代经济学中的边际效用理论的主要奠基人。在英国工业革命时期，工业大量消耗煤资源并产生了严重的污染，引发了利用技术提高燃煤效率的讨论，但杰文斯的研究表明：烧煤效率越高，耗煤量将会越大。这就是杰文斯悖论：技术进步可以提高自然资源的利用效率，但结果是增加而不是减少人们对这种资源的需求，因为效率的提高会导致生产规模的扩大，这会进一步刺激需要。 计算机的＂机器取代人＂的例子说明广义的杰文斯悖论也成立：技术进步可以提高人力资源的利用效率，但结果是增加而不是减少社会对人力资源的需求，因为效率的提高将导致生产规模的扩大。计算机的确完全消灭了名为＂computer＂的职业，使其变成了一种真正的机器，但同时也扩大了社会对计算机生产、操作等相关人员的需求。还有很多这方面的例子，比如全球定位系统取代了许多测量工作岗位，但却产生了更多基于位置的服务（location based services，LBS）的相关工作以及导航算法工程师等岗位；机器学习取代了很多统计员，但却增加了更多不同的数据工程师工种。可以预见的是，随着智能技术的发展，这类例子将会越来越多。 我们相信，表面上以取代人力为目标的智能技术，将产生更多更适合人类的新的工作岗位，例如学习工程师、决策工程师、法务工程师，等等。智能技术可能会将今日之＂码农＂解放出来，使其变成明日之＂智农＂，成为＂人机结合，知行合一，虚实一体＂的＂合一体＂智慧员工。如此一来，维纳所说的：＂人有人的用途，机有机的用处＂将会实现。 未来智能的方向与体系 40 多年前，侯世达在＂GEB＂之末提出了关于智能的十大问题和猜想，吸引了年轻的米歇尔转行随其学习和研究人工智能。现在，米歇尔也在其著作的结语中也提出了当下人工智能领域备受关注的六个问题及其答案或推测，这本质上也是对未来智能技术发展的探讨与期望。我个人更是坚信人工智能必须从长期占据主导地位的逻辑智能（AI 1.0）和近 20 年来作为主力的计算智能（AI 2.0），向人机混合、虚实交互的平行智能（AI 3.0）迈进。 未来的智能科技，必须将人以新的方式置于核心地位，切实落实＂人有人用，机有机用＂的根本原则。社会物理信息系统（cyber- physical- social systems，CPSS）将成为智能系统的基础设施，进而保证 数据之力、计算之力、算法之力、网络之力和区块链之力能够＂五力合一＂，使智能科技能上＂真＂[TRUE=trust（可信）+reliable（可靠）+useful（有用）+effective（有效）] 之＂ 道 ＂[DAO=distributed/decentralized（去中心化的）+automated/autonomous（自动的）+organized/ordered（有序的）=decentralized autonomous organizations（分权自治组织）]，实现系统学习和系统智能，迈向智能组织和智慧社会。 政治哲学家和经济学者弗里德里希・哈耶克（Friedrich Hayek）曾说：＂科学走过了头，自由将无容身之地。＂同理，智能越过了界，人性将无处安身。如何保证人工智能不越界？根据广义哥德尔定理，我们不是不相信智能技术，我们只是不相信智能技术背后的人类。因此，人工智能的合法合规，必须依靠人类本身的文明和法制保证，智能科技只能起辅助作用。人类社会发展的历史告诉我们，随着技术的发展，我们需要越来越多的法务工作者。将来，或许罪犯会非常少，但＂智警＂或＂法务工程师＂会成为智慧社会的重要从业人员，远多于普通的警察和法官。这是随智能产业发展而来的智慧社会的可能形态，也是我们研发新一代人工智能应该考虑的问题。