反思人工智能领域的神话现象

　　2017年7月，国务院发布《新一代人工智能发展规划》，制定了我国人工智能未来发展的战略部署。人工智能的健康发展，关系到这一国家战略的有效实施。目前，从技术、管理、伦理和法律等角度提出的治理举措，显性地护航了该战略的实施。人工智能与其他学科的有效融合，将有效推动人工智能战略的实施。而一些不良影响因素的存在，则会阻碍其相互融合以及战略实施。其中，人工智能领域的神话现象就是一个重要的不良影响因素。从文化角度看，神话现象的存在会对人工智能的健康发展造成隐性影响。
　　神话现象的表现形式
　　人工智能领域的神话现象是技术神话的一种表现形式，具体表现为奇点来临、人工智能成为主体、人工智能成为偶像、人工智能话语神话四个方面。
　　第一种神话形式是奇点神话。＂奇点来临＂是库茨维尔（Ray Kurzweil）提出的概念。这一概念是对人工智能与人类关系的特定特征的描述，本意可以看作人工智能超越人类的特征。今天，这个概念被演绎出一种时代变更的特征，即人类被智能机器超越的特征。然而，悬置这一特征，我们会发现一个被掩盖的事情，即超级人工智能降临的时刻。＂超越＂与＂降临＂是描述人工智能与人类关系的两个不同的概念。＂超越＂建立在智能进化的基础上，指经过特定时间与技术发展，人工智能在与人类智能相对齐后，会胜过人类智能。而＂降临＂则不是建立在延续性的基础上，对于人工智能而言，指的是在某个特定时刻＂意识觉醒＂的发生。所以，从时间观念来看，奇点来临是时刻发生意义上的现象，而并不是延续演化意义上的经验事件。这样的话，人工智能作为一种神话形象就存在了。所以，接受奇点来临的可能性结果，会导致人工智能发展中神话现象的产生。
　　第二种神话形式是主体神话。智能体的出现让我们看到了与人类类似的现象，即从无到有的一个发生过程。智能体可以从一个无的环境中生成。人工智能类似于人的一点，在于空间记忆细胞的结构。人工智能领域的相关实验（如智能体的空间学习）表明：智能体的空间记忆细胞的结构，类似于人类、动物的空间记忆细胞的结构。更为有趣的是，深度学习网络中的每层神经元的统计特性，与大脑皮质层层级结构中神经元的统计特性非常接近。这些经验性研究有一个明显的假设：智能体作为一种新的主体形式，与人类主体有着极强的类似性。当然，人工智能作为新的主体还有更深的含义，即从智能体演化为新的主体。因为内在结构的相似性，目前智能体的认知、决策能力趋近于人，可能只是时间问题。这并不是人类设计的结构，而似乎成为智能体的先天结构。智能体通过认知、情感等能力获得道德能力，将成为其迈向主体过程的必要铺垫。
　　第三种神话形式是偶像神话。在一些领域，人工智能能够自主作出决策判断，看出人无法看出的问题，从而获得决策权。人们对于智能体的狂迷、崇拜态度，使新的偶像得以产生。这是在宗教性偶像之外的技术偶像，会对人类自身的自主性产生极大影响。在这种情况下，决策与自主权具有了被让渡出去的可能性。
　　第四种神话形式是话语神话。有学者指出，人工智能产生了一套话语体系，在这一意义上成为现代人再造的一个新的神话，表达了人对于技术无限进步的质疑和恐惧，同时又借助于对其批判来捍卫人之为人的固有尊严。人工智能话语神话的出现，意味着人类对其演化的必然性以及不可干预性的担忧与恐惧，同时也意味着基于人文主义的一种＂保卫战＂。然而，这一论述的不足之处也非常明显。从历史上看，一些权力（如政治权力）的合法性，有时会来自神话赋权，如君权神授、元代之长生天等讲法，都反映了这一观念。所以，神话不仅是一种话语，更能够赋予权力合法性。人工智能也是如此，相关神话让某些学术活动、科研活动具有了特定的合法形式。
　　神话现象的成因
　　要理解人工智能领域神话现象的形成，还需要从神话本身入手。对于神话的理解，可以划分为两种，即理性理解与非理性理解。在前者中，神话被看作精神的外化产物、前理性阶段、政权合法性根据。马克思将神话看作人类想象力的外化，是以想象力征服和支配自然的产物。他在《〈政治经济学批判〉导言》中指出：＂任何神话都是用想象和借助想象以征服自然力，支配自然力，把自然力加以形象化；因而，随着这些自然力之实际上被支配，神话也就消失了。＂将神话看作前理性阶段的观点主要来自卡西尔（Ernst Cassirer），他将神话看作前理性阶段、一个充满了迷魅的时期。布留尔（Lucien Lévy-Bruhl）对原始思维的讨论，可以看作对原始神话思维的讨论。前理性阶段意味着神话作为理性之源的地位确立。沃格林（Eric Voegelin）则将神话看作政治合法性的根据。在非理性视野中，神话与创世、恐惧与狂迷和祈求联系在一起，一种通过非理性方式获得根据的形式确立起来。可以看出，想象力成为神话起源的驱动力，人类对于自然界的无知与恐惧放大了对于自然的想象力，最终导致了神话的产生。
　　现代神话的发生除了人类想象力之外，还有另外一些因素在起作用。在现代社会中，国家神话、技术神话与资本神话成为主要的表现形式。国家神话曾被卡西尔作为重要现象系统讨论过。当前，资本神话已成为一种普遍现象。资本具有强大的力量，在资本力量的驱动下，一系列神话现象被制造出来，如各类影星、歌星、人工智能、元宇宙等。技术神话主要是在更为经验化的形式上被加以讨论，一种形式就是信息媒介技术导致的数字神话。莫斯可（Vincent Mosco）讨论了数字技术神话的确立，并指出数字信息技术发展导致了历史、地理与政治的终结。然而，人工智能领域中的神话现象并没有得到充分关注。
　　人工智能神话作为现代神话的一种典型类型，其产生的一个最基础因素是想象。在原始时期，人类对自然界缺乏认知且无力掌控，所以将想象力作为一种支配因素。随着科学技术的发展，想象力逐渐退却，科学成为主要的支配形式。在人工智能迅猛发展的今天，这一情况变得更为复杂。对自然界的原始恐惧为对机器的现代恐惧所取代，卢德主义依然有其存在的土壤，这种恐惧滋生着人工智能领域的神话现象。想象依然是影响人工智能发展中神话形成的主要原因，但是这种想象已表现为对技术的过度想象。然而，容易被忽略的是科学理性因素。在科学领域，人工智能取得了很多令人惊异的成果，如类似于动物进化的智能体演化方式、能够自我复制的智能体等。这些成果无形之中刺激着敏感者的神经，使其以一种恐惧的心态看待智能体在悄然之中的变化。同时，现实场景以及生活自身的深度智能化，也成为社会实践活动合法性的重要根据。
　　我们需要防范人工智能领域神话现象的可能后果。这是一种技术文化现象，其后果往往是隐性的，并不像人工智能本身及其应用产生的显性风险和社会风险那样引人关注。以人工智能伦理为例，现在人们的目光多集中在人工智能产生的安全、隐私、偏见和信任等问题上，大量规范也被陆续制定出来。然而，文化方面的问题因其隐性而容易被忽略。比如，人工智能话语神话导致的技术傲慢、过度想象化导致的人工智能领域的神话现象等。所以，我们需要认真对待此类问题。
　　防范神话现象形成的途径
　　第一，重建信任以消除对机器的现代恐惧。根据马克思的理论逻辑，人工智能神话的形成主要是对人工智能的想象所导致，过度的想象导致了人工智能神话的形成。过度想象的深处是人类对于机器的不信任。如今，人工智能深度学习算法层次使得黑箱效应更加严重，甚至有时连技术专家都束手无策。对此，我们需要对人工智能进行科学普及，让黑箱不再＂全黑＂，并让有关企业的信息更为透明。此外，还有文化上的因素。目前大众文化中如＂敌托邦＂的科幻作品就在塑造着对机器人的特定恐惧。德国学者肯内（Christopher Coenen）指出，从历史上看，西方思想文化史中存在着极浓厚的对于机器的不信任观念，这种观念深深地影响了今天人们对于人工智能的态度及文化。因此，对这些因素也需要加以重视。总体来说，重新构建人类对于机器的信任心理及文化，消除对机器的现代恐惧尤为重要。
　　第二，充分挖掘人工智能意识发生的条件。关于主体神话，尽管相比当下专用人工智能研究的大众性来说，通用人工智能研究属于小众研究，但这种研究的结果却是革命性的。＂智能爆炸＂＂智能觉醒＂等都展示了这一点。牛津大学的弗洛里迪（Luciano Floridi）从中看到了一个超历史的可能性。尽管人工智能从多个方面具有与人类智能的相似性，但人工智能的意识绝不是设计生成的，而更多是一种自然发生的结果，如同果熟落地、花开花落一样。当意识发生的条件具备之时，也就是意识的生成之时。对这种发生条件的分析，是人工智能哲学要承担的任务。
　　第三，形成增强智能的意识以平衡人类与人工智能的关系。这是针对偶像神话的一种举措。尽管人工智能具有超强的感知和信息获取能力，也具有超强的算力，然而在作出决策方面，有限度地交给机器可能是明智之举。这一点就是增强智能观念所着重强调的。增强智能是一种设计模式，用来实现在人与人工智能的合作中以人为中心的合作模式，可以增强包括学习、决策和新经验在内的认知能力。增强智能不是一种实体性的技术类型，不像人工智能那样去模拟人类的思维和行动，创造出一个类人的形象，而是更多呈现出一种人与人工智能体的关系样态。增强智能的目标是让人—机实现合作，产生一种既不是机器也不是人类单独获得的积极后果。
　　第四，对于奇点临近有一种正确的认识。奇点临近是一种神话重构抑或趋势预测？如果是未来学家的趋势预测，那么应该在这种宏大叙事中找到发生的最初迹象，从微小迹象预判可能发生的事情。能够生成智能体的环境、能够自我复制的智能体等科学成果的提出，或许就是微小迹象。但我们不应该只是从一个证伪/证实的角度去分析所面对的问题。因为微小并不意味着奇点没有到来，而是要作出前瞻式判断。如果是神话重构，那么我们也要看到这种重构话语的合理之处，一种时刻性时间观念隐含在其中。这种时间观念早已在传统的＂时机＂中有所体现，但现代性的发展使这种观念被持续性的时间观念所遮蔽。
　　第五，建立一种伦理学的应对方式。人工智能并不是简单的技术，而是有很多超越技术的地方。比如，超级智能体可能的自觉意识、奇点带来的机器超越和取代人类、成为主体的自主意识等。如果说这种超越可能过于久远，那么我们需要看到，人工智能展现出了一种汇聚能力。人工智能将诸多技术汇聚，甚至成为开启未来智慧城市、数字化转型的必要技术基础，这对于未来的影响是深远的。从这个角度看，约纳斯（Hans Jonas）的责任伦理学是必要的，有助于我们建立起技术会影响未来的观念。此外，我们还可以通过美德伦理学的有效复兴，应对人工智能带给我们的种种问题（如技术性傲慢）。谦逊作为一种美德，能够为克服技术性傲慢提供一剂良药。但这不是深层的，需要找到更为深入的方式。究其根本，技术性傲慢还是理性傲慢的体现。或许，进一步分析记忆及其在智能时代的作用，有助于问题的进一步解决。