星际迷航可以告诉我们AI聊天机器人的陷阱

　　我不是 AI 专家，但我看过很多《星际迷航》。在过去的一周里，事实证明这几乎同样有用。在Google Bard和带有 ChatGPT 的 Microsoft Bing之间，各大公司都在全力投入人工智能聊天机器人，这引发了关于搜索引擎、在线新闻业的未来以及人工智能还要多久才能更接近真实事物的深刻问题。
　　目前，我对 AI 聊天机器人的泛滥感到担忧，而且我不是唯一的人。记者、投资者和日常技术爱好者都可以看到许多潜在的陷阱。如果人工智能聊天机器人有一天应该取代（或有意义地补充）搜索引擎作为一种更自然的回答查询的方式，那么微软、谷歌等。将需要回答一些关于作者身份、归属和准确性的严肃问题。更重要的是，这些公司需要决定该技术的最终目的是回答简单的问题，还是创建一个可以与人类进行有意义对话的实体。
　　换句话说，科技公司需要决定他们是否希望 AI 成为字面意义上的人工智能。
　　虽然这些问题远远超出了我的薪资等级，但我的思绪一遍又一遍地回到中校。数据：USS Enterprise-D 上的二副，也是整个《星际迷航》系列中最知名的角色之一。作为一个处于和平和开明未来的全功能机器人，Data 代表了 AI 可能发展成的最好状态。但即使在理想情况下，人工智能似乎也受到许多有血有肉的人类所没有的限制。虽然 Data 本人可能不是真实的，但他提出的关于开发 AI 技术的担忧是真实的。  人工智能可以有知觉吗？
　　对于那些还没有看过《星际迷航：下一代》的人来说，这是一部关于一群星际探险家乘坐未来星际飞船的节目。Data 是该船的二副，在 Jean-Luc Picard 上尉和 Cmdr 的领导下服务。威廉·赖克。除了履行他在企业号上的职责外，Data 还希望通过与其他船员建立密切关系以及尝试理解（并经常模仿）他们的行为来变得更加＂人性化＂。
　　乍一看，Data 和其他船员一样是一名船员，尽管他异常强壮、聪明且适应力强。他可以运行工程诊断、分析科学数据并击退敌对的外星人以及任何其他军官——事实上，由于他的计算机化正电子大脑和耐用的生物技术身体，他往往更好。他还与其他船员交往，建立友谊，克服竞争，甚至作为音乐合奏团的一部分进行表演。虽然我们不知道谷歌和微软对 Bard 和 Bing 对 ChatGPT 的最终目标是什么，但很容易想象这些公司致力于实现这种理想化的人工智能，无论有没有机器人身体。
　　然而，在第二季的＂The Measure of a Man＂中，《星际迷航》颠覆了我们对数据的理解。当一位名叫 Cmdr 的杰出计算机科学家时。Bruce Maddox 希望解构 Data 并生产更多像他一样的机器人，Starfleet 进行了一项试验以确定 Data 是否具有感知力，因此有权在这件事上做出选择。这一集在法庭高潮中达到高潮。
　　这是粉丝最喜欢的一集，理由很充分，因为数据最终赢得了自主权，并在善意的军事官僚面前打击了个人自由。然而，只有一个观众经常忽视的问题：皮卡德从未真正证明数据的感知力。法庭不能排除 Data 具有知觉的可能性，但仅此而已——一种可能性。在整个系列或任何其他《星际迷航》节目中，没有人毫无疑问地证明 Data 具有与人类（或外星人！）生命形式相同的意识。引用已故的伟大的卡尔萨根的话，＂你无法推翻我的假设与证明它是正确的完全不是一回事。＂
　　这似乎是一个小问题，因为我们所有人（包括我自己）都非常希望相信 Data 和其他像他一样的人可能有灵魂，无论是在亚里士多德意义上还是在精神意义上。但事实是，我们无法确定数据是否具有真正的认知——这也意味着我们无法确定他是否具有真正的直觉、洞察力、创造力或独创性。如果这种前景与现代人工智能开发人员无关，那么它应该。  数据的局限性和缺点
　　《星际迷航：下一代》共播出 178 集，外加四部电影和其他《星际迷航》衍生剧中的各种演出。因此，不可能讨论 Data 的 AI 缺点的每个示例。相反，我想重点关注两个具体示例：第 3 季的＂The Ensigns of Command＂和第 4 季的＂In Theory＂。
　　在＂指挥官的旗帜＂中，数据必须从好战的外星种族手中拯救人类殖民地，尽管存在一些技术困难使得无法快速撤离。这一集的主要情节在这里实际上并不那么重要；相反，这是关于 Data 音乐才能的一个小情节。在这一集的开头，Data 建议他的船员们跳过他的一场小提琴演奏会：
　　＂虽然我在技术上很精通，＂Data 说，＂但根据我的表演伙伴的说法，我缺乏灵魂。＂
　　这一集以达塔的独奏会作为书挡，在这一集的结尾，皮卡德称赞了达塔的小提琴演奏。
　　在这里，数据揭示了现代人工智能的典型局限性之一。虽然谷歌和微软的聊天机器人可以从不同的来源收集数据并将它们组合成可以理解的东西，但实际上这两个应用程序都不能从中创建新信息。这是简单连接和真正合成之间的区别。
　　皮卡德认为，数据将两位不同小提琴手的技巧结合在一起，显示出真正的创造力，但这似乎有些牵强。缺少的——以及数据自己承认的——是原创性的元素。就像人工智能一样，人类从外部资源中学习，然后尝试将这些知识内化并以新的方式应用它。
　　然而，人类小提琴家不会简单地听取两个截然不同的表演者的演奏并在他们的技巧之间找到一个中间点。相反，他会练习两种风格，结合有效的方法，避免无效的方法，同时还利用自己的直觉来运用自己的敏感性。更何况，即使人类想要将另外两个音乐家的风格完美结合，也不能，因为自身的局限和天赋与他们不同。数据，或任何类似的人工智能，都不会受到这样的限制——我们也不能假设它们会有任何独特的＂天赋＂，无论是天生的还是后天习得的。
　　简而言之，现代 AI 无法合成新想法——如果我们将 Data 的能力视为一个合理的科幻命题，那么它们可能永远无法合成。
　　第二个例子＂In Theory＂也展示了数据直觉的相当黯淡的画面。在这部被低估的剧集中，詹娜·德索拉中尉迷上了数据。机器人开始与她建立关系，希望这段经历对他更好地理解人性的探索具有指导意义。
　　为此，Data 开发并完善了＂浪漫子程序＂，他认为这将展示对 D＂Sora 的适当感情。然而，数据的行为被证明有点离奇：通过爱别人的表面行为，没有任何潜在的情感。最后，D＂Sora 与 Data 分手——而 Data 基本上没有任何反应。
　　数据破坏了 D＂Sora 真诚对待的一段关系，并在此过程中深深地伤害了一位同事的感情。不过，可以说更糟糕的是，Data 本人对分手没有任何反应。他没有情绪，无法解析 D＂Sora 的情绪。他甚至不知道自己失去了一些珍贵的东西。
　　虽然＂机器人无法体验爱情＂有点像科幻小说中的陈词滥调，但它仍然是一个很好的例子，说明 AI 最终可能会在哪些方面有所不足，即使在未来也是如此。成功的浪漫关系需要不断的直觉和创造力，从感知另一个人的感受到每天保持他们的兴趣，即使在例行公事开始很久之后。然而，数据实际上无法回应 D＂Sora 的情感或身体需求；他甚至不能正确地认出他们。在接吻时给予 D＂Sora 他全部注意力的简单行为超出了 Data 的范围。
　　虽然 Bard 和 Bing with ChatGPT 可能不会创建他们自己的浪漫子程序，但 Data 处理人际关系的方法确实揭示了程序的一些缺陷。除了人类提供的表面细节之外，AI 聊天机器人无法衡量人类的感受或人类的需求。字里行间是将人类智能与数据驱动算法区分开来的因素之一——即使是我们最喜欢的机器人也无法逃脱其正电子大脑的算法紧急情况。  发挥创造力的机会
　　诚然，星际迷航是一个巨大的神话，而下一代是一个长系列。对于 Data 充当其电路的简单仆人的每个示例，在另一个示例中，他似乎超出了其编程的要求。
　　第 4 季中的＂线索＂一集为我们提供了一个有趣的例子，说明 Data 使用创造力来回避看似不可能的订单。在一个仇外的外星种族同意抹去企业船员的记忆而不是彻底摧毁他们之后，数据必须向皮卡德和其他船员隐瞒这个秘密。为此，他制定了一个精心设计的计划来隐藏外星人存在的所有证据——尽管一开始并不完美。数据的聪明计划，以及他在试图掩饰真相时的心理操练，都暗示着一些比简单地收集和共享信息更微妙的事情。
　　在第 5 季的＂救赎，第二部分＂中，数据指挥萨瑟兰号航空母舰并违抗皮卡德的直接命令。Data 没有与 Enterprise 会合，而是向一个看似空旷的空间开火 - 露出一艘隐形的 Romulan 船，并拯救他的盟友免遭偷袭。数据并不确定有一艘隐藏的船，也不知道皮卡德会原谅他的不服从命令。像这样的行为表明数据确实能够将不相关的想法综合成新的、可检验的假设。
　　不过，重要的是要记住 Lt. Cmdr。Data 是一个虚构的角色，而 Bard 和 Bing with ChatGPT 是非常真实的。关键不在于这些服务注定要演变成成熟的类人人工智能；关键是，即使在我们最理想主义的想象中，人工智能也存在重大缺陷。而这些缺点在我们今天拥有的相对原始的原型中更加存在。
　　就像最糟糕的数据一样，现代人工智能聊天机器人还没有弥合反刍信息和提出原创想法之间的差距。但与处于最佳状态的数据不同，我们甚至不知道这些程序是否有能力这样做。如果微软、谷歌和其他 AI 供应商想要开发这项技术而不仅仅是出于好奇，那么他们将不得不大胆地去人工智能从未涉足的领域。