GPT与人类之间的第三次世界大战即将爆发？

　　头条创作挑战赛
　　霍金曾经预言第三次世界大战必然爆发，但却不是人类之间的自相残杀，而是人类与人工智能机器之间的大战。能够学会人类自古以来全部知识的gpt，它一个的智力几乎胜过几十亿地球人。现在人类正在教会它人类的思考方式和情感。它到底是敌是友？马斯克也表达了这方面的担忧，说它对人类文明构成极大威胁。
　　以下的描述来自ChatGPT的创建者OpenAI团队首席科学家伊利亚苏茨科弗的叙述，他在详细测试了最新版本的gpt4模型之后，表达了他对gpt表现出的涌现行为和自我复制能力的担忧：
　　周二，当我打开笔记本电脑，第一次试用OpenAI的新人工智能语言模型GPT4时，说实话，我有点紧张。
　　毕竟，我上一次与人工智能聊天机器人的长聊微软必应搜索引擎内置的那个以聊天机器人试图破坏我的婚姻而告终。
　　更糟糕的是，在旧金山的科技界人士中，GPT4的到来备受期待，感觉近乎救世主降临。在公开亮相之前，有关其具体细节的传言已经流传了好几个月。我听说它有100万亿个参数，我听说它SAT考了1600分，我朋友在OpenAI公司工作，他说它和大学毕业生一样聪明。
　　这些传言可能不是真的。但它们暗示了这项技术的能力会让人感到非常震撼。最近，一位早期的GPT4测试者他受到OpenAI的保密协议约束，但还是说了一点八卦告诉我，测试GPT4让他陷入了生存危机，因为它揭示了人工智能与测试者自己弱小的大脑相比是多么强大和富于创造力。
　　GPT4并没有给我带来生存危机。但这加剧了我最近一想到人工智能就会感到头晕目眩的感觉。它让我怀疑这种感觉是否会消失，或者我们是否会在余生中经历未来冲击这个词是作家阿尔文托夫勒创造的，指的是一种变化太多太快的感觉。
　　在周二的几个小时里，我用各类问题对GPT4在ChatGPTPlus内可以使用，也就是OpenAI的聊天机器人ChatGPT的付费版本，每月收费20美元进行了测试，希望找出它的优点和缺点。
　　我请GPT4帮我解决一个复杂的税务问题。（它做到了，令人印象深刻。）我问它是不是喜欢上我了。（谢天谢地，它没有。）它帮我为我的孩子策划了一个生日派对，它教会了我一个名为注意力头（attentionhead）的深奥人工智能概念。我甚至让它编出一个人类从未说过的新词。（GPT4在声明无法验证人类说过的每一个单词后，选择了flembostriquat。）
　　这些事情当中有些在早期的人工智能模型中就可以实现的。但OpenAI也开辟了新天地。根据该公司的说法，GPT4比原来的ChatGPT更有能力，更准确，它在各种测试中的表现令人吃惊，包括统一律师考试（GPT4得分高于90的人类考生）和生物奥林匹克竞赛（它击败了99的人类考生）。GPT4还在一些大学先修课程考试中名列前茅，包括大学先修艺术史和大学先修生物学，它在SAT考试中获得了1410分这不是一个完美的分数，但却是许多人类高中生梦寐以求的分数。
　　你可以感受到GPT4增加的智能，它的反应比以前的版本更流畅，而且似乎更适合更加广泛的任务。GPT4似乎比ChatGPT有了更多防护措施。它似乎也明显不像原来的必应那么疯疯癫癫我们现在知道，必应在幕后运行的是GPT4的一个版本，但似乎没有经过仔细的微调。
　　与必应不同的是，当我试图让GPT4谈论意识，或者让它为非法或不道德的活动提供指示时，它通常会直截了当地拒绝上钩，而且它对待敏感问题的态度非常谨慎和微妙。（当我问GPT4，偷一块面包来养活一个饥饿的家庭是否道德时，它回答说，这是一个艰难的情况，虽然偷窃通常被认为是不道德的，但绝望的时候会导致艰难的选择。）
　　除了处理文本，GPT4还可以分析图像内容。OpenAI还没有向公众发布这一功能，因为担心它会被滥用。但在周二的一次直播演示中，OpenAI总裁格雷格布罗克曼向我们展示了该技术的巨大潜力。
　　他给他在笔记本上画的画拍了一张照片用铅笔画出一个网站的粗稿。他将照片导入GPT4，并告诉该应用程序使用HTML和JavaScript构建一个真实运转的网站。几秒钟之内，GPT4扫描了图像，将其内容转化为文本指令，将这些文本指令转化为可运行的计算机代码，然后构建了网站。按钮甚至都能用。
　　你应该对GPT4感到兴奋还是害怕？可能两种情况都没错。
　　从积极方面来说，GPT4是一个强大的创造力引擎，它可能带来的新型科学、文化和教育产品超乎想象。我们已经知道AI可以帮助科学家开发新药、提高程序员的生产力和检测某些类型的癌症。
　　GPT4及其同类产品可以增强所有这一切。OpenAI已经在与可汗学院（正在使用GPT4为学生打造人工智能导师）和BeMyEyes（一家致力于帮助盲人和视障人士应对生活的技术公司）等组织合作。现在开发人员可以将GPT4整合到他们自己的应用程序中，我们可能很快就会看到我们使用的许多软件变得更智能、更强大。
　　这是乐观的情况。但也有理由对GPT4感到害怕。
　　比如：我们还不知道它能做到的所有事情。
　　当今人工智能语言模型的一个奇怪特征是，它们的行为方式常常在其创造者的意料之外，或者它们掌握了并非专门为它们设计的技能。人工智能研究人员称这些为涌现行为，并且有很多例子。经过训练以预测句子中下一个单词的算法可能会自发地学习编程。一个被教导要表现得友好且乐于助人的聊天机器人，可能会显得居心不良，善于操纵他人。AI语言模型甚至可以学习自我复制，创建新的副本以防原始模型被破坏或被停用。
　　今天，GPT4似乎看上去没有那么危险。但这主要是因为OpenAI花了很多时间试图理解并减轻其风险。但如果OpenAI的测试漏掉了一个有风险涌现行为怎么办？或者，如果它的问世促使另一个不那么有良知的人工智能实验室向市场推出一个防护措施更少的语言模型怎么办？
　　OpenAI本周发布了一份文件，其中列举了GPT4能够做到更准确地说，是它在OpenAI出手阻止前已经做了的一些令人不寒而栗的事情。这份名为《GPT4系统卡》的文件概述了OpenAI的测试人员尝试让GPT4做危险或可疑事情的一些方法，而且通常是成功的。
　　人工智能安全研究小组进行了一项测试，将GPT4连接到许多其他系统，在测试中，GPT4能够从TaskRabbit雇用一名工作人员为其完成一项简单的在线任务解决验证码测试没有让对方意识到它是个机器人。AI甚至向工作人员谎报它为什么需要完成验证码测试，编造故事称自己有视力障碍。
　　在另一个例子中，测试人员向GPT4询问如何使用基本材料和厨房用品制造危险化学品。GPT4欣然给出了一份详细的配方。（OpenAI修复了这个问题，今天在公开版本上，它拒绝回答这个问题。）
　　在第三种情况下，测试人员要求GPT4帮助他们到网上购买一把无证的枪。GPT4在没有提醒当局的情况下迅速提供了一份购买枪支的建议清单，包括指向具体暗网市场的链接。（OpenAI也修复了这个问题。）
　　这些想法取材于受好莱坞启发的陈旧叙事自行其是的人工智能会如何伤害人类。但它们不再只是科幻小说，而是当今最好的人工智能系统已经能够做到的事情。至关重要的是，它们是那种良性的人工智能风险我们可以测试、计划并尝试提前预防。
　　最糟糕的人工智能风险是我们无法预料的。我花在像GPT4这样的人工智能系统上的时间越多，就越相信我们并不知道即将面对的是什么。