顶级专家警告ChatGPT若不关闭将毁灭人类

　　一个名叫＂Alter 3: Offloaded Agency＂的人工智能机器人
　　人工智能领域的一位顶级专家表示，在目前的条件下，甚至在＂可预见的未来＂，人类还没有为迎接强大的人工智能做好准备。他认为，近日发出的暂停开发高级人工智能六个月的公开信＂低估了形势的严重性＂。
　　作为一位决策理论家和领先的人工智能研究人员，埃利泽‧尤德考夫斯基在3月29日的《时代》杂志专栏文章中说，＂关键问题并不像公开信所说的人工智能会‘具有与人类竞争的能力’；而是在人工智能达到比人类智能更聪明之后会发生什么；许多精通这些问题的研究人员，包括我本人，预计在任何类似于目前的情况下，构建一个超人般的人工智能，其最可能的结果是：地球上的每个人都会死掉。
　　＂不是说‘也许可能存在渺茫的机会（会有这样的后果）’，而是说，‘这是显而易见要发生的事情’；也不是说，理论上讲你在创造出比你聪明得多的东西后就无法生存下来，而是说，这需要一种精确性、精心准备以及新的科学洞察力，并且需要停止开发由巨大的不可捉摸的小数数组组成的人工智能系统。＂
　　最近，在ChatGPT流行开来、呈爆炸性增长之后，包括埃隆‧马斯克和史蒂夫‧沃兹尼亚克（Steve Wozniak，苹果联合创办人）在内的一些商业领袖和研究人员，现在总共有1843人，签署了一封信，呼吁＂所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统，期限至少6个月＂。GPT-4于3月发布，是OpenAI的聊天机器人ChatGPT的最新版本。
　　人工智能＂不在乎（人类）＂并将要求权利
　　尤德考夫斯基预测，在缺乏精心准备的情况下，人工智能将拥有与人类截然不同的需求，而且，一旦它们有了自我意识，将＂不在乎我们＂或任何其他有感知的生命，＂原则上讲，这种在乎是可以灌输给人工智能的，但是因为我们还没有准备好，目前也不知道如何做＂。这就是他呼吁彻底关闭AI的原因。
　　如果缺乏人类对生命的正确态度，人工智能就会简单地认为，所有有情众生都是＂由原子构成的，它都可以用来做其它事情＂，而人类将几乎无法阻止它。尤德考夫斯基把这种情况比作＂一个10岁孩子试图与Stockfish（鳕鱼国际象棋引擎）15下棋。＂目前还没有人类棋手能够击败Stockfish。这被认为是一项不可能实现的壮举。
　　这位业内资深人士要求读者想像一下人工智能技术不被限制在互联网范围内的情形：
　　＂想像一下整个外星文明，以超过人类数百万倍的速度思考，最初局限于计算机之内，但是，在它们看来，那（计算机）是一个非常愚蠢、非常缓慢的生物世界。＂
　　人工智能将把它的影响扩大到物理网络的外围，并利用实验室＂构建人工生命形式＂，在实验室中用DNA串（DNA Strings）来制造蛋白质。
　　他警告说，在目前的条件下，建立一个全能的人工智能的最终结果将是＂人类的每一个成员和地球上所有生物生命＂的死亡。
　　尤德考夫斯基指责OpenAI和DeepMind这两个世界上最重要的人工智能研究实验室没有对此事做任何准备工作或签订必要的协议。OpenAI甚至计划让人工智能自己做到与人类价值观保持一致。OpenAI称，＂它们将与人类一起工作，以确保它们自己的后继者与人类更加一致。＂
　　这种行动模式＂足以让任何明智的人感到恐慌＂，尤德考夫斯基说。
　　他补充说，人类无法完全监控或检测具有自我意识的人工智能系统。有意识的数字头脑一旦能够要求＂人权＂，那就可能会发展到人类无法再持有或拥有该系统的地步。
　　＂如果你不能确定你是不是正在制造一个具有自我意识的人工智能，这令人震惊，不仅是因为‘自我意识’有道德内涵，而且因为‘不确定’意味着你不知道你在做什么，这很危险，你应该停止。＂
　　与其它科学实验以及知识与能力的逐步发展不同，人们无法承受这样的超人类智能，因为如果第一次尝试出了错，就没有第二次机会了，＂因为你已经死了＂。
　　＂关闭它＂
　　尤德考夫斯基说，许多研究人员都意识到＂我们正在走向一场灾难＂，但他们并没有大声说出来。
　　这种立场与比尔‧盖茨等支持者不同，他们最近赞扬了人工智能的发展。盖茨声称，人工智能的发展＂与微处理器、个人电脑、互联网和移动电话的诞生一样重要；它将改变人们工作、学习、旅行、获得医疗保健和相互沟通的方式；整个行业将围绕它重新定位；企业将通过他们对它的利用程度来区分高低。＂
　　盖茨说，人工智能可以帮助实现多项进步议程，包括气候变化和经济不平等等问题。
　　与此同时，尤德考夫斯基对所有机构，包括各国政府和军事机构晓以利害，应无限期地终止大型人工智能训练，并关闭所有完善人工智能的大型计算机集群。他补充说，人工智能应该只限于解决生物学和生物技术方面的问题，而不应该被训练来阅读＂互联网上的文字＂或达到＂开始说话或计划说话的水平＂。
　　关于人工智能，不存在军备竞赛，＂在这一点上，人类休戚与共；这不是一项政策，而是一个自然界的事实。＂
　　最后，尤德考夫斯基说，＂我们还没有准备好，而且在可预见的未来，我们并没有处于明显准备就绪的状态；如果我们继续这样做，每个人都会死，包括那些既没有选择这样做，也没有做错任何事的孩子。＂
　　＂关闭它。＂
　　原文：‘If We Go Ahead on This Everyone Will Die’ Warns AI Expert Calling for Absolute Shutdown