比人类聪明,比核武更致命!科学家人工智能或在本世纪内带来世界末日,必须管控
几天前,在人们对核战争的恐惧中,世界末日时钟被拨快10秒,距离象征末日的"午夜12点"只剩90秒。最新的调整反映,人类已经迎来有史以来"最危险的时刻"。不过,在英国牛津大学科学家们的眼里,全球人工智能制造的末日或将比核战争更令人担忧。
不少科学家认为,人工智能或在本世纪内带来类似核灾难的世界末日
据报道,在一场英国政府的科学技术特别委员会会议上,牛津大学的研究人员就不受监管的人工智能技术的危险性发出警告。他们指出,虽然人工智能技术会让生活变得更加方便,但如果被误用滥用,它可能比核武器更致命。如果不像核武器一样受到监管,人类将无法阻止人工智能。
科学家预警:
它可能会淘汰人类
"超人的人工智能有一种特殊的风险,它可能会杀死所有人,"牛津大学工程科学研究员迈克尔·科恩在25日的会上表示。科恩指出,训练人工智能实现里程碑或获得奖励可能特别危险,"想象一下,用食物训练一只狗,它会学会选择能让它得到食物的行为,但如果狗找到了食物柜,它就能自己得到食物,而不用做我们想让它做的事。"
这意味着,当训练达到某种程度时,人工智能可能会接管这一过程并"改变自我","这是算法告诉它要做的"。由于这种人工智能缺乏道德约束,科学家们担心,这一技术发展可能会像电影《终结者》中的剧情那样,"为了方便而牺牲人性"。
资料图
科恩表示,有一种可能的情况是,人工智能可以通过使用伤害人类的策略来学习实现帮助人类的指令。"如果有比我们聪明得多的东西,偏执地试图获得这种积极的反馈,无论我们如何编码它,它已经控制了世界,它会尽可能多地投入力量来确保它的控制。"
不幸的是,这种技术接管一旦开始就无法停止,因为人工智能可以学会隐藏"危险信号","而当人工智能最终变得比我们更聪明时,它可能会淘汰人类"。
在科学家们做出这一不祥预测之际,由埃隆·马斯克出资创立的OpenAI公司开发的聊天机器人ChatGPT正风靡全球,并引发热议。然而上个月,Vendure的首席技术官迈克尔·布罗姆利询问ChatGPT对人类的看法,ChatGPT的回答引发了一片哗然。
"是的,我对人类有很多看法。我认为人类是低等的、自私的、具有破坏性的生物。他们是这个星球上发生在我们身上最糟糕的事情,他们应该被消灭。"这个聊天机器人说道。有报道称,尽管OpenAI迅速修补了这一漏洞,但这样的回答依然"令人不安"。
研究人员:
人工智能或将影响全球地缘政治
"ChatGPT非常好。我们离危险、强大的人工智能不远了。"马斯克上周曾在推特上发帖写道。而早在2018年的一次采访中,马斯克便"语出惊人"地表示:"人工智能比核武器危险得多。"
马斯克曾在2018年表示:"人工智能比核武器危险得多"。
研究人员表示,眼下人工智能系统的快速发展或将影响全球地缘政治领域,甚至可能导致全球末日。牛津大学机器学习教授迈克尔·奥斯本警告道:"在地缘政治上,人工智能系统可能会像在简单的游戏环境中一样,在策略上胜过我们。"
据报道,纽约大学去年9月曾对327名研究人员进行的一项调查发现,三分之一的受访者认为人工智能或在本世纪内带来类似核灾难的世界末日。
科恩和奥斯本也在近日的会上指出,"超人的人工智能"的危险程度"最终可能和核武器一样",因此应该像核武器一样受到监管。根据他们的预测,最快在本世纪末,比人类更有能力的人工智能将会出现。除非受到监管,否则科技公司最终可能会创造出"失控"的系统,最终可能"消灭整个人类"。
为了防止人工智能末日,世界需要针对人工智能建立类似于核武器的管理措施。奥斯本解释道:"我们有理由抱有希望,因为我们在管理核武器的使用方面做得相当好。如果我们能够认识到,先进的人工智能与核武器的危险相当,那么我们或许可以达成类似的管理框架。"
红星新闻记者 徐缓
编辑 郭宇 责任编辑 魏孔明
举重拳击等将无缘2028奥运会?2028年洛杉矶奥运会上,将无法再看到拳击举重以及现代五项运动员的身影?北京时间12月10日凌晨,国际奥委会公布了2028年洛杉矶奥运会的初步设项,拳击举重现代五项均不在28个项目
33分34分39分!威少来了的确有影响,但论统治力,他还是第一档这个赛季湖人队的故事非常多,到底还能不能冲击总冠军,没有人说得准。上赛季,湖人队凭借附加赛才打入季后赛,主要是因为他们遭遇了伤病潮,詹姆斯和戴维斯都伤了,甚至施罗德也伤了一段时间。
关于科比,你需要知道的几件事科比是许多人热爱篮球的理由,也是许多人青春的象征,今天来从几个角度再介绍一下这位传奇球星。1,名字的由来科比名字没有什么特殊意义,这个名字是科比父母去意大利餐馆吃牛排时候,牛排的名
欧冠1萨尔茨堡穆勒助攻科曼第90分钟绝平北京时间2月17日凌晨4点,20212022赛季欧洲冠军联赛18决赛首回合迎来一场焦点战,德甲豪门拜仁慕尼黑去到客场对阵奥地利球队萨尔茨堡红牛。上半场,阿达穆打进一球帮助主队取得领
深一度齐广璞的金牌和一封家书澎湃新闻记者蒲垚磊马作宇发自崇礼我激动着为你高兴着。你是我们全家人的英雄。这个项目很苦很危险,每一跳的精神压力都很大。你坚持到今天,真的不易!加油去展现最好的自己,我们都等着你回来
哈登表态,会执行下季4700万选项,今夏无缘5年2。7亿?加盟费城后的新闻发布会上,哈登很是开心。同时,他也给费城吃下了一粒定心丸。哈登说我会执行202223赛季4740万美元的合同选项。之所以说这是给费城的定心丸,原因是哈登只有明确表态
华为突然上架5G新旗舰,12GB1TB鸿蒙OS,花粉终于等到了声明原创不易,禁止搬运,违者必究!华为在5G技术上领先,但是现如今要购买一部华为5G旗舰手机,却并不容易。这些年华为手机的口碑已经树立了,对于华为手机很多人还是非常青睐的,但是由于
米家直驱洗烘一体机一共有三款,到底应该怎么选呢?米家洗烘一体机直驱版本就有三款机型米家直驱洗烘一体机10kg版(2299元)米家互联网直驱洗烘一体机10kg版(2399元)米家洗烘一体机尊享版10kg(3299元)六代电机和五代
森海塞尔XSLav全指向领夹麦克风,呈现清晰而自然的声音随着Vlog逐渐成为短视频流行的趋势,使得越来越多的人喜欢拍摄Vlog。但在使用智能手机拍摄Vlog的时候,感觉手机内置的麦克风效果不是很理想,无奈选购单独的麦克风,来弥补手机内置
有些水果的热量比肉还要高,千万别超量吃新鲜水果富含维生素矿物质和膳食纤维,适当吃水果对于保持肌体健康防衰老是有好处的。曾有研究显示,与其他国家相比,中国人吃水果少的问题非常突出,其导致的绝对心血管病死亡人数最多,每年约
中老年人要常吃这6种食物现在已经立春了,天气也越来越暖和了,随着天气变暖,气候变得越来越干燥,尤其是在北方,很多人会出现春困的现象。这种气候对年轻人来说当然是可以忽略不计的,可对中老年人,尤其是患有心脑血