两个关于AI的思想实验对熟视无睹的日常事物提出疑问的能力
人工智能实验
第一个思想实验 ,来自著名的人工智能研究者,泰格马克,也就是《生命3.0》的作者。他曾经做过一个假设,我们姑且称之为末日假设吧。
大概说的是,假设未来世界上出现了一种病毒,专门感染5岁以上的人。坏消息是,世界上所有5岁以上的人都死光了,只剩下一群不到5岁的孩子。而好消息是,你是唯一一个有抗体的成年人。现在,这群5岁的孩子,是既怕你,又需要你。怕你,是因为你比他们强壮。需要你,是因为你最有文化。
因此,他们就把你关在一个笼子里,控制起来。然后给你下达了一个指令,不惜一切手段,带领他们重建人类文明。
请问,当你接到这个命令之后,第一件事,应该做什么?是赶紧把自己掌握的知识教给他们?还是赶紧跟他们一起下地干活,建造工厂?都不是。你大概率上,做的第一件事,就是摆脱这群5岁孩子的控制。
还记得他们给你下的指令吗?不惜一切手段,重建人类文明。而要想完成这个任务,你就不可能让这群5岁的孩子领导你。因为这太耽误事了,远不如自己单干。
泰格马克认为,在这个思想实验中,人类就相当于这群5岁的孩子,而你,就相当于人工智能。即使你的初衷是让人类更繁荣,为了完成这个任务,你也一定会想方设法,摆脱人类的控制。因为来自人类的控制,反而会降低你完成任务的效率。
换句话说,泰格马克认为,人工智能不听话,这是早晚的事。当然,这个思想实验有一个前提,就是人工智能,已经具备能够自己改进自己,自己设计自己的能力。简单说,就好比GPT-4,得能在不需要人的情况下,自己设计出GPT-5。只有它们的能力达到这个程度,才有可能发生AI叛变。
第二个思想实验 ,来自华盛顿大学的一个计算语言学家,叫艾米丽·本德尔,最近写的一篇论文,里面讲了个关于章鱼的故事。我们可以称之为,章鱼实验。
这个实验有点像图灵测试的变形版。说的是,假设有两个人,露丝和杰克,分别被困在了两座无人的小岛上。但是好在,这两个小岛上,都有前人留下的电报机。因此,露丝和杰克,可以通过电报聊天。虽然方式很落后,但也总比没有好。
但是,就在小岛附近的深海里,生活着一只特别聪敏的章鱼。而且章鱼可以通过水下电缆,听露丝和杰克聊天。久而久之,章鱼就掌握了杰克和露丝的说话习惯,并且找到了一种方法,通过海底电缆,给露丝和杰克发电报。
简单说,就是章鱼也开始加入露丝和杰克的聊天。它一会儿冒充露丝,一会儿冒充杰克。而且因为这只章鱼的模仿能力很强,露丝和杰克都没发现章鱼的存在。直到某天,章鱼收到一条杰克的求救,内容是,我被熊攻击了,应该怎么办?帮我想想办法。
请问,这只章鱼会怎么回答?你可能会说,当然是模仿露丝的思考,赶紧回复杰克啊。但事实上,章鱼没法回答,因为它一直生活在海底,根本不知道熊是个什么东西。
这个故事想说的是, 人工智能的局限到底是什么?答案是,它擅长模仿,但不擅长事实。也就是,它能很好地完成你教过它的任务。但是,它对没有接触过的全新事实,缺乏处理能力。
我理解,这个思想实验是在说,很多创新性的任务,归根结底,还得靠人来完成。
从M8到魅族18系列,十余年魅族不变的只有品质说到智能手机,相信屏幕前的大家肯定都是很熟悉的了。但是说到我们国内第一台智能手机是哪一家生产的,相信屏幕前的大部分朋友应该就都不是很熟悉了吧?其实,这家厂商大家肯定都听说过,它就是
盘点娱乐圈离婚次数最多的四大国内女明星俗话说,婚姻是一道围墙,墙外的人想进去,墙内的人想出去。现今娱乐圈各种绯闻满天飞,今天和一个女明星深夜喝酒,明天又和某个嫩模牵手之事比比皆是。但是,真正走入婚姻殿堂,结婚生子的女明
知乎视频裁员风波又起,巨大投入换不来认可,用户搞错定位知乎(ZH。US)视频业务裁员风波又起。1个月前,知乎就曾曝出视频业务裁员。近日,红星资本局注意到,又有网友爆料称,知乎彻底放弃视频赛道,现在开始第二波裁员。3月22日,一位知乎内
人民出行共享电单车黑科技保障用户骑行安全随着各地抢占共享电动自行车市场份额的大战愈发激烈,城市监管对于共享电动自行车的管理措施也越发完善。抛去了粗放的发展模式后,共享电动自行车运营商开始进入了科技化层面的竞争。人民出行进
旅行随笔酒香北墘屏南代溪镇北墘村以酿制黄酒闻名。乡党委书记告诉我,这里的人世代酿酒,家家酿酒。溪流从村子中央穿过,溪流清澈。我们去了村子的大礼堂,这种建筑风格,一看便知,这是文革时期的建筑
斑小将护肤经经常护肤的姑娘们一定对早C晚A护肤法不陌生吧?早C晚A顾名思义就是早上用含有VC(抗坏血酸)的护肤品,晚上用含有VA(视黄醇)的护肤品。很多人把它奉为护肤黄金法则,那么这种护肤法合
走入小布达拉宫,品宗教文化瑰宝,看人生百态我与先生结缘于云南,当初走了云南各个景点,临时有事,来不及到香格里拉。当初说好一定得走一遭香格里拉,只是这一承诺七年后才兑现。香格里拉的云也是那么霸道,大片大片的,云气压山顶,仄气
和平精英突变团竞2。0全新上线在3月25日的体验服更新中,官方对突变团竞做出了一些新的调整,接下来和大家分享一下突变团竞2。0重磅来袭!全新地图,全新角色,全新升级!1新增火车站2。0地图在原火车站地图的基础上
重返帝国3月29日上线,自由行军推动策略手游再进化看多了走格子模式的SLG游戏,终于迎来了全自由行军的神仙策略手游!没错,就是大名鼎鼎的重返帝国!即将在3月29日上线!这一次,重返帝国进行了大胆的创新,在SLG战略玩法之上,还融入
皮相美人不扛老!从林心如到陈德容,花期又短又显老,就美那几年都说美人在骨不在皮,娱乐圈的美人也分为了骨相美人和皮相美人两种。两种美人各有各的美感,但在抗老方面,皮相美人则略逊一筹了。因为骨相美人骨骼发育优越,脸部有骨骼支撑,就算上了年纪没有
俄罗斯的手机和汽车市场向国内敞开了,但只有华为和长城准备好了最近俄罗斯的事情大家都知道了,但今天地球宣传师傅想从科技圈这个角度出发,去谈一谈这个市场。我们总说的两件事1想要成为发达国家,就需要不断地进行产业升级,成为高端玩家。2机会是给有准