与人对抗,还是服务人类,以人为本的AI究竟是什么?
作者:福布斯日本
翻译:石家庄陀螺科技AI研究员 马丰敏
近年来,随着人工智能(AI)在全球范围内不断应用,关于人工智能的讨论也不断展开,关键词"以人为本的AI"被提出来。
今年3月,谷歌著名的AI研究员李飞飞率先在斯坦福大学成立了"以人为本的AI研究所(HAI)"。次月,日本内阁府制定了"人工智能社会原则",其中包括"以人为本的原则"。
AI
讨论以人为本的AI,首先应该明白一个哲学问题,哲学要在假定人工智能对社会的好处的同时,也认真考虑人工智能对人类的不利影响。以人类为本的人工智能就在此前提下展开讨论。
那么,以人为本的AI是究竟什么类型的AI?实际上,这没有明确的答案,一切都还在讨论之中。
尽管尚未定义人类和AI的关系(并且将来也不太可能确定),但是AI问题已在世界范围内出现,人们总是要寻找一种应对的方案,此种情况下出现了一种使用"负面清单方法"寻求以人为中心的AI的运动。1以人为本的AI的特点是什么?
首先,有一种观点认为以人为本的AI应该是"公平的AI"。如果学习数据存在偏差,则机器学习会增加偏见和歧视。在国外,某些种族被认为具有较高的累犯率,或者面部识别系统的识别率较低,所以他们可能处于不利地位。
AI对抗人类
另外近年来,人工智能已越来越多地用于招聘和面试,公平的AI讨论也包括对不因性别,种族等因素产生偏见的AI。
接下来,"可解释性"和"透明度"对于实现以人为本的AI也是必不可少的。深度学习是高度准确的,但人类不能解释为什么这样。这就是所谓的"黑匣子问题",但是当结果出了问题时,就无法做出"原因澄清"和"责任判断",这对人类有很多不利之处。
第三是"对攻击和恶意攻击具有强大抵抗力的人工智能"。如果恶意人员更改了学习数据或使用手段引起误识别,则以人为本的AI必须能够承受这种情况。
机器人
近年来,通过技巧欺骗图像识别的AI技术(恶意样本)也是一个热门话题。能够抵御攻击和恶意意图的AI是可以被视为研究的重点,尤其是在保护人类生命的自动驾驶领域。2有很长的路要走吗?
有一种争论认为,以人为本的AI应该是"不损害人类决策的AI"。
该讨论基于这样的假设,即在诸如SNS之类的数字空间中会生成大量文本,或者会对诸如深层伪造之类的视频生成技术产生滥用或误用。
随着AI的普及,计算世界将产生人眼无法看到的复杂的、大规模的信息。应该基于特定人的利益进行信息过滤,即AI不应参与发送恶意信息。
还有一种辩论认为,以人为中心的AI应该是"不会抢占人类工作的AI"。但是,研究和开发AI的目的就是来代替人类工作,因此这样的讨论很有限。
这样,对以人为本的AI的技术要求非常高,并且实现之路似乎很遥远。将来,每当暴露出AI的弊端时,都应该更新概念。因为这些很难实现,所以这将是一个巨大的商机。
另一方面,产生的问题是,除非个人或社会本身是公平的,否则可能无法实现"公平的AI"等。这是因为,在技术出现之前,人类的思维方式和与之相关的价值观会产生更大的影响。
人工智能将会快速的发展,并且与"以人为本的AI"发展同时,不久就会产生"以人为本的人/社会"哲学。
更多商业资讯、营销技术、获客工具,请关注@石家庄陀螺科技
光行差是相对论的死穴不知道有多少条友能看懂,相信一定有人能看懂。假设在观察者C附近有参考系A相对于远方的恒星A静止,有参考系B相对于远方的恒星B静止,恒星B相对于恒星A以速度v向东匀速直线运动。观察者
电子双缝干涉实验证伪我想到了一个验证电子双缝干涉实验真伪的办法,可惜没有设备。具体方案如下做两次电子双缝干涉实验,其它条件保持一致,双缝到接收屏的距离改变一下。如果两次实验干涉条纹的间距与双缝到接收屏
为什么一般合成反应会放热今天无聊研究温度问题发现一个有意思的事合成反应纯物理角度是放热的。温度的本质是什么?温度是分子平均动能的表象。假设有两个温度相同的分子,他们的质量分别是m1和m2,速度分别是v1和
如何估算银河系的年龄科学界普遍认为宇宙大爆炸后不久银河系就出现了,所以银河系的年龄比宇宙的年龄小一点。我不知道这个结论有没有科学依据,其实银河系的年龄是可以估算的。银河系拥有四条清晰明确且相当对称的旋
志愿军新战术,令美军24小时不敢合眼,为逃离战场有人不惜自残1953年1月,志愿军第24军开进上甘岭中线,接替了15军的防御。此时虽然惨烈的上甘岭战役已经结束,但上甘岭上的硝烟并未散去,双方你来我往的枪声一天也没有停过。但是美军学精了,不肯
颜值终究不能当饭吃,最好看的超音速轰炸机B1B,还是退役了2月17日,一架美军B1B远程战略轰炸机飞住位于亚利桑那州的飞机墓地,这架飞机隶属于美国空军第37远程轰炸机中队,也是这批退役的17架B1B中的第一架。原本为取代B52轰炸机而设计
没有粘劫收后的日韩围棋规则,不值得留恋,使用简单规则不香吗?围棋世界是讲究逻辑的,它像数学一样,研究的是某种结构。围棋与其说是发明的,不如说是发现的。围棋简单规则就像数学或几何学的定理,花点时间,谁都可以发现。日韩规则除了处理不了盘角曲四,
继续探讨围棋规则,发现简单规则比我想象得还要好,兼做一点澄清继续探讨一下围棋规则,感谢网友的反馈,让我知道哪些地方需要澄清。围棋的简单规则,主要集中在第三点,我重新描述一下,围棋的终局依靠实战解决,双方连续停招,棋局终止。围棋胜负的判定主要
开脑洞的联想,美国大选和围棋规则有什么联系?全世界一个多月沉浸在美国大选这个大瓜里,撕裂的人群谁也说服不了谁,静下心来一想,感觉这和围棋规则一样,明明有更好的,却推不动。美国大选4年一次,每次花费几百亿美元,就闹出个Domi
围棋中国规则之下,黑白胜率差别这么大,为何还不修改规则?翻阅了一下围甲联赛,关注黑白胜率,发现中国规则下黑白胜率偏差较大的现象已经很久了,比如2014年11月的围甲男子比赛,黑白胜率差不多是23,也就是40对60比较多的情形是2228,
悲哀的围棋规则,统一围棋规则如此简单,为何中日韩依旧各行其是早在几年前,我就写过一篇文章分析过围棋规则,并预期规则迟早会统一到这个简单规则上来,现在貌似有这个苗头,据说AI围棋比赛有采用这个规则的,昨天在某群里一贴,结果群里最讲逻辑事实的回