AI越进化越跟人类大脑像!Meta找到了机器的前额叶皮层
鱼羊 萧箫 发自 凹非寺
量子位 | 公众号 QbitAI
说出来你可能不信,有一只AI刚刚被证明,处理语音的方式跟大脑 谜之相似。
甚至在结构 上都能相互对应——
科学家们在AI身上直接定位出了"视觉皮层"。
这项来自Meta AI 等机构的研究一经po出,立马在社交媒体上炸开了锅。一大波神经科学家和AI研究者前往围观。
LeCun 称赞这是"出色的工作":自监督Transformer分层活动与人类听觉皮层活动之间,确实密切相关。
还有网友趁机调侃:Sorry马库斯,但AGI真的快要来了。
不过,研究也引发了一些学者的好奇。
例如麦吉尔大学神经科学博士Patrick Mineault提出疑问:
我们发表在NeurIPS的一篇论文中,也尝试过将fMRI数据和模型联系起来,但当时并不觉得这俩有啥关系。
所以,这到底是一项怎样的研究,它又是如何得出"这只AI干起活来像大脑"的结论的?AI学会像人脑一样工作
简单来说,在这项研究中,研究人员聚焦语音处理问题,将自监督模型Wav2Vec 2.0 同412名 志愿者的大脑活动进行了比较。
这412名志愿者中,有351人说英语,28人说法语,33人说中文。研究人员给他们听了大约1个小时的有声书,并在此过程中用fMRI对他们的大脑活动进行了记录。
模型这边,研究人员则用超过600小时的无标签语音来训练Wav2Vec 2.0。
对应志愿者的母语,模型也分为英语、法语、中文三款,另外还有一款是用非语音声学场景数据集训练的。
而后这些模型也听了听志愿者同款有声书。研究人员从中提取出了模型的激活。
相关性的评价标准,遵照这个公式:
其中,X为模型激活,Y为人类大脑活动,W为标准编码模型。
从结果来看,自监督学习确实让Wav2Vec 2.0产生了类似大脑的语音表征 。
从上图中可以看到,在初级和次级听觉皮层,AI明显预测到了几乎所有皮层区域的大脑活动。
研究人员还进一步发现了AI的"听觉皮层"、"前额叶皮层"到底长在哪一层。
图中显示,听觉皮层与Transformer的第一层(蓝色) 最吻合,而前额叶皮层则与Transformer的最深一层(红色) 最吻合。
此外,研究人员量化分析了人类感知母语和非母语音素的能力差异,并与Wav2Vec 2.0模型进行对比。
他们发现,AI也像人类一样,对"母语 "有更强的辨别能力,比如,法语模型就比英语模型更容易感知来自法语的刺激。
上述结果证明了,600小时 的自监督学习,就足以让Wav2Vec 2.0学习到语言的特定表征——这与婴儿在学说话的过程中接触到的"数据量"相当。
要知道,之前DeepSpeech2论文认为,至少需要10000小时 的语音数据(还得是标记的那种) ,才能构建一套不错的语音转文字(STT) 系统。
再次引发神经科学和AI界讨论
对于这项研究,有学者认为,它确实做出了一些新突破。
例如,来自谷歌大脑的Jesse Engel称,这项研究将可视化滤波器提升到了一个新的层次。
现在,不仅能看到它们在"像素空间"里长啥样,连它们在"类脑空间"中的模样也能模拟出来了:
又例如,前MILA和谷歌研究员Joseph Viviano认为,这个研究还证明了fMRI中的静息态(resting-state) 成像数据是有意义的。
但在一片讨论中,也出现了一些质疑的声音。
例如,神经科学博士Patrick Mineault除了指出自己做过相似研究但没得出结论外,也给出了自己的一些质疑。
他认为,这篇研究并没有真正证明它测量的是"语音处理"的过程。
相比于人说话的速度,fMRI测量信号的速度其实非常慢,因此贸然得出"Wav2vec 2.0学习到了大脑的行为"的结论是不科学的。
当然,Patrick Mineault表示自己并非否认研究的观点,他自己也是"作者的粉丝之一",但这项研究应该给出一些更有说服力的数据。
此外也有网友认为,Wav2vec和人类大脑的输入也不尽相同,一个是经过处理后的波形,但另一个则是原始波形。
对此,作者之一、Meta AI研究员Jean-Rémi King总结:
模拟人类水平的智能,确实还有很长的路要走。但至少现在来看,我们或许走在了一条正确的道路上。
你认为呢?
论文地址:
https://arxiv.org/abs/2206.01685
参考链接:
[1]https://twitter.com/patrickmineault/status/1533888345683767297
[2]https://twitter.com/JeanRemiKing/status/1533720262344073218
[3]https://www.reddit.com/r/singularity/comments/v6bqx8/toward_a_realistic_model_of_speech_processing_in/
[4]https://twitter.com/ylecun/status/1533792866232934400
— 完 —
量子位 QbitAI · 头条号签约
关注我们,第一时间获知前沿科技动态
那些你以为地球人都知道的事,可能是假的误解发生在所有时刻。有些是美妙的误会著名旅行指南手册LonelyPlanet的命名来源于对MatthewMoore的歌LovelyPlanet的误听有些是因对话的发生,人伸向外界的
西游玉门关甘肃文图老理行提起玉门关这个名字,大凡会点识文断字的中国人,可以说是无人不知,无人不晓。当然,这要归功于盛唐时期著名的边塞诗人王之涣所作的那首凉州词黄河远上白云间,一片孤城万仞山。羌笛
普救寺游览在中华文明的历史长河中,爱情故事的传说与作品源远流长,而元代王实甫崔莺莺待月西厢记就是其中杰出的代表作品,在这个经久不衰几乎人人皆知的美丽传说中,红娘月下牵红线,张生巧会崔莺莺的爱
这座伤痛之城,用一个世纪疗伤萨拉热窝街头,一座有着弹痕的建筑。unsplash2019年4月,巴尔干半岛春风料峭。一个清晨,我和朋友从塞尔维亚的首都贝尔格莱德出发,坐大巴前往萨拉热窝。我们想看看,这个点燃了第
被新疆队宣布因病下课后,阿的江被传有望重执教鞭,新职位出炉最近,新疆男篮已经正式官宣,他们的主教练阿的江因为身体的原因,最终向球队提出离职,他们的俱乐部尊重他的意愿,最终让他离开球队主帅位置。当时官宣消息出来之后,很多球迷一方面遗憾,另外
新疆男篮签305小外援,邱彪联手得分王,第二阶段要大展拳脚新疆男篮签305小外援,邱彪联手得分王,第二阶段要大展拳脚新疆男篮这个赛季变数很大,开始阿的江可以说是信心满满,因为从浙江男篮引进三分射手朱旭航,又从江苏男篮签下拼劲十足的年轻后卫
正式官宣!CBA儒帅接手新疆拒绝成为杜锋副手制定五年冲冠计划CBA从今年五月份开始经历了一轮换帅高潮,整个CBA20支球队有八支球队都更换了主教练。而没想到第一阶段结束之后,表现不佳的新疆队也终于按捺不住,和执教新疆四年的老帅阿的江结束了合
在梨子坪森林公园赴一场秋日之约大地披上金装,岭间色彩斑斓近段时间,重庆市巫山县梨子坪森林公园迎来秋日盛景。新华网发(朱云平摄)梨子坪国家森林公园位于小三峡东岸,森林覆盖率达95,这个季节2万余亩落叶松尽显秋日之
新疆AAAAA级景区之喀什葛尔古城喀什噶尔古城地理位置2015年7月20日,授予国家5A级旅游景区!喀什地区,三面环山,一面敞开,属暖温带大陆性干旱气候带,四季分明,夏无酷热,冬无严寒,主要民族有维吾尔族汉族塔吉克
巍巍太行山河南关山国家地质公园穿越仰慕己久的太行山之行在鄂州市驴友之家的组织下,于10月18日正式成行。这次鄂州市驴友之家一共组织了36名驴友赴太行山参加户外穿越活动,晚上9点在鄂州火车站集中,对人员进行了分组,并
前瞻全球产业头条油价将上调,支付宝正式接入鸿蒙生态,马斯克自曝每天工作17小时下周一,油价将上调!11月7日(下周一)24时,国内成品油零售限价将面临新一轮调整。距离调价窗口开启仅剩一个工作日,多家机构判断,本轮成品油零售限价上调概率较大。华为宣布支付宝正式