MIT哈佛新研究AI看X光片就能识种族,工作原理成谜
澎湃新闻记者 邵文
医生无法仅通过X光片来判断某人是黑人、亚洲人还是白人。但是,根据麻省理工学院(MIT)和哈佛医学院等的科学家团队的最新研究发现,计算机可以做到。
研究发现,受过训练的AI模型可以以90%的准确率预测一个人的种族。但进行这项研究的科学家表示,他们不知道AI是如何做到的。该论文于近日发表在医学杂志《柳叶刀数字健康》上。
"当我的研究生向我展示这篇论文中的一些结果时,我实际上认为这一定是一个错误,"麻省理工学院电气工程和计算机科学助理教授、该论文的合著者Marzyeh Ghassemi说,"当他们告诉我的时候,我真的以为我的学生疯了。"
AI诊断模型在医学影像读片中的表现优异并不是令人惊讶的事,但这个识别种族的本领之所以引人关注,一方面是其工作原理仍是谜团,另一方面,人们不得不担忧人工智能可能会放大医疗领域现有的种族差距。
如2019年在《科学》发表的研究(Dissecting racial bias in an algorithm used to manage the health of populations)发现,美国一个每年管理约2亿人医疗的算法,建议为黑人患者提供额外护理的概率只有白人患者的一半。因为黑人通常比患有相同病症的白人获得更低的风险评分,所以黑人必须比白人的病更重,才能获得帮助。
《波士顿环球报》称,在人工智能软件越来越多地用于帮助医生做出诊断决定的时候,这项研究提出了一个令人不安的前景,即基于人工智能的诊断系统可能会无意中产生带有种族偏见的结果。例如,人工智能(可以使用X射线)可以自动为所有黑人患者推荐特定的治疗方案,无论它是否最适合特定的人。同时,病人的人类医生不会知道人工智能的诊断是基于种族数据的。
"我们问自己,如果计算机不能分辨一个人的种族,那怎么可能?"另一位合著者、哈佛医学院副教授Leo Anthony Celi说。这项研究工作即开始于,科学家注意到检查胸部X光片的AI有更可能错过黑人患者疾病的迹象。
该研究团队首先使用X射线和CT扫描的标准数据集训练了一个人工智能系统,其中每张图像都标有人的种族。这些图像来自身体的不同部位,包括胸部、手部和脊柱。计算机检查的诊断图像不包含明显的种族标记,如肤色或头发质地。该程序通常能以远高于90%的惊人准确率识别出图像中人的种族。
工作原理是什么?
对这个问题,Ghassemi及其同事们仍感困惑,她怀疑这与黑色素有关,黑色素是决定肤色的色素。也许X射线和CT扫描仪检测到深色皮肤中较高的黑色素含量,并以人类用户以前从未注意到的某种方式将这些信息嵌入数字图像中。这还需要更多的研究才能确定。
那么,这样的测试结果是否证明了不同种族之间的先天差异?在接受《波士顿环球报》采访时,汉普郡学院生物人类学教授、《种族主义不是种族》一书的合著者艾伦·古德曼(Alan Goodman)不这么认为。古德曼对论文的结论表示怀疑,并表示他怀疑其他研究人员能否重现这些结果。但即使能重现,他认为这一切都是与地理有关,而不是种族。
古德曼说,遗传学家没有发现人类基因组存在重大种族差异的证据。但他们确实根据祖先居住的地方发现了人与人之间的重大差异。
"如果他们不使用种族,而是查看某人的地理坐标,机器也会这样做吗?"古德曼答道,"我的感觉是机器也能做到。"
换句话说,人工智能可能能够通过X射线确定一个人的祖先来自北欧,另一个人来自中非,第三个人来自日本。古德曼说,"你称这是种族,我称之为地理差异。" 即便如此,他承认目前尚不清楚人工智能如何仅通过X射线检测到这种地理差异。
Celi认为,医生应该会不愿意使用可能会自动产生偏见结果的AI诊断工具。他说道,"我们需要暂停一下。在我们确定其没有做出种族主义决定或性别歧视决定之前,我们不能急于将算法带到医院和诊所。"
责任编辑:李跃群
校对:刘威
海兰一体机入驻京东自营双十一多款电脑优惠促销中随着尾款人吐槽话题的爆红,2021年双十一已经正式拉开帷幕。据了解,今年京东双11电脑数码品类销量再创新高,开场仅17秒,智能数码品牌就轻松破亿,电脑配件也取得成交额超今年6月1日
音频设备FCCID认证办理标准流程音频设备FCCID认证办理标准流程。最近有不少客户前来咨询这类问题,一般这类问题需要依据具体产品而定,小编在这里只能说个大概,不过相差性也不是很大,就拿我们常见的音频产品为例。现如
电子呼啦圈做欧洲CE认证流程智能呼啦圈是呼啦圈与智能芯片结合后的产物,它的作用类似于记录记步器之类的APP,可以用于计算使用者转呼啦圈时消耗的热量等信息。CE标志是一种安全认证biao志,被视为制造商打开并进
遥控玩具汽车出口欧盟CE认证哪里可以做?检测项目有哪些?遥控玩具汽车出口欧盟的无线遥控产品通讯产品,必须符合RED指令(无线电及通讯终端指令)201453EU要求。RED指令所包括的产品有1短距离无线遥控产品(SRD)例如遥控玩具汽车遥
锂电池CE认证EN62133测试标准锂电池CE认证EN62133测试标准。锂电池是科学技术发展的成果,随着人们对电池蓄电量环保性等多方面的更高要求,锂电池在很多方面都显示了现代消费者的呼声。锂电池应用的范围很广,手机
聚光灯EN60598检测报告标准和要求聚光灯EN60598检测报告标准和要求。所谓聚光灯就是一种使用反射镜或者三年后聚光镜头等等来制作达到聚成一种可见光的灯具,因此,聚光灯又被人们称作是反射灯,聚光灯是一种点光型比较简
车载吸尘器做FCC认证申请流程介绍车载吸尘器,顾名思义,车载吸尘器就是放在车上使用的吸尘器。使用吸尘器时,并非把喷嘴对着坐椅猛吸,而要先将污垢吹散后再吸。粘在车子上的灰尘,能用吸尘器吸起来的。产品ren证的要求有很
msds鉴定报告办理标准及周期msds鉴定报告办理标准及周期。产品材料的安全,最关心的,一种是运输者(可能泄漏),另一种是操作工人(可能接触),最后一种是最终产品用户(使用安全),当然环保方面也要考虑。因此安全
欧代注册申请资料欧盟关于商品安全的一项新法规为了确保欧盟境内市场上销售的产品的安全性,以及确保从欧盟境外进口的加贴CE标志的产品满足欧盟对消费者财产和环境保护等方面的法律法规的要求。这项规定将于2
RoHS认证办理有效期及流程RoHS认证办理有效期及流程。RoHS认证的概念大家都已经不陌生了,其实RoHS认证就是一个环保测试。RoHS认证是电气电子设备中限制使用某些有害物质指令其规定,在电气电子产品中如
电吹风EN60335标准怎么办理?电吹风是由一组电热丝和一个高转速小风扇组合而成的。通电时,电热丝会产生热量,电吹风吹出的风经过电热丝,就会变成热风。电吹风办理CE认证需符合低电压LVD指令和电磁兼容EMC指令。按