柳叶刀AI诊断系统可分辨患者的种族,准确率高达90
麻省理工学院和哈佛大学的一个研究团队在医学杂志《柳叶刀数字健康》上发表文章,称 AI 程序可以从 X 射线和 CT 扫描结果中分辨患者的种族,准确率高达 90% 。
这并不是一个好消息,因为连科学家们都没弄清楚这些 AI 程序是如何做到分辨种族的 。
"当我的研究生向我展示这篇论文中的某些结果时,我认为这一定出了差错。"负责分析对应主题的论文作者之一,麻省理工学院助理教授 Marzyeh Ghassemi 告诉媒体,"当他们告诉我的时候,我真的以为我的学生疯了。"
▲Marzyeh Ghassemi
这篇文章中提到,AI 诊断系统似乎会根据种族对患者进行诊断和治疗 ,而非患者的个人身体状况。这种做法将会损害患者的健康。
研究人员提到一个案例,AI 程序在检查胸部 X 光片时,漏掉黑人和女性患者身体病变的几率更高 。
而这项研究的目的,正是确认 AI 系统从医学影像中检测人类种族的程度,以及它们如何从中检测出种族信息。
为此,研究团队使用人类身体不同部位的医学图像对 AI 系统进行训练。被提供给 AI 系统的医学影像中,不包含头发质地、肤色以及 BMI 或骨密度等明显的种族标记。
通过测试,研究人员发现,AI 系统对人类种族的识别准确率高达 90% 。不论是哪个身体部位的医学影像,AI 系统都能从中识别出种族信息。
更令人惊讶的是,即便是严重缺失或损坏的医学影像,AI 系统也能从中准确识别种族 。
研究人员更关心的,并非是 AI 系统能够检测人类种族这件事情本身,而是 AI 系统的临床表现将因为这些种族偏见受到影响。而医生可能会忽略 AI 系统诊断结果中的误差。
文章的作者表示,"AI 预测种族身份的能力本身并不重要,但是这种能力很可能存在于许多医学影像分析模型中,这将会使临床中已经存在的种族差异问题恶化。"
人类目前还无法确认 AI 系统从医学影像的哪些特征中检测出患者的种族,加之 AI 能够从身体任何部位的医学影像,以及严重损坏的医学影像中识别患者种族,这意味着使用医学成像技术创建一个没有种族偏见的 AI 系统将会非常困难。
Ghassemi 告诉媒体,她猜测,也许是医学图像以某种未知方式记录了患者皮肤中黑色素的水平 ,从而被 AI 系统识别。
根据研究结果,也有可能是种族之间存在一些先天的差异 。
罕布什尔学院生物人类学教授、《种族主义不是种族》的作者之一 Alan Goodman 告诉媒体,他不太认同这种说法。
▲Alan Goodman
在过往的研究中,科学家们很难在人类基因组中找到一致的种族差异,但往往能根据人类祖先的进化找到一致的遗传差异。因此,人与人之间的基因差异,更大概率是源于人类个体祖先进化的不同特征,而非种族。
Ghassemi 表示,这一问题还需要进行更多的研究才能得出明确的结论 。
"我们需要暂停 AI 系统的落地,"麻省理工学院的科学家、医生 Leo Anthony Celi 说,"在确认 AI 系统没有做出种族主义决定或性别歧视决定之前,我们不能急于将其带入医院和诊所。"
一图看懂华为手环4ProNFC功能支持公交卡门禁卡IT之家12月5日消息今日,华为手环4Pro正式发布,采用0。95英寸240120分辨率AMOLED彩屏,拥有密语红樱粉金与曜石黑三种配色,售价399元。华为手环4Pro采用0。9
399元,华为手环4Pro正式发布AMOLED彩屏,NFC与独立GPSIT之家消息今日,华为手环4Pro正式发布,拥有密语红樱粉金与曜石黑三种配色,售价399元。华为手环4Pro采用0。95英寸AMOLED彩屏,分辨率为240120,一屏可显示最多汉
人工智能全球女性榜单超6成是美国学者,中国第二3月9日,清华大学中国工程院知识智能联合研究中心清华大学人工智能研究院与北京智源人工智能研究院发布了人工智能全球女性榜单(WomeninAI)。榜单显示,美国女性学者数量最多,在A
小米手表中国电信eSIM业务现已试点上线感谢IT之家网友HBYe的线索投递!IT之家12月5日消息据IT之家网友分享,小米手表中国电信eSIM业务现已上线,适用于上海广州南京成都深圳武汉杭州等7个试点城市。中国电信eSI
预见2020人工智能安全10大趋势解读2020年的网络安全处于一个发展转折点。人工智能和机器学习的进步正在为网络安全的技术进步提供助力,实时数据和分析也使得建立更强大的业务案例成为可能。网络安全支出过去很少与增收入或降
风波中的滴滴离无人驾驶落地还有多远?预计很快,不会太远。在2019世界人工智能大会期间,滴滴CTO张博对于滴滴自动驾驶汽车的落地透露了这样的信息。他表示,未来将在上海再部署30辆测试车,待测试成熟后将全面推广。滴滴C
浪潮王恩东识别准确度不高是AI面临的重大挑战中国工程院院士浪潮集团首席科学家王恩东近日在人工智能计算大会上指出,目前识别准确度不高是人工智能面临的一个重大挑战,提高准确度需要更强计算力的支持。王恩东表示,当前的人工智能热潮不
波士顿动力机器人被欺负后,它们未来会复仇吗此前两篇文章为啥这个人和这条狗火了和从四条腿到两个轮,它们是兄弟中,我们基本了解了波士顿动力的当家网红和它们的兄弟们。那么,是谁研发了他们?又是谁在资助研发团队?在很多视频中,研发
AI伦理机器人伴侣可否代替人类伴侣?机器人伴侣正被刻画为人类漫长而又孤独生活的灵丹妙药。人类的未来生活或许正从这里走向拐点。1。hr在ConstanceGemson把母亲送到养老院后,这位92岁的老人不仅生活变得更加
英国成立长寿AI联盟,利用AI加速实现健康长寿50岁以上的人是世界上增长最快的人口群体,这给全球经济和医疗体系既带来了机遇,也带来了挑战。为50岁以上的人提供产品和服务的长寿产业,正在成为一个价值数万亿美元的新兴行业。图1长寿
癌症不可救?AI大数据提供新方案人工智能的发展,让我们能够重新思考如何用更好的方式来治疗人类疾病以及改善残疾人的生活。人工智能结合大数据,不仅有助于医疗诊断,还能为一系列现代科学认为无法治愈的疾病(如癌症自闭症一