柳叶刀 AI诊断系统可能输出带有种族偏见的结果 文章 AI也会种族歧视 (柳叶刀医学)

文章编号:41476 资讯动态 2024-12-03 种族歧视医学影像AIX光CT扫描

麻省理工学院和哈佛大学的一个研究团队在医学杂志《柳叶刀数字健康》上发表文章,称AI程序可以从x射线和CT扫描结果中分辨患者的种族,准确率高达90%。

这并不是一个好消息,因为连科学家们都没弄清楚这些AI程序是如何做到分辨种族的。

“当我的研究生向我展示这篇论文中的某些结果时,我认为这一定出了差错。”负责分析对应主题的论文作者之一,麻省理工学院助理教授Marzyeh Ghassemi告诉媒体,“当他们告诉我的时候,我真的以为我的学生疯了。”

AI也会种族歧视?《柳叶刀》文章:AI诊断可能输出带有种族偏见的结果

Marzyeh Ghassemi

这篇文章中提到,AI诊断系统似乎会根据种族对患者进行诊断和治疗,而非患者的个人身体状况。

这种做法将会损害患者的健康。

研究人员提到一个案例,AI程序在检查胸部X光片时,漏掉黑人和女性患者身体病变的几率更高。

而这项研究的目的,正是确认AI系统从医学影像中检测人类种族的程度,以及它们如何从中检测出种族信息。

为此,研究团队使用人类身体不同部位的医学图像对AI系统进行训练。被提供给AI系统的医学影像中,不包含头发质地、肤色以及BMI或骨密度等明显的种族标记。

通过测试,研究人员发现,AI系统对人类种族的识别准确率高达90%。不论是哪个身体部位的医学影像,AI系统都能从中识别出种族信息。

更令人惊讶的是,即便是严重缺失或损坏的医学影像,AI系统也能从中准确识别种族。

研究人员更关心的,并非是AI系统能够检测人类种族这件事情本身,而是AI系统的临床表现将因为这些种族偏见受到影响。而医生可能会忽略AI系统诊断结果中的误差。

文章的作者表示,“AI预测种族身份的能力本身并不重要,但是这种能力很可能存在于许多医学影像分析模型中,这将会使临床中已经存在的种族差异问题恶化。”

人类目前还无法确认AI系统从医学影像的哪些特征中检测出患者的种族,加之AI能够从身体任何部位的医学影像,以及严重损坏的医学影像中识别患者种族,这意味着使用医学成像技术创建一个没有种族偏见的AI系统将会非常困难。

Ghassemi告诉媒体,她猜测, 也许是医学图像以某种未知方式记录了患者皮肤中黑色素的水平,从而被AI系统识别。

根据研究结果,也有可能是种族之间存在一些先天的差异。

罕布什尔学院生物人类学教授、《种族主义不是种族》的作者之一Alan Goodman告诉媒体,他不太认同这种说法。

AI也会种族歧视?《柳叶刀》文章:AI诊断可能输出带有种族偏见的结果

Alan Goodman

在过往的研究中,科学家们很难在人类基因组中找到一致的种族差异,但往往能根据人类祖先的进化找到一致的遗传差异。因此,人与人之间的基因差异,更大概率是源于人类个体祖先进化的不同特征,而非种族。

Ghassemi表示,这一问题还需要进行更多的研究才能得出明确的结论。

“我们需要暂停AI系统的落地,”麻省理工学院的科学家、医生Leo Anthony Celi说,“在确认AI系统没有做出种族主义决定或性别歧视决定之前,我们不能急于将其带入医院诊所。”

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
向日葵连环画

向日葵连环画是一个以连环画在线阅读、小人书在线看为主,综合性的连环画、小人书在线阅读平台,您可以免费在线看到各种年代的连环画。本站阅读风格清新,版面整洁,是连环画爱好者的好去处。

铃声多多官网

铃声多多是精美的铃声应用,涵盖安卓、苹果、pc三大平台,覆盖上亿用户!百万免费铃声,轻松一键设置!铃声,彩铃,短信,闹铃全都搞定。彩铃榜单,铃声分类多多:流行金曲,影视热曲,动漫游戏,短信闹铃,DJ舞曲,搞笑另类,网络神曲,网友上传等。

腾讯手游助手官网

腾讯手游助手(手机模拟器)是腾讯官方新一代安卓模拟器,完美兼容X86/AMD,与传统的安卓模拟器相比,在性能、稳定性、兼容性等方面优胜同类安卓手机模拟器!腾讯安卓模拟器-你的专属手游模拟器。来腾讯手游助手官网下载海量手游电脑版,下载即玩,畅享电脑玩手游的快乐。

丛袁兴建安网

可富100wang提供经验分享,创业资讯,跨境电商,行业动态,推广引流,推荐项目,致富专题,小生意等行业资讯。

双层罐

山东跃开机械设备有限公司★★推荐★★位于山东省庆云县尚堂镇,公司占地面积25亩,建有厂房3000平米,总投资1000万元,本公司是以双层罐及双层复合管,三次油气回收,加油站设计装修,小型洗地机,玻璃水加注机为主要产业,主要的产品有SF/SS双层罐,机械配件,加油设备及零配件,智能玻璃水加注机,工业自动化控制设备,无压储存设备,网架,钢结构工程施工,电机设备安装,企业自产产品的出口业务等,另外可以根据客户要求设计制作其他非标类产品。公司现有员工50余人,各类专业技术人员10名,具有较强新产品开发能力,为客户设计、制造满意产品。

义乌市睿昝贸易商行

水彩大全网(www.glfpw.com)是全网最全的水彩图库,提供最火水彩大师作品大全和美女水彩直播视频,附日本水彩购物网站和创作者水彩图片大全。查看全网最美水彩画师名单大全,发现更多水彩创作灵感!

仿茅草

深圳寂宇园林景观有限公司是专业从事新型屋顶景观材料仿茅草,仿真茅草,仿稻草,茅草瓦,树脂茅草,合成茅草的综合型仿真茅草生产厂家。国内仿真茅草知名品牌。

扬中网站制作

镇江耐特网络有限公司是扬中网站制作(扬中做网站、扬中做网页、扬中网站建设、扬中网页设计)的专业公司,拥有10年网站制作经验,我们完美的网页设计,快速的网站制作,真诚的网站建设服务,赢得了客户的青睐。今后二十年内,我们至力于现代企业网站建设,专业提供网站制作,网页设计服务,并提供优秀的后期服务,为企业发展提供网上营销保障。我们承诺:不满意不收费!24小时服务热线:0-13861362166

99学术网

99学术网,为您提供优质学术文档与经典美文!包含总结、实用文、期刊论文、公文、计划、方案、汇报、学术百科、职场文档等,为您写作提供优质素材。

快麦官方官网

快麦ERP:专业电商ERP系统软件、电商OMS系统,对接国内主流天猫、淘宝、京东、快团团、拼多多、小红书、抖店、快手小店等,为大卖家提供涵盖订单、库存、分销、采购、财务、员工绩效等一体化的电商ERP解决方案。

哈尔滨实验台

黑龙江省坤辰科技有限司主要经营销售:哈尔滨实验台、哈尔滨通风柜、哈尔滨净化工程、器皿柜、药品柜、气瓶柜、酸碱柜、实验室净化工程等产品,我公司诚挚欢迎有志之士前来治谈合作!

3D打印零件

无锡讴歌科技有限公司位于江苏无锡,是集开发、制造、销售于一体的综合性企业。公司拥有雄厚的技术力量,有一批年轻有为从事通用设备设计与制造的专业技术人才。

全局底部横幅