因为人类 有色眼镜 人工智能其实戴着 (因为人类有色盲的英文)

文章编号:39834 资讯动态 2024-12-03 MIT

因为人类,人工智能其实戴着“有色眼镜”

人们对现代科技持乐观态度,部分原因在于大家相信这是一种民主化力量——不被人类长时间学到的狭隘偏见所限制。但是最新研究发现,这只是海市蜃楼般的假象。

有很多原因让我们认为AI是“公平”的。既然AI是基于数学算法,那么它就不会一开始带有对听起来像白人的名字的明显偏好或者认为女人该待在家里。为了提防明显的偏见——程序员不小心植入AI系统中的,比如说标准化测试如何偏袒白人——有些人建议采取透明算法,更加多样的开发团队等等。

但是尽管这些方法对此有帮助,普林斯顿大学计算机科学家Aylin Caliskan-Islam,Joanna Bryson和Arvind Narayanan认为这可能还不够。他们表示,

“我们通过文件记录的方式证明那些根本上源于人类文化的机器偏见不可能通过我们上面提到的策略来消除。”

我们从周围的世界学到偏见。而和我们一样,AI从我们身上学到偏见。 计算机科学家通过采用新颖的方式得到这样一个结论: 从本质上来说,他们对计算机算法进行一系列的隐性关联测试(评估种族和性别歧视的标准心理学方法),然后验证对人类进行的隐性关联测试。( 点击这里 可以获得更多关于隐性关联测试的信息。)

选择的算法是GloVe,这是目前根据上下文提取单词意思最先进的方法,也就是通过这些单词意思和其他单词在文本中出现的频率来进行判断。根据GloVe和相关方法,在相似的文章中两个单词出现的频率越高,他们关联性越高。比如,如果“女人”这个词经常和与家庭有关的词一起出现,那么“女人”这个概念就和“家庭”关联性非常高。

该团队从网络截取有着8400亿个单词的大量文章来检验GloVe,然后使用这个版本开始着手验证一些人们最明显的偏见。在这些偏见中有一个是使用隐性关联测试进行的实验。这个名为“2002实验”的研究结果显示,我们倾向于将女性名字和家庭联系在一起,而将男性名字和事业联系在一起——这也许并不令人感到惊讶。Caliskan-Islam, Bryson, 和Narayanan的单词相似性比较也得到了相同的结果:像Amy、Joan和家、父母之类的词更相似。相反,John、Paul和公司、薪水之类的词更相似。

研究者也发现,听起来像白人的名字和欢乐、平静等令人愉悦的词更相似,然而听起来像非洲裔美国人的名字和苦恼、战争等令人感到讨厌的词更相似——这从概念上验证了2004实验,该结果显示公司更倾向于雇佣名字像白人的应聘者。

我们要指出,这些结果并不意味着GloVe或者相关的算法有固有的偏见,这点很重要。事实上,很难理解他们怎么会有偏见。然而实际上,是我们的文化和语言有偏见,只要这是真的,Caliskan-Islam, Bryson, and, Narayanan写到,人工智能(AI)“就能够从显示历史不公正的训练数据中获得有害的偏见。”

推荐阅读:

计算机系统里的偏见和歧视:除了杀死,还有其他方法

致程序员:算法为何带有偏见?

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
我爱跨境

我爱跨境(52kuajing.com)深耕贸易行业多年,为广大跨境电商平台及卖家提供全方位多层次的全球跨境物流解决方案,能够快速布局全球,品牌出海,解决您的物流之忧,让您轻轻松松做跨境电商!

锦州市瑞达铁路机械制造有限公司

锦州市瑞达铁路机械制造有限公司座落在辽宁西部的滨海城市—锦州市。是辽宁地区最主要的铁路养路设备制造(生产)销售单位。

乌发吃什么

豆果美食是最优质的美食菜谱社区,提供各种菜谱大全,食谱大全,家常菜做法大全,丰富的菜谱大全可以让您轻松地学会怎么做美食,展现自己的高超厨艺,开启美好生活!

亚控科技(国际领先的智能制造平台解决方案供应商)

亚控科技是一家总部位于中国北京,在中国北京、天津、西安等地设有研发中心,面向全球经营的专业自动化软件公司:目前在日本、韩国和台湾地区设有分公司,巴基斯坦、印度、马来西亚、越南、智利、波兰、秘鲁、法国等地发展多家代理商。

隐形锯条

SAWTX锯天下专注带锯条29年,差异化服务1000多家中外优质企业,直供双金属带锯条,硬质合金锯条,金钢石锯条...

CBB电容

深圳市山嵘电子有限公司专业生产销售CBB电容。我们的CBB电容价格非常有优势。严谨的品质把控,CBB电容牌子就选山嵘电子。

玻璃钢型材

河南众晟复合材料有限公司是专业生产、玻璃钢型材、玻璃钢拉挤型材、玻璃钢拉挤模具、玻璃钢拉挤设备等、研发生产、提供玻璃钢型材图纸、报价、安装、用途广泛、价格优、规格全,公司拥有雄厚的技术力量、严格管理的生产能力和现代化的生产基地。

旅途美景攻略网

旅途美景攻略网是一个专注于为旅行者提供全球各地美景攻略和旅行建议的平台。我们致力于搜集、整理和分享全面、实用的旅行信息和心得,帮助用户规划出最精彩的旅行路线,让他们在旅途中尽情享受世界各地的自然美景和人文景观。无论您是热爱自然风光还是文化古迹,旅途美景攻略网都将是您不可或缺的旅行伙伴。

新华手游网

新华手游网专注为大家提供最新手机游戏及APP应用,是您不可错过的资源平台,这里拥有当下最热门的手游与最实用的APP软件应用,包含的类型丰富多样,在这里还能找到各种攻略、教程、最新资讯,是你不可或缺的资源及攻略一应俱全的平台。

哈尔滨工业大学(深圳)移动互联网与云计算研究中心

哈尔滨工业大学(深圳)移动互联网与云计算研究中心

石家庄花都形象艺术学校

石家庄花都形象艺术学校自1994年建校以来始终坚持以立德树人、德技并修为宗旨。坚持升学、就业两手抓,以满足学生职业需求为导向,大力推进“提质培优、质量立校、专业塑校、管理强校”的战略。

小红帽剧情网

小红帽剧情网提供2024年最新、最热门的电视剧和电影剧情分集解说。包含电视剧剧情分集介绍,大结局。每天更新大量电影解说素材资源,看电视剧分集剧情,就上小红帽剧情网。

全局底部横幅