为何比登天还难 消除人脸识别系统对不同肤色的误判 (是比登天)
Jimmy Gomez毕业于哈佛大学，是加州民主党成员，也是美国众议院为数不多的西班牙裔议员之一。但在亚马逊公司的面部识别系统看来，Gomez更像是一个潜在的罪犯。
亚马逊公司的面部识别系统名为Rekognition，去年，美国公民自由联盟(ACLU)对该系统进行了测试。测试结果显示，该系统错误地将美国国会议员Gomez与被捕罪犯的面部照片进行了配对。而且，警方使用的Rekognition系统中，有近40%的错误匹配涉及有色人种。
这一发现让公民自由团体、立法者，甚至一些科技公司的担忧日益加剧。这种技术已经在iphOne和安卓手机上得到了应用，警方、零售商、机场和学校等组织也在慢慢接受这种技术。随着面部识别技术变得更加主流，它可能会伤害少数群体。
研究表明，对于面部识别系统来说，准确地识别女性和深色人种难度更大，这个问题可能会导致灾难性的误报。公民自由律师Jacob Snow说，“这个例子说明，如果将面部识别技术应用到执法领域，可能会带来有害的后果。”
面部识别技术固然有它的好处。马里兰州警方利用该技术确认了大规模枪击案的嫌疑人；在印度，警方利用该技术在四天内确认了近3000名失踪儿童的身份；脸书利用该技术为视障人士识别照片中的人物；除此之外，面部识别技术已经成为解锁智能手机的一种便捷方式。
但这项技术并不完美，也有一些令人尴尬的失误。谷歌图片曾把两个黑人贴上大猩猩的标签；在中国，一名女性声称，她同事的脸能够解锁她的iPhone X。当执法机构用这项技术来识别犯罪嫌疑人，或者识别在抗议活动的参与人时，误判的风险就会加大。“当你把这项技术卖给执法部门，让他们来识别通缉犯，情况就完全不同了。”Gomez说，“因为，你创造了一种可能性，面部识别技术产生的误报可能让执法部门伤及无辜，甚至闹出人命。”
Gomez议员对ACLU的调查结果并不感到震惊，他指出，科技工作者往往更注重如何让技术发挥作用，而不是深思熟虑他们的技术会不会影响其他群体。科技公司对Gomez的批评做出了回应，他们改善了用于训练面部识别系统的数据。但与民权主义人士一样，科技公司同样呼吁政府加强监管，保护这项技术不被滥用。乔治敦大学法学院的研究人员估计，美国执法部门的面部识别数据库存储了二分之一的成年公民信息。
亚马逊反驳了ACLU的测试结果，该公司声称，ACLU在运行测试时使用了错误的设置。亚马逊AI项目的总经理Matt Wood在一篇博客文章中写道，“就像烤披萨，错误的温度设定会把披萨烤坏，我们不应该把这个原因归结在烤箱身上。在帮助执法机构完成工作的方面，机器学习发挥着至关重要的作用。我们应该关注面部识别技术的正确使用，同时也不应该把面部识别全盘否定。”
难以消除的错误率
与白人男性相比，面部识别技术在识别其他群体和女性时，可能会遇到更多困难，造成这一情况的原因有很多。
乔治敦大学法学院隐私与技术中心高级助理Clare Garvie说，科技公司用来训练面部识别系统的数据库中，白人的图片可能比其他群体的图片更多。例如，如果一家公司使用名人数据库中的照片，这家公司的系统就会倾向于白人，因为其他群体在好莱坞的代表性不足。
Garvie说，科技公司的工程师们(主要由白人男性组成)也可能无意中设计了面部识别系统，以便更好地识别某些种族。研究表明，人们更难识别其他种族的面孔，“跨种族偏见”可能会蔓延到AI技术之中。
Garvie还补充道，此外还有一些挑战，比如深色皮肤缺乏颜色对比，或者女性用化妆品来掩盖皱纹，或者用不同的方式梳头。MIT媒体实验室进行的一项调查表明，与白人男性相比，微软、IBM等公司制造的面部识别系统更难识别深肤色女性的性别，例如非裔美籍女性。深肤色女性性别被误认的概率高达35%，而识别浅肤色的人种（白人男性）的错误率只有1%。
MIT今年1月发布的另一项研究显示，在识别深肤色女性的性别方面，亚马逊的面部识别技术比上述两家公司更差。
任重道远的科技公司
亚马逊公司对MIT的研究结果提出了质疑，女发言人Matt Wood在博客文章中指出，这项研究“具有误导性”。因为，研究人员使用了“面部分析”来识别人脸的特征，例如性别或微笑，而不是将人脸与照片或视频中的图象进行“面部识别”。
科技巨头们并不是没有考虑到种族偏见。Microsoft公司表示，自己在去年就将识别女性和深肤色人种的错误率降低了20倍；Facebook公司使用面部识别技术来标记用户，公司的一位发言人表示，该公司确保其使用的数据是“平衡的，并且反映了Facebook用户的多样性”；Google声称，它发表了关于人工智能的原则，其中包括禁止“制造或加强不公平的偏见”。
今年1月，IBM发布了一组“人脸多样性”的数据，旨在促进对面部识别的公平性和准确性的研究。这些数据包括100万张人脸图片，并附有人脸对称性、鼻子长度和前额高度等标签。“对于多样性的意义，我们有一些主观和浅显的见解，”IBM“人脸多样性”项目的首席科学家John Smith说，“因此，IBM创建这个数据库的目的是深入研究如何真正测量人脸的多样性。”该数据库的照片来自照片网站Flickr。
本月，IBM遭到了一些摄影师、专家和活动人士的批评，因为IBM没有征求人们的同意，就将他们的照片用于改善面部识别技术。作为回应，IBM表示将严肃对待隐私问题，用户可以选择退出数据库。
亚马逊表示，目前，自己公司正在使用反映多样性的培训数据源，并向客户传授面部识别技术的最佳使用方案。今年2月，该公司发布了指导方针，称立法者在考虑监管时应将其考虑在内。
公司副总裁Michael Punke在一篇博客文章中表示:“各方应该进行开诚布公地对话，以确保该技术应用得当，并不断进行改进。”
必不可少的政府监管
尽管科技公司努力提高面部识别技术的准确性，但在歧视移民或其他种族方面，人们的担忧并没有消失。部分原因是这些群体在日常生活中仍在与偏见作斗争。
民权组织和专家认为，执法部门和政府仍然可以利用这项技术来识别政治抗议者或追踪移民，从而限制他们的自由。Garvie表示，“这是一个足以成为监视工具的精确系统。”
民权组织和科技公司均呼吁政府介入。“如果政府想管理该技术的应用，最有效方法就是管理好政府自己对这项技术的使用。”Microsoft公司总裁Brad Smith在一篇博客文章中写道，“如果人们对某项技术在社会上的广泛应用感到担忧，那么，政府是唯一一个能够监管这种广泛应用的机构。”
ACLU呼吁立法者暂时禁止执法部门使用人脸识别技术。民权组织也给亚马逊公司写了一封信，要求其停止向政府提供人脸识别系统。一些立法者和科技公司已经要求NIST（评估人脸识别技术的机构）为人脸识别的种族偏见检验提供行业标准和实践支持。
对于Gomez这样的议员来说，这项工作才刚刚开始。“我不反对亚马逊，”他说，“但这项新技术对人们的隐私和自由等方面产生了深刻影响，它引发了很多问题。”雷锋网注：原文作者为QUEENIE WONG，本文编译自
版权文章，未经授权禁止转载。详情见 转载须知 。
Escape在线加密解密
颐推网是一家专注于上海企业全网推广的整合营销服务商,提供网络推广,全网营销策划,SEO网站优化,品牌推广,小红书优化,知乎优化等服务.
紫光同创是中国可编程系统平台芯片及解决方案领导厂商，致力于为客户提供有竞争力的、具有自主知识产权的可编程系统平台芯片、配套EDA软件工具和系统解决方案。
米粒企服致力于打造多元化、综合性的企服平台,专业提供工商财税、税务筹划、公司注销、知识产权、ICP、EDI、游戏版号等代办服务。公司业务发展迅速,全国服务热线400-997-2600。
主营铝材机架设计加工-各种铝型材-铝材护罩-钣金机架-铝型材配件等产品-汇安机械-您优质的合作伙伴！
乐趣下载（joy999.cn）是款提供安卓游戏和安卓软件应用下载的网站，免费提供最新的游戏软件，也收录了时下最热门安卓游戏和手机应用，其中也包含海外游戏软件、汉化游戏软件、mod游戏软件、街机手游等游戏软件资源，为大家打造一个更方便快捷的游戏、软件下载站！
素材解析，打造您的素材下载助手，现支持：千图网、包图网、千库网、90设计、六图网、熊猫办公、虎课网、稻壳儿、图客巴巴、易图网、万素网！
501外贸服装论坛（501）属全球501外贸服装批发贸易论坛是全球领先的外贸服装货源与采购交流平台，为服装供应商和采购商提供最新的货源信息、市场动态和行业经验交流。在这里，您可以轻松获取优质货源，分享和学习行业经验，紧跟市场趋势，是拓展业务和了解市场变化的最佳选择。
上海宽博清洁服务有限公司上海宽博清洁服务有限公司成立于1998年7月，是一家正规专业（工商注册）的保洁公司，专职为来华投资的世界跨国公司提供建筑清洁保养的专业外包服务。
ID是一款好用的企业办公软件平台，专为企业设计，对企业内部现有信息和应用系统集成整合。一站式解决企业管理、沟通等问题。
中影星城(成都)建筑有限公司
内蒙古广洋汇
随着社会的经济发展，人口的流动不断的增加，人们外出旅游或者是外出工作以及出差，在外的话，很多人都会选择酒店，酒店入住方便，而且拥有优越的生活条件，并且很多的孩子都会有常常去住酒店的想法，市面上的酒店品牌很多，而莹润酒店就是一家具有很高的商业价值的酒店，酒店的环境好，服务的质量高，并受到消费者的认可，一些创业者也想要加入酒店行业，以获得...。
北汽电动车，一家新时代下的国有控股高科技上市公司和绿色智慧出行一体化解决方案提供商，致力于为用户创造电动化、智能化、个性化的驾乘体验，构建汽车与能源、互联网、AI人工智能产业融合发展的新生态、新格局，打造面向未来的绿色智能科技服务平台，至于北汽电动车怎么代理，一起去了解一下，自2009年成立以来，北汽新能源以电动化为突破口，以科技为核...。
很多人在周末的时候就会出门逛超市，购买自己日常生活需要的东西，现在大多数的人群都会选择智能超市，智能超市不需要排队，而且都是扫码付款，比较方便，因此也就出现了各种系列的智能超市品牌，E21智能超市一直都是有很强的实力，会为顾客提供贴心的服务，所售卖的产品种类很齐全，性价比很高，顾客都很喜欢去这个品牌超市购买东西，所以众多创业者发展了品...。
手机已经是生活必需品，人手一台，由于手机的快速发展也促使了手游行业迎来了迅速的扩展，现在多数人手机上都安装各类的手机游戏，休闲的时间玩玩手游打发时间，随着手游的广受欢迎，很多人开始加盟其中，龙创手游就是一个比较好的加盟项目，于是，大家都在问龙创手游加盟费，谁加盟过，接下来，跟着小编一起来看看吧！龙创手游本着玩家充值，你就收效的经营理念...。
其实有关面馆在市场上的发展还是很具有前景的，如今有很多人对于面食的追求也是比较高的，所以说选择加盟一家面馆，未来的发展也会很不错，但是在面馆行业中拥有很多的竞争力，所以在挑选品牌的时候应该要认识对于一般面馆加盟费多少钱，还是要看你所加盟的品牌了，一般面馆加盟费多少钱，说到面馆的品牌，可能很多人都比较青睐于2014年所成立的巴味仙面庄面...。
人靠衣装，美靠靓妆，很多女性朋友为了永葆美丽肌肤，焕发无穷魅力，就会时常光顾美容院，正是因为有这样旺盛的需求，国内美容行业也就取得了突破性的发展，不少创业者都想开一家美容院加盟店，那么，2016容院加盟什么牌子好，小编在此为大家推荐百莲凯美容院，百莲凯美容院成立于2001年，是美容连锁经营的先驱，百莲凯拥有独立的科研、生产及人才培训基...。
水果捞是一种制作简单、原材料易得的甜品，尽管价格不菲，却因其健康美味而受到消费者的喜爱，水果捞主要由各种新鲜水果、酸奶、冰沙、冰淇淋和干果仁等组合而成，尤其在夏季备受欢迎，常见的水果有西瓜、芒果、桃子、草莓、奇异果、哈密瓜、圣女果、火龙果等，制作方法简单快捷，即切即食，既新鲜又解暑，那么，现在开一家水果捞店前景如何?水果捞店因其健康美...。
餐饮行业一直都是很不错的行业，会因为一个网红或者一个网站，带动了一个品牌的发展，美食一直都是离不开消费者生活的，经过网络时代的传播，会有很多人知道这种品牌，就像鲜贝恋贝壳粉品牌，网络时代给这个项目带来了很多的销售额，现在成为了一种网红项目，有些智慧之选商关注了这个项目，在消费者的眼中的爆品，鲜贝恋贝壳粉加盟费多少，鲜贝恋贝壳粉的由来就...。
马上就到十一国庆了，假期里想好怎么穿搭了吗，在这个秋意浓浓的日子里，姑娘们也是时候为自己准备几件内搭单品了，那么女生秋季内搭怎么穿好看呢，今天丹比奴女装为大家献上时尚的五款内搭单品，怎么穿都不会出错哦！秋季内搭单品1，针织衫寒冷的秋季入手一件针织衫是必须的，作为经典色调的白色是内搭受欢迎的色彩之一，一款修身版型的高领针织衫，简约大气的...。
孩子的教育问题始终都是社会热门话题，在双减政策的加持下，推动素质教育行业的快速发展，AI技术得到很多家长的认可，为孩子们带去更好素质教育，北四网校AI智领学习平板历经二十多年发展，创意运营模式，先进教学理念，使其成为教育领域中的实力品牌，那么北四网校AI智领学习平板好加盟吗，售后服务如何，北四网校AI智领学习平板从品牌创建到现在已经有...。
现在的人都十分重视饮食营养，吃东西讲究营养，其实每一种食物都有自身的营养价值，都有它存在的意义，但是不同的烹制方法会使食物的营养价值流失，失去了食物本身的营养价值，在众多烹制方法中，清蒸或是蒸焖是一种很好的烹制方法，因为这种烹制方法不会造成食物的营养流失，小火老师焖锅是一家生意不错的餐饮店品牌，该餐饮店所销售的食物都是以焖为主，食物健...。
创业哪个项目好，近年来儿童阅读加盟行业持续保持增长状态，主要在于以下几点，·全民阅读、文化自信是大背景，阅读是一个比较好的创业切入口；·9月份新的中小学新教材上线，整本书阅读对孩子的阅读量、阅读能力提出了更高的要求；·AI时代，培养孩子的综合能力成为大趋势，而阅读是其中的重要途径……在这种背景下，以借阅，读书会，研学活动为运营模式的书...。
现在越来越多的人看到内衣这一行业十分好，，因此想要加盟一个不错的品牌加盟创业，但是要想智慧之选该行业也不是一件易事，首先要做的就是选择品牌，然后了解品牌内衣加盟要多少钱内衣加盟店收银如何只有真正掌握了整个行情之后，大家才可以选择一个合适自己的品牌加盟，在加盟之后，从而在短期内获得收效，品牌内衣加盟要多少钱品牌内衣加盟费用高低不等...。
雷锋网按，2020年8月7日，全球人工智能和机器人峰会，CCF，GAIR2020，正式开幕，CCF，GAIR2020峰会由中国计算机学会，CCF，主办，雷锋网、香港中文大学，深圳，联合承办，鹏城实验室、深圳市人工智能与机器人研究院协办，从2016年的学产结合，2017年的产业落地，2018年的垂直细分，2019年的人工智能40周年，峰...。
雷锋网消息，近日，工业和信息化部发布了，5G，工业互联网，首批重点行业和应用场景，第一批五大重点行业包括，电子设备生产、装备制造、钢铁、采矿、电力，十大应用场景涉及，协同研发设计、远程设备操控、设备协同作业、柔性生产制造、现场辅助装配、机器视觉质检、设备故障诊断、厂区智能物流、无人智能巡检、生产智能监测，据工信部发布的最新数据显示，截...。
救灾物资何以流入市场，代先生发布视频截图，床上印有，中华人民共和国应急治理部监制，字样，近日，上海市民代先生在浦东新区航兴路一家售卖二手东西的店铺里，花了160元买了两张塑封包装的折叠床，回家拆封后才发现，床上印没救灾物资关系字样及溯源码，旁边还写着，扫码全程追溯，，床架上还有，中华人民共和国应急治理部监制，字样，救灾物资何以流入市场...。
中国室内装修设计师库是由网易家居设计师频道建立的，汇聚国内顶级室内装修设计师的平台。中国室内装修设计师库拥有大量最新的室内装修设计案例，让您轻松把握最新设计潮流。
