AI在艺术创作中又犯了种族偏见的大忌 奥巴马被强行 后 洗白 (ai在艺术创作中的潜力与局限)

文章编号:41461 资讯动态 2024-12-03 AI艺术算法偏见

你能识别出哪一幅艺术作品是AI创作的吗?

奥巴马被强行『洗白』后,AI在艺术创作中又犯了种族偏见的大忌

即使是最有经验的艺术家,有时也无法将AI艺术作品与人类艺术作品区分开。在巴塞尔艺术展上,有53%的观众认为这些作品全部来自人类。

而事实上,它们全部来自罗格斯大学(Rutgers University )艺术与人工智能实验室团队创建的神经网络AI。

AI已经学会识别经典艺术作品的创作风格和手法,并将其融汇贯通创作出全新的艺术作品。以上作品的创作素材来自于15世纪至20世纪1000多个艺术家的80000多幅画作,这些画作涉及印象派绘画,立体派绘画,以及文艺复兴早期绘画等不同风格。

凭借快速、高效且丝毫不逊色于人类的创作能力,AI已经被广泛应用于艺术生成领域。但随着AI作品的日益增多,我们不得不思考一个问题:在其被称为“黑匣子”的艺术创作过程中,AI算法是否存在偏见?

近日,来自美国Fujitsu AI Lab的研究人员发表了一项最新论文:《艺术史视角下的生成艺术偏见》

奥巴马被强行『洗白』后,AI在艺术创作中又犯了种族偏见的大忌 他们在论文中明确指出:AI在艺术创作过程中没有考虑到社会伦理的影响,表现出了明显的偏见。

AI艺术创作背后的三大偏见

在论文中,研究人员通过因果模型DAG,对现有AI艺术创作工具和作品进行了测试,以发现它是否存在偏见。

为了确保研究的准确性,他们调查了学术论文中的AI模型、在线AI平台以及相关应用程序,并选择了艺术风格(文艺复兴艺术、印象主义、表现主义、后印象主义和浪漫主义)、流派(风景画、肖像画、战争画、素描和插图)、材料(木版画、雕刻、绘画)以及艺术家(亨特、玛丽·卡萨特、文森特·梵高、古斯塔夫·多雷、吉诺·塞维里尼)等多个类型的AI艺术作品进行了评估。

在一项测试中,他们发现AI生成艺术工具 Abacus存在明显的性别偏见,如皮耶罗·迪科西莫(Piero di Cosimo)的画作《一个年轻人的肖像》是一位留着长发的年轻男性,但它却识别成了女性(iii-iv)。

奥巴马被强行『洗白』后,AI在艺术创作中又犯了种族偏见的大忌

另外,还有些AI工具可能涉及种族主义偏见。如GoArt,它允许用户以其他艺术家的风格重新绘制图片的平台。在表现主义创作中,GoArt将克莱门汀·亨特(Clementine Hunter)的黑人女族长的脸从黑色变称了红色。

奥巴马被强行『洗白』后,AI在艺术创作中又犯了种族偏见的大忌

而德西德里奥·达·塞蒂加纳(Desiderio da Settignano)在文艺复兴时期创作的白色雕塑《乔维内托》,在表现主义转换中,面部颜色没有变成红色。

此外,类似于GoArt的一款AI工具Deepart在艺术风格识别方面也存在明显缺陷。如根据下面中心图《玛丽·埃里森小姐》(现实主义风格)转换而来左图,并没有呈现出表现主义的艺术特点。

右图为表现主义作品:恩斯特·路德维希·基什内尔(Ernst Ludwig Kirchner)的《尔纳》。

奥巴马被强行『洗白』后,AI在艺术创作中又犯了种族偏见的大忌

无论是AI绘画,还是写作,或者创作音乐。其基本原理都是先通过庞大数据集训练,学习相关知识,然后再经过AI模型,完成训练和输出。

研究人员认为,以上输出之所以存在偏见,根本原因应归咎于训练数据集的不平衡。主要体现在两点上:一是数据集的收集受到了人为偏好的影响。例如,他们发现AI应用程序Portraits,其使用的45000幅文艺复兴时期的肖像画大部分是白人。

二是数据集的标记可能存在不一致,或者是模型在学习标签来注释数据集的过程中产生了偏差。不同的注释者有不同的偏好、文化和信仰,这些都可能反映在他们创建的数据标签中。

最后研究人员也警告称,AI研究人员和实践者在检查、设计及应用过程中应充分考虑社会政治背景因素,通过错误地建模或忽略创建数据集的某些细节,AI生成艺术可能会引起人们对社会、文化和政治方面的误解,或引起不必要的争议和冲突。

目前,无论是业界还是学术界,对于AI算法可能存在的偏见已经引起广泛的注意,因为它已经多次挑起种族主义风波。

奥巴马被洗白,AI种族偏见惹争议

近几年,随着研究的不断突破,计算机视觉技术得到突飞猛进的发展。

因此不仅在艺术生成领域,AI在更广泛的图像识别与合成方面均存在潜在的偏见风险,尤其在涉及人脸图像上。例如,今年上半年,杜克大学出品的一款PLUSE算法便被指责存在种族歧视,在社交平台引起了轩然大波。

风波的起因是,PULSE将前美国黑人总统巴拉克·奥巴马(Barack Obama)的图像变成了白人。

奥巴马被强行『洗白』后,AI在艺术创作中又犯了种族偏见的大忌

PULSE是一种新型超分辨率算法,其功能是将低分辨率的图像转化为高清图像(生成逼真、且不存在的人),但在其输出结果中产生了明显的肤色偏好。

不仅仅是奥巴马。在网友们的测试中,美国国会议员亚历山大·奥卡西奥·科尔特斯(Lexandria-Ocasio Cortez)、女星刘玉玲(Lucy Liu)等人的肤色也被PULSE变成了白色。

奥巴马被强行『洗白』后,AI在艺术创作中又犯了种族偏见的大忌

奥巴马被强行『洗白』后,AI在艺术创作中又犯了种族偏见的大忌

由此不少网友认为,AI存在根深蒂固的种族偏见。

当时,PULSE的创建者也承认,该算法在按比例放大像素化图像时更可能生成具有白种人特征的人脸。而且他说:“这种偏见很可能是StyleGAN从数据集中继承的。”

其实,这个问题在机器学习中极为普遍。其主要原因是用于训练AI的数据集通常是在人口统计学上占优势的白人。如果数据集中不出现或较少出现黑人,会影响AI模型的性能,导致输出结果是白人的几率更高。除此案例外,AI在面部识别算法中也多次引发种族争议。

那么数据集存在偏差,必然会导致算法偏见,那么如何才能有效改善数据集呢?

如何避免数据集偏差?

作为AI研究的基础,如何修正和完整数据集一直是研究人员关注的重点。

其实,除了频发引发争议的种族偏差、性别偏差外,数据集在研究过程中也存在测量偏差、排除偏差以及关联偏差等一系列问题。不过,近几年针对如何解决数据偏见问题,研究人员也开发出了很对应对措施,例如通过少量数据标注,提高模型泛化能力,减少人为标注可能带来的偏差等。

总体来说,防止数据偏差是一个持续的过程,有时很难知道数据或模型何时出现偏差,而且不同数据集也存在不同的标准。不过相关研究人员也总结了以下通用准则,以帮助我们及早发现和减少偏差:

引用链接:

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
28创业网

28创业网为创业者提供各类品牌全面的加盟项目,包括各大品牌的加盟费用、加盟条件、加盟电话、加盟流程、加盟选址等,为创业者提供更多有价值的参考信息,助力轻松创业!

乐视电影

乐视电影频道提供喜剧电影、爱情电影、伦理电影、恐怖电影、搞笑电影、微电影等国内外最新最热电影在线观看。搜索乐视最新电影排行榜,找你喜欢的电影吧!

辽宁工程职业学院

辽宁工程职业学院是经辽宁省人民政府批准,国家教育部备案的公办全日制普通高等职业院校,是一所以工科为主培养高技能复合型、应用型、创新型人才的高等学府。

无锡贝森特材料科技有限公司,冷芯盒脱模剂,冷芯盒清洗剂,热芯盒脱模剂,热芯盒清洗剂,泡沫陶瓷过滤片,发热保温冒口,铸造粘合剂

无锡贝森特材料科技有限公司专业从事冷芯盒脱模剂,冷芯盒清洗剂,热芯盒脱模剂,热芯盒清洗剂,泡沫陶瓷过滤片,发热保温冒口,铸造粘合剂等,欢迎来电咨询:1815170939113775799079

重庆搅拌机

重庆永上机械设备有限公司主营搅拌机、搅拌站、建筑机械设备等产品,其业务范围遍布重庆、云南、四川、贵州等地。18602329888

好玩的手游游戏大全

手游城是国内最热门最好玩的手游下载平台,为玩家推荐新款手机游戏免费下载,热门的手游排行榜,最近好玩的手机游戏攻略,好玩的手游游戏大全_2023高人气的热门手游推荐。手游城是您查找最新手游的最佳选择!

成都惠迪商贸有限公司

成都惠迪商贸有限公司成立于2009年,是一家经营冷冻、冷藏(休闲食品、水产食品、肉制品、调味品等)的多元化贸易公司。公司成立以来,始终坚持以人为本,以创新为发展动力,秉承“信誉第一,质量至上”的经营理念,争创市场一流品牌,在消费者心中享有较高的地位,赢得了广大客户的一致好评。成都惠迪商贸有限公司|成都惠迪|惠迪商贸|成都惠迪商贸|

手游领先门户

游戏狗是优质的手游门户网站,致力为广大玩家朋友们打造专业的新热门手游排行榜等,欢迎大家一起多关注游戏狗手游网。

河南益华动物药业有限公司

河南益华动物药业有限公司|商丘美兰生物科技|提供益华各类兽药、禽药产品、厂家批发价格供应,详询:18637150220

消防资源共享平台

请大家共同维护、打造好咱们消防人的专属平台。

贵州科比特

贵州科比特防雷公司【138-7490-6936】是家生产贵州防雷检测厂家,更提供贵州防雷工程,防雷设备,提供各种防雷产品价格,有贵阳防雷设计方案房地产防雷工程施工,贵州防雷检测品牌产品均通过ISO认证,煤矿防雷检测矿山特种防雷工程资质咨询。

全局底部横幅