腾讯发布国内首份可解释AI报告!层层分析 套娃式 AI算法 (腾讯出台)

腾讯发布国内首份可解释AI报告!层层分析「套娃式」AI算法
打开一个黑盒子,黑盒子变成了白盒子,但是白盒子中又出现了更多的黑盒子,探索可解释AI是一条长远的道路。
在刚刚过去的2021年,人工智能领域最热门的新兴话题之一,就是「可信AI」。
2021年6月,蚂蚁集团在全球人工智能大会上首次公布「可信AI」技术架构体系;7月,京东探索研究院又在世界人工智能大会上发布中国首个《可信人工智能白皮书》,且两家企业都将 隐私保护、鲁棒性/稳定性、可解释性、公平性 作为「可信AI」的四大基本原则。
从工业界到学术界,「可信AI」的身影频频出现。比如,此前 AI 科技评论也曾报道过哥伦比亚大学数据科学研究院主任周以真教授在《ACM通讯》上发表的 ,其中探讨了从「可信计算」到「可信人工智能」的历程与问题,也引发不少关注。
在国内,人工智能应用落地的相关议题,已有风起云涌之势。越来越多的科技企业开始注重对人工智能的「约束」,从伦理层面、组织结构层面,如 。但总的来说,当前人工智能算法的缺陷,主要攻关难度还是在于技术层面,即常说的「鲁棒性/稳健性」与「可解释性」。
不久前,1 月 11 日,腾讯也于线上举办的科技向善创新周「透明可解释 AI 论坛」上正式发布了《可解释 AI 发展报告 2022——打开算法黑箱的理念与实践》。这一报告由腾讯研究院、腾讯天衍实验室、腾讯优图、Tencent AI Lab 等机构联合完成,一经发布,再次引发人们对可解释AI的剧烈讨论。



人们为什么关注「可解释AI」?
可解释人工智能 (XAI) 是一套流程和方法,可使人类用户能够理解和信任机器学习算法所产生的结果和输出。
AI 技术的「不可信」逐渐成为AI大规模落地的一大阻碍。 在将 AI 模型投入生产时,可解释 AI 对于组织建立信任和信心至关重要。AI可解释性也有助于组织采用负责任的方法进行 AI 开发。近几年,互联网科技大厂对可解释性AI的讨论热度居高不下。
对可解释 AI 的研究也逐渐蔓延到了学术界。 随着社会各界对人工智能可信度的不断关注,安全可信的人工智能技术已成为研究领域的热点。可解释性是研究的焦点主要之一,其它焦点还包括人工智能系统稳定性、隐私保护、公平性等。
随着AI越来越先进,人们越加关注算法究竟是如何得出结果的,计算过程变成了无法解释的「黑盒子」。这些黑盒子模型在数据的基础上直接创建而来,AI算法是如何得出特定结果的?创建算法的工程师或数据科学家对此也非常困惑。
腾讯发布国内首份可解释AI报告!层层分析「套娃式」AI算法
「黑盒子」这一概念最早由西方学者提出,是指 从用户的观点来看一个器件或产品时,并不关心其内部构造和原理,而只关心它的功能及如何使用这些功能。
其实,不仅是AI系统中经常出现「黑盒子」算法,对这种思路的运用由来已久。中国文化中没有「黑盒子」这个术语,但中华民族传统医学中医的理论是名副其实的「黑盒子」理论。
最早没有医学影像等技术,人体就相当于一个不可拆分的黑盒子,而中医从外入手,运用「望闻问切」的方法,间接地探出病因,再对症下药,逐渐调理,使病人的内部实现平衡统一,得以治病。
同样是在医学场景的运用,使用人工智能却不同于使用中医,人工智能的使用需要建立在数据之上,这就需要大量的病人诊断资料。但 即使有了数据,哪怕是同一种疾病,由于每个人的情况不同,AI也可能做出错误判断。 因此,对AI「黑盒子」的破解更为急迫。
自动驾驶汽车失控悲剧频频发生;使用AI面部识别技术检测马路上的行人,监测乱穿马路现象,却误将广告牌上的人物图片识别为行人……人工智能的这些负面影响,使人们不得不对其提高警惕。
AI 作为一项技术,在给人们带来诸多便利,给社会带来效益的同时,难免成为一把双刃剑。




腾讯发布国内首份可解释 AI 报告
许多科技公司,像谷歌、微软、IBM、京东、蚂蚁集团、美团等纷纷推出相应举措。
腾讯刚发布不久的《可解释AI发展报告 2022——打开算法黑箱的理念与实践》,正应验了大厂治理 AI 的迫切性。
腾讯发布国内首份可解释AI报告!层层分析「套娃式」AI算法
报告总共分为五部分,主要内容分别为可解释 AI 的概述、发展趋势、行业实践、对未来发展的看法以及最后总结。
作为业内首份AI报告,获得学界和业界专家普遍一致好评。
在数据隐私保护一块颇有耕耘的微众银行首席人工智能官杨强评价:
「可解释 AI 是一个庞杂的领域,这份报告起了一个非常好的头,在这个基础上需要开展长期的研究。现在的各种算法还无法在效率和可解释性两方面都达到很高的要求,需要根据不同需要进行取舍。而且 AI 的可解释性是一个长期的问题,不会很快有一个通用的可解释框架,可以在一些比较重要的领域先行探索解决方法,指明未来的发展方向。」
杨强教授十分关注数据隐私保护的内容,近年来在国内大力推举强调具有「数据可用不可见」特征的联邦学习技术的研究与应用,促进联邦学习框架的开源与研究。去年3月,由微众银行发起制定的 国内首个联邦学习标准正式通过 IEEE 认证 ,构成了国内研究者对数据保护所做的诸多努力中的一环。
除了杨强,时任南方科技大学计算机科学与工程系系主任、历史上首位获得神经网络最高奖「IEEE Frank Rosenblatt Award」的华人学者 也对该报告进行了附议。他谈道:
「对 AI 系统落地来说,透明性和可解释性是必不可少的,研究前景非常好;但 AI 的透明性、可解释性和性能之间存在固有的矛盾,一个可能的方向是根据不同的场景、可解释的目的,寻找不同的折中方案,以此促进 AI 技术的落地。」
什么是「可信AI」?在去年的一次对话中,姚新教授也曾向 AI 科技评论分享过自己的看法。其中,他提出, 检验人工智能是否可信、可落地的一个最直接的方法,就是「研究人员敢不敢用」。 比如 AI 制药,如果负责项目的科研人员敢用,那用户对 AI 的信任度也会提高。但事实是如今的许多 AI 产品由于未充分完善,科研人员也是不敢用的。
由此可见,尽管各大厂开始重视 AI 的治理与落地安全性,但要从技术层面解决当前人工智能模型可解释性差、不够稳定的缺点,还是需要做好打长久战役的准备。
只有各界共同正确审视人工智能研究出现的问题,并做出合理的解决方案,才能推动AI技术持久稳定的发展,可解释AI未来发展如何,让我们拭目以待!

可解释AI先驱、深理工潘毅教授:AI制药,要多做「用结构找小分子」的逆向工程 | GAIR 2021

2021-12-26

腾讯发布国内首份可解释AI报告!层层分析「套娃式」AI算法

ACM与IEEE双fellow、华人女计算机科学家周以真:可信 AI,未来可期

2021-10-11

腾讯发布国内首份可解释AI报告!层层分析「套娃式」AI算法

联邦学习首个国际标准正式发布!

2021-04-02

腾讯发布国内首份可解释AI报告!层层分析「套娃式」AI算法

原创文章,未经授权禁止转载。详情见 转载须知 。

腾讯发布国内首份可解释AI报告!层层分析「套娃式」AI算法

口袋妖怪大师版游戏在线玩

手机口袋妖怪大师版h5,口袋妖怪大师版h5是一款放置类即时战斗h5游戏在线玩游戏,游戏以口袋妖怪为题材背景,游戏经典还原宠物形象,口袋妖怪大师版h5无需下载,可以直接在线玩。;您可以免费在线玩。

企业教育信息网

复旦大学总裁班培训网

康晓发稿屋

康晓发稿屋,为大家分享并梳理各行业的经验、技巧及知识要点,让学习各行业知识、掌握海量资讯变成一件简单的事情。

深圳移动互联研究院有限公司

移动互联移动互联研究院深圳移动互联深圳移动互联研究院快勘通快勘智绘全景三维重建现场重建

饮料招商网

中国饮料招商网是一个专业的食品饮料代理加盟平台,网站汇集食品饮料品牌大全;同时也是食品企业发布饮料批发,饮料招商代理信息的平台。

低温喷雾干燥机

上海欧蒙喷雾干燥机厂家直销,提供节能、定制型喷雾干燥解决方案。我们专注于研发,产品**适用于多个行业,满足不同客户需求。立即访问我们的网站,了解更多详情和优惠信息!

云南安能电力工程有限责任公司

公司具有110千伏及以下电力工程施工总承包叁级、环保工程专业承包叁级、输变电工程专业承包叁级施工资质证书、安全生产许可证书、承装(修、试)叁级电力设施许可证书、试验设备计量检定证书、质量管理体系认证证书、环境管理体系认证证书、职业健康安全管理体系认证证书、企业信用AAA等级证书。

山梨醇

寿光市华天糖醇有限公司地处资源丰富、交通方便的中国蔬菜之乡山东省寿光市。主要生产销售液体山梨醇(山梨糖醇液)、固体山梨醇、麦芽糖醇、甘露醇、木糖醇、海藻糖和赤藓糖醇等产品,产品广泛应用于食品、医药、化工和建材等行业。

免费制作H5网页

轻竹H5让你轻松创建H5网页,适用于邀请函、通知公告、招生招聘、营销推广、公众号长图文等场景。10秒自动生成网页并自动排版,快速制作专业美观H5页面,免费使用。

生辰八字在线算命

神策网是一个生辰八字在线算命网站,专注于提供塔罗牌免费测试占卜、名字配对、取名、生辰八字查询、星座查询、星座运势、风水等资讯,为玄学爱好者提供有趣味的内容

中医健康网

非常健康网为您提供及时、热门的健康知识,带你了解饮食、减肥、生活小常识、心理、运动、健身、美容、护肤、保健等相关健康新闻,致力为用户打造一个健康资讯的平台网站。

好玩的手机游戏

飞游网是专为游戏玩家们打造的一个安全、快速、绿色专业的下载前沿基地,这里汇集全网各种最前沿最新手机资源和安卓应用app,让你率先在这里尝鲜各种手机游戏、应用app、攻略、资讯、教程等相关内容,给你一站式的游戏网站服务体验。