2017最佳论文 ICML 模型预测率突然提高了 为什么你改了一个参数 (2017最佳新秀是谁)
雷锋网 AI 科技评论按：正在进行的2017 机器学习国际大会（ICML 2017）早早地就在其官网公布了本次会议的最佳论文评选结果（ 重磅 | ICML 2017最佳论文公布！机器学习的可解释性成热点 ），其中最佳论文奖为《Understanding Black-box Predictions via Influence Functions》，其主题为如何利用影响函数理解黑箱预测。两位作者分别为Pang Wei Koh 和 Percy Liang。
Pang WeiKoh是来自新加坡的斯坦福大学在读博士生。他此前在斯坦福获得了计算机科学学士与硕士学位，并在斯坦福的AI实验室与吴恩达一同工作过。在2012年，他加入了吴恩达联合创立的在线教育平台Coursera，成为其第三位员工。在2016年他开始在斯坦福攻读博士学位。
Percy Liang是斯坦福大学的助理教授，此前曾在MIT和UCB学习及做研究。他的研究大方向是机器学习与NLP，目前的研究重点是可信任的代理，这些代理能与人类进行有效沟通，并通过互动逐步改善。
在8月7日下午，最佳论文奖得主Pang Wei Koh（来自新加坡的斯坦福大学在读博士生）就他们的工作做了一场报告。雷锋网 AI科技评论在大会现场记录了这场报告，下面为雷锋网AI科技评论对现场Pang Wei Koh的报告进行整理，与大家共同分享。
图文分享总结
大家下午好，感谢大家来聆听这个报告。
动机
下面我将讲述如何用一种被称为影响函数的统计工具来研究神经网络的预测问题。
在过去几年，机器学习在许多领域中的模型做出的预测准确度越来越高，但是这些模型本身却也变得越来越复杂。然而一个经常会被问到的问题——系统为什么会做出这样的预测？——却难以回答。
例如我们通过图中左侧的训练数据来训练一个网络，当输入一张图片时它会做出一个预测。为什么这个模型做出这样的预测呢？我们知道模型学习的所有信息和“知识”都是从训练实例中得出的，所以应该可以查询特定预测受到各种数据点的影响有多大。
如果一个特定的训练点不存在或被微弱扰动，例如这里对经验风险函数进行微调后，预测的置信水平就会由79%提升到82%。那么两次预测的损失函数的差就可以代表某个训练点改变后对整个训练的影响。
影响函数
在这里我们的目标就是测量如果我们增加经验风险函数的值，损失函数的改变。这里结构风险函数是由具体的训练数据决定的。在函数取光滑条件时，那么这个测量值就是这个函数I，也即影响函数。这个公式第二行中的H是Hessian矩阵。从这里我们可以看出，影响函数是依赖于具体的模型和训练数据的。
例如我们看两个例子。右侧两列中第一列是用像素数据训练的RBF SVM，第二列是逻辑回归模型。用这两个模型分别对左侧的测试图形进行预测，我们得到的影响函数，RBF SVM模型的影响函数随着距离测试物越远会迅速减下，而逻辑回归模型的影响函数则与距离无关。所以我们可以利用影响函数来更好地理解模型。在我们看影响函数的应用之前，我们要先讨论一下这种方法中潜在的问题。
第一，计算效率低
要想实用影响函数，我们必须构建经验风险函数的Hessian矩阵以及求矩阵的逆。这对有几百万个参数的神经网络模型来说是难以接受的，尤其是求逆过程将会非常缓慢。
最好的办法就是我们不明确地求出Hessian矩阵的逆，而是通过Hessian-veCTOr products近似。
第二，非光滑损失
当损失函数的一阶、二阶导数不存在时，我们可以通过剔除这些非光滑的点，我们发现仍然能够很好地预测。例如这里的smoothHinge模型，当t=0.001的时候能够更好地符合实际的改变。
第三，很难找到全局极小值
在前面我们假设了为全局极小值，但是有时我们可能只是得到一个次极小值。这种情况下可能会导致Hessian出现负的本征值。
我们通过凸二次近似方法对损失函数构建一个软极大值来取近似。这样可以在很大程度上降低因为是非全局极小值造成的问题。
应用
好了，最后我们讲一下影响函数的应用。
1、调试模型错误
当模型出现错误的时候我们能否帮助开发者找出哪地方出了问题呢？我们用一个例子来说明，我们用逻辑回归模型来预测一个病人是否应当重新入院。训练模型有20k的病人，127个特征。
为了说明情况，我们把训练模型中3（24）个孩子需要重新入院改成3（4）个，也即去掉20个健康孩子的训练样本。当用一个健康孩子来做预测时，模型就会出错预测为需要重新入院。
我们计算每一个训练点的影响函数。这个图很清楚显示了4个训练孩子的影响值是其他样本的30-40倍，其中一个孩子为正，其他3个为负。
仔细考察4个孩子的127个特征，发现表示为“孩子”的特征起主要贡献。
2、对抗训练
最近的工作已经产生了与实际测试图像无法区分的对抗测试图像，以致完全可以愚弄分类器。实际上，Ian goodfellow在内的一些研究者已经表明了高准确率的神经网络也是可以被欺骗的，用来欺骗它的样本是精心选择过的，人眼看起来正常。这样的样本就叫做“对抗性测试样本”。
构建它们的方法之一是沿着测试输入对应的测试损失的梯度，不断修改测试输入，从而让测试损失增大。
那么既然有对抗性测试样本，我们能否创造出对抗性训练样本呢，其中训练点上的小变化就可以改变模型的预测结果。
我们问了自己这个问题，然后接下来很自然地就尝试在测试损失的梯度上做同样的事情。不过现在不是做关于测试特征的，而是做关于训练特征的。换句话说，我们先给定测试样本，然后沿着测试样本的梯度变化修改训练数据。
然后我们发现，它的影响函数可以帮助我们找到这个梯度，因为它们根本上是一回事，随着训练的进行，模型的预测上会发生的事情就是这样。我们得到的结果是这样的，从数学的角度讲它和基于梯度的攻击是一样的，对不同的模型和数据集都可以起作用。
这样的方法在实际应用中也可以发挥作用，我们设计了简单的二分类任务，模型要确定图像中的是狗还是鱼，两种东西看起来挺不一样的。我们用到了一个 Inception 那样的逻辑回归模型。令我们惊讶的是，如果仔细地选择训练数据，然后仔细地选择要增加在其中的干扰，那么训练数据中一点点的改变，就可以让同一个类型的多张测试图像的预测结果都出现问题。这说明这样的攻击在某些环境下具有相当的危险性。这个问题上其实还有很多值得研究讨论的，待会儿我们可以再聊。
结论
最后做个简单的总结。我们先讨论了模型是如何做出预测的。我们知道模型是通过训练数据得到的，我们将其写成公式，然后就知道改变训练数据以后模型会如何变化，而且我们还能通过它偏离训练数据的程度更好地理解模型的预测结果。影响函数为这些事情提供了一种高效的手段。
在这项工作中，我们还有很多事情需要做，例如如果从医院里移除了所有的病人怎么办，我们有什么办法防止这件事发生吗？如果我们有一个很大的凸模型，运行SGD好几次，……目前工作只是在这个方向上的一小步。在能够很好地理解模型之前，还有很多基础的问题等待我们去解决。
谢谢大家！
（完）
雷锋网 AI 科技评论整理。
论文下载：
重磅 | ICML 2017最佳论文公布！机器学习的可解释性成热点
原创文章，未经授权禁止转载。详情见 转载须知 。
英达汇（中国投资促进产业服务联盟），旨在为政府、企业、产业园区，搭建一个沟通、交流、合作的平台；更好的为政府、产业园区项目招商，企业投、融资等提供优质的服务；致力于推动中国区域的产业升级和经济高质量发展。
优秀软件改变你的生活！
易电五金机电一站式采购_为您提供高性价比的产品.让客户省时，省力，省心，省钱!
理论研究网为您提供北大中文核心期刊、CSSCI南大核心期刊、国家级、省级学术期刊的论文投稿指导，论文发表，以及期刊在线订阅等有关学术理论研究服务。
槐荫保安公司就到七兵堂槐荫保安公司,保安公司更专业.专业临时勤务保镖大型活动，欢迎您到槐荫保安公司招聘,招商加盟挂靠合作
河南豫园红汇生物科技有限公司成立于2020年10月28日，注册资金3000万元，主要开展生物农业技术开发、技术咨询及技术服务，果树、农作物、中药材种植销售，糖果、茶制品、果汁饮料、蔬菜汁饮料、山楂制品的加工销售等业务。
1896年，佐竹公司发明了日本第一台动力碾米机，飞跃性的推动了农业的效率化发展。积极创新，不断进取，佐竹公司研发的产品广泛应用于世界150多个国家和地区，佐竹响誉世界各国。
第1新能源车网是中国最具影响力的客车专业网站，聚焦客车客运及全产业链的最新政策、重大事件，为您呈现独家权威数据分析、深度市场调查研究、道路运输管理探讨、未来发展前景展望，全面涵盖新能源、公路客运、城市公交、旅游、团体租赁、校车、物流车、房车、共享出行等细分市场。
“产品设计生产系统”是一款专门为外贸行业开发的产品在线设计定制订单生产管理系统；系统由多家从事亚马逊等平台的电子贸易公司业务流程和经验研发而成；系统支持淘宝、亚马逊、速卖通、WISH、Shopfiy等电商平台的产品快速设计定制、产品导出、订单导入、快速生产和发货等特点。
厦门游动网络科技有限公司
苏州华起板业科技有限公司专业从事防火板、防火地板、砂光板、玻镁防火板等产品的生产销售批发，欢迎大家来电咨询合作哦！
年关将至，幼儿园行业进入了后的冲刺阶段，全国的园长开始抱团取暖寻找2018年的发展机遇，就是在这样的环境下，香港跨世纪国际教育集团的加盟园园长在参加了跨世纪加盟英雄年会后竟然说出了这样的话，园长们究竟说了什么话呢，我们不妨来听听，安徽宿松跨世纪博爱幼儿园园长说，让我们大家能够静下心来好好回顾2017、用心展望2018，跟随跨世纪一起...。
2017年6月2日，丽博橱柜丨全屋定制，大干30天，再下30城，拓展招商启动会在公司总部四楼会议室胜利召开，公司总经理何国平、零售业务总监胡国帅、拓展部经理沈林金以及拓展部的招商精英们共同参加了启动大会，会上，零售业务总监胡国帅对项目执行的各项细节进行了深入的剖析和指导，并视频，亮剑精神，，向全体招商精英们传达了，狼性团队，就是组织严...。
餐饮行业是我国第三产业中的重要组成部分，有相关的数据显示，2017年，我国餐饮行业的市场交易额高达4万亿元，是各行各业中发展比较快的行业之一肠粉是我国一种传统小吃，因为色香味俱全，很受消费者的喜爱，一些智慧之选商想要智慧之选开哦肠粉店，为了降低智慧之选成本，一些智慧之选商不想招聘工人，但是，开肠粉店一个人可以吗，接下来，小编来为大家揭...。
近日，作为空净行业的领军品牌，爱美净品牌运营中心收到一封来自建材行业环境友好与有益健康建筑材料标准化委员会，以下简称标委会，的函件，函件内容表示，根据工业和信息化部，关于印发2017年第二批行业标准制修订计划的通知，[工信厅科，2017，70号]，建材行业标准，室内空气净化功能涂覆材料净化性能，修订，计划编号，2017，0413T...。
尊雅，系列的优雅延续了清新、尊贵的色调，更在于板材之间的巧妙拼接，你会发现真正的诱人魅力散发于整体，带来了生活纯真的艺术感，板材的加厚处理，工艺品质的提升，细节设计的严格把控，对品质的苛刻追求，注重精雕细琢，将舒适品质生活体现的充分，希腊，孕育着西方文明摇篮的雅典，泛着浪漫情调波光的爱琴海，蔚以大海蓝白相间的圣托里尼，还有不能被人忽...。
如今的马路上，常见的汽车除了小轿车，就属SUV了，SUV也叫城市越野车，优点有外形炫酷，功能齐全，载货能力强，舒适度高等，价位也较为宽泛，是深受新一代购车族们喜爱的车型，2017年，市场中出现了无数款SUV，那么哪一款获得了大众的欢心呢，阅读完这份suv销量排行榜2017你就知道了！NO1哈弗H6官方价，H6是汽车行业的一个传奇，因为...。
五.一，前，有数据显示，受多种利好因素激发，2017年我国网络游戏市场规模有了大幅拓展，环比增长超过20%，同比增长40%左右，而和讯网6月2日消息披露，伦敦Atomico公司发布的报告显示，截至2016年，已拥有超过6亿玩家，2016年游戏营收以246亿美元第一次超越美国，成为世界范围内名副其实的，游戏之都，！这些数据的披露，不仅...。
2017年，在全体金职人的共同努力下，金职伟业集团取得了辉煌的战果，为表彰员工及团队，集团总经办决定奖励公司精英团队赴普吉岛旅行，并借此提高团队凝聚力，为2018开启美好的开篇……2018年1月30日下午，金职伟业精英团队50余人在金职伟业董事长彭英女士、总裁潘建明先生的带领下，坐上了飞往普吉岛的包机，开始了为期七天难忘的普吉岛之旅，...。
年关将至，幼儿园行业进入了后的冲刺阶段，全国的园长开始抱团取暖寻找2018年的发展机遇，就是在这样的环境下，香港跨世纪国际教育集团的加盟园园长在参加了跨世纪加盟英雄年会后竟然说出了这样的话，园长们究竟说了什么话呢，我们不妨来听听，安徽宿松跨世纪博爱幼儿园园长说，让我们大家能够静下心来好好回顾2017、用心展望2018，跟随跨世纪一起...。
2017，餐饮市场风云涌动，餐饮外送市场随着大小品牌陆续入驻，竞争日趋激烈，外送业绩上半年也是起伏不定，挑战巨大，作为负责整个公司外送业务的负责人，我深感责任重大，迅速重整外送系统，数据分析，理清工作思路，调整工作计划，制定工作重点，优化，整合，维护，7月份我带领所有餐厅完成了，营业额同比上升43%，环比上升48%的骄人战绩，首先，制...。
市场的行情每年都在变化，去年盛行的行业在今年就极有可能被打入2017什么行业有个好前景成了很多加盟商目前关注的问题，随着饿了么、外卖等软件的开发，外卖行业有了意想不到的兴起，因此，也有很多人在考虑做外卖卖什么生意好，接下来，就让小编来带大家看看这两个问题，2017什么行业有个好前景，1、餐饮业民以食为天，况且在这经济状况日益发展的现下...。
2017年网咖生意不好做，相信是很多网咖业主的共识，尤其是在资金、管理和人才等方面都相对欠缺的个体网咖，就算是乘着吃鸡热潮的大势，更新设备、组织赛事也是不小的成本和挑战，在天津塘沽开网咖的老杨对此深有体会，老杨开网咖也有些年头了，算是当地行业内的，老人，，几年来一直单打独斗，但业绩一直不温不火，每月营业额在8万左右，去掉房租、人员工资...。
人们在生活水平提高以后就会向往更加美好更有品位的生活，饮茶是我们传统文化中很有品位的生活方式，也可以成为非常优雅的现代生活方式，饮品茶饮作为现在很有名的一个茶饮品牌项目，肯定会成为大多数人的现代品茶生活的一部分，可以让大家的生活品质因此变得越来越好，如果说饮茶是一种很好的生活习惯，那么饮茶文化和饮茶生活则是一种精致生活的象征，饮品茶饮...。
随着美股财报季的到来，近日海外三大云巨头亚马逊、微软和谷歌纷纷公布了自己的云计算业务数据，微软智能云业务包括公共、私有和混合服务器产品以及云服务，所以算起来比AWS以IaaS和PaaS收入作为云业务的计算模式要多一些，和国内市场相似，疫情期间三大海外云巨头的云计算业务不仅未受影响，反而获得一些促进作用，在财报电话会议中，微软CEOSa...。
作者丨何思思编辑丨周蕾时下，最火的概念非全真互联网以及元宇宙莫属了，全真互联网时代，人们将对生活生产的交互方式产生新的期待，其中，最重要的表现就是虚拟化、数字化以及线上化，生活方面，从最初的线下购物、电视购物、网络购物到现在的直播购物；教育方面，从传统的面授课，录播课、直播课发展到现在的实时互动直播授课；社交方面，从原来的飞鸽传书、电...。
?加菲猫童装加盟品牌应运而生成为时代的主导行业，其中加菲猫童装加盟就是其中的先驱品牌，加菲猫童装加盟是专业生产童装的企业，加菲猫童装加盟注重品质并且企业还有着先进的生产力再加上专业的技术，从根本上推动了企业的迅速发展，?加菲猫童装加盟店由美国设计，经中美合作四步完成，首先所有加菲猫产品完全尊重加菲猫风格的原创性，尊重代表加菲猫目前状态...。
其实与L先生认识几年了、最初L先生是作者几年前服务的客户、后面在我不接SEO的时候、L先生找济南的2家网络公司维护排名、但不幸的是L先生找到的公司并没有给他维护住排名，从而导致排名下降、完全无流量，于是L先生决定学习SEO、自己做SEO、后面找到了我，基于之前的信任，、然后有了今天的故事，与L先生认识存在比较搞笑的成分，因为最初我与L...。
