NeurIPS 获奖论文出炉 微软华人学者Lin 2019 获经典论文奖 Xiao (neurips属于什么级别的论文)

文章编号:46674 资讯动态 2024-12-10 NeurIPS2019微软最佳论文

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

雷锋网AI科技评论按:作为最久负盛名的机器学习顶会之一,今年 NeurIPS 2019在召开之前就消息不断:在今年论文审稿期间,NeurIPS 2019 程序委员会主席专门发布声明称,19 篇论文因一稿多投被拒收,一时造成热议;而在会议近一个月前,多位黑人参会者们申请加拿大签证被拒的消息引起了AI学者们纷纷为其发声并对近年来签证问题的讨论展开了激烈讨论,为本次大会的召开埋下了一丝令人忧心的伏笔。

自昨日开始,12月8日至14日为期7 日的NeurIPS 2019便已如火如荼地在加拿大温哥华举行。据大会官方统计,今年参会总人数超过 13000 人,与去年不到 9000 人的参会人数相比,翻了半番。温哥华在今年这个冒着冷气的冬季里,一时迎来如此庞大的参会人群,温度估计都“升了好几度”。

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

虽然正会还未正式开始,但 NeurIPS 官方在几个小时前已早早地公布了今年备受瞩目的「杰出论文奖」(Outstanding Paper Award)、「经典论文奖」(Test of Time Award)以及今年增设的「杰出新方向论文奖」(Outstanding New Directions Paper Award)的奖项结果。从获奖论文清单中,我们可以看出,除了经典论文奖是由来自微软研究院的 Lin Xiao获得外,其他奖项中都没有出现华人身影。

一、最佳论文

按照惯例,今年NeurIPS 2019最佳论文组委会从会议接收的Oral 论文中挑选出了最值得关注的论文并授予杰出论文奖项。据官方介绍,今年的论文奖项评选规则如下:

与此同时,组委会在评选论文时,还应该关注论文是否存在以下几点问题(并避免选择存在这些问题的论文):

以上这些因素,或许值得每一位想要拿得国际顶会最佳论文奖的研究者/机构,去思考和借鉴。

与此同时,今年最佳论文组委会还专门增加了「杰出新方向论文奖」(Outstanding New Directions Paper Award)奖项,以此表彰在「针对未来研究开设出了创新路径」方面表现出色的研究者。

遵循上述原则,组委会提交了一份包含三篇论文的短名单以及另一份包含8篇论文的备选名单,之后再由组委会成员独自对备选名单中的8篇论文进行评估并给出排名结果,接着互相交流这些结果。同时针对每篇论文,组委会成员还会额外寻求专家的意见(并在决策中将这些意见考虑进去)。雷锋网

最终组委会成员彼此达成一致意见,并经过简短的讨论后决定获奖名单。以下是各个最佳论文奖项的简要介绍——

1、最佳论文奖

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

这篇论文研究了在训练数据中有未知的、有界的标签噪声的情况下,如何为二分类问题学习线性阈值函数。论文中推导了一个在这种情境下非常高效的学习算法,解决了一个基础的、长期存在的开放性问题:在有Massart噪声的情况下高效地学习半空间;这也是机器学习的核心问题之一,这篇论文带来了巨大的进步。

论文中的一个简单的例子说明了方法的效果。在此之前,只有1%Massart噪声就会让弱学习无效(达到49%的错误率)。论文中展示了如何高效地让错误水平上限仅仅等于Massart噪声水平+ε (算法的运行时间为(1/ε)的多项式,正如预期)。算法的实现方法很精密,达到这样的结果也有一定的技术挑战。最终的结果是,能够高效地在(1/ε)的多项式运行时间内让错误水平上限为Massart噪声水平+ε 。

2、杰出新方向论文奖

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

这篇论文展示了一些基本负面的结果,表明对深度学习算法表现的许多现有的(基于范数的)泛化边界描述方法并不能达到声称的效果。论文中认为,当这些泛化边界描述方法继续依赖双面的一致收敛性的时候,就无法达到宣称的效果。虽然这篇论文并没能解决(也没打算解决)深度神经网络中的泛化性问题,它的效果是为整个领域指出这个问题需要尝试别的方法。

3、杰出论文荣誉提名奖

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

这篇论文通过严谨的理论方式表明,GANs在密度估计任务中可以比线性方法有更好的表现(以收敛速度来评价)。利用了此前小波收缩方面的成果,这篇论文让我们对GANs的表征能力有了新的认识。具体来说,作者们在一大类函数(Besov空间的)的一大类损失下(我们称作“积分可能性指标”),为非参数化的密度估计推导了最大最小收敛速度。审稿人们觉得这篇论文会对研究非参数化估计以及研究GANs的研究人员们有很大的影响。

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

最小均方解算器(Least Mean-Square solver)是许多机器学习算法的核心组件,从线性回归、Lasso回归到奇点值分解和Elastic网络,都会用到最小均方解算器。这篇文章展示了如何把最小均方解算器的计算复杂度降低一到两个数量级,而且既没有精度损失、还能提升数学稳定性。他们的方法依赖于Caratheodory理论,提出一组核心的点集(对于d维空间,需要d^2+1个点)就足以刻画凸壳中的所有n个点。论文的创新性在于,他们提出了一个“分割并解决”(divide-and-conquer)算法,能用可接受的计算复杂度提取出这组核心点集(计算复杂度O(nd + d5 log n),前提是d<

审稿人们认为论文中提出的方法非常重要,需要使用最小均方解算器的研究人员们可以轻松地实现这个方法,以对现有的算法带来明显改进;这个方法也可以为其它的算法起到借鉴作用,实践-科研的递归循环,天然地就拥有良好的泛化能力。

4、杰出新方向论文荣誉提名奖

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

这篇论文重新研究了神经网络的逐层构建问题,他们使用了从van Oord et al. (2018)得到启发的自监督条件,尤其是当前输入和空间或时间上临近的输入的表征之间的共同信息。审稿人们注意到,这种感知网络中的自组织现象能够为算法角度和认识角度的交叉部分提供思考的素材(算法角度,端到端优化有巨大的存储空间开销和计算能力问题,有没有方法绕过;认知角度,能否更多地利用“慢特征”的想法,向着“模仿生物大脑”的学习过程前进)。

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

这篇文章介绍了 CV 中两种广泛方法的综合:多视图几何( multiple view geometric )和深层表示( deep representations )。

具体来说,这篇文章做出了三点贡献:1)每个像素的神经渲染器,可以以3D感知的方式实现无分辨率的场景渲染;2)可微分的光线行进算法( ray-mARChing algorithm ),解决了沿着相机投射的光线寻找表面相交的难题;3)潜在场景表示(latent scene representation),使用自动编码器和超网络来回归场景表示网络的参数。

二、经典论文奖

与之前一样,NeurIPS的委员会从10年前发表在NeurIPS上的论文中选择一篇对社区产生“重大且持久影响”的论文作为“经典论文奖”(Test of Time Award)。

“经典论文奖”的委员会成员包括Amir Globerson,Antoine Bordes,Francis Bach和Iain Murray。检验奖的选取过程是,首先选出 18 篇自发表以来引用次数最多的文章,然后再去看哪些文章即使在现在仍然具有影响力(即在现在的工作中仍然具有指导、参考和借鉴的意义),当然委员会还会考虑论文是否被如今大多数社区所使用。

综上这些因素,几位委员会成员在今年选出了

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

作为本年度的“经典论文奖”。这篇文章发表于2010年,作者是来自微软的首席研究员 Lin Xiao,Google Scholar 统计的引用次数为 645。这篇文章提出了一种全新在线算法:正则化双重平均算法(RDA)。实验证明,RDA 对于ℓ1 正则化的稀疏在线学习非常有效。

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

Lin Xiao 曾就读于北京航空航天大学和斯坦福大学,2006年就职于华盛顿州雷德蒙德的微软研究院,目前担任微软的高级首席研究员,研究兴趣包括用于大规模优化的理论和算法、用于机器学习的随机和在线算法以及并行和分布式计算。

三、再说一句

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

在会议手册中,提到下一届NeurIPS 将仍然在加拿大温哥华举办,而随后(NeurIPS 2021)则会到悉尼(澳大利亚)举办。

雷锋网报道。

NeurIPS 2019 马上要开了,如何为现场参会做准备?

MIT用神经网络重现生物视觉系统,发《自然:神经科学》后再中NeurIPS Oral

加拿大拒发签证,AI学者们纷纷为NeurIPS2019的黑人参会者们发声

从IJCAI 2019到NeurIPS 2019,联邦学习将再次亮相国际AI顶会

原创文章,未经授权禁止转载。详情见 转载须知 。

NeurIPS 2019 获奖出炉,微软华人学者Lin Xiao 获经典奖

全局中部横幅
康泓(东莞)医疗线束科技有限公司

康泓(东莞)医疗线束科技有限公司专业生产高频电刀电线、负极板连接线、血氧线、监护线、医用波纹管、理疗连接线、镊子连接线等各类标准性或定制医疗线束的研发制造及其配套销售服务。工厂已全面通过ISO9001、ISO13485和IATF16949质量管理体系认证。配置国外高端的全自动化生产设备,如全自动端子机,全自动剥皮沾锡机,全自动多根打端子沾锡机,全自动剥皮沾锡机等。

塑木地板

浙江冠森新材料有限公司生产塑木材料、塑木地板、共挤塑木、塑木栈道、木塑户外平台等户外景观产品

方形不锈钢水箱厂家

不锈钢水箱【电话:13708856998】昆明市官渡区健卫不锈钢水箱厂专业生产健卫不锈钢水箱,不锈钢保温水箱,组合式不锈钢水箱,保温水箱,消防水箱,昆明健卫不锈钢水箱厂是云南地区创办最早,规模最大的不锈钢水箱生产商,健卫水箱兼产品销售及工程承包,保证最低的不锈钢水箱价格,最大限度的降低工程成本,满足广大客户的需求

智慧食堂

智慧食堂400-008-2300为政企单位、医院、学校等食堂,提供刷脸支付、手机订餐、报表管理、进销存管理等一体化食堂解决方案,轻松实现食堂智能化管理。

品牌网

品牌网始终耕耘于品牌服务领域,品牌大数据一站式服务平台,也是查品牌,找品牌的首选平台,助力企业品牌扬帆远航。

JAM
JAM

jam健身是您的私人健身教练,每日提供健身资讯,让您科学拟定健身计划,同时提供健身舞等健身视频,并提供健身器材的介绍。

中国灾害防御协会

中国灾害防御协会灾害防御防灾减灾

商都网

商都网,河南门户网站,河南商业门户网站,河南大型网络媒体,是中原地区成立最早的综合性商业门户网站,是河南省有足够影响力和访问量的网络生活家园。

慧致远职教

鲲鹏军校无锡户外活动学生活动户外拓展暑期夏令营

湘潭宏强机械制造有限公司

湘潭宏强机械制造有限公司从八七年开始加工制造岩棉生产设备及岩棉产品。八十年代我厂年产2800吨岩棉板自动生产线,电话:0731-57111269

X游戏

X游戏-专业的移动端体验式(CPL)广告平台,为游戏提供大量优质玩家、为媒体创造更高收益,目前已合作游戏超过500款,媒体300个。

北京法拍房

拍多多法拍网,正规法拍房司法拍卖平台,提供近万套北京法拍房和数万条北京司法房产拍卖信息,主营业务涉及住宅、别墅、商铺、二手房、写字楼等房产拍卖,聚焦最新北京法拍房价行情走势,解答找房用户困惑;详询400-9918-789。

全局底部横幅