2019 机器学习如何做好分布外异常检测 论文提出了方法 NeurIPS 谷歌这篇 (2019机器人世界杯)
雷锋网 AI 科技评论按：对于机器学习而言，区分异常数据或有显著差异数据至关重要。谷歌在NeurIPS 2019 论文中提出并发布了针对基因组序列 OOD 检测的现实基准数据集，进而提出一种基于似然比的解决方案，可显著提高 OOD 检测的准确性。AI 科技评论将谷歌对该方法的官方解读编译如下。
深度学习科学家要成功部署机器学习系统，需要系统能够区分出异常数据或与训练中使用的数据有显着差异的数据。
由于深度神经网络分类器可能会将 以高置信度将分布外（ODD）的输入分类到分布内的类别中， 因此区分异常数据或有显著差异数据是十分重要的。当我们利用这些预测为现实决策提供依据时，异常数据检测将尤为重要。
例如，将机器学习模型应用于基于基因组序列的细菌检测，就是一项具有挑战性的现实应用。细菌检测对于败血症等传染病的诊断和治疗，以及食源性病原体的鉴定都非常关键。
近些年来，随着新细菌种类不断被发现，虽然基于已知分类训练的神经网络分类器通过交叉验证达到了很高的测量准确性，但部署模型仍具有高的挑战性，因为现实数据在不断进化发展，并且将不可避免地包含以往训练数据中从未出现过的基因组（OOD 输入）。
图1 近些年来，随着新的细菌种类逐渐地被发现。将已知的分类数据输入基于已知分类数据训练的分类器能够达到很高的准确性，这是因为输入的分类数据是已知的，但它可能将已知分类数据中混合了未知分类数据（如：ODD 数据）的输入进行错误的分类，并且具有很高的置信度。
在 NeurIPS 2019 发表的论文《分布外检测的似然比》（Likelihood Ratios for Out-of-Distribution Detection） 中，谷歌受到上述新细菌种类检测这类现实问题的启发， 提出并发布了针对基因组序列 OOD 检测的现实基准数据集。
他们利用基于基因组序列的生成模型测试了 OOD 检测的现有方法，发现似然值——即输入来自使用分布不均数据进行估算的分布数据的模型概率——通常是错误的。在最近的图像深度生成模型研究工作中，他们也观察到了这种现象，并通过统计背景影响来解释这种现象，进而提出一种基于似然比的解决方案，可以显著地提高 OOD 检测的准确性。
一、为什么密度模型无法应用于 OOD 检测？
为了模拟实际问题并系统地评估不同的方法，他们建立了一个新的细菌数据集，使用的数据来自 美国国家生物技术信息中心（NCBI ）对外开放的原核生物目录基因组序列数据。
然后，他们基于分布内的基因组序列训练深度生成模型，通过绘制似然值曲线，检验模型辨别输入的分布内和分布外数据的能力。 OOD 序列似然值的直方图与分布内序列似然值高度重合，则表明生成模型无法区分在两个种类之间进行的 OOD 检测结果。
在 图像深度生成模型的早期研究中（ 相关阅读参考：）也得到了类似的结论。例如，利用 Fashion-MNIST 数据集（由衣服和鞋类的图像组成）训练 PixelCNN ++ 模型，比来自 MNIST 数据集（包括数字0-9的图像）的 OOD 图像分配了更高的似然值。
图2 左：分布内和分布外（OOD）基因组序列的似然值直方图。 似然值未能分辨出分布内和OOD基因组序列。 右：Fashion-MNIST 数据集训练模型、MNIST 数据集估计的似然值直方图。 模型在OOD（MNIST）图像上比在分布内图像分配了更高的似然值。
在研究这种失败模型时，他们观察到背景统计可能影响了似然值的计算。为了更直观地理解该现象，假设输入由两个部分组成：（1）以背景统计为特征的背景成分，（2） 以指定于分布内数据专用的模 式为特征的语义成分。
例如，可以将 MNIST 图像建模为背景加语义。当人类解读图像时，可以轻松地忽略背景信息而主要关注语义信息，例如下图中的“ /”标记。但是当为图像中的所有像素计算似然值时，计算结果中同时包括了语义像素和背景像素。虽然他们只需使用语义的似然值进行决策，但原始的似然值结果中可能大多数都是背景成分。
图3 左上：Fashion-MNIST 的示例图像。 左下：MNIST 的示例图像。 右：MNIST 图像中的背景和语义成分。
他们提出了一种去除背景影响并专注于语义成分的似然比方法。
首先，受遗传突变的启发，他们利用扰动输入方法训练背景模型，并通过随机选择输入值的位置，将其替换为另一个具有相等概率的值。 为了成像，他们从从256个可能的像素值中随机选择输入值；针对DNA 序列，他们从四个可能的核苷酸（A，T，C或G）中选出输入值。此过程中， 适量的扰动会破坏数据的语义结构，导致只能捕获到背景。
接着，他们计算完整模型与背景模型之间的似然比，去掉了背景成分，这样就只保留了语义的似然值。似然比是背景对比得分，即它抓住了语义与背景对比的意义。
为了定性评估似然值与似然比之间的差异，他们绘制了在 Fashion-MNIST 数据集和 MNIST 数据集中每个像素的似然值和似然比值，创建了与图像相同的尺寸的热图。
这使他们可以分别直观地看到哪些像素对于这两项值的贡献最大。从对数似然热图中可以看到，对于似然值而言，背景像素比语义像素的贡献更多。
事后看来这并不足为奇，这是由于背景像素主要由一连串零组成，因此很容易被模型学习。
MNIST 和 Fashion-MNIST 热图之间的比较则说明了为什么 MNIST 返回更高的似然值——仅仅是因为它包含了更多的背景像素！相反，似然比的结果更多地集中在语义像素上。
图4 左：Fashion-MNIST 和 MNIST 数据集的对数似然热图。 右：Fashion-MNIST 和 MNIST 数据集的似然比热图，具有更高值的像素会具有更浅的阴影。 似然值主要由“背景”像素决定，而似然比则集中在“语义”像素上，因此更适合用于 OOD 检测。
这种似然比方法修正了背景影响。他们基于 Fashion-MNIST 训练 PixelCNN ++ 模型，然后在 MNIST 图像数据集进行 OOD 检测，实验结果得到了显著改善，AUROC 评分从 0.089 提高至 0.994 。
当他们将似然比方法应用于基因组基准数据集这一极具挑战的问题时，对比其它 12 种基线方法，该方法表现出了最佳性能。
不过他们也表示，尽管该似然比方法在基因组数据集上达到了最先进的性能，但离将模型部署到实际应用中的高准确性要求仍存在一定距离。 他们鼓励研究人员努力去解决这一重要问题，并改善当前的最新技术。
via
原创文章，未经授权禁止转载。详情见 转载须知 。
CHINAANT蚂蚁搬家官方网站！搬家行业的领跑者，中国专业搬家连锁企业、中国专业的搬家服务提供商，提供精品搬家、居民搬家、涉外搬家、小件搬家、公司搬迁等搬家服务，要搬家，找蚂蚁！蚂蚁虽小，服务更好
弈写AI辅助写作系统，简称“小弈写作”。它通过人工智能技术实现了：辅助选题、辅助写作、话题梳理、辅助阅读和辅助组稿五大AI辅助手段，不但能有效的帮助资讯创作者提升内容生产效率，更能帮助作者拓展创作的深度和广度。
查询360权重和360的关键字排名，查询360权重和360的关键字排名
承德资质代办,承德建筑资质代办,承德建筑施工资质代办
花悦熙装配网是北京的专业直播设备供应商，提供直播间设备搭建安装、直播一体机设备培训、虚拟直播间搭建、直播设备使用、直播设备陪跑等服务。我们还提供真3D虚拟人、AR真人换装技术、3D虚拟演播室搭建等创新服务。
苏州诺绿再生资源有限公司是一家规模较大、资金雄厚的。公司本着“公平公正、诚实守信、互惠互利、回收利用”的经营理念，以及良好的经营信誉，随着业务的发和壮大，合作伙伴已逐步向全国范围扩大，本公司一贯奉行：守信、保质、快捷、竭诚的服务宗旨，大力提倡“资源再生，绿色环保”的政策，努力开拓，不断创新。
中国饮料招商网是一个专业的食品饮料代理加盟平台，网站汇集食品饮料品牌大全；同时也是食品企业发布饮料批发，饮料招商代理信息的平台。
51电视刷机网.提供康佳、海信、TCL、长虹、创维、海尔统帅、暴风、乐视等智能电视ROM数据包,电视盒子系统固件升级、刷机软件、固件下载以及液晶电视刷机教程,网络机顶盒刷机固件,家电维修资料等优质行业资讯！
南阳百牛网络技术服务有限公司，是一家专业从事互联网信息技术开发、设计、销售服务于一体的高新技术型企业。电话：0377-60993888
欢迎访问公司平台网站。本公司为消费者提供较优质的产品、较贴切的服务、较具竞争力的营销模式。我们争做世界公司，不断尝试拓展国际业务，并尝试引进国际化思维方式为我所用：同时我们关注公共利益，积极参与环境保护。
诸城市惠正机械科技有限公司是一家集研发、生产、销售、售后于一体的现代化食品机械生产企业。公司专业生产鲜肉切片机，鲜肉切条机，鸡柳成型机，真空滚揉机，冻肉切丁机，绞肉机，气泡清洗线，油炸线，加工定制车间实用型流水线，等不锈钢制品等，产品行销全国各地，现已拥有各类机械加工设备，能够满足不同层次用户的需要。
中国地质科学院为自然资源部直属的副部级事业单位，根据国家国土资源调查规划，负责统一部署和组织实施国家基础性、公益性、战略性地质和矿产勘查工作，为国民经济和社会发展提供地质基础信息资料，并向社会提供公益性服务。
在大多数机器学习竞赛中，特诊工程的质量通常决定着整个作品的得分与排名，也是参赛者们非常看重的一部分，在GitHub上，作者Nomi，专注于计算机视觉与嵌入式技术，也是tiny，dnn的原作者，向我们介绍了一个面向kaggle数据科学和离线竞赛的实用工具库nyaggle，可供开发者专用于特征工程与验证，在机器学习和模式识别中，特征工程的...。
雷锋网AI开发者讯，日前，神经信息处理系统大会，NeurIPS2019，于12月8日至14日在加拿大温哥华举行，中国科学院自动化研究所及其南京人工智能芯片创新研究院联合团队在本次大会的神经网络压缩与加速竞赛，MicroNetChallenge，中获得双料冠军！以模型压缩和加速为代表的深度学习计算优化技术是近几年学术界和工业界最为关注的...。
雷锋网AI科技评论按，对于机器学习而言，区分异常数据或有显著差异数据至关重要，谷歌在NeurIPS2019论文中提出并发布了针对基因组序列OOD检测的现实基准数据集，进而提出一种基于似然比的解决方案，可显著提高OOD检测的准确性，AI科技评论将谷歌对该方法的官方解读编译如下，深度学习科学家要成功部署机器学习系统，需要系统能够区分出异常...。
雷锋网AI科技评论按，作为最久负盛名的机器学习顶会之一，今年NeurIPS2019在召开之前就消息不断，在今年论文审稿期间，NeurIPS2019程序委员会主席专门发布声明称，19篇论文因一稿多投被拒收，一时造成热议；而在会议近一个月前，多位黑人参会者们申请加拿大签证被拒的消息引起了AI学者们纷纷为其发声并对近年来签证问题的讨论展开了...。
雷锋网AI科技评论按，本文来自德国Fraunhofer协会IAIS研究所的研究科学家MichaelGalkin，他的研究课题主要是把知识图结合到对话AI中，雷锋网AI科技评论全文编译如下，必须承认，图的机器学习，MachineLearningonGraphs，已经成为各大AI顶会的热门话题，NeurIPS当然也不会例外，在NeurIP...。
雷锋网消息，7月9日，由中国计算机学会，CCF，主办，雷锋网和香港中文大学，深圳，承办的第二届CCF，GAIR全球人工智能与机器人峰会进入了第三天，在机器学习专场第三场，iPINCEO杨洋为大会带来了题为，认知分析—透过机器重新审视商业本质，的分享，阐述了当前AI技术遭遇的瓶颈——认知，让机器实现认知的条件，以及获得认知能力后，技术可...。
雷锋网按，就大量关于，杀手级机器人，的炒作来说，2017年在人工智能方面取得了一些显著的进步，阿尔法狗、冷扑大师等棋牌机器人能让顶级玩家陷入绝望，在现实世界中，机器学习正被用于改善农业，以及扩大医疗保健的覆盖面，但你最近和Siri或者Alexa对话过吗，如果有，那么你会知道，撇开这些炒作，以及踌躇满志的亿万富翁们，还有很多事情人工智能...。
8月10日至16日，IJCAI2019在中国澳门隆重召开，经过3天Workshop和Tutorial的前期预热和酝酿，8月13日，IJCAI大会正会终于迎来万众期待的开幕式，AI科技评论在现场为大家带来全程报道，IJCAI50周年与中国人工智能40周年首位为大会开幕式致辞的是今年IJCAI的大会主席ThomasEiter，一句，欢迎，...。
大家好，我就是倪蘋，社区昵称是MLer，1，毕业于纽约大学计算机科学专业，我目前正在利物浦大学从事机器学习算法相关的研究和开发工作，研究领域包括NLP，CV和分布式计算，之前一直在关注领域内的各大顶会，后来通过AI科技评论的公众号发现了AI研习社，ai.yanxishe.com，，分享、交流的圈子又扩大了数倍，再此感谢研习社提供的交流...。
通过使用优化的数据增强方法，在CIFAR，10、CIFAR，100、SVHN和ImageNet上得到了目前最好的结果，您可以从这里找到和使用它们，在ImageNet上得到的最好的增强效果，源自，https，arxiv.org，abs，1805.09501v1AutoML——使用机器学习来改进机器学习设计，如体系结构或优化器，的想法...。
字幕组双语原文，时间卷积网络，时间序列的下一场革命，英语原文，TemporalConvolutionalNetworks，TheNextRevolutionforTime，Series?翻译，雷锋字幕组，君思，这篇文章回顾了几个最新的基于TCN的解决方案，我们首先介绍运动检测的案例研究，并简要回顾一下TCN架构及其相对于传统方法，如卷...。
雷锋网AI科技评论按，今日，谷歌分享了SemanticExperiences，在博客中展示了两大关于自然语言理解的互动工具，TalktoBooks是一个可以从书中的句子层面搜索书籍的全新检索模式；另一个互动内容则是Semantris，一个由机器学习驱动的单词联想游戏，地址，https，research.google.com，sem...。
AI对芯片的高算力以及大数据处理的需求，让冯诺依曼架构的电子芯片面临着巨大的挑战，这也让量子计算、神经拟态计算、光子计算这些前沿技术受到了越来越广泛的关注，其实，业界对这些技术的研究都已经有几十年的历史，但出于各种因素，至今都还未大规模应用，光子计算在三种前沿计算技术中关注度较低，不过情况正在改变，准确率接近电子芯片，完成矩阵乘法所用...。
今年ACL线下召开，谷歌研究员SebastianRuber也到现场参会了！ACL2022的举办地点是都柏林，SebastianRuber位于谷歌伦敦，过去不远，ACL之行结束后，他兴致冲冲地写下了他的参会感受，分享了他对几个学术动态的关注，包括，1，语言多样性和多模态；2，提示学习；3，AI的下一个热点；4，他在大会中最喜欢的文章；5...。
12月20日，阿里巴巴宣布，阿里巴巴集团CEO、淘天集团董事长吴泳铭兼任淘天集团CEO，自此，吴泳铭将同时担任阿里巴巴集团和淘天集团、阿里云智能集团三项CEO职务，有助于以技术创新引领淘天变革，确保集团聚焦核心战略电商和云，形成统一指挥和高强度持续投入，当天，阿里巴巴集团董事会主席蔡崇信通过全员信宣布了这项任命，他在信中写道，，全新的...。
怎么安装软件看电视直播教程，具体方法如下，教程一，暴风风行系统安装教程，方法一，U盘安装当贝市场将当贝市场的APK下载到U盘，插入风行电视机，打开文件管理进行安装方法二，远程推送安装第一步，商城下载天天瑜伽APP，并且打开不动，也可以用天天健身，第二步，手机，都可以，下载一个悟空遥控器第三步，同一wifi情况下，手机搜索附近设备，并且...。
现在开设树人托管同样需要拥有正规的资质，并符合相关的开设条件，包括充足的资金和固定的经营场所，在开店之前，您需要前往所在地区的工商管理部门办理正规的营业执照，以获取合法的经营资格，您还需要特别注意以下几个方面的手续和证件，托管相关资质，由于树人托管提供的是小学生课后托管服务，您可能需要向当地相关机构申请托管服务资质，这将确保您的服务符...。
