最简单的自然语言处理数据增广方法 EDA (最简单的自然笔记)
数据增广常用于计算机视觉。在视觉领域，你几乎肯定可以翻折、旋转或镜像一幅图片，而不用担心它的标记发生变化。然后，在自然语言处理（NLP）领域，情况完全不同。改变一个词有可能改变整个句子的意思。所以，没有简单的方法能做到数据增广。真的是这样么？
我向你介绍EDA：简单数据增广技术，可以大大提升文本分类任务的性能（在EDA GitHub repository有简单的实现代码）。EDA包含四个简单操作，能极好地防止过拟合，并训练出更强健的模型，分别是：
这些技术真有效吗？出乎意料，答案是肯定的。尽管生成的某些句子有点怪异，但是在数据集中的引入一些噪声，对于训练出一个健壮的模型来说，是极有好处的，特别是数据集比较小的时候。这篇论文指出，在5个文本分类任务的对比测试中，基于几乎所有大小的数据集，使用EDA都击败了常规训练方法，在训练数据集较小的时候，表现尤其突出。平均来说，用EDA训练一个循环神经网络（RNN），只需50%的训练数据，即可达到常规方法同等的精度。
文本分类任务的性能表现，相对于训练集的使用百分比。 使用EDA（简单数据增广），在小数据集时，远胜常规方法。
EDA会保留增广句子的真实标记吗？
我知道你在考试这个问题。真的能在做增广操作的同时，保留其真实标记吗？我们用画图形的方法来验证一下。
假设你训练一个关于产品的正面、负面评价的RNN，使用常规和增广的句子都跑一遍，抽取神经网络的最后一层，用sTNE画一个潜在空间图：
ProCon数据集原生及增广句子的潜在空间图
可以看到增广句子的潜在空间图紧紧围绕着原生句子！这表明所生成的增广句子极大可能的保留了原始句子的标记。
这些操作都有效吗？
现在，我们来看看数据增广技术中每个单独操作的效果是什么样的。同义词替换好理解，但是另外三个操作真的起作用吗？我们可以做一个实验，单独做其中一种操作，并代入不同的α值，参数α大致可理解为“句子中被改变的单词的百分比”：
在不同大小的数据集下，对比其它五种文本分类方法，EDA操作的平均性能增益。 参数α大致可理解为“句子中被每种增广操作改变的单词的百分比”。
你能看到，在小数据集时，性能增益非常大，达到大约2-3%，数据集大的时候，增益变小（~1%）。但是，各项操作综合起来，如果设置的增广参数合理（句子中改变的单词不超过四分之一），能使训练出的模型更健壮。
做多少增广？
最后，对于一个真实句子，我们应该增广出多少句子呢？答案取决于你的数据集的大小。如果你的数据集很小，很可能会出现过拟合，此时你应该生成多一些的增广句子。如果数据集比较大，增加太多的增广句子，意义不大，因为原有的数据已经能训练出一个好的模型了。这个图表显示了相对于每个原生句子生成的增广句子的数量的性能增益：
不同大小的数据集下全部五种文本分类任务的EDA平均性能增益。n_aug表示每原生句子生成的增广句子的数量。
下一步？
我们已经展示了在文本分类中，简单数据增广能显著提升性能。如果你正用小数据集训练一个文本分类器，并想取得更好的效果，请在模型中编程实现这些操作，或者从Github中下载EDA代码。更多详情请查看原文。
想要继续查看该篇文章相关链接和参考文献？
点击 EDA：最简单的自然语言处理数据增广方法 】 即可访问：
AI研习社今日推荐： 2019 最新斯坦福 CS224nNLP 课程
自然语言处理（NLP）是信息时代最重要的技术之一，也是人工智能的关键部分。NLP的应用无处不在，因为人们几乎用语言进行交流：网络搜索，广告，电子邮件，客户服务，语言翻译，医学报告等。近年来，深度学习方法在许多不同的NLP任务中获得了非常高的性能，使用单个端到端神经模型，不需要传统的，任务特定的特征工程。在本课程中，学生将深入了解NLP深度学习的前沿研究。
课程链接：
原创文章，未经授权禁止转载。详情见 转载须知 。
爱企查是百度推出的企业信用查询工具,提供一站式的企业信息查询服务,能够快速查询浏览工商信息、企业法人股东、主要成员、变更记录、企业风险、企业股权、网站icp备案、对外投资、分支机构、年报、企业财务信息等相关信息,查询信息就到爱企查官网,省时省力！
高顿教育集团，中国财经教育创导者。目前，已在全球50多座城市开设近150家分校及学习中心，累计获得百余项荣誉。加入高顿，与全球600万同学一起实现梦想的职业生涯！
上海楠傲网络科技有限公司www.jnljm.com经营范围含:家居用品、来电显示器、轿车、熏香、工程承包、室外照明灯、灯具、户外服装、旅游休闲旅游用品、商务服务（依法须经批准的项目,经相关部门批准后方可开展经营活动）。
360生活频道，包罗生活相关的方方面面，在这里你可以看到时尚、亲子、美食、健康、养生等相关资讯，通过快速实用的网址入口便捷到达您感兴趣的生活网站。
评论频道是环球网的特色原创频道。环球网评论频道长期坚持“理性解读中国客观解读世界”的理念，逐渐形成了高端、权威、全面、争鸣等特点，严谨而不失活泼、犀利而不乏理性，在纷繁复杂的互联网上有效展示环球人的声音。
邻家网络所运营的草料二维码是国内专业的二维码在线服务平台，占国内二维码云服务领域80%的市场份额，为用户提供一整套的二维码管理系统、二维码行业解决方案和定制开发服务
宝胜电缆是国内知名的电线电缆品牌。宝胜电缆主要从事电线电缆产品销售，包括民用住宅、商业地产、家用电器、开关设备电气连接、车辆线束、电子行业等线缆类别，是国家和行业二十多项电线电缆产品标准的编制单位。
成都治疗血管病的医院有哪些？成都川蜀血管病医院是一家集外科/血管科/中医科/康复科等多科室血管专科医院，汇集省内外行业打卡，对格种血管疾病有全方位、多体系治疗方法。针对血管疾病有先进的技术和设备，在西南地区血管病临床诊疗取得了显著的成绩。
想了解家政月嫂的价格和服务费用吗？我们提供扬州高邮家政月嫂价格一览，让您对月嫂服务的费用有一个清晰的了解。
哈尼手游网为您提供各种最新最热的手机游戏攻略，手游副本攻略，手游关卡攻略，还提供了最全的新手攻略和各种手游技巧攻略，只为让您更懂手游！
优派数码，一个集知识分享与技术交流于一体的平台，专注于电脑、数码、家电等产品的深度解析与使用指南，为追求科技生活的您提供全面的支持。
博盛瑞泰,SOPAT,sopat,在线粒度分析仪
恰逢商汤科技十周年庆典，，2024商汤十周年国际论坛，迈向AI2.0共融新时代，在香港科学园成功举办，来自全球的行业领袖、政府代表、AI专家共聚于此，共同探讨AI行业的未来，活动上，商汤科技董事长兼首席执行官徐立表示，当下正处在AGI的转折点，在人工智能2.0时代，商汤的核心战略是无缝集成数字基础设施、人工智能模型和应用，集团将以此为...。
发表在当贝投影仪2024，2，2210，21当贝X5Ultra拥有强大的性能配置和出色的画质，采用高端ALPD5.0激光技术，实际亮度高达2450CVIA流明，分辨率达到4K，搭载高端MT9679芯片，那么当贝X5Ultra有开机广告吗，当贝X5Ultra需要开会员吗，下面就来详细了解一下，一、当贝X5Ultra有开机广告吗当贝X5U...。
北京时间11月29日，2021世界羽联总决赛所有项目的参赛名单都已产生，受疫情影响参赛不够，国羽无人入围，比赛将于12月1日在印尼开赛，30日上午10，30小组抽签，男单，安赛龙、桃田贤斗、李梓嘉、斯里坎特、拉克什亚、格姆克、波波夫、昆拉武特，女单，李美妙、山口茜、辛杜、布桑兰、安洗莹、克里斯托弗森、杨佳敏、李怡逢，男双，吉迪恩，苏...。
青书课堂作为一款广受好评的学习软件，学生不仅能在这里自由学习各种课程，掌握更多章节知识点，同时也能方便教师更好的进行管理，那你知道青书学堂怎么设置允许网络下载吗?下面小编就为大家带来详细操作方法，一起来看看吧，...。
11月12日，据新华社报道，中央层面整治方式主义为基层减负专项上班机制办公室会同中央纪委办公厅对3起整治方式主义为基层减负典型疑问启动通报，其中，山西太原市清徐县违规经常使用资金，培修政府办公楼楼顶、树立广场景观小品，引关注，通报显示，清徐县投资5.9亿元树立县城水系生态控制及市区停车场惠民工程，名目实施环节中，清徐县违规将县政府综合...。
当天上午，江西万年县上坊乡党委原书记李佩霞案在江西横峰县人民法院闭庭审理，资讯链接李佩霞相关通报2024年8月18日，江西发布对于李佩霞重大违纪违法案件的状况通报，2023年6月，江西省纪委监委信访室收到大众实名检举李佩霞的信访件，反映李佩霞任万年县上坊乡党委书记时期，存在虚列经费、违规做假账、违规插手工程等疑问，经查，李佩霞违犯党的...。
本公司开售一台18年上牌的奥迪A4L车辆，该车辆在本公司开售时期，与2024年3月30做个瓜子第三方检测认证，为精品车，非严重意外车，非火烧车，非泡水车，，并且享用瓜子90天内回购的保证，该车与2024年6月11日开售给客户，客户在购置后自行做了另外第三方检测机构的检测，检测进去为严重意外车，与瓜子检测报告不合乎，自己代表公司在202...。
据外媒报道，英国BBC解说员约翰·亨特的妻子和两个女儿遭弓弩射杀，嫌犯于外地期间10日被捕，据了解，嫌犯曾退役于英国陆军，概略为什么马其顿远征军战无不胜，马其顿鼎盛时期版图在公元前333年—公元前323年的短短10年里，亚历山大的马其顿军几乎战无不胜，攻无不克，击溃希腊当时号称无敌的底比斯神圣军团，血洗底比斯；东征波斯，击溃庞大而装备...。
提起星座命盘十二宫查问，大家都知道，有人问求回升星座，太阳星座，月亮星座和十二宫查问表，另外，还有人想问星座命盘及十二宫位，你知道这是怎样回事，其实团体星座命盘上，1，12宫各示意什么?，上方就一同来看看求回升星座，太阳星座，月亮星座和十二宫查问表，宿愿能够协助到大家！星座命盘十二宫查问1、星座命盘十二宫查问，求回升星座，太阳星座，月...。
不同吨位吊车多少钱不同，8吨28万元，12吨40万元左右，16吨50万元左右，25吨86万元左右，500吨2800万元左右，1200吨8700万元左右，吊车选购技巧，1、高性能一流的性能，必定领有一流的性能去保证，吊车的性能，首先要有好的底盘，一线品牌小吨位吊车底盘最看重的是发起机，发起机品牌和功率对吊车性能婚配有极大的影响，特意在中...。
幼儿园体育游戏活动教案 幼儿园体育活动教案篇1活动目标：学习向上抛接的动作，训练幼儿手眼配合的能力。促进幼儿手臂肌肉发展及灵活协调能力。增强幼儿的动手能力、思维发展及合作意识。幼儿园体育活动教案篇1活动目标：积极参与体育锻炼
关于，关于如何，什么关于，哪些关于，怎么关于
加盟西餐是比较不错的加盟项目，小编今天要为大家介绍的就是加盟雨花西餐的加盟信息哦，大家想要了解的看看本篇文章吧，时间的关系我们在今天的文章里面就只能为大家简单的介绍一下加盟的优势以及加盟的条件了哦，雨花西餐厅其经营的产品包括意大利菜和法国菜，凭借着不凡的产品和贴心的服务，赢得了广泛好评，是非常值得加盟的好品牌，下面就让学习啦小编为你介...。
要闻提示1.上海消保委就，黑家电维修，约谈地图App，高德、百度暂无回应2.京东发出整体退租邮件，系在深最大办公场所！知情人士，未收到卓越有效降租方案3.受网络舆情影响，饮用水少卖19亿，收益同比降近两成，农夫山泉回应4.中国联通拉黑慧与、VMware，业务限制2年起5.校长在新生家长会上追捧董宇辉遭家长举报，网友，警惕饭圈文化进入校...。
可能大家对2008年都记忆犹新，这一年的奥运会在北京召开，然而同年，还有一个重大的刑事案件让人唏嘘不已，说起这件大案，最开始源于一个小案件，但是因为当事人的性格问题，导致了重大案件的发生，这起事件是怎么回事，要说起袭警这样的大案件，其实源于一件小案件，在2008年的一次公安部组织排查偷盗车辆活动中，杨佳骑着租来的自行车被警察拦截盘查，...。
发表在行业动态2018，12，1912，35还记得一个多月前北京召开的那场发布会吗，有三支叫蓝朋友的明基BenQ激光商务投影机，决定一齐手拉手迈向商务市场，为了这段前所未有的新征程，它们准备得不多，除了帅气外形、特色焦段、蓝核光芒，也就无需更换灯泡、使用寿命超长、相对抗尘、减少维护、长期成本较低、低耗能、全天候运作、开机即用这8个优势...。
发表在其它家用投影仪品牌2023，4，2309，57光米T5是一款最新上市的投影仪，机身造型有些独特，那么性能配置方面呢，下面就来详细了解一下，看看光米T5投影仪怎么样，有什么优缺点，家用效果怎么样，是否适合家用，光米T5投影仪怎么样，1.光学参数在亮度方面，光米T5的光源亮度达到8000流明，实际亮度却仅800ANSI流明左右，因此...。
