最简单的自然语言处理数据增广方法 EDA (最简单的自然笔记)
数据增广常用于计算机视觉。在视觉领域，你几乎肯定可以翻折、旋转或镜像一幅图片，而不用担心它的标记发生变化。然后，在自然语言处理（NLP）领域，情况完全不同。改变一个词有可能改变整个句子的意思。所以，没有简单的方法能做到数据增广。真的是这样么？
我向你介绍EDA：简单数据增广技术，可以大大提升文本分类任务的性能（在EDA Github repository有简单的实现代码）。EDA包含四个简单操作，能极好地防止过拟合，并训练出更强健的模型，分别是：
这些技术真有效吗？出乎意料，答案是肯定的。尽管生成的某些句子有点怪异，但是在数据集中的引入一些噪声，对于训练出一个健壮的模型来说，是极有好处的，特别是数据集比较小的时候。这篇论文指出，在5个文本分类任务的对比测试中，基于几乎所有大小的数据集，使用EDA都击败了常规训练方法，在训练数据集较小的时候，表现尤其突出。平均来说，用EDA训练一个循环神经网络（RNN），只需50%的训练数据，即可达到常规方法同等的精度。
文本分类任务的性能表现，相对于训练集的使用百分比。 使用EDA（简单数据增广），在小数据集时，远胜常规方法。
EDA会保留增广句子的真实标记吗？
我知道你在考试这个问题。真的能在做增广操作的同时，保留其真实标记吗？我们用画图形的方法来验证一下。
假设你训练一个关于产品的正面、负面评价的RNN，使用常规和增广的句子都跑一遍，抽取神经网络的最后一层，用sTNE画一个潜在空间图：
ProCon数据集原生及增广句子的潜在空间图
可以看到增广句子的潜在空间图紧紧围绕着原生句子！这表明所生成的增广句子极大可能的保留了原始句子的标记。
这些操作都有效吗？
现在，我们来看看数据增广技术中每个单独操作的效果是什么样的。同义词替换好理解，但是另外三个操作真的起作用吗？我们可以做一个实验，单独做其中一种操作，并代入不同的α值，参数α大致可理解为“句子中被改变的单词的百分比”：
在不同大小的数据集下，对比其它五种文本分类方法，EDA操作的平均性能增益。 参数α大致可理解为“句子中被每种增广操作改变的单词的百分比”。
你能看到，在小数据集时，性能增益非常大，达到大约2-3%，数据集大的时候，增益变小（~1%）。但是，各项操作综合起来，如果设置的增广参数合理（句子中改变的单词不超过四分之一），能使训练出的模型更健壮。
做多少增广？
最后，对于一个真实句子，我们应该增广出多少句子呢？答案取决于你的数据集的大小。如果你的数据集很小，很可能会出现过拟合，此时你应该生成多一些的增广句子。如果数据集比较大，增加太多的增广句子，意义不大，因为原有的数据已经能训练出一个好的模型了。这个图表显示了相对于每个原生句子生成的增广句子的数量的性能增益：
不同大小的数据集下全部五种文本分类任务的EDA平均性能增益。n_aug表示每原生句子生成的增广句子的数量。
下一步？
我们已经展示了在文本分类中，简单数据增广能显著提升性能。如果你正用小数据集训练一个文本分类器，并想取得更好的效果，请在模型中编程实现这些操作，或者从Github中下载EDA代码。更多详情请查看原文。
想要继续查看该篇文章相关链接和参考文献？
点击 EDA：最简单的自然语言处理数据增广方法 】 即可访问：
AI研习社今日推荐： 2019 最新斯坦福 CS224nNLP 课程
自然语言处理（NLP）是信息时代最重要的技术之一，也是人工智能的关键部分。NLP的应用无处不在，因为人们几乎用语言进行交流：网络搜索，广告，电子邮件，客户服务，语言翻译，医学报告等。近年来，深度学习方法在许多不同的NLP任务中获得了非常高的性能，使用单个端到端神经模型，不需要传统的，任务特定的特征工程。在本课程中，学生将深入了解NLP深度学习的前沿研究。
课程链接：
原创文章，未经授权禁止转载。详情见 转载须知 。
专业理财产品评测，权威海量理财专家顾问，及时全面理财资讯，新浪财经个人理财版为您提供专属财富服务。
四川虾霸天餐饮连锁管理有限公司是一家经营特色小龙虾餐饮的服务型机构平台，全部采用深水精养小龙虾，是全国规模较大的自有小龙虾养殖基地，已成为原生态小龙虾的领导者。
淄博科峰陶瓷有限公司集技术研发、生产、销售于一体，是国内专业的耐磨陶瓷片，陶瓷橡胶复合衬板，耐磨陶瓷管道,耐磨陶瓷弯头,施工工程陶瓷供货商。服务电话：13805335977
超级股票模拟器，凭一指软件开发，用于离线学习股票玩法提升眼光和技术，拥有实时数据模拟、非实时模拟，支持多界面皮肤模板切换身临其境模拟，支持手机/电脑模拟持仓股票交割单生成器，凭一指软件免费下载官网。
微位科技是国内领先的数字身份服务商，基于区块链、加密和通讯技术，搭建可信数字身份平台，帮助商业伙伴实现可信通讯服务。客户包括中国电信，中国联通，中国平安、顺丰、滴滴、联想等50余万家知名企业。公司布局于区块链数字身份领域，拥有发明专利、软件著作、商标二十余项知识产权。2019年首批获得网信办备案登记的区块链企业，2019年入选科创委评选的深圳创新70强企业。微位科技的数字身份技术还支撑了5G网络下，视频电话的可信身份认证。
分享呦是一个收集超多资源至此的资源站，供广大用户朋友们更方便的查找自己想要的内容，拒绝繁琐，拒绝收费，拒绝引流，感谢大家支持。
三国之家提供三国系列题材游戏下载与攻略大全：包含三国志11、三国志11威力加强版、三国志11血色衣冠等三国志11系列MOD，以及经典的三国志9-14，真三国无双系列游戏，三国群英传系列游戏，以及同类型的全面战争三国、信长之野望、骑马与砍杀、三国杀、三国志战略版等各类型三国主题游戏攻略、秘籍、图文流程剧情介绍等内容。
乳品设备,胶体磨,混合机,研磨机,转子泵,乳化机,钛白加工设备,钛白粉胶体磨,均质机,封闭式胶体磨,胶体泵-销售0577-86999999浙江昊星机械设备制造有限公司-混合器|液料混料泵,沥青胶体磨,气动浆料泵,高剪切乳化机，乳化均质泵.釜底分散乳化机,分散均质乳化混合机,混合泵,卫生阀门管件胶体泵,，饮料加工机械，化工机械，制药机械，制药设备，轻工机械，乳品机械，温州胶体磨厂家，价格优惠，品质优良，欢迎订购！
山西寰烁电子科技股份有限公司（简称“寰烁股份”，股票代码832773），初创于1998年，定位全国县域智慧教育生态运营服务商，新三板挂牌公司，山西省高新技术企业，“国家智慧教育示范区”核心支撑工程战略服务单位。总部位于山西运城盐湖高新区，在北京、深圳、太原、西安、三亚等地设有分子公司，主要从事县域智慧教育整体解决方案的提供；县域智慧教育生态运营；教育信息化设备制造与教育创新项目服务。
兴土股份专注中国桥梁施工服务：钢便桥、交通钢桥、钢平台、钢围堰、0#块托架、挂篮、模板、连续梁施工、安全楼梯、临边护栏、墩身防护架、安全护栏施工作业车、卸落块、预压块、预应力智能张拉设备。
上海华美高展览有限公司
6月15日，长虹电视官宣旗下部分产品将搭载，长虹超脑，人工智能系统，面向用户正式公测，据长虹电视公众号预告，6月20日长虹将在线上举行行业首家人工智能大模型电视发布会，介绍，长虹超脑，产品并进行展示体验，长虹电视视频号等同步直播，据官方介绍，，长虹超脑，是依托于多模态交互，语义理解及意图识别，大数据等技术构建起的人工智能超脑系统，具备...。
2021年是百度百科成立的第十五年，在15周年之际，百度百科通过线上直播的形式举办，微光，演讲，主题围绕，热爱可抵岁月长，知识在生长，展开，世界冠军邓亚萍、知名辩手陈铭、当代艺术家赵赵、自然科普作家花蚀、北斗科研工作者徐颖、百度副总裁阮瑜进行演讲分享，讲述有关知识和热爱的故事，作为一名北斗导航系统科学家，有着，北斗女神，之称的徐颖，同...。
马斯克是新的乔布斯吗，这是一个值得深思的问题，马斯克，很像乔布斯类似的评价，常见于各种各样的名人评价、采访报道中，就连苹果联合创始人史蒂夫·沃兹尼亚克也曾直言，认为马斯克可以填补乔布斯留下的空缺，1971年生的马斯克与1955年的乔布斯之间，实则隔了16年之差，乔布斯创立苹果之时，马斯克才5岁，不过，细究两人的创业经历会发现，他们...。
雷锋网按，2018全球人工智能与机器人峰会，CCF，GAIR，在深圳召开，峰会由中国计算机学会，CCF，主办，雷锋网，公众号，雷锋网，、香港中文大学，深圳，承办，得到了深圳市政府的大力指导，是国内人工智能和机器人学术界、工业界及投资界三大领域的顶级交流盛会，旨在打造国内人工智能领域最具实力的跨界交流合作平台，6月29日，搜狗CEO王小...。
平静了一段时间的即时零售赛道，最近颇为热闹，拉满话题的是各种，仓，山姆的前置仓业务超过了总收入的一半，并实现了盈利，开始反哺线下店，这也正是很多零售商需要的，名创优品在盈利模型跑通后开始规模化，开仓，，目前已经开了500多个，闪电仓，为什么有线下成熟渠道布局的零售商纷纷以，仓业态，加码即时零售，仓，对于它们的意义是什么，为实体店...。
根据IDC发布的报告显示，石头科技在2024年第二季度全球智能扫地机器人出货量达到511.7万台，同比增长15.7%，石头科技本季度出货量全球第一，这也是中国厂商首次在智能扫地机器人市场登顶，这位扫地机器人的头号玩家正在瞄准另一个千亿级别规模的市场——洗衣机市场，很多朋友好奇，为什么石头科技做洗衣机，我们希望生产对用户有价值的产品，...。
发表在其它家用投影仪品牌2021，9，2711，20夏新投影仪C30是一款百元设备，机身也非常的小巧轻便，适合小户型家庭使用，那么这款投影仪真的好用吗，下面就通过用户的真实使用评测了解这款设备，看看是否值得入手，夏新投影仪C30使用评测，1.使用了一段时间，个人感觉还可以，在画质方面，清晰度绝了，质量很好，开灯的情况下可以了看得清，头...。
赵丽颖，天秤座2006年5月，在雅虎搜查网、浙江卫视、华谊兄弟联结主办的雅虎搜星较量中，赵丽颖仰仗良好体现以及投票网友的允许，最终取得冯小刚组冠军，因此出演冯小刚执导的千万广告，跪族篇，的女主角，被华谊兄弟签下，之后，赵丽颖与周迅合拍了玉兰油广告，2006年11月，其加盟由张国立、蒋雯丽倾情主演的50集电视延续剧，金婚，，饰演蒋雯丽1...。
依据国防部网站信息，8月13日至14日，中印两军在莫尔多，楚舒勒会晤点印方一侧举行第十九轮军长级谈判，双方围绕处置中印边界西段残余疑问开展踊跃、深化和树立性沟通，在两国指导人独特指引下，双方以放开性和前瞻性模式替换了意见，赞同经过军事和外交渠道坚持沟通对话势头，尽快处置残余疑问，在此时期，双方赞同保养中印边陲和安康宁，中国外交部16日...。
破解版就是未经授权经常使用的软件，财务软件的破解版当然能用，当然这不扫除破解者在软件中添加后门程序，倡导最好别用！！破解版和正版没有什么差异，是在网高低载~cad破解版是什么意思cad破解版，就是破解了的CAD装置文件，楼上说的都正确，不过他们小看的中国的盗版事业了，如今的破解版，除了不用花钱，装置和注册和正版没什么不同，说真实的就是...。
360安全卫士pc客户端exe是360公司2021年推出的最新版本，最好用的杀毒软件之一，最重要的是完全免费使用。2020版功能更加强大，全面优化升级，杀毒更强力，完美保护你的电脑安全，妈妈再也不用担心我电脑中病毒了，赶快下载体验吧！360安全卫士官方介绍360安全卫士
重庆分类目录网站将2022年08月共66个网站收录信息按收录时间分类整理归档列表，可以方便网友浏览按年月查询，更好地享受精彩网站的魅力！
在这些非常好玩的大型农场游戏里面，大家可以去体验一下比较轻松自在的田园风格，种菜的游戏叫什么农场，小编给大家找到了一些非常具有体验感的农场游戏，在这些游戏里面大家可以去种植各式各样的农作物，而且可以通过自己的努力来扩大农场的经营范围，并且能够用自己的辛苦劳动培养出来更多的品牌农作物，在这些农场游戏里面还可以对农场进行高度的还原和设计，...。
从历年CES来看，谷歌的产品和战略必是一个硬核或中心为大家所关注，今年的CES也不例外，值得注意的是，谷歌的智能语音助手，GoogleAssistant，成为今年的一大热点，GoogleAssistant产品副总裁ManuelBronstein表示，谷歌正在围绕GoogleAssistant构建一个类似Android的完整的生态系统，...。
瑞幸咖啡如今在万店之后，还没开启收割，仍继续大搞9.9一杯，这是有原因的，2022年10月22日，距瑞幸五周年纪念日还有六天，陆正耀的新咖啡项目库迪，COTTI，在福州IFC开业，当天，老陆和前瑞幸CEO钱治亚发朋友圈庆祝称，咖啡梦想家再启征程！集结号吹响！，，还配上三个，拳头，和三个，喇叭，以示干劲满满，库迪也确实很，有劲，无论是...。
2024年11月27～28日，LPCLUB·2024年度峰会——，转折与未来，2024第四届市场化LP投资峰会暨上市公司产业发展论坛，及，星河夜话，特邀环节在佛山圆满举行；在峰会现场，，国之重器，——LPCLUB榜·2024年度榜单评选结果举行了奖项发布仪式，2024年11月27日，LPCLUB，2024年度峰会特别邀请环节，星...。
发表在坚果投影仪2019，9，1710，47坚果J7好用吗，以前对LED灯泡的投影总感觉亮度不够，本来一直关注的都是L6H，但是家里用和单位用不一样，单位一台索尼，一台明基，那灯泡的热度和风扇的噪音我估计足能把看大片的好心情消磨殆尽，这回看到坚果J7都3000流明了，果断下手，也算是想试试看到底怎么样，坚果J7好用吗，坚果J7开箱机器...。
