Findings EMNLP2021 基于自修正编码器的神经机器翻译 字节火山翻译提出 (finding)
然而，上面提到的场景往往有一个共同点，那就是被翻译的文本往往是不规范的。无论是聊天时手误导致的错别字，还是视频语音原文识别的错误，都会极大地影响译文质量。因此， 实际应用场景下的机器翻译对翻译模型的鲁棒性有很高的要求。
今天就为大家介绍一篇由字节跳动人工智能实验室火山翻译团队发表在 EMNLP 2021 Findings 的短文 - Secoco: Self-Correcting Encoding for Neural Machine Translation。 这篇论文让翻译模型在学习翻译任务的同时，学习如何对输入的带噪文本进行纠错，从而改善翻译质量。
神经机器翻译在近些年取得了很大进展，但是大部分工作都是基于干净的数据集。在现实生活中，神经机器翻译系统面对的输入往往都是包含噪声的，这对翻译模型的鲁棒性提出了很大挑战。
之前的翻译鲁棒性工作主要分为三类：
可以看到，大部分的工作都专注于如何生成噪声，很少探究如何进一步使用它们；本文则想要 通过建模从噪声数据到干净数据的修正过程，从而增强模型的鲁棒性。
作者针对神经机器翻译提出了具有鲁棒性的 自修正框架Secoco (lf-rrecting Ending)。
虽然这种迭代编辑的过程每一步都需要前面的操作，但是为了简化训练过程， 插入预测器和删除预测器都是相互独立的，并与普通的翻译任务同时进行训练。
一个关键的问题是如何生成这些训练数据？关键点在于 获取从带噪数据转化为干净数据的编辑操作。 作者提供了两种方式。一种是针对有带噪数据和对应干净 reference 数据的情况，一种是没有带噪数据的情况。
，可以使用类似计算最短编辑距离的方法，获取从带噪数据转化为干净数据的最短编辑过程，然后将替换操作转化为删除-插入操作。
，可以使用基于规则的方法生成伪数据。针对不同的场景，可以设计对应的规则，然后从干净的数据中生成带噪数据，最后反向这个过程就可以得到编辑过程。
训练完成后，便可以进行解码。正如图2右侧展示的，Secoco 有两种解码方式。第一种是仅使用编码器-解码器结构直接进行翻译 (Secoco-E2E)，另一种则是对输入进行迭代编辑后再进行翻译 (Secoco-Edit)。
作者在三个测试集进行了实验，包括一个基于电视剧的中英对话测试集，一个内部的中英语音翻译测试集，以及加入人工噪声的英德WMT14测试集。
如表1所示，对话测试集包含主语省略，标点省略，错别字等问题；语音测试集包含口语词，错别字等 ASR 引起的问题；WMT14 则包含由规则构造的随机插入，随机删除，重复等问题。
实验结果如表2所示。除了 Secoco 之外，作者还和3种方法进行了对比，分别是将合成的噪声数据加入原始数据中一起训练 (BASE+synthetic)；使用修复模型加上翻译模型的 pipeline 级联结构 (REPAIR)；以及多编码器-单解码器的结构 [1] (RECONSTRUCTION)。可以看出，所有的方法相较于基线模型都有所提升。Secoco 在三个测试集上都获得了最好的效果。
此外，在这三个测试集中，对话测试集明显包含更多的噪声，Secoco 最多可以带来3个 BLEU 的提升。语音测试集由于是由 ASR 导出的，因此最好的结果也仅有12.4。
表格3中给出了一些迭代编辑的具体例子。针对每一句输入，模型对其进行迭代删除和插入操作，直到文本不再发生变化。从例子中可以看到，一次编辑操作可以同时删除或者插入多个词。此外，对于上述的测试集，平均每个句子需要2-3次编辑操作。
针对互联网中非规范输入带来的鲁棒性问题，本文主要介绍了一个具有自我修正能力的神经机器翻译框架 Secoco，该框架通过两个独立的编辑操作预测器建模修正带噪输入的过程。实验表明， Secoco 在多个测试集上都优于基线模型，增强了翻译模型的鲁棒性，并提供了一定的可解释性。
版权文章，未经授权禁止转载。详情见 转载须知 。
小一步微官网小一步微简介关于我们小一步是一个AI应用与数字化技术普及公益行动。旨在帮助更多的青少年使用和了解数字化工具、AI工具，培养和激发他们在信息化数字化方面的思维能力。小一步，每一步都算数。微简介
I3JSON在线解析是一款JSON格式化工具，你可以在线验证、编辑和格式化JSON数据，格式化后的JSON数据以树形结构展示，更易于阅读，此外还可以将JSON转换为XML、YAML、CSV格式...
花娃Huawa.com，是国内专业的鲜花转单平台，花店加盟平台，是全国实体鲜花店的网上订单交易中心、鲜花采购批发中心。目前，全国已经有超26w实体鲜花店加盟。花娃为所有从事鲜花销售经营的服务商，提供鲜花订单交易、转单服务。
江苏言信环境科技有限公司是一家致力于食品,化妆品,实验室,手术室,活动板房等行业洁净环境最新材料和设备研发与应用的高科技股份制公司。
米保险，最全最专业的保险咨询服务平台，帮助保险人合理规划保险风险，做好保险方案，选择适合被保人的保险产品，以及洞察保险行业最新新闻动态，让投保人掌握更专业的保险知识。
珠海市晟盛木制品有限公司是一家包装的企业，是经国家相关部门批准注册的企业。主营木方、卡板、免检卡板、珠海木箱、纸护角，木箱,木托盘,卡板,熏蒸木箱,珠海免检木箱,出口卡板,木业卡板加盟。公司位于中国广东珠海市珠海市新青科技园。珠海市长盛木制品有限公司本着“客户第一，诚信至上”的原则，与多家企业建立了长期的合作关系。
西安乐华城试驾场地，位于泾阳县沣泾大道欢乐世界对面，西安乐华欢乐世界是亚洲超大主题乐园，为国家AAAA级旅游景区，为“西安乐华城·国际欢乐度假区”核心项目之一，也是西咸新区泾河新城重点项目。
苏州凝发制冷设备有限公司地处长三角黄金水岸南岸，风景秀美、经济富裕的昆山，苏州凝发制冷设备有限公司主要经营范围：1.冷库维修，冷库安装，制冷设备维修，冷水机维修，制冷空调耗材，冷水机，冷冻库，冷藏库，移动冷库调试安装，工业空调销售及配件销售）关于冷库及制冷设备的销售，安装，维护我们进行一站式解决，我们有着制冷行业多年的经验，能快速解决企业的制冷问题，欢迎广大新老客户前来选购。
山东明邦膜结构工程有限公司是一家集膜结构设计开发,加工制造,施工安装,维护于一体的技术工程公司,主营,膜结构车棚,膜结构充电桩,景观膜结构,咨询电话,13964720111
乐清市霍力机电有限公司
273游戏网(www.273game.com)是非常专业的绿色安全下载站,每天都会推荐超多热门安卓游戏和软件下载,还有着精心推荐的热门排行榜,下载渠道也是非常快速稳定的,让所有用户有着最舒适的下载体验,欢迎大家来273游戏网下载资源!
LONNWENN联轴器具有结构尺寸小、重量轻、转动惯量小但传递扭矩高的特点。所有表面精加工，使该LONNWENN联轴器运行质量高，工作寿命长。LONNWENN联轴器使传动时的振动得到缓冲，并吸收由动力机的不均匀运转所产生的冲击。
煎包是一种知名的山东小吃，该品种在外省称山东煎包，又称水煎包，将发酵面包子平放在已刷油的平锅里面，加水和面糊，以半煎半蒸的成熟方式制成，成品底面煎成焦黄，上面白嫩，馅满面松，在鲁中、鲁西、济南、潍坊、青岛等地均有制作，包子馅有韭菜鸡蛋、白菜猪肉、牛肉等各种风味，成品底面煎成焦黄，上面白嫩，馅满面松，外酥里嫩，美味可口，煎包加盟前景广阔...。
人们总是青睐于购买绿色有机的蔬菜，所以在现如今的种植者眼中，有机蔬菜这个行业有很大的市场可以把握，蔬菜的种类多而繁杂，不少智慧之选者虽有心发展这个行业，却不知道该选择哪个项目去经营，小编觉得，大众饭桌上常出现的芽苗菜是个不错的方向，适合各种档次的智慧之选者去做，那么芽苗菜加盟哪家好呢，芽苗菜加盟哪家好，蔬心园芽苗菜可以考虑一下，蔬心园...。
韩国媒体TheElec近日报道称，三星电子已与微软合作启动一个基于HoloLens的AR项目，消息人士向TheElec透露三星于今年3月成立了负责该项目的工作组，这一项目于今年夏天正式启动，并将持续约两年时间，产品预计于2024年亮相，据悉，三星多个业务部门及子公司都参与了这一AR项目，在今年上半年的一次项目会议当中，三星显示、三星电...。
小小家庭影院大神级投影控发表于2023，02，03极米NEWZ6X肯定是比不过当贝D5X的，下面就为你详细分析一下吧1.光学参数对比在画面亮度方面，当贝D5X的实际亮度达到了1100ANSI流明，在不同的环境光线下都可以投射出明亮的画面；极米NewZ6X的亮度为380CCB，相当于800ANSI流明，相比之下当贝D5X的亮度更高，在分...。
代码说明，本页面的认证代码为交换吧联盟专用评测代码，站长需懂简单html知识，直接复制代码粘贴到联盟网站相应页面即可使用，本代码不适用于其他广告联盟网站请勿获取！文字认证，文字链接代码认证适用所有类型的广告联盟，复制代码后放在交换吧联盟网站首页底部或友情链接位置处，普通认证，普通联盟认证标志适用所有类型的广告联盟，能有效提升交换吧联盟...。
人之所以胖，是由于体内脂肪过多，有句话叫，瘦子不是吃得太多，而是排得太少，当人体营养过剩时，身材就会把多余的能量以脂肪的方式贮存在皮下，形成沉积，构成瘦削，那么，12星座里，哪些星座的瘦子最多呢?第五名，双鱼座双鱼座的人关于一切美妙的物品都不可说不，他们爱吃，尤其溺爱甜食，但大家都知道甜食是最容易发胖的事物，可是即使知道这点，双...。
随着智能手机的遍及，APP曾经成为人们日常生存中必无法少的一局部，而360手机APP，作为市场上备受欢迎的一个品牌，被越来越多的用户所青眼，假设您也想尝试经常使用360手机APP，无妨看看以下的装置下载攻略，方法一，经过360手机助手360手机助手是360手机APP团队推出的官方运行商店，相比拟其余运行商店而言愈加安保、牢靠，装置步骤...。
aics4绿色精简版大小仅100M左右，并且是免安装的，只需要解压出来后，输入序列号即可激活，完全免费使用。功能方面和illustratorcs4官方原版是一样的，但是占用的内存空间更小，免得运行起来卡死了。官方简介AdobeIllustrator简称（AI软件），是Adobe公司出品的矢量
Czkawka是一款简单、快速且免费的用于查找重复项、空文件夹、相似图像等的多功能的应用程序。可以从计算机中删除不必要的文件。
柏林艺术周开幕，喜欢艺术的小伙伴可千万别错过！,画廊,艺术家,美术馆,柏林艺术周
价值358元的emlog博客定制模板 lu1.3，模板名为“会飞的鱼”。我是无意中发现这个模板并分享给大家的。由于Emlog的功能相对较少，为了让Lu模板更加人性化，需要替换部分系统文件。模板只支持php5.6和mysql5.5，并需要sg11...
看图工具(IrfanView),看图工具IrfanView支持动态GIF、WAV、MID和RMI文件、且在全屏幕有放大、卷动功能、可预看AVI文件及增加储存自定功能、全桌面图片适合大型图片记载等强大功能。,您可以免费下载。
儿童早教项目现在在市场中是一项非常火热的加盟项目，很多的人们在选择加盟项目时，就想要加盟儿童早教项目，经过调查，贝迪堡在市场中拥有着很高的人气，那么贝迪堡早教怎么样，适合加盟吗?该项目整体来说，在市场中是一家非常有发展前景的加盟项目，加盟商开店经营选择加盟这个项目，可以的帮助创业者快速的走向成功，贝迪堡早教怎么样，适合加盟吗?该项目在...。
雷锋网5月11日消息在微软Build2017大会上，微软确认表示，未来将会在WindowsStore中上架所有的Office2016组件，WindowsStore未来将成为Windows10用户获取应用软件最主要的渠道，在凌晨的Build2017大会上，一个名为，将你的应用转换成UWP以及WindowsStore使用DesktopBr...。
石锅鱼作为湘菜的一种，在鱼类食材做法中属于比较特殊的一种，利用整体花岗岩刻成的器材作为给烹煮鱼肉的用具，可以让做出来的鱼肉更加鲜美，深受美食爱好者的喜爱，俘获了很多人的味蕾，随着交通的便利，石锅鱼逐渐走向了全国市场，形成了一些知名的石锅鱼品牌，那么，石锅鱼加盟哪家好呢，下面笔者为你做个简单介绍，针对石锅鱼加盟哪家好这个问题，目前国内市...。
品牌名称艺苑美术培训学校投资金额万2015，10，19门店总数经营范围美术培训适合人群自由创业加盟区域全国是否有区域授权是品牌发源地河北合同期限2年培训期限1到3个月特许使用费8000元营业条件要求保证金1.3万元人民币加盟费5万，30万元人民币艺苑美术培训学校加盟详情艺苑美术是艺苑美术集团旗下知名少儿美术连锁品牌，专注为3，12岁少...。
钻研元宇宙营销，虚构人，AR，VR，内容生产趋向、短视频、营销技术，游戏，泛资讯，美国流媒体及影视为企业开展探求方向，建设行业内的思维指导力联结传媒类院校、行业相关、党媒独特展开研讨、优惠等...。
