Findings EMNLP2021 基于自修正编码器的神经机器翻译 字节火山翻译提出 (finding)
然而，上面提到的场景往往有一个共同点，那就是被翻译的文本往往是不规范的。无论是聊天时手误导致的错别字，还是视频语音原文识别的错误，都会极大地影响译文质量。因此， 实际应用场景下的机器翻译对翻译模型的鲁棒性有很高的要求。
今天就为大家介绍一篇由字节跳动人工智能实验室火山翻译团队发表在 EMNLP 2021 Findings 的短文 - Secoco: Self-Correcting Encoding for Neural Machine Translation。 这篇论文让翻译模型在学习翻译任务的同时，学习如何对输入的带噪文本进行纠错，从而改善翻译质量。
神经机器翻译在近些年取得了很大进展，但是大部分工作都是基于干净的数据集。在现实生活中，神经机器翻译系统面对的输入往往都是包含噪声的，这对翻译模型的鲁棒性提出了很大挑战。
之前的翻译鲁棒性工作主要分为三类：
可以看到，大部分的工作都专注于如何生成噪声，很少探究如何进一步使用它们；本文则想要 通过建模从噪声数据到干净数据的修正过程，从而增强模型的鲁棒性。
作者针对神经机器翻译提出了具有鲁棒性的 自修正框架Secoco (lf-rrecting Ending)。
虽然这种迭代编辑的过程每一步都需要前面的操作，但是为了简化训练过程， 插入预测器和删除预测器都是相互独立的，并与普通的翻译任务同时进行训练。
一个关键的问题是如何生成这些训练数据？关键点在于 获取从带噪数据转化为干净数据的编辑操作。 作者提供了两种方式。一种是针对有带噪数据和对应干净 reference 数据的情况，一种是没有带噪数据的情况。
，可以使用类似计算最短编辑距离的方法，获取从带噪数据转化为干净数据的最短编辑过程，然后将替换操作转化为删除-插入操作。
，可以使用基于规则的方法生成伪数据。针对不同的场景，可以设计对应的规则，然后从干净的数据中生成带噪数据，最后反向这个过程就可以得到编辑过程。
训练完成后，便可以进行解码。正如图2右侧展示的，Secoco 有两种解码方式。第一种是仅使用编码器-解码器结构直接进行翻译 (Secoco-E2E)，另一种则是对输入进行迭代编辑后再进行翻译 (Secoco-Edit)。
作者在三个测试集进行了实验，包括一个基于电视剧的中英对话测试集，一个内部的中英语音翻译测试集，以及加入人工噪声的英德WMT14测试集。
如表1所示，对话测试集包含主语省略，标点省略，错别字等问题；语音测试集包含口语词，错别字等 ASR 引起的问题；WMT14 则包含由规则构造的随机插入，随机删除，重复等问题。
实验结果如表2所示。除了 Secoco 之外，作者还和3种方法进行了对比，分别是将合成的噪声数据加入原始数据中一起训练 (BASE+synthetic)；使用修复模型加上翻译模型的 pipeline 级联结构 (REPAIR)；以及多编码器-单解码器的结构 [1] (RECONSTRUCTION)。可以看出，所有的方法相较于基线模型都有所提升。Secoco 在三个测试集上都获得了最好的效果。
此外，在这三个测试集中，对话测试集明显包含更多的噪声，Secoco 最多可以带来3个 BLEU 的提升。语音测试集由于是由 ASR 导出的，因此最好的结果也仅有12.4。
表格3中给出了一些迭代编辑的具体例子。针对每一句输入，模型对其进行迭代删除和插入操作，直到文本不再发生变化。从例子中可以看到，一次编辑操作可以同时删除或者插入多个词。此外，对于上述的测试集，平均每个句子需要2-3次编辑操作。
针对互联网中非规范输入带来的鲁棒性问题，本文主要介绍了一个具有自我修正能力的神经机器翻译框架 Secoco，该框架通过两个独立的编辑操作预测器建模修正带噪输入的过程。实验表明， Secoco 在多个测试集上都优于基线模型，增强了翻译模型的鲁棒性，并提供了一定的可解释性。
版权文章，未经授权禁止转载。详情见 转载须知 。
云骑士是一款集成一键重装系统,是一款绿色、免费的在线重装win7/win10/xp/win11系统的工具,软件自带原版系统下载,0基础的小白也能秒变装机大师,在线极速重装只需简单几步,就能让你的电脑焕然一新,电脑运行慢了,卡了.不求人,轻轻一键,开启电脑小白装机时代,小白也变装机大师！
查重吧chachongba.net提供毕业论文查重，论文查重检测系统是学校使用的论文检测系统，可供大学生毕业论文查重、职称期刊查重系统、硕博论文查重，与学校查重结果一致，全天24小时自助检测，支持真伪验证。
杭州思亿欧领真软件-智能全景展示平台、全景网站制作、VR网站制作、全景网站系统、VR全景系统：利用3D全景和VR技术还原公司形象、产品、服务、等真实场景，并搬到互联网上进行全方位展示，让客户无须跋山涉水即可身临其境、体验式了解门店、企业的全貌。全景和VR展示效果还可以通过微信、官网、QQ、微博、论坛、APP等互联网载体进行分享和传播。
智驰网站推广助手系统,是专为企业竞价排名推广网站使用的,广泛用于阻止恶意点击行为的管理平台,智驰科技是网站推广助手行业的开创者.智驰科技总部:010-84927811.
脚本,js脚本,脚本库,动态脚本,网页脚本，脚本代码,搜易脚本,Mysql
THK中国总代理是一家专业提供THK轴承、丝杠、导轨等产品的总代理商。我们是THK在中国的区总代理,提供THK产品的销售、售后服务和技术支持。联系电话:XXXX
海峡头条，你关注的才是头条
武汉中商集团股份有限公司是一家以商贸零售业为主，同时涉足房地产、电子商务、进出口贸易等产业的国有控股大型商业上市公司。线下门店布局跨湖北省内10多个城市，拥有9家百货店和购物中心、1家ShoppingMall、40多家超市大卖场和
四川成都埃克森美孚润滑油授权经销商,汽车用油，工业用油。
组词造句
威海悦荣贸易有限公司是一家以增塑剂,糊树脂,稳定剂产品销售为主的企业
岑溪电子商务公共服务平台
一、选择有实力的品牌加盟毛掌门艾灸作为实力可靠的艾灸品牌，公司拥有自己的一套运营体系，在产品生产、加盟指导、店面指导、项目操作等方面都有着标准化流程，成熟有经验的公司是值得加盟商信任的，所以加盟商在考虑加盟的时候，一定要360°进行考察，尤其是公司的背景实力、原材料供应、技术培训、售后团队等方面进行考察，毛掌门加盟总部欢迎各位创业者来...。
让孩子得到综合性的全面发展是非常重要的，可以为孩子以后更好的成长奠定基础，他塔酷儿童体智训练中心是致力于让孩子德智体美全面发展的品牌，能够不断的超越自我，成就更好的人生，是创业的项目中比较受关注的，那么，加盟塔酷儿童体智训练中心需要多久才能营业，塔酷儿童体适能馆在2010年于北京成立，它主要针对的孩子人群是2到12岁，为这些孩子们提供...。
互联网行业裁员潮还在继续，游戏直播行业也同样动荡，近日游戏直播领域两家头部企业虎牙和斗鱼，相继传出大裁员的消息，4月24日，消息，据Tech星球报道，虎牙近日进行了一轮整体大裁员，国际国内业务均有涉及，国际化业务受创最为严重，运营部门裁员比例高达70%，导致出海产品Nimo运营团队大幅收缩，其他部门裁员比例50%；国内业务团队也...。
找服饰项目商机，迎女人心内衣投资惊喜，神州加盟网领先服饰品牌代理加盟领域，第一时间与您共享女人心内衣招商最新投资信息[更多]...。
乔尔来自秘鲁，在中国曾经6年多了，当初和中国妻子一同生存在广东，并运营着一家进进口国内贸易公司，在乔尔看来，中国是秘鲁关键的经济贸易协作同伴，他等候秘鲁和中国未来的贸易协作会愈加亲密，也宿愿能经过公司的羊驼毛手工制品，让更多人了解秘鲁的文明，筹划，刘加文肖文峰口头筹划，汤丹鹭周强陈子夏黄玫兼顾，韩笑朱梦娜编导，陈雪莹杨淑馨文字，林雪龚...。
我于2023年11月30日在爱租机平台租了一个平板然而中途因一些要素逾期了几个月然而不时都有和他们客服沟通起初周转好后连高额滞纳金一并支付现曾经没有逾期然而他们以解锁为理由让我将平板寄给他们而后不肯将平板寄回给我也不肯让我敞开订单我提早预付的2个月租金他们不肯退款要扣掉才干让我敞开...。
别克威朗GS两厢是一款售价在14.59万元至20.59万元之间的车型，它的设计格调共同，驳回了红黑撞色元素，例如四轮炫白色刹车卡钳、17英寸熏黑双五幅铝合金静止轮毂和全黑静止内饰中出挑的炫红、碳纤维纹理饰条等，这些都突显了其静止感，在性能方面，别克威朗GS两厢装备了Matrix矩阵式全LED大灯，这种大灯能够智能识别驾驶环境，并智能启...。
2023最抢手幽默的单机版本的小游戏有哪些，正在寻觅的玩家可以在这篇中2023最火爆抢手的单机小游戏清点找到喜欢的并下载，所有都是大家的最喜欢的单机类型的小游戏玩法，快来一同下载2023最火爆抢手的单机小游戏吧！羊了个羊微信小游戏抖音小游戏像棋的象棋翡翠大王小游戏单机小游戏有哪些1、羊了个羊微信小游戏介绍理由，羊了个羊微信小游戏是一款...。
飞驰C280的售价在不同年份和性能下存在较大的差异，详细来说，其多少钱范畴大抵在人民币30万元至60万元之间，首先，须要明白的是，飞驰C280这一车型并不是飞驰以后的最新款或规范型号，在市场上，飞驰C级车系是飞驰品牌中的中型车系列，而C280往往是某些特定年份或市场推出的特定性能车型，因此，其多少钱会遭到多种要素的影响，包含车辆的消费...。
知名量化私募被罚，两名员工收到警示函，原因为何？,证监会,警示函,私募基金,量化私募,上海证监局
ucore操作系统,ucore操作系统是用于清华大学计算机系本科操作系统课程的教学试验内容，是一个开源项目，是不可多得的非常好的操作系统学习资源，适合初步了解计算机系统/编程/操作系统等基础知识,您可以免费下载。
360极速浏览器Mac版是由360极速浏览器原班人马打造的基于chromiun69内核的浏览器，加上极速浏览器的人性化操作，360极速浏览器Mac版一定能给您带来稳定、快速、舒适的上网体验;您可以免费下载。
好玩的解谜迷宫游戏有哪些，一起畅想置身于一个扑朔迷离的迷宫中，每一步都充满未知与挑战，今天将与你一同揭开迷宫游戏的神秘面纱，呈现最精彩的迷宫游戏大全！无论是神秘古堡还是未知星球，奇幻仙境或者科幻世界，无数令人心驰神往的迷宫等待着你的勇敢探索！赶紧加入，开始一场惊险刺激的冒险之旅吧！1、，迷宫灯塔，在这个神秘的迷宫中，寻找传统的出口并不...。
当前，以智能化为核心的产业变革正在兴起，人工智能技术与社会各领域的融合不断加剧，并成为助推工业智能化转型升级的关键燃料，今年4月，工业互联网产业联盟，AII，发布的，工业智能白皮书，显示，截止到2019年底，在全球20多个经济体近三年发布的100份人工智能方面的战略规划或政策文件中，涉及与工业结合的超过一半以上，美、日、德、欧盟分别发...。
在经过一天的工作之后，就想要躺在舒适的床上休息，休息时间占有我们生命的三分之一，而床上用品就是我们生活中重要的家居用品，可以为人们提供舒适的睡眠，床上用品的市场刚需大，可以在城市中或者乡镇上拥有较高的需求，大家在选择床上用品的时候，就倾向于大品牌的产品，产品的品质高，很多创业者就想要了解，加盟罗莱家纺靠谱吗，加盟费多少，罗莱家纺的公司...。
如此快餐已经在市场上十分的饱和，由此可见竞争也十分的激烈，只要有是特色的快餐依然十分的受欢迎，而且效益也十分的可观，毕竟人们离不开快餐店，所以带动快餐行业的发展，和番日式快餐，不仅特色十分鲜明，而且还有浓厚的日式风味，让消费者无需出国就可以体现到日式的风情文化，所以这样的特色品牌自然受到加盟者的关注，那么，和番日式快餐可以加盟吗，和番...。
全球抗疫的中国贡献充分展示了负责任大国的形象，自世卫组织2020年3月11日宣布新冠肺炎从特征上可称为，大流行，以来，新冠肺炎疫情正在全球呈扩散之势，在此情况下，中国与世界各国同舟共济，积极分享自己的抗疫经验，同时尽最大努力提供各种有效支援，在全球抗疫大局中，中国的作用变得不可或缺，充分展现出负责任大国的形象，多国人士称赞中国抗击疫情...。
