WaveNet 做出了这些重大变化 你可能还不知道 Assistant 为了进驻 Google (WaveNet)
雷锋网 AI 科技评论按：Deepmind 提出的 WaveNet 是目前顶级的语音生成模型， 论文 最初于2016年9月发表，雷锋网 AI 科技评论也立即跟进报道 DeepMind发布原始音频波形深度生成模型WaveNet 。WaveNet抛弃了以往通过声学模型拼接语音音素的做法，完全通过深度神经网络生成原始音频波形，并且大幅提高了语音生成质量。
今年10月，我们也报道过 WaveNet正式商用：效率提高1000倍 ，仅一年时间就走出实验室，在 GoogleAssistant 中落地。在庆贺深度学习又一次完全颠覆传统做法的同时，大家想必也会好奇，到底DeepMind做了哪些改进才得以实现这样数量级的效率提升呢？DeepMind自己最近就发布了介绍商业化改进后的 WaveNet 的论文，并撰写了一篇博文通俗地介绍了其中的改进点。雷锋网 AI 科技评论把这篇博文翻译如下。
自 DeepMind 在2016年发表WaveNet论文后，这一顶级表现的语音生成模型已经于今年10月开始用在 GoogleAssistant 中，为全球的用户生成逼真的日语和美国英语语音。现在这个用于生产环境的模型称作“并行WaveNet”，它的运行速度要比最初发布的模型快一千多倍，而且生成的语音质量也更高。
在近期的论文（）中，DeepMind的研究人员们就介绍了新模型的一些细节；以及为了让这个系统能在大规模并行化的计算环境中运行，DeepMind还开发了一个新技术“概率密度蒸馏”。
最初版本的WaveNet在生成语音时用了很激进的连接方式，每次生成一个采样点，而且每个新生成的采样点都需要把前一个采样点作为输入（条件生成）。虽然这种做法能够生成高质量的音频，每秒最高也能生成2万4千个采样点，但这种顺序生成的方式对于生产环境来说还是太慢了。
最初版本的模型中，生成每个新的样本都需要把前一个生成的样本作为条件
为了解决这个问题，DeepMind的研究人员们认为他们需要一种新的方案，它应当能一次生成一个长序列中的所有采样点，而且没有生成质量的损失。他们的想到的办法叫做probability density distillation，“概率密度蒸馏”。它的做法是，用一个完全训练好的 WaveNet 模型教另一个“学生”网络如何推理；这个学生网络更小、并行度更高，从而也就更适合运行在现代计算硬件上。这个学生网络的架构是一个规模不大的卷积神经网络的拓展，跟原来的WaveNet很相似，但它有一点根本性的不同，就是生成新的采样点时不需要依赖任何之间生成的采样点。这也就意味着，语音生成时可以把第一个单词、最后一个单词、以及所有当中的单词全部同时生成出来，就像下面的动图里这样。
新的WaveNet把白噪音作为输入，然后一次同步生成所有的输出采样点。
训练的时候，学生网络是从一个随机状态开始的。它的输入是随机白噪声，要训练它做的任务就是产生连续的音频波形作为输出。学生网络生成的输出会被交给训练过的WaveNet模型，它会给每个采样点打分，作为提供给学生网络的信号，让它了解它的输出和理想输出之间的差距。随着训练过程进行，学生网络就可以根据反向传播不断调节、更新，从而学会产生理想的输出。从另一个角度说，“老师”网络和“学生”网络都会给每一个音频采样点的取值输出一个概率分布，然后训练的目标就是让老师的分布和学生的分布之间的KL距离最小化。
这样的训练过程和生成式对抗性网络（GANs）的设定有不少相似之处，学生网络就像是GANs中的生成器，老师网络就像是鉴别器。不过与GANs不同的是，学生的目标并不是像GANs中那样“骗过”老师，而是与老师合作，尝试学习、达到老师的表现水平。
虽然这种训练技巧有不错的表现，DeepMind的研究人员们还是需要增加几个额外的损失函数，引导学生更好地向理想的行为前进。具体来说，他们增加了一个感知损失来避免模型产生糟糕的发音，增加了一个对比度损失来进一步减少噪声，以及一个能量损失来让网络的音频输出与人类语音的能量相匹配。能量损失的作用是，如果没有它的话，模型的音量很小，更像窃窃私语而不是朗声说话。
应用了以上所有这些方法之后，DeepMind就得以让训练出的并行WaveNet达到与最初的WaveNet同等的语音质量，人类测试者听过之后的平均意见打分（MOS，5分为满分）结果如下。值得一提的是，真正的人类语音也只有4.667的MOS分数。
当然，概率密度蒸馏仅仅是让WaveNet达到生产化系统的速度和质量的众多必须手段之一。为了把并行WaveNet集成到GoolgeAssistant的服务流水线中，DeepMind的技术应用团队和谷歌语音团队也同样在工程方面付出了大量努力。也正是靠着这样的紧密协作，最初是基础性研究的技术只花了12个月多一点点的时间就成为了谷歌规模、能够服务全球用户的正式产品。
并行WaveNet论文地址：
via DeepMind Blog ，雷锋网 AI 科技评论编译
Deepmind语音生成模型WaveNet正式商用：效率提高1000倍
DeepMind发布最新原始音频波形深度生成模型WaveNet，将为TTS带来无数可能
版权文章，未经授权禁止转载。详情见 转载须知 。
查询百度移动权重和百度移动的关键字排名，查询百度移动权重和百度移动的关键字排名
Worktile深度整合项目与任务管理、OKR、网盘、在线沟通等应用，支持丰富的自定义功能，满足各行业各场景的个性化工作需求，助力企业提高管理效能。
杭州埃理特教育是国内个性化留学服务机构,留学、文书、签证、移民一站式指导,金牌顾问一对一服务。地址杭州市滨江区信诚路857号世茂中心6038室,电话0571-86795516
普通工具网是一个提供各种便捷高效的在线工具集合的网站，包括文本去重、字数统计、近义词、反义词、组词、天气查询、单位换算、密码生成等多种实用工具，方便用户快速获取相关信息，提升工作效率，所有工具无需下载和占用电脑内存。
中国中医网专注于大众关心的医药健康,生活相关的最新事件，涉及行业信息、中医、保健、医药、健康等，内容客观真实，准确及时，是专业的健康医药网站，便利人们的生活。
公司成立于2005年，专业研究、开发、生产矿用系列自救器、正压氧气呼吸器、消防空气呼吸器等安全救护装备。产品广泛应用于消防、煤矿、治金、隧道、石化、天然气、宾馆、酒店、高原的作业场所缺氧和瓦斯、煤尘突出、爆炸以及火灾事故的个体防护与日常检测。
百都集团专注于企业服务的多元化综合性集团公司，为企业提供创业开公司,房屋租售,装修设计施工,公司注册会计记账,企业税务申报,人力资源代理,企业网络营销推广,广告设计制作,商标知识产权,法律顾问服务,企业管理代理等从企业开办到后期经营一站式综合服务。在上海,杭州,宁波,北京,重庆等350多个城市服务更多企业
民政,民政学院,长沙民政,湖南民政,民政学校,长沙民政学院,长沙民政职业技术学院
威凡网打造国内最大最专业的教程网。本网主要涵盖PHP教程、JSP教程、python教程、html5教程、ASP教程、SEO教程等，威凡网发布的教程都经过实战总结的，学IT编程就上威凡网！
☏:400-1133-100【国家商标总局授权正规商标代理机构-狼途腾知识产权,商标申请只需599元起/个/类】专业提供：商标,专利,版权,著作权等各类业务的查询,注册,商标转让,续展等代办服务
我们公司主要的特色服务是：汽车电瓶，汽车配件，汽车音响等，诚信是我们立足之本，创新是我们生存之源，便捷是我们努力的方向，用户的满意是我们大的收益、用户的信赖是我们大的成果。乘风破浪会有时，直挂云帆济沧海，耐驰人相信，面对新科技革命的激烈竞争，一定会创造出更加优秀的成绩，回报家乡、回报社会、回报祖国。
甬聘人才网（http://www.nbzhaopin.com）大品牌的招聘网站，规模大信息真实的专业招聘网站，最新招聘信息，找工作，上甬聘人才网!
迷宫游戏是众多益智游戏类型里边的一种，适合各个年龄段的人群，那么今天小编就来给迷宫游戏大全闯关游戏推荐，感兴趣的玩家就跟着小编一起来看看吧，看看好玩的迷宫类型游戏都有哪些，、，不思议迷宫，这是一款手机跟探索为核心的快乐冒险游戏，在这款尽情收集的游戏里边，有三百多个角色等待着玩家进行收集，每一个角色都有着自己专属的独特技能，手机的方式方...。
今天带来全部游戏内置游戏免广告分享，这些游戏不仅种类丰富，而且每一款游戏都无需观看广告即可畅快游玩，接下来就跟着小编的脚步走进免广告游戏的旅途，在一次次冒险中寻找心中的最爱，超高质量的游戏画面搭配精彩的游戏剧情让每一个玩家更加沉迷，快进入游戏世界尽情享受乐趣吧！在神秘海域中进行探索，搜寻传说中的宝藏，多种多样的人物动作以及超开放的游戏...。
所谓的宠物美容，不只是替狗儿洗澡而已，而是借着优质工艺的美容用品和精湛的修剪技法和染色激发增添美感，从而达到让狗狗和主人身心愉悦的效果，所以美容师需要辛苦的拜师学艺、考证照、更要不断吸收新知以拥有优异的专业技艺和独到的造形设计，还包括宠物犬养殖、赛级犬繁殖、藏獒繁殖、宠物、宠物美容的宠物管理养殖中心，...。
手机已经成为现代人的身体器官，当然，在汽车场景中，人们依然摆脱不了手机的吸引力，顺应科技的发展，整车厂也已经从传统的提供，汽车，的思维转变为提供完整的出行解决方案，无论是新旧造车势力，都希望通过在线化、娱乐化的车载系统夺回车主的注意力，车载系统智能化升级势在必行，在这一轮车载系统升级战役中，能否拿出高度成熟的软硬件结合的产品是制胜的关...。
网曝友商要特斯拉降低中国员工工资，从13000降到5341元3月18日消息，近日有网友爆料称，有友商要特斯拉降低中国员工工资，从13000降到5341元，据悉，特斯拉上海工厂一线工人的基本工资5341元起，这个基本工资对应的级别是1.3，，加班费46元，小时，中班，夜班费分别是10元和18元，天，每年发17薪，以此计算，综合月薪为75...。
然而，在乌克兰，由于大量的云层覆盖和频繁的夜间袭击，各种形式的卫星图像都无法捕捉地面信息，好消息是，合成孔径雷达，SyntheticApertureRadar，SAR，图像可以穿透云层，但是需要经过专门培训的人员来对其图像进行解读，如能将这项繁琐的任务自动化，便可以实现实时动态观察，而目前基于典型RGB图像开发的计算机视觉方法尚不能很...。
夏天紫外线强烈，每次出门，我们都会全副武装，防晒霜、防晒衣、太阳伞一应俱全，恨不得把自己包裹得严严实实，紫外线都认不出来，然而，有一个非常重要的部位却常常被忽视，那就是我们的眼睛，华为智能眼镜2方框太阳镜的上市，正好迎合了这一需求，将智能科技与时尚设计完美结合，打造出一款在防晒与智能体验上都表现出色的产品，下面，我们将详细解析这款产品...。
*激光雷达，眼中，的世界雷锋网按，2016年即将结束，当我们回望这一年，无论艰难还是幸运，这年仿佛过得飞快，2016影响因子，是雷锋网在高速运转的科技行当里，在不断发生和被人忘记的事件中，试图在各个领域筛选出那些我们认为可能对当下和未来产生深远影响的因素，2016影响因子，就是2016年值得记录的人、事、公司和技术，如果你有朝一日看...。
亲爱的楼主很高兴回答您的问题爱主要是看你怎么去对待它了，平平淡淡的爱才是真，在爱上一个人的时候，就不要去计较爱情的浪漫和很多种的爱情方式，这个每个人的去爱的方式不同，不要不知足，太贪心了，会失去难得的真爱，有人说爱情是不会长久的，我认为是错误的，爱情有长久的时候，因为你没有做到保护真爱的时候，才会导致爱情是短暂的，会认为不会长久的爱一...。
作为环球顶级豪车品牌之一，劳斯莱斯不时以来都是奢侈、鄙俗、气度的代名词，而其中的劳斯莱斯幻影更是尤为令人美化，它将奢侈和功能完美的联合在了一同，是真正的质量之选，然而，假设你想领有一辆劳斯莱斯幻影，你须要付出多少钱呢，首先，你须要明白一点，劳斯莱斯幻影有多款车型，每一款的多少钱都不相反，第一款是劳斯莱斯幻影轿跑车型，它的起售价在3，9...。
劳斯莱斯幻影星空顶售价一千多万1星空顶全新2018款劳斯莱斯幻影延长版，4门4座版本67T，V12，571匹马力，8速手自一体，双涡轮增压，长*宽*高5990*2018*1656，轴距整车4年不限公里质保及爱护彩色车身彰显，劳斯莱斯，幻影，，67L，售价618万，是国际所售最廉价的劳斯莱斯，幻影，67L延长版，售价718万，幻影，软顶...。
详细步骤如下，1、关上阅读器搜查，微信，，找到有官方标识的点击进入，3bf33a87eaeea83bfb5f43fbf2b3118b73target=，blanktitle=点击检查大图class=ikqb，img，alink>，3bf33a87eaeea83bfb5f43fbf2b3118b73?x，bce，proces...。
从中关村到望京SOHO坐专车需要64.4元，呼叫出租车需要45.7元，预约顺风车主需要26元，买商务巴士12元，地铁四元换乘一次、步行1000米、没有直达，这一年，出租车司机们的怨声载道，没有阻挡各类变革出行方式的互联网创业公司成为资本的宠儿，一年前的今天，在滴滴和快的烧钱大战令人瞠目结舌的时候，并没有人会想到，如今五花八门的顺风车主...。
雷锋网AI科技评论按，DeepMind提出的WaveNet是目前顶级的语音生成模型，论文最初于2016年9月发表，雷锋网AI科技评论也立即跟进报道DeepMind发布原始音频波形深度生成模型WaveNet，WaveNet抛弃了以往通过声学模型拼接语音音素的做法，完全通过深度神经网络生成原始音频波形，并且大幅提高了语音生成质量，今年10...。
如今，人工智能早已不再是停留在实验室里的研究，而是渐渐渗透到生活的各方面，普通市民也可感知到人工智能技术带来的改变，无论是机场、火车站的刷脸进站，还是语音识别输入文字，亦或是医疗行业中的AI辅助诊断，都获得了资本的青睐，目前，我国部署人工智能发展的政策重点正向着人工智能商业化发展转移，2017年7月8日，国务院印发了，新一代人工智能发...。
上周在旧金山举行的2019英特尔人工智能峰会上，IntelAISUMMIT2019，，英特尔公司副总裁兼人工智能产品事业部总经理NaveenRao表示今年英特尔的AI收入预计将达到35亿美元，约为245亿元，这个数据有两方面的意义，一方面是英特尔2017年的AI收入为10亿美元，2019年的AI收入如果符合预期意味着英特尔的AI营收...。
独家获悉，原微软搜索和人工智能平台工程副总裁汪军华，已在近期加入阿里云，接任此前由贾扬清负责的计算平台事业部，据悉，汪军华本科毕业于中科大，后赴纽约大学攻读计算机硕士，汪军华加入微软搜索和人工智能平台部后，开发和创新了团队所需要的各项平台服务，包括倒排搜索引擎、相关性排序引擎、实时推荐系统、PB级实时存储系统等，另外，他还帮助微...。
