谷歌大脑撰文解析 神经网络如何自行设计神经架构 AutoML (谷歌大脑项目)
在 Google I/O 大会上，谷歌公布了最新的机器学习算法——AutoML，随即，Quoc Le 与 Barret Aoph 大神在 Google ReseARCh Blog 上发布了一篇名为《采用机器学习探索神经网络架构》的文章。雷锋网进行了编译，并做了不改动原意的编辑和修改。
「在谷歌团队，我们成功地将深度学习模型应用于非常多的领域，从图像识别、语音识别到机器翻译等等。自然，这些工作离不开一整支工程师与科学家团队的努力。人工设计机器学习模型的过程实际上绝非坦途，因为所有可能组合模型背后的搜索空间非常庞大——一个典型的十层神经网络可能有~10种可能的神经网络组合。问题也接踵而至，为了应对这样庞大的数量级，神经网络的设计不仅耗时，而且需要机器学习专家们累积大量的经验。」
如图是 GoogleNet 的架构。神经网络的设计需要从最初的卷积架构开始，进行多年的细心调试
为了让机器学习模型的设计变得更加简单，谷歌团队一直希望能让这一过程自动化。此前谷歌也有做不少尝试，包括 evolutionary algorithms 与 reinforcement learning algorithms 等算法已经呈现了比较好的结果。而 Quoc Le 与 Barret Zoph 在此文中所展现的，是谷歌大脑团队目前在强化学习上得到的一些尝试与早期结果。
在团队一个名为「AutoML」的项目中（如图所示），左边有一个名为「控制器」（the controller）的 RNN，它设计出一个「child」的模型架构（雷锋网觉得可以称之为「雏形/子架构」），而后者能够通过某些特定任务进行训练与评估。随后，反馈的结果（feedback）得以返回到控制器中，并在下一次循环中提升它的训练设定。这一过程重复上千次——生成新的架构、测试、再把反馈输送给控制器再次学习。最终，控制器会倾向于设计那些在数据集中能获得更高准确性的架构，而反之亦然。
谷歌团队将这一方法应用于深度学习的两大数据集中，专注图像识别的 CIFAR-10 与语言建模的 Penn Treebank。在两个数据集上，系统自行设计的模型性能表现与目前机器学习专家所设计的领先模型不相上下（有些模型甚至还是谷歌成员自己设计的！）。
猜猜哪个是人类设计的神经网络架构，哪个是机器设计的？
让机器自行选择架构（machine-chosen architecture），与人类在设计神经网络的时候有一些共通之处，比如都采用了合并输入，并借鉴了此前的隐藏层。但其中也有一些亮点，比如机器选择的架构包含乘法组合 ( multiplicative combination)，如右图最左边（机器设计）的蓝色标签为「elem_mult」。对于循环神经网络而言，出现组合的情况并不多见，可能因为人类研究者并没有发现明显的优势。有意思的地方在于，此前人类设计者也提议过机器采用的乘法组合，认为这种方法能够有效缓解梯度消失/爆炸问题。这也就意味着，机器选择的架构能够对发现新的神经架构大有裨益。
此外，机器还能教会人类为何某些神经网络的运行效果比较好。上图右边的架构有非常多的渠道，梯度可以向后流动，这也解释了为何 LSTM RNNs 的表现比标准 RNN 的性能要好。
「从长远看来，我们对于机器所设计的架构进行深入的分析和测试，这能够帮助我们重新定义原本自身对架构的看法。如果我们成功，这意味着将会启发新的神经网络的诞生，也能让一些非专家研究人员根据自己的需要创造神经网络，让机器学习造福每一个人。」
参考文献：
[1] Large-SCAle Evolution of Image Classifiers ,Esteban Real, Sherry Moore, Andrew Selle, Saurabh Saxena, Yutaka Leon Suematsu, Quoc Le, Alex Kurakin. International Conference on Machine Learning, 2017.
[2] Neural Architecture Search with Reinforcement Learning ,Barret Zoph, Quoc V. Le. International Conference on Learning Representations, 2017.
via research.googleblog ，雷锋网编译
版权文章，未经授权禁止转载。详情见 转载须知 。
相舆科技(上海)有限公司耗时6年研发了艾宝沃XPOWER智能电力系统，为居家和商业空间提供智能插座，移动插座，电力轨道插座等一站式智能用电解决方案，并成为了苹果、迪士尼、万科、绿地集团等多家全球500强企业商业空间智能电力标配服务商。全国招商热线：400-820-6930
湖北岱骏机械设备有限公司主营食品微波烘干杀菌,化工微波加热烘干,乳胶微波烘干杀菌,陶瓷微波烘干定型,盒饭微波加热灭菌,茶叶花卉杀青烘干,五谷杂粮微波熟化,医药行业微波设备,宠物食品烘干杀菌,昆虫微波干燥杀菌,农副菌类烘干杀虫,纸制品微波烘干机,竹木微波烘干杀菌等
卓越考研是一家全日制考研集训辅导机构，唯一拥有自建集训校园的辅导班，按照基础分班定制教学，核心师资都是名校副教授以上名师，学习2个月内不满意无条件退费。
苏银信用管理中心|苏银企服|不良记录下架|解除限高|法律案件删除|征信修复|行政处罚解除|行政处罚下架|司法案件删除|裁判文书下架
雅韩视|Airhans|电动牙刷|吸奶器|无线充电|医疗设备|MCU开发|单片机开发|蓝牙2.4G|加热设备|加湿器|PLCC控制器|成人用品电路设计|消费类电子PCBA|
常熟市飞奥压力容器制造有限公司
广东力华感应设备有限公司21年专注感应加热设备生产和研发的高新技术生产厂家,21年致力于感应加热设备,高频焊机,淬火机床,熔炼炉,锻造加热炉,高频钎焊机,热处理退火设备,钎焊设备,自动化钎焊设备,高频焊接设备,高频钎焊设备等设备,人工操作1小时,机器只要2分钟,污染,节能环保,生产效率高!
仿盛趣123，最专业的仿盛趣传奇版本发布网，每日多达上百条仿盛趣热血传奇信息查询，玩传奇就玩仿盛趣版本
春霖是一家享誉国内外的超声波清洗机厂家，定位中高端，种类齐全，包括小型、单槽、双槽、多槽、全自动超声波清洗机、碳氢超声波清洗设备等，热线：13825295010
ZEAO展奥公关(021-56208016)专注于“高端公关活动策划上海年会策划,直播年会,上海活动公司,庆典活动,上海发布会策划,上海线上年会活动,上海答谢会策划,直播年会策划,直播发布会和品牌推广活动策划”的沪上知名公关公司，深入研究“高端公关活动策划、创意、执行、推广多年，有丰富的经验、运营方略与各种体验营销渠道相结合。我们致力于为您打造精准的品牌及产品推广及活动策划方略。
北方亚事资产评估有限责任公司
易房大师是免费试用的房产中介管理软件，为您提供功能强大的房产中介管理系统，易房大师为您提供的管理软件涵盖PC电脑、网站、手机、平板和微信服务,是业内第一家基于云服务的房产中介管理软件，是功能最全面、服务最及时、性价比最高的房产中介软件服务商。
Shopee似乎依旧没走出去年业务大调整的阴影，近日随着Shopee母公司Sea的财报公布，Shopee的营收虽然大涨36%，可市场依旧对其数字上的增长持保守态度，Sea的股价也随之下跌17%，而越传越盛的，ShopeeCEO冯陟旻即将离职，的传言，很有可能会将其卷入下一场风暴，冯陟旻是去是留，让时间说话前段时间，，ShopeeCEO...。
虽然我们糊状的大脑似乎与计算机处理器中的芯片大相径庭，但科学家对两者的比较已经有很长的历史，正如阿兰·图灵在1952年所说，我们对大脑像冷粥一样的稠度不感兴趣，也就是说，媒介并不重要，重要的是计算能力，如今，最强大的人工智能系统使用基于深度学习的机器学习方法，该算法通过调整大量的数据隐藏层相互连接的节点来拟合数据，这些节点形成的网...。
发表在专业问答2021，10，2615，46展示机型信息，品牌型号，当贝X3、iPhone13、ThinkPadX1系统版本，当贝OS2.0、iOS15、win10软件版本，乐播投屏8.4.78投影仪投屏主要是连接手机投屏和连接电脑投屏，手机可以通过无线的方式投屏，电脑需要使用HDMI连接，下面是具体的操作方法，投影仪投屏怎么用一、连...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
十二生肖属鼠的人可以说和老鼠的性情差不多，在他的环球里必需是进门看眼色，是一个十分敏感的生肖属相，上方是我分享的，一同来看看吧，属鼠的兽性情与命运属鼠的人容易相处，上班致力，生活节省，除非他十分青睐的人，他是不会小气解囊的，所以，假设你从他那里获取一件珍贵礼物，那么，他对你的评估必定相当高，但是虽然他会一丝不苟，并以此来炫耀，但他从不...。
爱奇艺下载视频的方法为，1、关上，爱奇艺，客户端——选用须要下载的视频2、点击页面右下角，缓存，3、选用下载视频的明晰度4、点击下载视频的具体内容即可，好受揭示，更多爱奇艺视频经常使用疑问，可以拨打爱奇艺官方客服咨询，怎样下载爱奇艺国内版，iQIYI要下载爱奇艺国内版，iQIYIInternationalApp，到苹果设施上，理论可以...。
荣威W5的百公里平均油耗为14.1升，作为上海汽车的首款SUV车型，荣威W5是中国首款自主品牌的中上流SUV，其产品定位为，跨畛域专业SUV，该车领有P，4WD专业级全形式驱动系统和HFA高强度越野型车体结构，非承载式车身，，在越野性能上体现杰出，为了降落油耗，咱们可以采取以下措施，首先，正确调整轮胎充气压力，合乎需要的轮胎气压可以...。
豪沃自装车好值得买，依据查问关系地下消息显示，豪沃自装车载才干强，最大载重量高，车身结构稳如泰山，能够接受重负荷，能源微弱，搭载的发起机功率高，能够保障良好的能源性能，豪沃380自装车卧铺尺寸豪沃380自装车卧铺尺寸为长2000毫米、宽600毫米，豪沃380自装车是一款大型的商用车辆，其规范卧铺尺寸为长2000毫米、宽600毫米，该车...。
1、日文写做，御姉，おねえ，，本意是对姐姐的敬称，这里引申为成熟的强势女性，除此之外还有姉御，あねご，和姉贵，あねき，的说法，这两种称说相似汉语中的大姐，经常出如今黑道题材的作品中，其中的，姉御，一词曾经在MGS2中被引申为女王之意，2、年龄划分大略可以从20－36，低于20却能出现出强势姿态的女性可以称为，有御姐资质，这个年龄范围...。
驱动精灵无线网卡驱动是一款非常专业的驱动管理和维护工具。它为用户提供驱动备份、恢复、安装、删除、在线更新等实用功能
腾讯软件中心提拱海量免费软件安全下载，全部软件都已经过安全杀毒检测。手机、电脑客户端版应用软件大全，最新最快速的软件下载中心。
中国咖啡内卷，瑞幸笑了，星巴克被逼疯了,社会,星巴克,瑞幸,咖啡馆,中国咖啡,拿铁,咖啡
沈姐的浪漫季节加盟店在湖南益阳一个乡镇，店铺面积有40平米左右，4月1号店铺做了促销活动，场面不错，活动业绩达到6749元，虽然当地的消费水平不是特别高，但是人流量比较大，进店的客人也非常多，店铺里的冬款全部六折低价，很多错过冬款的客户进店后直接成交，不到半天店铺冬款就被抢购一空，全场新款产品实行折上折的优惠政策，一件8折，两件7折，...。
新能源汽车是当下很多人购买的选择，近年来国内的新能源汽车市场发展规模巨大，很多出色的汽车品牌在该领域获得了消费者的认可，随着新能源汽车的不断普及，新能源充电站的市场发展需求不断增加，在很多城市地区都有着专业的充电站项目经营，选择充电站项目进行加盟经营发展是不错的想法，在业内有着很多出色的项目火热经营而且面向诸多的加盟商合作发展，那么，...。
消息，GPU明星初创公司壁仞科技，选在公司创立即将三年之际正式发布首款通用GPU芯片BR100，BR100采用7nm工艺，集成770亿晶体管，使用Chiplet，芯粒，技术，2.5DCoWos封装技术，芯片面积达到1000平方毫米，BR100通用GPU16位浮点算力达到1000T以上、8位定点算力达到2000T以上，单芯片峰值算...。
抖音短视频可以说是大家现在社交的主流软件之一了，拥有诸多功能和优质内容，大家不仅能在这里学习各种知识，同时还能在这里观看各种达人的视频来打发时间，那么抖音达人所属mcn公司怎么查看呢?下面小编就为大家带来详细介绍，感兴趣的朋友快来看看吧，...。
近日，17岁中专在读女生姜萍以排名第12位的预赛效果，爆冷，闯入世界数学竞赛决赛，17岁、中专生、服装设计专业……姜萍被网友惊呼为，天赋少女，据媒体报道，姜萍来自江苏涟水中等专业学校的服装设计专业，她花了两年自学初等数学，是这项世界数学竞赛举行以来首位闯进决赛的中专在读生，也是前30名里惟一的女生，与她并肩进入决赛的参赛者，多来自北...。
