算法 我不同意 Marcus ML LeCun称梯度下降是最优雅的 (算法不准)
吵完架的Gary Marcus，又双叒叕跟人吵起来了，这次的吵架对象是yann LeCun。
一向喜欢给深度学习泼冷水的Marcus，在今天发帖谈了谈与LeCun的「旧账」和「新仇」，并给了LeCun一个白眼：
几天前，有人在推特上发帖问: 在机器学习中，最优雅美丽的idea是什么？ 感觉数学家和物理学家经常谈论美学，但我们却很少，为什么？
于是网友们都来认真答题：多重权重更新算法（multiplicative weights update）、核技巧（kernel trick）、降维（dimension reduction）、一些凸优化方法（convex opTimization）、变分推理（variational inference）、熵和信息论等等。
大家还就机器学习研究的美学性讨论了起来。有人认为，机器学习理论家其实也在谈论优雅这个东西，尤其是那些具有理论计算机背景或者传统物理学背景的人。也有人言语犀利：之所以很少有人谈论美学，是因为机器学习重在应用，而不是像纯粹数学那样「毫无价值」。
谷歌大脑的研究员Chris Olah也来转贴评论说：
LeCun在1989年发表的那篇论文，就是通过使用梯度下降的方法训练了CNN进行图像识别，梯度下降后来成为计算机视觉研究的基础理论。
LeCun还回忆了2000年丹佛NIPS会议上的一次经历。当时一位非常杰出的ML研究人员在晚宴上问道：「我们在ML中学到的最重要的东西是什么？」LeCun回答说：「梯度下降」。当时那位研究人员脸上目瞪口呆的表情表明他对这个回答嗤之以鼻。
那么，「梯度下降」是最优雅的ML算法吗？有人赞成有人反对。
LeCun正忙着与网友进行友好交流，Marcus也来了。有讨论深度学习的地方，怎能没有我Marcus的身影？
LeCun一看：所以你的意思是要抛弃梯度下降了？？
2.未来会有什么方案可能替代基于梯度的优化？你是相信（a）无梯度优化不好？，还是（b）优化本身不好？
对此，Marcus表示很委屈：我的意思是DL需要「补充」，而不是「替换」！
Marcus还搬出发表于2018年的一篇文章“Deep Learning: A Critical Appraisal”作为证据：
但是，LeCun并不买账，他接着Marcus的话回复：
那就来翻翻旧账，针对Marcus在2018年写的那篇文章，LeCun的确曾这样评论（虾仁猪心）：
到这儿大家也能看出来，二人讨论的对象和观点是有错位的。LeCun希望如果有新的方案，仍需要封装在DL下，而Marcus的意思是新的方案需要围绕着DL进行封装，前者是关于规模的扩展，后者则是一种混合和补充。
版权文章，未经授权禁止转载。详情见 转载须知 。
京东JD.COM-专业的综合网上购物商城，为您提供正品低价的购物选择、优质便捷的服务体验。商品来自全球数十万品牌商家，囊括家电、手机、电脑、服装、居家、母婴、美妆、个护、食品、生鲜等丰富品类，满足各种购物需求。
古田路9号网站(www.gtn9.com),国内专业品牌创意平台，以品牌为核心，集创意作品分享、活动招聘发布、广告推广、正版字体素材下载等多元化的交流分享平台。会员交流涉及：艺术创作、广告创意、交互设计、时尚文化等诸多创意产业。
这里有所有篇，爱吃肉的甜脑袋的菜谱和视频，以及所有的故事
空拍1号
陕西澳迪森智能家居有限公司是一家西安本土的家具定制加工厂家,采用榫卯结构(鲁班工艺)民用实木家具,新中式家具,全屋定制,酒店宾馆家具,办公家具等工程配套于一体的各种高端实木家具规模型现代化企业.
浙江西成防腐保温工程有限公司经营范围：石油化工、医药制药等企业的设备冷热保温、钢结构防腐、内墙防腐、污水池防腐、自流平地坪、埋地管道防腐、储油罐保温及防腐、储罐外壁隔热漆凉凉胶等工程施工。欢迎联系咨询合作！
廊坊市新汇聚机电设备公司冷切飞锯生产厂家,主营高频焊管设备.冷切锯设备厂专注冷切飞锯设备研发多年.推出冷切飞锯,高频焊管设备系列产品.冷锯品牌推荐.联系冷切飞锯生产厂家获取冷锯品牌推荐信息.
海口中学网站
营口鑫宇阳包装制品有限公司,辽宁降解塑料袋生产厂家,提供塑料包装袋,封口袋产品定制与批发,营口鑫宇阳包装制品有限公司主要生产手拎袋,封口袋,PE塑料袋,降解塑料袋,彩印包装袋,工业包装袋,塑料包装袋,食品包装袋,PE高低压连卷膜,降解购物袋,工业包装,垃圾袋,办公及学生用资料袋等。
六六六下载站提供了海量安卓软件app和手游下载，打造绿色实用的安卓应用市场。
浙江广汇金属材料有限公司是冷拉钢制造厂家,供应各类规格/材质(45#,a3,20号/cr,40cr,q235b,q345b)的冷拉扁钢,圆钢,方钢,异型钢,六角钢,目前年产量达6万吨,应用广泛。
湖北国芳化工机械有限公司主营产品有:丝网波纹填料,饱和器,聚结板,TP板,斜管填料,孔板波纹填料,丝网除沫器等,欢迎来电洽谈
好玩的迷宫游戏能够增加孩子们的思考能力以及对空间的逻辑思维能力，2024耐玩的儿童益智迷宫游戏在哪里，在豌豆荚游戏平台上面，大家就能够看到各式各样的益智迷宫类型的游戏，儿童在玩这些游戏的时候，可以选择不同的场景，因为不同场景下的迷宫是不一样的，然后认真且努力的思考如何才能够通关，1、，小章鱼智逃迷宫，在这款游戏里面是以小章鱼为主角，...。
从2016年起，Google在每年10月都会发布最新的Pixel智能手机机型，到目前为止已经推出了三代产品；不出意外的话，今年10月也会发布Pixel4系列，不过，与往年的情况相类似，在官方发布之前，关于新一代Pixel手机的传闻满天飞，而且可信度很高，这时候，Google官方坐不住了，直接在Twitter上公布了Pixel4真机图，...。
10月17日至19日，由中国计算机学会，CCF，主办、苏州工业园区管委会、苏州大学承办的2019中国计算机大会，CNCC2019，在秋意正浓的苏州如约而至，今年大会以，智能，引领社会发展，为主题，选址苏州金鸡湖国际会议中心召开，比之大会首日，今天会场的人口密集度又增加了不少，雷锋网AI科技评论将会作为战略合作媒体进行全程跟踪报道，随着...。
高效灵活的云上基础设施，是大模型创业的必要底座，7月20日，腾讯云对外披露助力MiniMax研发大模型的最新进展，目前，腾讯云长期支持MiniMax的千卡级任务稳定运行在腾讯云上，可用性达99.9%，MiniMax是一家专注通用大模型研发的独角兽创业企业，拥有文本、语音、视觉多种模态融合的通用大模型引擎能力，研发过程中，每日亿级的调用...。
5月18日，腾讯发布2022年第一季度业绩报告，其中，金融科技及企业服务，单季收入428亿元，占总营收32%，财报指出，腾讯ToB业务主动调整收入结构，放弃了部分亏损订单，同时，在视频云、网络安全等PaaS领域加大资源投入，去年此时的腾讯云与智慧事业产业群，CSIG，，正好完成新一轮战略调整，确定了深耕行业、深耕区域、提升效率三大方向...。
很多人都没有明白一个道理，BAT之所以称之为BAT，不是因为其规模，不是因为其营收，也不是因为其市值，更不是因为其利润，而是他们在各自的领域成为了公共基础设施，并以基础设施为根基，发展出了完整的生态，并且触手伸向了互联网的各个领域，什么叫互联网基础设施?你做电商就离不开阿里生态，你的业务只要涉及支付你就离不开支付宝和微信支付，你的信息...。
随着现在的经济快速发展，人们的生活品质和生活也在提高，外出旅游逐渐成为了一种时尚，在这种背景之下，机票旅游行业也得到了快速发展市场当中蕴含了商机，创业者应该要把握住这个机会，想创业的家人们可以开一家航空，来给大家介绍一个相当不错的品牌，比如，吉祥航空加盟，来了解一下，吉祥航空加盟怎么样，吉祥航空加盟具有前景，总部也比较关注市场动态，会...。
据也门胡塞武装控制的马西拉电视台报道，外地期间11月10日上午，美英联军对也门北部地域的胡塞武装指标启动了7次空袭，报道称，遭空袭的指标是也门首都萨那和也门北部阿姆兰省的军事基地，报道没有提就任何详细细节，美英联军暂未对这一信息启动回应，去年10月新一轮巴以抵触迸发以来，胡塞武装经常使用无人机和导弹袭击红海和亚丁湾水域指标，需要以色列...。
15年，小车报废期15年，对非营运轿车行驶年限的规则，同时将私家车报废行驶里程限度为60万公里，15年以上每年检两次，只需年检能过就能继续上路行驶，私家车报废年限是多少年私家车强迫报废年限的规则如下，假设私家车经常使用年限超越15年，但行驶里程未到达60万公里，车辆每年须要启动两次年检，假设年检不合格，将面临强迫报废的危险，但是，只需...。
随着短视频的流行，越来越多的人开始尝试在短视频平台上发布内容并赚钱。以下是一些可以发布短视频赚钱的十大平台：1.抖音：抖音是目前最受欢迎的短视频平台之一，拥有庞大的用户群体和广泛的覆盖范围。抖音提供
友基绘影ex07驱动是绘影ex07数位板的官方驱动程序，使用数位板必备的哦！本驱动可以运行各大操作系统，包括(XP/Vista/Win7/Win8)，新版本驱动增加和优化了部分功能，欢迎有需要的用户下载使用。友基绘影EX07介绍友基绘影EX07数位板驱动s1.40版本是友基科技于2014年
怎么查看Oracle数据库中的所有用户名 1、ALL_USERS：显示当前用户可以访问的所有数据库用户的信息。USER_USERS：显示当前用户拥有的数据库用户的信息。DBA_USERS：显示数据库中所有数据库用户的信息（仅供DBA访问
雷锋网AI科技评论按，ARCore是谷歌于去年2月份正式推出的增强现实，AR，软件开发工具包，给开发者提供了一个开发ARAPP的平台，不到一个月前，谷歌正式推出ARCore1.7版本，为其添加了前置摄像头AR自拍能力以及动画效果支持；而日前，谷歌又为其引入了机器学习技术，使其实时自拍AR的逼真效果更进一步，该技术相关的文章发布在谷歌A...。
作者简介，黄毅，本文一作，目前为罗氏集团的数据科学家，研究领域为自然语言处理的生物医学应用，摘要多标签文本分类是自然语言处理中的一类经典任务，训练模型为给定文本标记上不定数目的类别标签，然而实际应用时，各类别标签的训练数据量往往差异较大，不平衡分类问题，，甚至是长尾分布，影响了所获得模型的效果，重采样，Resampling，和重加权，...。
雷锋网消息，8月10号，NMPA发布官方通告，同时批准深圳硅基智能和Airdoc两家医疗AI公司的糖尿病视网膜，以下简称，糖网，病变辅助诊断软件的三类证注册，通告中还特意标注两款产品均为采用深度学习算法的眼科应用，国家药品监督管理局在公告中表示，深圳硅基智能科技有限公司产品由安装U盘组成，功能模块包括，糖尿病视网膜病变辅助诊断云端、...。
秦苍科技数据科学家沈赟，AI在消费金融产品优化以及风险控制中的应用，附PPT，视频，雷锋网公开课氪信资深数据科学家主讲，如何构建基于AI的金融风控系统，雷锋网公开课AI介入下，金融领域各应用环节可能发生怎样变革，雷锋网公开课数据驱动人工智能的实践，雷锋网公开课哈佛创业者讲述，比特币与区块链背后的真相，雷锋网公开课...。
代码说明，本页面的认证代码为网站联盟专用评测代码，站长需懂简单html知识，直接复制代码粘贴到联盟网站相应页面即可使用，本代码不适用于其他广告联盟网站请勿获取！文字认证，文字链接代码认证适用所有类型的广告联盟，复制代码后放在网站联盟网站首页底部或友情链接位置处，普通认证，普通联盟认证标志适用所有类型的广告联盟，能有效提升网站联盟的可信...。
