深度 究竟怎么理解 深度学习中的 (深度意思是什么)
雷锋网按：本文原作者，本文原载于其知乎专栏—— 超智能体 。雷锋网已获得原作者授权。
为了研究神经网络，我们必须要对什么网络是什么有一个更直观的认识。
神经网络是由一层一层构建的，那么每层究竟在做什么？
现在我们知道了每一层的行为，但这种行为又是如何完成识别任务的呢？
神经网络的解决方法依旧是转换到另外一个空间下，用的是所说的 5 种空间变换操作 。比如下图就是经过放大、平移、旋转、扭曲原二维空间后，在三维空间下就可以成功找到一个超平面分割红蓝两线 (同 SVM 的思路一样)。
上面是一层神经网络可以做到的，如果把 当做新的输入再次用这 5 种操作进行第二遍空间变换的话，网络也就变为了二层。最终输出是 。 设想网络拥有很多层时，对原始输入空间的 “扭曲力” 会大幅增加，如下图，最终我们可以轻松找到一个超平面分割空间。
当然也有如下图失败的时候，关键在于 “如何扭曲空间”。所谓监督学习就是给予神经网络网络大量的训练例子，让网络从训练例子中学会如何变换空间。每一层的权重 W 就控制着如何变换空间，我们最终需要的也就是训练好的神经网络的所有层的权重矩阵。
这里有非常棒的 可视化空间变换 demo ，一定要打开尝试并感受这种扭曲过程。更多内容请看 Neural Networks, Manifolds, and TOPology 。
知道了神经网络的学习过程就是学习控制着空间变换方式（物质组成方式）的 权重矩阵 后，接下来的问题就是如何学习每一层的权重矩阵 。
既然我们希望网络的输出尽可能的接近真正想要预测的值。那么就可以通过 比较 当前网络的 预测值 和我们真正想要的 目标值 ，再根据两者的差异情况来更新每一层的权重矩阵（比如，如果网络的预测值高了，就调整权重让它预测低一些，不断调整，直到能够预测出目标值）。因此就需要先 定义 “如何比较 预测值和目标值的 差异 ”，这便是 损失函数 或 目标函数（loss function or objectIve function） ，用于衡量预测值和目标值的差异的方程。loss function 的输出值（loss）越高表示差异性越大。那神经网络的训练就变成了尽可能的缩小 loss 的过程。 所用的方法是 梯度下降（Gradient descent） ：通过使 loss 值向当前点对应梯度的反方向不断移动，来降低 loss。一次移动多少是由 学习速率（learning rate） 来控制的。
然而使用梯度下降训练神经网络拥有两个主要难题。
梯度下降寻找的是 loss function 的局部极小值，而我们想要全局最小值。如下图所示，我们希望 loss 值可以降低到右侧深蓝色的最低点，但 loss 有可能 “卡” 在左侧的局部极小值中。
试图解决 “卡在局部极小值” 问题的方法分两大类：
机器学习所处理的数据都是高维数据，该 如何快速计算梯度 、而不是以年来计算。 其次如何更新 隐藏层 的权重？ 解决方法是：计算图： 反向传播算法 这里的解释留给非常棒的 Computational Graphs: BackPROpagation 需要知道的是， 反向传播算法是求梯度的一种方法 。如同快速傅里叶变换（FFT）的贡献。 而计算图的概念又使梯度的计算更加合理方便。
下面就结合图简单浏览一下训练和识别过程，并描述各个部分的作用。要 结合图解阅读以下内容。但手机显示的图过小，最好用电脑打开。
注：此部分内容 不是 这篇文章的 重点 ，但为了理解 深层 神经网络，需要明白最基本的训练过程。 若能理解训练过程是通过梯度下降尽可能缩小 loss 的过程即可。 若有理解障碍，可以用 python 实践一下 从零开始训练一个神经网络 ，体会整个训练过程。若有时间则可以再体会一下计算图自动求梯度的方便 利用 TensorFlow 。
理解 5 种空间操作和物质组成视角
打开网页后，总体来说，蓝色代表正值，黄色代表负值。拿 分类 任务来分析。
上图中所有在黄色背景颜色的点都会被分类为 “黄点 “，同理，蓝色区域被分成蓝点。在上面的分类分布图中你可以看到每一层通过上一层信息的组合所形成的。权重（那些连接线）控制了 “如何组合”。神经网络的学习也就是从数据中学习那些权重。Tensorflow playground 所表现出来的现象就是 “在我文章里所写的 “物质组成思想”，这也是为什么我把 Tensorflow playground 放在了那一部分。
不过你要是把 Tensorflow 的个名字拆开来看的话，是 tensor（张量）的 flow（流动）。Tensorflow playground 的作者想要阐述的侧重点是 “ 张量如何流动 ” 的。
5 种空间变换的理解：
Tensorflow playground 下没有体现 5 种空间变换的理解。需要打开这个网站尝试：
ConvNetJS demo: Classify toy 2D>
左侧是原始输入空间下的分类图，右侧是转换后的高维空间下的扭曲图。
最终的扭曲效果是所有绿点都被扭曲到了一侧，而所有红点都被扭曲到了另一侧。这样就可以线性分割（用超平面（这里是一个平面）在中间分开两类）
文章的最后稍微提一下深层神经网络。深层神经网络就是拥有更多层数的神经网络。
按照上文在理解视角中所述的观点，可以想出下面两条理由关于为什么更深的网络会更加容易识别，增加容纳变异体（variation）（红苹果、绿苹果）的能力、鲁棒性（robust）。
数学视角： 变异体（variation）很多的分类的任务需要高度非线性的分割曲线。不断的利用那 5 种空间变换操作将原始输入空间像 “捏橡皮泥一样” 在高维空间下捏成更为线性可分 / 稀疏的形状。
物理视角： 通过对 “ 抽象概念 ” 的判断来识别物体，而非细节。比如对 “飞机” 的判断，即便人类自己也无法用语言或者若干条规则来解释自己如何判断一个飞机。因为人脑中真正判断的不是是否 “有机翼”、“能飞行” 等细节现象，而是一个抽象概念。层数越深，这种概念就越抽象，所能 涵盖的变异体 就越多，就可以容纳战斗机，客机等很多种不同种类的飞机。
版权文章，未经授权禁止转载。详情见 转载须知 。
【微顶跑腿】,vivo应用商店
厦门市阵风企业管理咨询有限公司专业从事厦门iso认证,厦门iso9000认证,福建验厂公司，主要在福建福州、厦门、漳州、莆田等地经营验厂,认证,咨询,CQC,生态纺织。服务热线：13074802735
公司主要负责成果转化和产业化生产。现具备满足项目成功实施及各项橡塑材料生产的基本条件，包括：研发、工业化生产及材料和产品性能检测的仪器设备。公司技术服务于本地区橡塑产业企业以及东北三省周边等企业。
比兔礼品代发_真实物流，快递官网可查，全国多仓可选，一键发货，可提供快递面单
安徽鑫铭能源配件有限公司【官网】
北京云巢联讯科技有限公司是一家国内的私有云解决方案提供商，专注于私有云基础桌面云产品的研发和服务。
太原报废车回收太原报废车回收公司 小店区报废车、尖草坪区报废车、杏花岭区报废车、万柏林区报废车、迎泽区报废车、晋源区报废车、清徐报废车、古交报废车、等太原周边地区报废车回收，一站式服务 太原报废汽车回收，太原汽车回收，太原报废汽车回收价格，太原新能源汽车回收，山西报废汽车回收，山西报废车回收拆解，太原报废车回收拆解
厦门欣丽图标饰有限公司位于集中工业区湖里园83栋3楼，自成立以来，专注于印刷行业。公司重视设备改造与技术创新，引进国际先进水平的印刷设备和技术，全面推动绿色环保印刷。
长葛市久诺机械制造有限公司是一家生产销售调直框的公司,欢迎咨询调直框相关问题。
三藏算命网是网上免费算命最准的网站，提供生辰八字算命、在线称骨算命、免费姓名配对测试、免费在线起名字、号码吉凶查询、每日运势运程、在线抽籤占卜、姓名测试打分、免费测字算命、周公解梦查询、四柱八字五行查询等数百项最准的网上算命服务。
墨语闻香起名网为您的孩子提供专业的起名参考，从古老的诗经等古籍中汲取智慧，通过五行八字起名用字，百家姓起名用字，为新生宝宝和公司店铺起名提供好听满意的的名字，助力人生美满。
年，公司开始与西南大学开展，产学研，深度合作研发火锅底料，三代八旺人，呕心沥血，孜孜以求，砥砺前行，年风雨历程，变化的是不断优化、创立和总结，不变的是年老工艺、老味道、老品牌，我们始终坚持采用原材料，纯手工炒制火锅底料，不使用添加剂，创立采用现场炒锅底料，深受顾客的喜爱追捧和一致好评，...。
2021年12月15日，京师通，学霸养成计划，项目说明会于中关村互联网教育中心圆满举办！本次说明会共有来自山东、西安、贵州等多个城市的20多位嘉宾参会，会议中，京师通总经理黄天鹏给嘉宾做了分享，黄总从大环境做了分析，并对学霸产品进行了深度的剖析，学霸养成计划，套装，北师大杨娟教授团队研发，为12，18岁中学生提供的一站式学习解决方案...。
当数字化技术深度融入儿童成长的世界，一场关于儿童阅读指导的革新正悄然兴起，在书果星球总部持续升级数字化技术扶持的大背景下，浙江余姚书果星球儿童阅读加盟店积极探索、革新，携手新华书店，在余姚书城、五一书屋推出，文字为灯，拾级而登，阅读作品系列展，展示门店孩子们的阅读成果，吸引了当地家长和孩子以及社会读者驻足观看，同时借助数字化支持，实现...。
很多人关心书果星球阅读加盟怎么样，今天，我们从四个方面了解书果星球的核心产品——儿童读书会，书果星球儿童阅读馆，十余年来专注为3，14岁儿童提供阅读服务和指导，以借阅，读书会，研学营等产品，引导孩子读好书、爱读书、多读书、深度读，让，阅读不止于看书，1、读好书书果星球教研团队精选1000，本好书，融合8级儿童读物和9级儿童阅读能力分...。
在天命传奇这款游戏中，玩家可以通过招募和培养各种武将来增强自己的实力，不同的武将拥有各自独特的技能和特点，选择合适的武将对于游戏的进程至关重要，以下是根据玩家们的喜爱和实战效果总结出的一些基本武将推荐，希望能帮助你在游戏中更好地发展，1.龙魂战士，赵云赵云是天命传奇中非常受欢迎的一名武将，他不仅拥有帅气的外表，更重要的是他的技能龙魂斩...。
字幕组双语原文，精读，Transformer模型深度解读英语原文，TheAnnotatedTransformerfromIPython.displayimportImageImage，filename=images，aiayn.png，在过去的一年里，，注意力就是你所需要的，中的Transformer被很多人所关注，除了在翻译质量上...。
雷锋网AI开发者讯，日前，神经信息处理系统大会，NeurIPS2019，于12月8日至14日在加拿大温哥华举行，中国科学院自动化研究所及其南京人工智能芯片创新研究院联合团队在本次大会的神经网络压缩与加速竞赛，MicroNetChallenge，中获得双料冠军！以模型压缩和加速为代表的深度学习计算优化技术是近几年学术界和工业界最为关注的...。
雷锋网AI科技评论按，对于机器学习而言，区分异常数据或有显著差异数据至关重要，谷歌在NeurIPS2019论文中提出并发布了针对基因组序列OOD检测的现实基准数据集，进而提出一种基于似然比的解决方案，可显著提高OOD检测的准确性，AI科技评论将谷歌对该方法的官方解读编译如下，深度学习科学家要成功部署机器学习系统，需要系统能够区分出异常...。
雷锋网AI科技评论按，本文来自德国Fraunhofer协会IAIS研究所的研究科学家MichaelGalkin，他的研究课题主要是把知识图结合到对话AI中，雷锋网AI科技评论全文编译如下，必须承认，图的机器学习，MachineLearningonGraphs，已经成为各大AI顶会的热门话题，NeurIPS当然也不会例外，在NeurIP...。
苹果知名供应商，今年iPhone8将出货3D镜头雷锋网消息，据日媒报道，知名苹果供应商大立光电近日宣布其正积极为下半年3D深度感测镜头的出货做积极准备，业界普遍认为，该摄像头组件是为了iPhone8而准备，这个特殊的传感器利用RGB摄像头传感器和红外激光计算面前的物体或者人物的空间深度映射，将会让手机实现面部识别功能，用户可以通过瞥一...。
语音播放文章内容由深声科技提供技术支持您的浏览器不支持audio元素，雷锋网AI科技评论按，在过去的两三年中，我们经常听说人工智能在棋牌类游戏，博弈，中取得新的成果，比如基于深度强化学习的AlphaGo击败了人类世界冠军，由AlphaGo进化而来的AlphaZero还一并搞定了国际象棋和日本象棋；基于博弈论的冷扑大师，Libratus...。
8月10日至16日，IJCAI2019在中国澳门隆重召开，经过3天Workshop和Tutorial的前期预热和酝酿，8月13日，IJCAI大会正会终于迎来万众期待的开幕式，AI科技评论在现场为大家带来全程报道，IJCAI50周年与中国人工智能40周年首位为大会开幕式致辞的是今年IJCAI的大会主席ThomasEiter，一句，欢迎，...。
习惯在针尖上跳舞的合肥君正，在萌芽之时就认识到AI的重要性，2014年前后，视频芯片市场已有众多厂商，且大多鏖战成像和传输，彼时的君正意识到，用模仿的方式硬生生地去打这个市场难以出头且毫无价值，而AI将成为下一战场的关键，从那时起，AI与算法部门成为君正最早的技术部门之一，7年白驹过隙，那些或深或浅的脚印现已踏出一条康庄大道，最近，君...。
歼，歼，英文名，J，，是由中国航空工业团体沈阳飞机设计钻研所研制、中国航空工业团体沈阳飞机工业，团体，有限公司消费的新一代隐...中国国内航空航天博览会中国国内航空航天博览会，简称中国，珠海，航展或珠海航展，由中央政府同意举行，是国内性专业航空航天展览，以实物展现、贸易洽谈、学术......。
七月2日从小红书直播间，北北带您玩翡翠，购置翡翠镶嵌戒指，花了5500元，曾经是镶嵌好的成品，直播时说的戒面种水很好抵达冰种，戒托是镶钻的，收到货，戒指外部结构和他们画面里出现齐全不一样，都是棉团不通透，直播间灯打在翡翠下面，直播间画面基本看不进去外部结构和瑕疵，还发现外表有瑕疵，发给他们视频和图片都不抵赖，不时说是色带，但我能摸到是...。
[全球时报，全球网报道记者邢晓婧]10日，外交部发言人林剑掌管例行记者会，路透社记者提问称，近日有报道称中国首艘国产航母山东舰现身南海，菲律宾政府对此表示关切，中方对此有何回应，林剑回应称，，我不了解你提到的详细状况，倡导向主管部门征询，关系资讯山东舰编队现身岛链外，太平洋上起降舰载机，观察者网，[文观察者网山猫]日本防守省统合幕僚...。
吉普车的状况是，应该指名为JEEPLiberty的车，中文是吉普车自在人，是JEEP旗下的SUV，这辆车像名字一样充溢了自在英勇的原野的激情，JEEP品牌旗下产生了名为Liberty的车型，该车的设计理念和实践性能与切诺基车系的创立用意齐全相反，这辆车是第三代切诺基，在北美市场，杰夫用自在人的名字替代切诺基，北美以外的地域依然经常使用...。
