深度 究竟怎么理解 深度学习中的 (深度意思是什么)
雷锋网按：本文原作者，本文原载于其知乎专栏—— 超智能体 。雷锋网已获得原作者授权。
为了研究神经网络，我们必须要对什么网络是什么有一个更直观的认识。
神经网络是由一层一层构建的，那么每层究竟在做什么？
现在我们知道了每一层的行为，但这种行为又是如何完成识别任务的呢？
神经网络的解决方法依旧是转换到另外一个空间下，用的是所说的 5 种空间变换操作 。比如下图就是经过放大、平移、旋转、扭曲原二维空间后，在三维空间下就可以成功找到一个超平面分割红蓝两线 (同 SVM 的思路一样)。
上面是一层神经网络可以做到的，如果把 当做新的输入再次用这 5 种操作进行第二遍空间变换的话，网络也就变为了二层。最终输出是 。 设想网络拥有很多层时，对原始输入空间的 “扭曲力” 会大幅增加，如下图，最终我们可以轻松找到一个超平面分割空间。
当然也有如下图失败的时候，关键在于 “如何扭曲空间”。所谓监督学习就是给予神经网络网络大量的训练例子，让网络从训练例子中学会如何变换空间。每一层的权重 W 就控制着如何变换空间，我们最终需要的也就是训练好的神经网络的所有层的权重矩阵。
这里有非常棒的 可视化空间变换 demo ，一定要打开尝试并感受这种扭曲过程。更多内容请看 Neural Networks, Manifolds, and Topology 。
知道了神经网络的学习过程就是学习控制着空间变换方式（物质组成方式）的 权重矩阵 后，接下来的问题就是如何学习每一层的权重矩阵 。
既然我们希望网络的输出尽可能的接近真正想要预测的值。那么就可以通过 比较 当前网络的 预测值 和我们真正想要的 目标值 ，再根据两者的差异情况来更新每一层的权重矩阵（比如，如果网络的预测值高了，就调整权重让它预测低一些，不断调整，直到能够预测出目标值）。因此就需要先 定义 “如何比较 预测值和目标值的 差异 ”，这便是 损失函数 或 目标函数（loss function or objectIve function） ，用于衡量预测值和目标值的差异的方程。loss function 的输出值（loss）越高表示差异性越大。那神经网络的训练就变成了尽可能的缩小 loss 的过程。 所用的方法是 梯度下降（Gradient descent） ：通过使 loss 值向当前点对应梯度的反方向不断移动，来降低 loss。一次移动多少是由 学习速率（learning rate） 来控制的。
然而使用梯度下降训练神经网络拥有两个主要难题。
梯度下降寻找的是 loss function 的局部极小值，而我们想要全局最小值。如下图所示，我们希望 loss 值可以降低到右侧深蓝色的最低点，但 loss 有可能 “卡” 在左侧的局部极小值中。
试图解决 “卡在局部极小值” 问题的方法分两大类：
机器学习所处理的数据都是高维数据，该 如何快速计算梯度 、而不是以年来计算。 其次如何更新 隐藏层 的权重？ 解决方法是：计算图： 反向传播算法 这里的解释留给非常棒的 Computational Graphs: Backpropagation 需要知道的是， 反向传播算法是求梯度的一种方法 。如同快速傅里叶变换（FFT）的贡献。 而计算图的概念又使梯度的计算更加合理方便。
下面就结合图简单浏览一下训练和识别过程，并描述各个部分的作用。要 结合图解阅读以下内容。但手机显示的图过小，最好用电脑打开。
注：此部分内容 不是 这篇文章的 重点 ，但为了理解 深层 神经网络，需要明白最基本的训练过程。 若能理解训练过程是通过梯度下降尽可能缩小 loss 的过程即可。 若有理解障碍，可以用 python 实践一下 从零开始训练一个神经网络 ，体会整个训练过程。若有时间则可以再体会一下计算图自动求梯度的方便 利用 TensorFlow 。
理解 5 种空间操作和物质组成视角
打开网页后，总体来说，蓝色代表正值，黄色代表负值。拿 分类 任务来分析。
上图中所有在黄色背景颜色的点都会被分类为 “黄点 “，同理，蓝色区域被分成蓝点。在上面的分类分布图中你可以看到每一层通过上一层信息的组合所形成的。权重（那些连接线）控制了 “如何组合”。神经网络的学习也就是从数据中学习那些权重。Tensorflow playground 所表现出来的现象就是 “在我文章里所写的 “物质组成思想”，这也是为什么我把 Tensorflow playground 放在了那一部分。
不过你要是把 Tensorflow 的个名字拆开来看的话，是 tensor（张量）的 flow（流动）。Tensorflow playground 的作者想要阐述的侧重点是 “ 张量如何流动 ” 的。
5 种空间变换的理解：
Tensorflow playground 下没有体现 5 种空间变换的理解。需要打开这个网站尝试：
ConvNetJS demo: Classify toy 2D>
左侧是原始输入空间下的分类图，右侧是转换后的高维空间下的扭曲图。
最终的扭曲效果是所有绿点都被扭曲到了一侧，而所有红点都被扭曲到了另一侧。这样就可以线性分割（用超平面（这里是一个平面）在中间分开两类）
文章的最后稍微提一下深层神经网络。深层神经网络就是拥有更多层数的神经网络。
按照上文在理解视角中所述的观点，可以想出下面两条理由关于为什么更深的网络会更加容易识别，增加容纳变异体（variation）（红苹果、绿苹果）的能力、鲁棒性（robust）。
数学视角： 变异体（variation）很多的分类的任务需要高度非线性的分割曲线。不断的利用那 5 种空间变换操作将原始输入空间像 “捏橡皮泥一样” 在高维空间下捏成更为线性可分 / 稀疏的形状。
物理视角： 通过对 “ 抽象概念 ” 的判断来识别物体，而非细节。比如对 “飞机” 的判断，即便人类自己也无法用语言或者若干条规则来解释自己如何判断一个飞机。因为人脑中真正判断的不是是否 “有机翼”、“能飞行” 等细节现象，而是一个抽象概念。层数越深，这种概念就越抽象，所能 涵盖的变异体 就越多，就可以容纳战斗机，客机等很多种不同种类的飞机。
版权文章，未经授权禁止转载。详情见 转载须知 。
一帧秒创是基于新壹大模型及秒创AIGC引擎的智能AI内容生成平台，包含AI数字人、AI帮写、AI视频、AI作画等AIGC工具，可将百家号、公众号、头条号、搜狐号、新浪微博、小红书等文章一键转视频，一键生成数字人播报视频，为企业及自媒体提供一站式视频生产，全面提升内容创作效率。
2011年成立以来，七牛云致力于成为全球领先的一站式场景化智能音视频APaaS服务商，围绕数字化浪潮下的在线音视频需求，基于强大的云边一体化能力和低代码能力，持续在视频点播、互动直播、实时音视频、摄像头上云等领域，进行深度技术投入，提供面向业务场景的视频云解决方案。截至目前，有超过100万企业客户和开发者长期使用七牛云服务，包括OPPO、爱奇艺、平安银行、招商银行、上汽集团、芒果TV等知名企业。
金锐网346.com是广州市金锐网络有限公司旗下域名交易平台，网址www.346.com。专注于优质拼音域名、数字域名、短杂域名交易。
该站点未添加描述description...
铭赞富海360网络营销系统专业从事互联网营销服务的公司,主要业务为:企业网站推广,百度关键词排名,网站SEO优化外包等网络营销解决方案,为向互联网商业转型的传统企业提供了精准的互联网营销服务与方法。
狼蚁网络【www.168986.cn】以长沙seo优化，长沙网络营销，长沙网络推广,湖南seo优化为主，专业微信营销，微博营销,新闻炒作、软文营销,,博客营销，搜索引擎营销，seo优化，网络公关，公司品牌美誉度维护；并提供网络口碑营销，网络新闻监测,广告监测,微博监测等服务，还提供品牌营销策划、品牌建设，品牌推广等一站式服务.
PC+手机，网站优化、搜索推广、社群分享，免费使用；开通会员咨询:1328383551715639913040
新开传奇sf网(www.xkhu.com)是中国最好的热血传奇sf开服网,全年365天保持不间断更新,您可以在这里获得专业的传奇私服信息,完善的新开游戏攻略专区,是传奇玩家首选的网络游戏资讯门户网站。
和雅健康专注高端私人家庭健康管理的机构。聚集了包括中国科学院院士、中国工程院院士、“南湘雅、北协和”几十位国内顶尖专家学者的一流专家团队。构建一支专业高效的健康管理团队与高端的专家团队匹配，这是我们健康事业的核心引擎。
牛皮文学网致力于为广大书虫朋友整理推荐各种类型的精彩小说，包括言情小说、重生小说、穿越小说、玄幻小说、仙侠小说、科幻小说、历史小说、悬疑小说等。牛皮不是吹的，小说还得看我推的，找小说看小说就上牛皮文学网。
10多年的苦读，几天的轮番考试，这是高考给人的主要印象，但这实际上却是，简单的，，因为高考的路径就在那里，你所需要的只是前进，相比之下，高考志愿反而要，难不少，，你需要根据往期的分数去估算录取概率，你需要通过第三方资料评估学校、专业的实力，你甚至需要思考规划自己未来30年的人生，这也让高考志愿实际成为了整个高考过程中的，第二道跨栏，，...。
抢救持续了一个多小时，但最终还是以失败告终，其实所有人都知道，这是迟早的事，对于一个肠癌晚期的人来说，死亡随时都会降临，但当这一刻到来的时候，家属还是接受不了，毕竟这个肠癌病人，还是一个只有21岁的小女孩，失去唯一的女儿，父母虽然早有心理准备，还是哭得死去活来，希望这一切不是真的，因肠癌离世的女孩叫小雪，今年只有21岁，本来明年就大学...。
当苹果发布会正在被国内外媒体吐槽，毫无新意，的时候，这个，心机Apple，很可能是在酝酿着一个大招，朋友圈频繁晒自拍的时代，大众对手机的拍照功能要求越来越高，而iPhone的拍摄性能也是这次，7家族，的一大卖点，事实上，iPhone的拍摄性能此前被认为是其众多优势之一，然而近年来，三星及其他安卓手机的图像技术似乎有赶超苹果的趋势，一直...。
在2018年12月份的时候，上海有一名警察在自己结婚之后出轨了一名女性，经过调查了解之后，这名女性知道了警察有了妻子，而且还有了孩子，于是就前去找警察理论，但是当时警察的妻子也是在家里面的，所以说这夫妻两个人就一起联合起来，把这个女子打成了轻伤，在2019年3月，2019年12月5号的时候，这个女子多次被警方殴打，其实在最先开始的时候...。
2018年10月11号我在北京自若住房租赁有限公司租了房子，详细地址参考图片，起初由于这个卧室是隔断，墙体不是实墙保暖不好而换房子继续在这个中介租房，换房子中介扣了我一半月租金，也就是1315元，起初我感觉不正当，揭发之后自若返还了1315元，然而起初我了解到，这个隔断不光有不保暖疑问，在2018年的时刻，这个隔断属于不非法的违规修建...。
雪铁龙C4毕加索的发起机表现如何，雪铁龙C4毕加索搭载了VVT可变正时气门技术的2.0升汽油发起机，能够输入104千瓦和200牛米的能源，只管这款2.0升发起机与4前速手自一体变速箱的配合还算默契，但1.6吨的车重给它带来了一些累赘，不过，只需适外地对油门加压，它依然可以施展出必定的能源，官网数据显示，大C4毕加索的0，100公里减速...。
飞驰c260混动版优缺陷如下，1、这是重点要说的一个好处，1.5T的涡轮增压发起机，最大功率184匹、最大扭矩280N·m，只管比老款的降落了20N·m；2、然而它还有一个R技艺鸭，就是配了一套48V的电机系统，最大功率14匹10千瓦、最大扭矩160N·m，虽说10千瓦不算大，160N·m的扭矩可以满足你的低扭输入，这样一来1.5T发...。
想要下载最好最安全的安卓应用，就来绿色资源网，提供QQ、微信、爱奇艺、酷狗、支付宝等常用安卓软件下载，APP种类齐全，丰富多样。
AliOSStudio是一款专门针对开发者用户量身定制的集成开发环境，这款软件能够为用户提供一套专业的一系列开发和调试工具，能够实现跨平台高效率开发
007日记账管理系统，集成出纳资金管理，应收应付往来账款管理，进货销货与发票管理，借款管理，支票、进账单等银行票据管理，承兑汇票管理，收据与支出单管理，以及自定义票据打印与管理于一体的精细化出纳财务软
围观山姆盒马商战，我差点儿破产！,山姆,商战,小红书,1号店,超市
为大家收集的电脑软件卸载管理软件,有了它们你就没有删不干净的垃圾文件了。PC6免费提供卸载软件,垃圾清理下载
要闻提示1.雷军保证小米15系列手机即便涨价依旧物超所值，让大家觉得，贵得有理由，，王腾透露小米15Pro售价超50002.成都一菜鸟驿站被指要求装淘宝扫码取件，客服，无强制要求，可投诉3.联想起诉中兴专利侵权，，联想5G标准不给华为投票，一事又被翻出4.男子使用FaceTime瞬间被划走30万，警方紧急提醒，苹果客服回应5.Ins高...。
AI制药正在一步步兑现行业对它的期待，据统计，制药公司研发一款新药平均需要花费26亿美元，以及长达10年的研发时间，即使成功进入临床试验阶段，药物研发的失败率仍然高达90%以上，目前，全球用AI来辅助药物研发的公司已经超过200余家，尤其是AlphaFold2的横空出世，让非医药出身领域的百度、腾讯、华为、字节跳动等科技巨头也纷纷布局...。
塑料管已经成为了日常家装中不可缺少的物品，随着房地产行业的快速发展，促使了市场中对家装材料的需求量不断的增加，尤其是家装中不可缺少的塑料管，扬子管业是一家大型的塑料管生产企业，公司在1980年诞生，成功的在市场中发展了四十多年，在市场中具有强大的影响力，不仅满足了消费者们的需求，经过口口相传为品牌获取到源源不断的发展空间，是很有发展前...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
提起测一测星座，大家都知道，有人问测一测自己是什么星座，另外，还有人想问怎样测自己是什么星座，你知道这是怎样回事，其实怎样测自己是什么星座，上方就一同来看看测一测自己是什么星座，宿愿能够协助到大家！测一测星座1、测一测星座，测一测自己是什么星座测测星座星星票，2、测一测星座，怎样测自己是什么星座，可以依据自己的出世月，就可以找出自己的...。
