深度 究竟怎么理解 深度学习中的 (深度意思是什么)
雷锋网按：本文原作者，本文原载于其知乎专栏—— 超智能体 。雷锋网已获得原作者授权。
为了研究神经网络，我们必须要对什么网络是什么有一个更直观的认识。
神经网络是由一层一层构建的，那么每层究竟在做什么？
现在我们知道了每一层的行为，但这种行为又是如何完成识别任务的呢？
神经网络的解决方法依旧是转换到另外一个空间下，用的是所说的 5 种空间变换操作 。比如下图就是经过放大、平移、旋转、扭曲原二维空间后，在三维空间下就可以成功找到一个超平面分割红蓝两线 (同 SVM 的思路一样)。
上面是一层神经网络可以做到的，如果把 当做新的输入再次用这 5 种操作进行第二遍空间变换的话，网络也就变为了二层。最终输出是 。 设想网络拥有很多层时，对原始输入空间的 “扭曲力” 会大幅增加，如下图，最终我们可以轻松找到一个超平面分割空间。
当然也有如下图失败的时候，关键在于 “如何扭曲空间”。所谓监督学习就是给予神经网络网络大量的训练例子，让网络从训练例子中学会如何变换空间。每一层的权重 W 就控制着如何变换空间，我们最终需要的也就是训练好的神经网络的所有层的权重矩阵。
这里有非常棒的 可视化空间变换 demo ，一定要打开尝试并感受这种扭曲过程。更多内容请看 Neural Networks, Manifolds, and Topology 。
知道了神经网络的学习过程就是学习控制着空间变换方式（物质组成方式）的 权重矩阵 后，接下来的问题就是如何学习每一层的权重矩阵 。
既然我们希望网络的输出尽可能的接近真正想要预测的值。那么就可以通过 比较 当前网络的 预测值 和我们真正想要的 目标值 ，再根据两者的差异情况来更新每一层的权重矩阵（比如，如果网络的预测值高了，就调整权重让它预测低一些，不断调整，直到能够预测出目标值）。因此就需要先 定义 “如何比较 预测值和目标值的 差异 ”，这便是 损失函数 或 目标函数（loss function or objective function） ，用于衡量预测值和目标值的差异的方程。loss function 的输出值（loss）越高表示差异性越大。那神经网络的训练就变成了尽可能的缩小 loss 的过程。 所用的方法是 梯度下降（Gradient descent） ：通过使 loss 值向当前点对应梯度的反方向不断移动，来降低 loss。一次移动多少是由 学习速率（learning rate） 来控制的。
然而使用梯度下降训练神经网络拥有两个主要难题。
梯度下降寻找的是 loss function 的局部极小值，而我们想要全局最小值。如下图所示，我们希望 loss 值可以降低到右侧深蓝色的最低点，但 loss 有可能 “卡” 在左侧的局部极小值中。
试图解决 “卡在局部极小值” 问题的方法分两大类：
机器学习所处理的数据都是高维数据，该 如何快速计算梯度 、而不是以年来计算。 其次如何更新 隐藏层 的权重？ 解决方法是：计算图： 反向传播算法 这里的解释留给非常棒的 Computational Graphs: Backpropagation 需要知道的是， 反向传播算法是求梯度的一种方法 。如同快速傅里叶变换（FFT）的贡献。 而计算图的概念又使梯度的计算更加合理方便。
下面就结合图简单浏览一下训练和识别过程，并描述各个部分的作用。要 结合图解阅读以下内容。但手机显示的图过小，最好用电脑打开。
注：此部分内容 不是 这篇文章的 重点 ，但为了理解 深层 神经网络，需要明白最基本的训练过程。 若能理解训练过程是通过梯度下降尽可能缩小 loss 的过程即可。 若有理解障碍，可以用 python 实践一下 从零开始训练一个神经网络 ，体会整个训练过程。若有时间则可以再体会一下计算图自动求梯度的方便 利用 TensorFlow 。
理解 5 种空间操作和物质组成视角
打开网页后，总体来说，蓝色代表正值，黄色代表负值。拿 分类 任务来分析。
上图中所有在黄色背景颜色的点都会被分类为 “黄点 “，同理，蓝色区域被分成蓝点。在上面的分类分布图中你可以看到每一层通过上一层信息的组合所形成的。权重（那些连接线）控制了 “如何组合”。神经网络的学习也就是从数据中学习那些权重。Tensorflow playground 所表现出来的现象就是 “在我文章里所写的 “物质组成思想”，这也是为什么我把 Tensorflow playground 放在了那一部分。
不过你要是把 Tensorflow 的个名字拆开来看的话，是 tensor（张量）的 flow（流动）。Tensorflow playground 的作者想要阐述的侧重点是 “ 张量如何流动 ” 的。
5 种空间变换的理解：
Tensorflow playground 下没有体现 5 种空间变换的理解。需要打开这个网站尝试：
ConvNetJS demo: Classify toy 2D>
左侧是原始输入空间下的分类图，右侧是转换后的高维空间下的扭曲图。
最终的扭曲效果是所有绿点都被扭曲到了一侧，而所有红点都被扭曲到了另一侧。这样就可以线性分割（用超平面（这里是一个平面）在中间分开两类）
文章的最后稍微提一下深层神经网络。深层神经网络就是拥有更多层数的神经网络。
按照上文在理解视角中所述的观点，可以想出下面两条理由关于为什么更深的网络会更加容易识别，增加容纳变异体（variation）（红苹果、绿苹果）的能力、鲁棒性（robust）。
数学视角： 变异体（variation）很多的分类的任务需要高度非线性的分割曲线。不断的利用那 5 种空间变换操作将原始输入空间像 “捏橡皮泥一样” 在高维空间下捏成更为线性可分 / 稀疏的形状。
物理视角： 通过对 “ 抽象概念 ” 的判断来识别物体，而非细节。比如对 “飞机” 的判断，即便人类自己也无法用语言或者若干条规则来解释自己如何判断一个飞机。因为人脑中真正判断的不是是否 “有机翼”、“能飞行” 等细节现象，而是一个抽象概念。层数越深，这种概念就越抽象，所能 涵盖的变异体 就越多，就可以容纳战斗机，客机等很多种不同种类的飞机。
版权文章，未经授权禁止转载。详情见 转载须知 。
IP定位地理位置
东光源鸿塑料包装材料厂以PVC热收缩膜,热收缩膜,PVC热收缩印刷膜为主导产品,产品质量放心。我厂位于河北省东光县棉纺路38号,距首都北京仅300公里，距天津,济南,石家庄各180公里优越的地理位置,竭诚欢迎新老客户的到来。
广东泓锐消防技术服务有限公司
上海星力仓储服务有限公司成立于2003年,公司主营网店仓储物流,自助小仓库,智能仓库仓储,上海仓库管理,智能仓库货运等一站式服务外包,公司在仓储行业中积累了丰富的实践经验,公司规模也在逐渐壮大,已经从一家小型民营企业,成长为上海市仓储与配送协会理事单位
电视猫为您提供电视剧原创分集剧情介绍、演员表、人物大结局等信息，最新一期综艺节目预告、热门电影、明星资料以及每周电视节目单，电视猫是您看电视看剧情的必备网站。
防爆气象站设备联系13280787620,山东竞道光电科技有限公司专业自动气象站厂家，致力于防爆型气象站,小型气象站,微气象仪气象传感器的研发生产,农业土壤墒情监测站,农业四情监测系统等农业环境监测设备,光伏气象站,负氧离子监测站环境监测设备价格优惠,水文水质监测设备售后保障,是可靠的智慧物联环境监测设备制造商。
橙券权益平台，专注于数字权益产品的开发及运营，辐射虚拟充值、会员权益、电子礼品卡等，橙券权益平台为金融、通信、互联网、电商客户提供礼品卡资源渠道、积分商城技术支撑和金融营销服务方案，提升品牌价值。
3402手游网提供专业的游戏攻略、新手指南，让小白也能轻松成为游戏大神！
看电视-争做最好的电视节目预告网站
便民开锁网为您提供全国优秀的开锁公司、换锁公司、修锁公司。找开锁电话、换锁公司电话、修锁公司、开汽车锁电话就上便民开锁网。
路面机械网为您提供工程机械产品报价,工程机械整机导购,行情,评测,口碑,论坛，以及精彩专业的工程机械新闻等内容,还提供工程机械配件,租赁,维修,二手等后市场服务。
如果我问你，是什么促使客户产生购买行为呢?估计你都不用思考就能直接回答，肯定是，需求，促使客户产生购买行为的，没错，商业的本质就是需求，有市场需求，才会产生交易，换句话说，你选的产品市场有需求，你才能赚到钱，但是你知道吗?从选择产品的维度来看，需求还可以拆分成，只要你能理解这两个需求维度，你会发现，你在选产品的时候，又会打开一扇新的大...。
从互联网快速发展，也直接带动物流快递行业快速发展，导致市面上出现很多快递公司，可见这个项目掀起加盟热潮，为很多创业者带去不错发展平台，但有前景加盟项目，自然很抢手，竞争也很激烈，想要在市场上站稳脚跟，就要选择靠谱的品牌加盟，下面小编为大家分析一下，快递加盟招商十大品牌，是当下很常见的快递公司，实力雄厚，因为服务很周到，送货快速，所以赢...。
IBM沃森每个人心目中都有一个愿望，有的人想成为硅谷精英，在科技界叱咤风云，呼风唤雨；有的人则想做吟游诗人，踏遍山河，诵尽华章……这些愿望都很美好，也让生活充满了奋斗的希望，但是，对于一个身患癌症的人来说，向往未来难免显得奢侈，IBM了解这些患者的苦闷，所以它打算利用最先进的人工智能技术来帮助这些患者找到最佳的治疗方案，怎么做，就从帮...。
7月17日，腾讯游戏宣布开展，2024暑期未成年人保护专项行动，，针对孩子冒用家长等成年人账号游戏问题，多方位升级人脸识别策略，新增家长防骗小课堂和专线服务，针对性打击租号黑产，同时也推出运动赛事及产品，鼓励家长孩子放下手机一起运动，共度快乐暑假，在人脸识别策略方面，腾讯游戏宣布开启，暑期人脸巡航，，加大人脸识别力度，另外，上线，防代...。
根据中国欢乐谷的官方规定，未满14周岁的未成年人必须由成年人陪同入园，因此，几个初中生没有大人陪同是不能进入欢乐谷的，即使你们有成年人陪同，也不一定能够玩所有项目，欢乐谷的一些游乐项目可能存在身高、体重、年龄等限制，为了确保游客的安全，建议你们在入园前仔细阅读每个项目的游玩规定，并选择适合你们年龄和体力的项目进行游玩，此外，你们还需要...。
意大利每年展会包括多个重要的展览和活动，如米兰国际展览、意大利家具展等，意大利是一个拥有丰富文化和历史传统的国家，其展览业也十分发达，每年，意大利都会举办多个重要的展会，吸引来自世界各地的参展商和观众，1.米兰国际展览米兰国际展览是欧洲最大的展览之一，也是意大利最具代表性的展览会之一，该展览涉及多个领域，包括时尚、设计、工业、建筑等，...。
当前，现在很多人觉得日本和台湾的黑糖比咱中国的好，殊不知，归根结底，红糖和黑糖是一样的东西，中国的制糖法传到日本的时候，不知道是传授的原因，还是学习的原因，日本人熬制的红糖在火候掌握上出现了偏差，日本人熬制红糖的熬煮时间较长，糖浆经浓缩后做出来的糖呈现出近黑色外观，但一千多年来，日本人一直接受这种火候的糖，并天然认为糖就应该是这样的黑...。
好，1、09年君越2.4是君越09款2.4L俗气版的外观大气稳重，能源输入颠簸有力，性能丰盛，空间严惩，适宜商务人士，2、09年君越2.4具备空间严惩，内饰做工粗劣，静谧性良好的好处，底盘厚重，车身牢固，安保性好，性能高，09红灯六速老别克君越怎样样好，外观设计难看，内饰性能高、能源性能强悍，1、外观设计，09款别克君越驳回了别克最新...。
据彭博社报道，美国财政部长耶伦于美国外地期间6月20日，为拜登政府近期宣布的，对某些中国商品加征关税的选择，启动辩护，称此次对华新关税具备，高度策略性，耶伦还顺带批判称，美国共和党总统候选人特朗普的关税提议十分宽泛，会参与生产者的老本，耶伦再次宣称，拜登提出的新关税旨在包全美国电动汽车、太阳能产品和半导体产业免受中国适度投资形成的，...。
墨西哥总统洛佩斯2日在资讯颁布会上说，墨南部恰帕斯州接近危地马拉边陲地区日前出现帮派抵触，关系报告显示，这起抵触形成19人死亡，墨西哥安保与公民包全部门1日颁布报告说，6月28日网上行播的一段视频显示，在一辆卡车上发现多名携带武器的死者，政府多个部门考查后确认，抵触出当初恰帕斯州拉孔科迪亚市左近，19名死者系中枪而亡，其中14人为男性...。
美剧tv苹果手机客户端为大家带来不错的追剧平台，在这里你可以找到经典抢手的美剧资源，画质高清、剧集完整，不只能在线播放，还允许缓存到本地，各个类型包罗万象，可以依据分类来自行搜索查找，一切影片资源都是收费的，青睐看美剧的好友尤其不能错美剧TV蕴含市面上大局部的美剧，收藏您爱看的美剧实施更新提示您，和您有雷同喜好的童鞋一同聊聊青睐的剧集...。
中邮证券通达信系统,中邮证券通达信系统是多功能的证券信息平台，与其他行情软件相比，有简洁的界面和行情更新速度较快等优点。通达信允许用户自由划分屏幕，并规定每一块对应哪个内容,完美下载为您准备了“中邮证券通达信系统”，欢迎大家前来下载使用
10月10日，当贝4K激光投影新品X5Pro正式上线，并在全平台开启预售，当贝X5Pro采用ALPD影院级激光显示技术，亮度高达2450CVIA流明，拥有4K超高清分辨率，并搭载MT9679高端旗舰级芯片，性能配置远超同级产品，加之当贝OS4.0助力，使用体验全方位升级，打造客厅投影新范式，高亮才够看！当贝X5Pro重塑4K激光投影亮...。
今天给大家讲一些通过信息差赚钱的项目，近来手提电脑用得比较多，有点卡拿到家附近的电脑城去加内存条，我有个朋友是在电脑城开店的，自己注册了公司，接一切网络硬件，修理，监控安装，上次电脑主板坏了也是在他那里修理的，我在他的店拿了一个内存条，友情价，三两下就搞定了，正要走，来了个中年人，过来拿电脑的，看上去像是在私企上班的小领导，应该是从事...。
国内三大电信运营商近日集体宣布提速降费，N大举措，，但流量费降低之外，不少网友纷纷吐槽手机漫游费仍然居高不下，甚至还存在乱收费现象，近日，居住在海口王先生的海南联通，风行卡，被莫名扣除，漫游，费39.86元，海南联通解释，王先生可能近期到过海边，接收到了广东联通的信号，王先生的经历不是个案，，天价漫游，离奇漫游，边界漫游，不断被网...。
前不久，驭势科技宣布完成累计超10亿元人民币的新一轮融资，特殊的是，在这场融资中驭势科技获得了国家资本的参投，这家成立于2016年的创企有何魅力能引得国资的青睐，细细研究，才发现这家成立五周年的科技公司的确与众不同，纵观过去五年的无人驾驶公司，有些大胆激进，如短跑运动员般，在一条赛道上瞬时爆发；有些隐忍旁观，如天空盘旋的猎鹰，待时机成...。
由于近些年早期教育受到国内外广泛关注，早教行业也一直被誉为，永远的朝阳产业，，吸引着众多智慧之选者目光，当然，也有许多观望者会问，早教加盟真的好吗，今天优贝乐就来为您解答这一问题，一起来了解一下早教加盟行业的前景，首先，跟着优贝乐来看两组数据，据我国第五次人口普查统计结果显示，0，6岁婴幼儿达1.4亿，其中城镇0，6岁婴幼儿为5200...。
