Schmidhuber访谈 LSTM之父 畅想人类和AI共处的世界 Jürgen (schmidt)
雷锋网 AI 科技评论按：2019 年 8 月 29 日，世界人工智能大会 WAIC 2019 在上海世博中心举行。瑞士 USI 和 SUPSI 教授，NNAISENSE 联合创始人兼首席科学家，「LSTM 网络之父」 Jürgen Schmidhuber 也受邀出席大会。
8月30日，雷锋网 AI 科技评论和多家社会媒体一同对 Schmidhuber 教授（图中右侧）进行了采访，松鼠 AI 首席架构师 Richard Tong（图中左侧）在现场帮忙翻译。虽然这次采访中来自社会媒体提出的许多问题不那么「技术」，但是 Richard Tong 介绍道 Schmidhuber 不仅是计算机科学家，更是一位哲学家，在这些问题的回答中我们确实看到了 Schmidhuber 对事理和人类社会的哲学思考，甚至有「我们可以像理解人一样理解 AI」的味道。Schmidhuber 教授的语言风格也温文尔雅，不疾不徐，娓娓道来。
提问： 有人把 LSTM 网络称作「机器学习界的 AK-47」，因为它简单，而且可以用于很多不同的任务。您知道这个说法吗？如今，BERT 以及基于 BERT 的模型也被用在很多任务中，仿佛要成为新一代的「AK-47」。您觉得这是一个好的趋势吗？
Schmidhuber： Transformer 和 BERT 模型能在一些任务中带来非常好的表现，比如某些翻译任务。但是如果你看看全局，比如看看语音识别领域里发生的事情的话，目前最新的，2019 年的谷歌语音识别系统仍然是基于 LSTM 的。曾经这些系统需要在服务器上运行，你需要有网络连接才能使用，现在电脑变得越来越便宜，这样的系统也已经可以直接在手机上运行。再比如 DeepMind 的 AlphaStar，这个玩星际争霸的 AI，它的核心是一个深度 LSTM 模型；OpenAI 的 DOTA2 AI 也把深度 LSTM 模型作为核心。如果你想要构建一个有通用能力的 AI，你就会需要类似循环神经网络、LSTM 这样的网络结构；Transformer 模型还不够好。 工业界的实践还是以 LSTM 为主。
提问： 很多人担心随着机器人变得越来越先进，他们的工作会被机器人取代。李开复曾经说人类要更多地做善解人意和富有同情心的工作，以及未来我们也要创造更多这样的工作，让人们有工作可做。您认可他的说法吗？您的观点如何？
Schmidhuber： 几十年以前，当工业机器人刚刚出现的时候，就有人说机器人会把所有人类的工作都代替了。结果后来呢，在那些大量使用机器人的国家，曾经有数百名人类工人的汽车流水线如今使用数百台工业机器人，然后只有几个人看着这些机器人。然而这些有很多机器人的国家有更多的资本，有很低的失业率，因为出现了很多当时的人们预计不到的新职业。三十年前，没有人想得到现在可以做视频博主挣钱，诸如此类。人们喜欢玩乐，不喜欢没有工作，所以 人类一直在创造新的工作。 这些新的工作往往需要人和人之间的互动，像记者、视频博主等等。我猜测，随着 AI 在中国以及全球得到更多的使用， 工作的数量只会增加，而不会减少，失业率也会大致保持不变。因为新的工作会出现。
提问： 您在 2018 年提出了 World Model 的概念，可以多跟大家解释一下吗？
Schmidhuber： 这个想法我在1990年就有了。它里面首先有一个 RNN 模型，可以接收视觉、声音、文本和传感器输入，然后它可以产生动作，比如动一动机器人的手指、眼睛。这样它就是一个控制器，把输入的信号转换成动作输出。除此之外它还有一个进行预测的网络，它能观察到控制器的动作、能观察到世界的输入，然后预测控制器的动作会对外面的环境造成什么样的改变。也就是说它学习判断动作的结果。
所以它也就能够学习对这个世界建模，比如学习到苹果会掉到地下，学习到苹果掉下的时候有什么样的加速度。在学习到苹果的运动规律的同时，也就学到了重力的法则。
在这样的 World Model 设计中，预测模型会帮助控制器变得更好，控制器也可以在执行动作之前先借助预测模型进行提前规划，选择能得到最高回报的动作；执行一系列预计会有很高回报的动作，然后得到这一系列预计到的高回报。最终，控制器就可以做整个模型认为「好」的事情。其实我们自己就是这样的，正在学习这个世界的小孩更是这样的。
这个概念是1990年提出的， 控制器模型和预测模型就像人的左脑右脑一样相互配合、相互促进改进。 这个概念不仅是一个有长远影响的通用框架，在实际应用中也有好的效果。
提问： 为什么现在人们没有普遍在手机上使用语音识别技术？IoT 设备上会有更大的使用空间吗？
Schmidhuber： 实际上，在谷歌搜索接收到的所有搜索请求里， 有 1/3 都是由 LSTM 网络处理的语音查询输入。 对于中国人没有普遍使用它的原因，据我所知，中国人没有那么担心隐私，美国人有一点担心，欧洲人则非常担心。所以欧洲人不使用语音识别的原因是他们知道大公司会把所有东西都存储下来，然后把这些语音作为改进语音识别系统的训练样本。比如有的人讲话有口音，但是当前的 LSTM 网络没有在足够多的带口音的样本上训练，语音识别的效果不好，那么企业就会把这些语音记录下来，研究正确的识别结果应该是什么样的，并让 LSTM 学习。因为人们知道亚马逊之类的大公司会做这样的事情、会存储语音，所以他们会担心、会犹豫。我自己就不使用谷歌的语音识别，即便它就是基于 LSTM 的；不过使用它的人也有很多。我觉得关键在于，你能不能接受企业用你的数据来改进模型的这件事。有一些地方的人对隐私是比较在意的，我觉得中国的一大优势就是这里的人没有那么在意隐私。
就技术本身而言，之前的很长一段时间里语音识别的效果一直都不好，大的变化发生在 2015 年。那年谷歌切换到了基于 LSTM 的语音识别系统，然后语音搜索就很快增加到了所有搜索的大概 1/3。Siri 最初使用的也不是 LSTM，后来切换到 LSTM 的时候也遇到了训练数据不足的问题。但现在所有人都在用 LSTM了。以及还有一个因素是训练数据有多少。
我想问大家一个问题，Alexa、Echo 之类的设备很流行，中国有类似的吗？
现场记者七嘴八舌地 ：小米、百度、天猫
Schmidhuber ：它们好用吗？
记者们 ：我们只用来问问天气、放音乐，更多的时候是直接关掉的。我们还是担心它们一直偷听我们的对话，比如聊天聊到某个商品，紧接着就会在购物网站的广告里看到）
Schmidhuber ：有时候是这样的，有些用户协议里就会允许这样的事情。所以技术有好的一面也有坏的一面， 就像火，可以保暖、可以烹饪食物，也可以烧死别人；甚至有一点和 AI 一样，如果人类不做什么干预的话就会广泛传播开来。不过，人们发现火带来的好处要比麻烦多多了，所以人们一直在提升改进使用火的技术。这样人类才一直走到了今天。
提问： 现在的人工智能有意识了吗？和人类的意识相同吗？
Schmidhuber： 刚才说到的 World Model 里的预测模型，它只能根据过去的信息、动作和它的观察进行预测，但是只要你可以预测，就可以看做作是已经了解它了，就没有必要存储更多的关于它的信息了。你只需要存储超出意料之外的事情。
而所有这些预测，它们的本质都是压缩。只要你可以预测一个数据，你就可以压缩这个数据。是怎么压缩的呢？在 RNN 网络里有一些小的结构，它们可以存储环境里频繁出现的东西。比如你的环境里经常会出现很多人脸，那么从数据压缩的角度来看，一种很高效的记录方法就是先有一个人脸的样板，然后记录不同的人脸和这个样板的不同在哪里。这种过程在 RNN 里持续地进行着，世界中的各种物体，云彩、房子、窗户、手机都有相似且反复出现的结构，RNN 都可以对它们进行编码，也就是进行压缩。
不过有一点，在这个智能体的整个活动周期中，由于它和环境进行互动、它也是整个环境的一部分，所以预测模型的学习会有一个副产品，就是在它的网络中会有一个子网络用来表示它自己，比如存储智能体常做的事情，就能让预测模型更好地预测、更好地压缩数据。 这样你就全自动地在模型网络内得到了一个有自我符号的、能自我表示的子网络。 刚才我说控制器可以用预测模型做未来的规划、得到更高的回报。在这个过程中， 都可以激发网络内表示它自己的子网络，来考虑自己。从这个角度，可以说它有一定的「意识」。 只不过，这种人造的意识要比人类的意识简单很多。如今最大的人造网络有十亿数量级的参数，但人类大脑中神经元之间的连接是千万亿数量级的，要比目前最大的 LSTM 的参数还要多一百万倍。不过，电脑的价格在快速下降，性能在快速提升，也许再过几年、十几年我们就会有可以和人类大脑比拟的LSTM网络，能在手机这么大的设备上运行，而且还会比现在的网络更快。
提问： 既然人工智能已经有意识了，那么它们未来会有自我价值（ego）吗？
Schmidhuber： 它们会有，而且现在就有。比如我们让机器人学习的时候，我们会给它安装痛觉传感器，因为我们希望它明白它做的哪些事情是会伤害自己的，比如遇到障碍的时候不要猛地撞上去、不要把手放在热灶台上等等，那么只有当机器人有痛觉传感器的时候它才能学到这些。 让机器人学习的目标就可以是减小所有痛觉传感器接受到的痛觉信号的总和，以及最大化所有愉悦信号的总和 ；愉悦信号哪里来呢，可以来自于电量低的时候在充电站充电。 也许就像人一样，人一天要吃三顿饭，机器人可以一天充三次电 （现场记者笑）。没有痛觉的机器人很难学习到什么事情对它们是不好的，就像人类小孩的痛觉感受可以帮他们更好地学习。
从纯粹工程的角度讲，我们给机器人自我意识也是有好处的，让它能躲避疼痛的事、做更多愉快的事。通过足够多的训练，机器人就能学会如何在环境里行动，学会躲开障碍物、找到充电站充电。再比如，如果有个人每次见到机器人都会打机器人一拳，那么许多次以后，由于机器人要躲避疼痛的事情，它也许就会学会用人脸识别辨认这个人，当他来以后就躲在窗帘后面。这在别人看来就仿佛机器人在害怕，好像是有了自我意识。 所以，为了让机器人学习，可以说我们一开始就设计了自我价值。
提问： 那么机器人的道德呢？它们会遇到道德困境吗？
Schmidhuber： 我们平时讨论的人类会遇到的道德困境，机器人也会遇到。道德行为来自哪里呢？当许多个个体，许多人或者许多机器人组成社会的时候，他们各自都有躲避疼痛、追求愉悦的目标。然后他们发现，在许多情况下，互相帮助能让他们都更好地达到各自的目标。如果有一个社会，其中的个体最好都遵守一些规则，比如不可以伤害别人；宗教也有类似的作用，通过对其中的个人的行为增加一些限制，这些个体可以受益，整个群体也可以受益。这样的规律适用于人类，也同样适用于机器人。
提问： 机器人会有个性吗？他们的个性来自哪里？
Schmidhuber： 机器人的个性来自训练数据，训练数据不同，个性就不同。就像如果一个人在贫困、混乱的地方长大，那么他的性格和追求就会和富足的家庭里长大的小孩完全不同。 对机器人来说，在不同的训练数据上最小化疼痛、最大化愉悦得到的策略也是不一样的。所以，不管对人类还是对于机器人来说，他们的性格发展都受到环境的很大影响。 如果一个机器人杀人以后你会给它奖励，那它就会学会变成一个坏的机器人；如果它救人以后你给它奖励，它就会学会做一个很好的机器人；就像养小孩一样。未来的编程也会更像教小孩一样，让机器人学习，而不是直接执行人类设计好的规则。
提问： 富人和穷人拥有的资源不一样，那他们拥有的 AI 也会不同，这会不会增大社会差距？
Schmidhuber： 我觉得最重要的是，AI 会让大家的生活变得更好。未来也许每个人都有很多 AI，可以用AI帮他们做各种各样的事情，就像今天每个人都有智能手机一样。我讲个趣事，40年以前我曾经遇到一个人，他开一辆保时捷，而且车里有一部手机；这可是40年前，手机很罕见，只有很富的人才买得起。但今天手机很便宜了，今天很穷的人买到的手机都会比当年那个人的手机更好。 AI 也是一样的，也会变得更便宜，让穷的人也收益。
提问： 相比于 AI 为日常生活带来好处，我看到更多的是人们沉迷于 AI 娱乐，年轻人经常连续刷抖音或者社交平台好几个小时，因为 AI 会一直推荐他们感兴趣的内容，让他们停不下来。
Schmidhuber： 这些确实不是好事，就像沉迷玩游戏也不是好事。但小孩是有父母的，父母要帮助管理自己的小孩，防止他们沉迷于电脑游戏、社交网络、毒品等等。不过长期来看，很多人都会从AI受益，或者已经从AI受益了。2012年的时候AI就可以帮助诊断乳腺癌风险，到今天，AI的成本又降低了许多，更穷的地方可以用上AI，或者用一样的成本可以做更多的医疗，这对整个医疗体系都是革命性的帮助，大家都会从中受益。
雷锋网 AI 科技评论报道。
原创文章，未经授权禁止转载。详情见 转载须知 。
郑州市锋晟自动化-重锤式料位计管控系统的生产厂家,专业制造各类粉料仓料位计,料位监测控制系统,智能料位管理系统等,提高工业生产的效率和智能.咨询热线:18836601777.
智能化制造工厂解决方案供应商
免费的B2B网站大全，开放式网站分类目录，免费收录国内外、各行业优秀网站，旨在为用户提供网站分类目录检索、优秀网站参考、网站推广导航服务。
姿美堂集团深耕大健康和新零售行业，聚焦纤体瘦身、口服美容、美妆等类目，通过科技和创新满足消费者新体验，从产品运营到消费者运营，构建多圈层、多元化、多渠道、多服务、多场景的新零售商业生态
本公司主要从事大同电器展柜安装，烟酒展柜制作，眼镜展柜销售，鞋帽展台生产，大同电器道具、大同服装道具设计，以及大同内衣展柜、大同化妆品展柜、大同数码电子展台、大同家纺展台等其他商场展柜展台的加工设计制作；要问定制展柜哪家好，大同珠宝展柜定做选哪家，哪里有眼镜店展柜、服装展柜制作，朔州展台品牌有哪些，大同展柜批发多少钱，大同道具设计，化妆品展柜设计，展厅展台设计费用多少，珠宝展柜定制，展柜订制，展柜展台制作哪家便宜，实物展台价格，展柜制作厂家，展柜制作公司，展柜定制厂，展柜厂家，展柜加工厂，展柜公司，大同展台制作公司哪家好，实力强，质量好，当然还是找本公司；主营区域:山西，太原，晋中，榆次，阳泉，忻州，朔州，大同，长治，晋城，临汾，运城，吕梁，离石。
腾龙公司上分客服【电话181，8383，3331】-【蝙蝠ID:37607168】我们深信口碑传播的力量,在为客户打造的每一个网站都希望尽善尽美,成为腾龙公司的一个个金字招牌!也为客户大发挥传播的力量!
问卜居免费提供2024年龙年十二生肖运势，揭示2024龙年犯太岁的生肖及如何化解太岁，免费查询2024年龙年运势和运程，提示2024年五行属什么是什么命，以及2024生肖鼠牛虎兔龙蛇马羊猴鸡狗猪全年运势大全及运程，是通过周易生辰八字算命最准的免费网站。
山东凌科环保科技有限公司(www.sdlkzt.com)是专业销售诊所医用污水处理设备,小型医疗用污水处理设备的公司,公司技术力量雄厚,资质证书齐全,经营动作规范,研发水平高,行业资质完备,能为客户提供良好的售后服务,欢迎来电洽谈.
苏州远景达自动识别技术有限公司是为您提供远景达扫描模组,条码扫描枪价格咨询,pda数据采集器以及条码打印机等产品,同时为客户订做合适的产品与服务,做到“公司用心,客户放心
河南彬豫强夯地基基础工程有限公司承接80—1500吨米强夯置换施工,碎石桩,CFG桩,推土机,压路机,刮平机,租赁.
上号神器app是一款专业的游戏扫码上号器。本站提供王者扫码上号神器app下载安装、手游新助手下载安装，软件支持安卓、苹果扫码登录。扫码登录神器让玩家无需账号密码即可登录游戏。
新乡市万景网络技术公司是以用友软件产品为主业的软件服务公司,提供用友软件全系列产品的培训及售后服务,致力于用友软件产品的销售,服务及二次开发。新乡用友售后、销售服务电话：0373-5807818或17703731969
北汽电动车，一家新时代下的国有控股高科技上市公司和绿色智慧出行一体化解决方案提供商，致力于为用户创造电动化、智能化、个性化的驾乘体验，构建汽车与能源、互联网、AI人工智能产业融合发展的新生态、新格局，打造面向未来的绿色智能科技服务平台，至于北汽电动车怎么代理，一起去了解一下，自2009年成立以来，北汽新能源以电动化为突破口，以科技为核...。
人工智能机器人高新科技技术的运用与大数据的运用，使得机器可以无障碍的与人类进行交流，起到陪伴的作用，更有一些的课程项目，会给提供合格的教学服务，智伴机器人是这当中很受欢迎的加盟项目，智伴机器人是高新科技项目，它当中拥有多项功能，有诗词歌赋，加减程序，相声歌剧等，这些项目可提高孩子的学习成绩，塑造好的品牌形象，那么现在智伴机器人如何加盟...。
科技界从来不缺神话，经过2016大数据、物联网、人工智能、AR，VR等突破性的洗礼，2017年科技界精彩再续，各类黑科技大招一触即发，3月28日，在深圳，双创周，的举办地深圳软件产业基地，国家高新技术企业神画科技带来了一场盛大的，创·神话，触·梦想，主题发布，搭载基于触控技术而创新性研发出的投影电子白板技术的神画TT系列正式在发布会上...。
2016年9月，国内首台公安智能安保机器人AnBot，中文名，深圳小安，在深圳机场正式上岗，24小时自动巡逻，并配备了电防暴叉、电击枪的深圳小安立刻受到了一众国内外媒体的关注，其实，它还可以进行智能语音交互，回答关于补办身份信息、航班动态等方面的提问，小安的语音交互系统使用的是灵聚智能的技术，深圳小安机器人，成立于2013年6月的...。
近日，库克频繁出现在媒体中，并且先后在深圳和日本等地亮相，而在他近期的讲话中，库克的言行举止均透露出对VR、AR、AI、汽车四个，保密，方向的重视，近日，库克在接受媒体专访时着重讲述了自己对VR和AR的看法，为何更看好AR库克的观点是，相比于虚拟现实VR，增强现实具备增强人类体验的能力，是人感知的延伸，使得它比虚拟现实技术更可能成功，...。
雷锋网AI开发者讯，日前，神经信息处理系统大会，NeurIPS2019，于12月8日至14日在加拿大温哥华举行，中国科学院自动化研究所及其南京人工智能芯片创新研究院联合团队在本次大会的神经网络压缩与加速竞赛，MicroNetChallenge，中获得双料冠军！以模型压缩和加速为代表的深度学习计算优化技术是近几年学术界和工业界最为关注的...。
在具有挑战性的环境中，一些人工智能系统通过利用过去经验所提供的世界表象来实现目标，研究人员将这些应用推广到新的情况，使它们能够在以前从未遇到过的环境中完成任务，事实证明，强化学习——一种使用奖励来推动软件策略朝着目标前进的训练技术——特别适合学习一个总结agent经验的世界模型，并通过扩展来促进新行为的学习，雷锋网消息，近日，来自Go...。
雷锋网AI科技评论按，本文来自德国Fraunhofer协会IAIS研究所的研究科学家MichaelGalkin，他的研究课题主要是把知识图结合到对话AI中，雷锋网AI科技评论全文编译如下，必须承认，图的机器学习，MachineLearningonGraphs，已经成为各大AI顶会的热门话题，NeurIPS当然也不会例外，在NeurIP...。
新智驾按，2019第四届全球人工智能与机器人峰会，CCF，GAIR2019，于深圳正式召开，峰会由中国计算机学会，CCF，主办，雷锋网、香港中文大学，深圳，承办，深圳市人工智能与机器人研究院协办，得到了深圳市政府的大力指导，是国内人工智能和机器人学术界、工业界及投资界三大领域的顶级交流博览盛会，旨在打造国内人工智能领域极具实力的跨界交...。
在3月底的云栖大会上，阿里云总裁胡晓明在会上做出战略宣布，阿里巴巴全面进军IoT，这是继电商、金融、物流、云计算之后的一条新的主赛道，阿里巴巴希望数字化整个物理世界，并作为IoT基础设施的搭建者而存在，这样一层，新身份，也让不少人为之振奋，认为，5年内100亿设备，的未来将成为阿里云IoT事业部总经理库伟所说的，万物智联，的全新世界，...。
雷锋网按，2018全球人工智能与机器人峰会，CCF，GAIR，在深圳召开，峰会由中国计算机学会，CCF，主办，雷锋网、香港中文大学，深圳，承办，得到了宝安区政府的大力指导，是国内人工智能和机器人学术界、工业界及投资界三大领域的顶级交流盛会，旨在打造国内人工智能领域最具实力的跨界交流合作平台，CCF，GAIR2018延续前两届的，顶尖，...。
近日，上海擎朗智能科技有限公司宣布完成2亿美元D轮融资，由软银愿景基金领投，中金甲子和Prosperity7Ventures，沙特阿美多元化风投基金，跟投，迄今为止，这是中国商用服务机器人领域单笔最大的商业融资，华兴资本担任此次融资的独家财务顾问，擎朗智能成立于2010年，是一家致力于为全球企业提供智慧无人配送解决方案的人工智能企业，...。
现如今众多的快餐行业非常受当今消费者的喜爱与认可，因为随着人们生活节奏的不断加快，越来越多的人已经无法进行正常的就餐活动，因此也就促进了快餐行业的发展，吉祥馄饨面是成立于1999年，总部位于上海的一个非常知名的快餐品牌，该品牌自推出以来，就非常注重于所有种类混沌产品的研发以及推广工作，因此在市场上也取得了非常巨大的成就，拥有着极高的知...。
雷锋网消息，2018年5月24日，高通在北京举行人工智能创新论坛，宣布推出基于10纳米制程打造的全新骁龙710移动平台，骁龙710是全新骁龙700系列中的首款产品，定位次旗舰级别，提供了一些过去仅在顶级移动平台中所支持的技术与特性，其采用支持人工智能的高效架构而设计，集成多核人工智能引擎AIEngine，并具备神经网络处理能力，高端架...。
阳春白雪的东西变少了，烟火气变重了，这是今年与会者参加世界人工智能大会，WAIC，最直观的感受，而从科学家的角度，这种，阳春白雪，和，烟火气，的碰撞则有着更深的含义，在AI从理论研究、应用技术到产业化推广的产业链条中，科学家居于最上游的位置，但近年来，越来越多的科学家从从学术界转向产业界，如何从产业界的角度思考问题，则是他们需要做...。
今天小编要讲的是一款温度较低的食物，它虽然性格清冷，体温较低，但它丰富华丽的身姿让小朋友，青年人对这个食物爱不释手，它就是人人喜欢的，冰淇淋，这个由牛奶制作的冷冻食品，它绵密甜美的口感，浓香的奶味在冷冻后有了不一样的滋味儿，，这个品牌赋予了冰淇淋更多的丰富口味，让众人了解了冰淇淋原来可以有这么多美味的味道，加盟3D动感冰淇淋店好吗，...。
学生不仅要站着开会，为了能跟上诸位特邀嘉宾的报告进度，更是直接坐在地上记笔记，就连会场放水的桌子上都坐满了‘杰青，这就是前不久在广州召开的第11届全国生物信息学与系统生物学大会，下称，全国生信大会，的现场，本届大会由中国生物信息学会，筹，主办，广东省生物信息学会及中山大学承办，主题为，生物信息学与系统生物学及其应用的最新前沿研...。
