AI 基于神经网络模型的算法使机器学习透明化 黑箱难题怎么破 (ai神经网络介绍)
编者按：人们可以训练人工智能 （AI）和机器人完成任务，但整个过程在黑箱中运作。我们并不知道 AI 和机器人是如何决策的。一家名为 OptimizingMind 的初创公司想要解决这个问题。这篇文章将讲述该公司对建立透明 AI 决策过程的愿景和大胆尝试。本文发表于 TechRepublic，作者Hope Reese，原标题《
Transparent machine Learning: How to create 'clear-box' AI
AI 领域的下一个大事件并不是教会 AI 完成某项任务，而是让机器向人们解释为什么它们做出了某项决策。 比方说，一个机器人决定走一条特定路线去仓库，又比如，一辆无人驾驶汽车决定向左或向右转。我们怎么知道 AI 为什么做出这些决定？
卡内基梅隆大学计算机科学教授 Manuela Veloso 是研究协作机器人的专家。他表示，能解释自身行为的 AI 对赢得大众对人工智能的信任至关重要。“我们需要质疑为什么算法程序会做出这样那样的决定，如果我们不在 AI 动机解释上花功夫，就无法信任这个智能系统。”
为解决该问题， 创业公司 OptimizingMind 发明了一项能观察智能机器决策过程的技术。
这个算法的目的是创造 “透明访问”系统，以呈现机器学习是如何做出预期（expectations）的。OptimizingMind 的负责人 Tsvi Achler 说：
有着神经科学、医药和计算机科学多重学科背景的 Achler 认为，我们能从人脑如何作出和解释决策中学习到很多（应用到 AI 的知识）。
“我感兴趣的是，大脑和计算机的共同点在哪里？为什么人脑可以在学会任何模型之后把它解释出来。如果我说 ‘章鱼’，你是否能告诉我那是什么？如果我问章鱼触手长什么样，你能告诉我吗？”
人能做到，AI 为什么不行？
他说，当人类观察到一个新模式（或规律）的时候，会立刻学会那个模式。这对 AI 暂时还不可能。 AI 的学习方法被称为批量学习。如果你想要对 AI 加入一个新模式或者新注解，你必须从头开始把所有的新旧模式重新教一遍。
Achler 开发的算法呈现出神经科学里的 “爆裂” 现象。当人观察到一个新模式时，多个神经元被同时激发，然后它们沉寂下来。当你向某人展示一个模式的时候，下一瞬间会发生神经兴奋，之后逐渐地平静下来。在这个算法里你会看到同样的事情。
实际上，这种研究方式是对传统机器学习进行了重新思考，Achler 认为该过程就像深度学习、感知器、支持向量机（SVM） 、 卷积神经网络（CNN）、递归神经网络（RNN）、反向传播等研究一样。研究者们并没有打算解决即时学习这一难题。 “这项技术的目的非常明确，那就是尝试解释 AI 是怎样思考的。没有人想过如何让系统变得更灵活或是更具可信度，而它的整体目标是让 AI 决策更容易被访问。”
OptimizingMind 是一种以人脑运行方式为基础的算法，旨在使开发者能“观察到系统内部，理解它们（AI 系统）在干什么，并且很方便地编辑它们，而无需从头开始训练”。这能让机器学习“一步到位”，而神经网络马上就能学会。举例来说，人们能告诉 Siri 某一个词的定义，然后它会被存储起来。今天神经网络还达不到这一点，它们需要用无数案例不断训练学习。
所以 “透明访问”系统是什么意思呢？根据 Achler 的说法， 这个系统提供了一种实时观察 AI 决策的方法。 它可以访问权重、特点和节点，提供能读取这些信息的灵活性，并且能改写它们。最终，这个系统能让我们理解神经网络是怎么做出一个决策的。这个工具能帮助工程师们大幅减少机器开发的时间，帮企业节省资源。
此外 Achler 还表示，在提供透明度之外，这个算法还可以被修改。不但预期（expectations）能被表达出来，每个单独预期还能随着新信息立刻改变。
今天，大多数机器学习的方法使用一个正反馈（feedforward）技术。风险投资公司 Naiss.io 的联合创始人 Ed Fernandez 说，正反馈使用优化过的权重执行任务。在正反馈系统里，独特性信息（ uniqueness information）依据训练中出现的频率被录入权重。这意味着整套训练中的权重必须经过优化。这又意味着 OptimizingMind 可以“根据正在被识别的模式执行优化”，这不是为了权重而优化，而是为了模式识别去优化。
当机器学习与商业更紧密结合，并成为无人驾驶和其他极其重要科技的基石，理解机器学习中到底发生了什么就变得至关重要。事实上， DARPA 最近启动了一项对可解释 AI （XAI，explainable artificial intelligence） 的投资。
正如 Veloso 教授说的：“我们不能假定 AI 系统完美无缺。”我们必须从 AI 的错误中学习。Veloso 表示，“如果某天发生了一起 AI 事故，我们必须避免它再次发生。”
via techrepublic
推荐阅读：
神经网络算法Batch Normalization的分析与展望 | 大牛讲堂
人工智能和深度学习的下一个风口在哪里？——余凯丨微软亚洲研究院院友会 （含22页PPT）
机器人也有好奇心，还能自己设定学习目标
原创文章，未经授权禁止转载。详情见 转载须知 。
PR值全称为PageRank(网页级别)，取自Google的创始人LarryPage。它是Google排名运算法则（排名公式）的一部分，PR查询可以根据域名查出对应网站(可查内页)的PR。
优速快递是壹米滴答集团旗下快递品牌，成立于2009年，于2019年并入壹米滴答集团，是一家提供全国性快递服务的规模型快递企业，致力于成为性价比最优的大包裹快递公司，全国统一客服热线：95058；大包裹，用优速，只为每壹次托付。
妙搜网提供最新2024版全国北京公交、上海公交、深圳公交、重庆公交等332城市35000条公交线路查询，手机版m.miaoso.com，城市公交运营时刻表查询，公交常用行程，IP号码查询，邮政编码及电话区号查询，手机号归属地查询，生日密码查询。
春明网址导航（www.chunming.top）是一个专业的网址导航站,收录全网优秀的各类网站，为大家提供快捷方便的生活服务。网址类型包括：综合网址，办公网址，运营网址，设计网址，新闻网址，程序员网址，站长网址，生活网站，云盘网址，音乐网站，邮箱网址等。目的是满足用户日常的网址导航需求,帮助用户发现更多有趣的网站！
义乌几度科技专注于,义乌小程序开发,义乌APP开发,义乌快手脚本,义乌抖音脚本,义乌抖音云控系统,义乌快手云控系统,义乌三级分销开发,义乌网络公司,义乌分销商城开发,义乌公众号开发,义乌软件开发,义乌多级分销开发,义乌区块链开发,义乌代理系统开发,义乌多级分销开发,义乌社区电商开发
北京贝斯机电工程有限公司（BASI）是原北京自动化系统工程研究设计院项目合作部与美国INTERSYSTEM.CO，Ltd于一九九四年八月成立的中外合资公司。2005年改制为民营企业，是集工贸为一体的具有独立法人经营权的公司。
安平县旺谦金属丝网制品有限是一家专业生产阳台锌钢护栏网、小区锌钢护栏网、道路锌钢护栏网、PVC护栏网等产品,销售热线15694920050,欢迎新老客户洽谈指导。
云柱品牌设计机构,品牌整合设计革新力量。为合作伙伴提供全方位的品牌咨询,品牌设计,品牌管理服务,O2O电商品牌线上线下一体化设计,联系电话：15989798935 广州云柱科技有限公司,原珠海云柱，云柱科技，服务项目有珠海品牌设计,珠海设计公司,珠海标志设计,珠海VI设计,珠海网店设计,珠海包装设计,珠海画册设计
山东昊月金属制品有限公司【电话：135-0893-9810】专业生产GB9948无缝钢管,GB9948石油裂化管,GB9948无缝管,GB9948钢管等,价格合理,现货供应,可按照客户需求定制,口碑好,欢迎来电洽谈!
无锡斯洛森测控技术发展有限公司(www.sls-sensor.com)主营产品有：在线红外测温仪,大屏幕钢水测温仪,露点分析仪,在线微水仪,CONTRONIX数显表,力值显示控制仪等,本公司不仅具有精湛的技术水平，更有良好的售后服务和优质的解决方案,欢迎来电洽谈
武汉吕工机械有限公司是一家从事自动灌装机、封装机、包装机设备的企业，产品涵盖灌装机、包装机、封口机、气调包装机、自立袋灌装机、封杯机、封膜机、打包机、酱料包装机、锁鲜包装机等，是全自动灌装封口机源头厂家。
随着社会的经济发展，人口的流动不断的增加，人们外出旅游或者是外出工作以及出差，在外的话，很多人都会选择酒店，酒店入住方便，而且拥有优越的生活条件，并且很多的孩子都会有常常去住酒店的想法，市面上的酒店品牌很多，而莹润酒店就是一家具有很高的商业价值的酒店，酒店的环境好，服务的质量高，并受到消费者的认可，一些创业者也想要加入酒店行业，以获得...。
北汽电动车，一家新时代下的国有控股高科技上市公司和绿色智慧出行一体化解决方案提供商，致力于为用户创造电动化、智能化、个性化的驾乘体验，构建汽车与能源、互联网、AI人工智能产业融合发展的新生态、新格局，打造面向未来的绿色智能科技服务平台，至于北汽电动车怎么代理，一起去了解一下，自2009年成立以来，北汽新能源以电动化为突破口，以科技为核...。
很多人在周末的时候就会出门逛超市，购买自己日常生活需要的东西，现在大多数的人群都会选择智能超市，智能超市不需要排队，而且都是扫码付款，比较方便，因此也就出现了各种系列的智能超市品牌，E21智能超市一直都是有很强的实力，会为顾客提供贴心的服务，所售卖的产品种类很齐全，性价比很高，顾客都很喜欢去这个品牌超市购买东西，所以众多创业者发展了品...。
手机已经是生活必需品，人手一台，由于手机的快速发展也促使了手游行业迎来了迅速的扩展，现在多数人手机上都安装各类的手机游戏，休闲的时间玩玩手游打发时间，随着手游的广受欢迎，很多人开始加盟其中，龙创手游就是一个比较好的加盟项目，于是，大家都在问龙创手游加盟费，谁加盟过，接下来，跟着小编一起来看看吧！龙创手游本着玩家充值，你就收效的经营理念...。
在生活中，，渔具店，作为一个行业隐形排行靠前，虽默默无闻，却具备不错前景与广泛需求，钓鱼爱好者的增加为该行业带来了蓬勃发展的机遇，也吸引着众多创业者关注并探寻商机，接下来，让我们来探讨一下，加盟一家渔具店要多少钱，投入资金概览，智慧决策，启动成功之旅1.加盟费用支出，包含加盟费、担保金、品牌管理费等，初步大约在1，5万元，在加盟合同...。
其实有关面馆在市场上的发展还是很具有前景的，如今有很多人对于面食的追求也是比较高的，所以说选择加盟一家面馆，未来的发展也会很不错，但是在面馆行业中拥有很多的竞争力，所以在挑选品牌的时候应该要认识对于一般面馆加盟费多少钱，还是要看你所加盟的品牌了，一般面馆加盟费多少钱，说到面馆的品牌，可能很多人都比较青睐于2014年所成立的巴味仙面庄面...。
人靠衣装，美靠靓妆，很多女性朋友为了永葆美丽肌肤，焕发无穷魅力，就会时常光顾美容院，正是因为有这样旺盛的需求，国内美容行业也就取得了突破性的发展，不少创业者都想开一家美容院加盟店，那么，2016容院加盟什么牌子好，小编在此为大家推荐百莲凯美容院，百莲凯美容院成立于2001年，是美容连锁经营的先驱，百莲凯拥有独立的科研、生产及人才培训基...。
水果捞是一种制作简单、原材料易得的甜品，尽管价格不菲，却因其健康美味而受到消费者的喜爱，水果捞主要由各种新鲜水果、酸奶、冰沙、冰淇淋和干果仁等组合而成，尤其在夏季备受欢迎，常见的水果有西瓜、芒果、桃子、草莓、奇异果、哈密瓜、圣女果、火龙果等，制作方法简单快捷，即切即食，既新鲜又解暑，那么，现在开一家水果捞店前景如何?水果捞店因其健康美...。
餐饮行业一直都是很不错的行业，会因为一个网红或者一个网站，带动了一个品牌的发展，美食一直都是离不开消费者生活的，经过网络时代的传播，会有很多人知道这种品牌，就像鲜贝恋贝壳粉品牌，网络时代给这个项目带来了很多的销售额，现在成为了一种网红项目，有些智慧之选商关注了这个项目，在消费者的眼中的爆品，鲜贝恋贝壳粉加盟费多少，鲜贝恋贝壳粉的由来就...。
马上就到十一国庆了，假期里想好怎么穿搭了吗，在这个秋意浓浓的日子里，姑娘们也是时候为自己准备几件内搭单品了，那么女生秋季内搭怎么穿好看呢，今天丹比奴女装为大家献上时尚的五款内搭单品，怎么穿都不会出错哦！秋季内搭单品1，针织衫寒冷的秋季入手一件针织衫是必须的，作为经典色调的白色是内搭受欢迎的色彩之一，一款修身版型的高领针织衫，简约大气的...。
孩子的教育问题始终都是社会热门话题，在双减政策的加持下，推动素质教育行业的快速发展，AI技术得到很多家长的认可，为孩子们带去更好素质教育，北四网校AI智领学习平板历经二十多年发展，创意运营模式，先进教学理念，使其成为教育领域中的实力品牌，那么北四网校AI智领学习平板好加盟吗，售后服务如何，北四网校AI智领学习平板从品牌创建到现在已经有...。
现在的人都十分重视饮食营养，吃东西讲究营养，其实每一种食物都有自身的营养价值，都有它存在的意义，但是不同的烹制方法会使食物的营养价值流失，失去了食物本身的营养价值，在众多烹制方法中，清蒸或是蒸焖是一种很好的烹制方法，因为这种烹制方法不会造成食物的营养流失，小火老师焖锅是一家生意不错的餐饮店品牌，该餐饮店所销售的食物都是以焖为主，食物健...。
23岁女子被男上司迷晕致死案在广东省佛山市中级人民法院进行审理，受害人小梅，化名，的家属表示，代理律师告诉他们，庭审过程中，被告人彭某当庭承认部分犯罪事实，并对小梅表示歉意，该案庭审结束，法官宣布将择期宣判，陈某梅家属表示，家属此前已撤回民事起诉，希望嫌疑人被判死刑，家属会和律师讨论决定是否申请检察院提起抗诉，陈某梅舅舅莫先生告诉记者...。
女性肠癌的患者和男性没有什么明显的差别，都是肠道的症状，比如便血，一般为便和血参杂在一起，以及黏液脓血便、腹泻、便秘交替出现，如果是肠道肿瘤，消化道的症状会越来越重，还会形成腹部的肿块，晚期肠腔内狭窄后会有不同程度的肠梗阻的表现，如果在晚期出现全身的转移以后，会出现消瘦、乏力、贫血等症状，如果发现消化道的不适，症状反复发作，逐渐加重，...。
雷锋网AI科技评论按，距离8·12天津滨海新区爆炸事故已经过去了两周年，这起因危险品的不合理存放和管理导致的重大伤亡事故也让高校科研人员高度关注如何用大数据来防患于未然，如何寻找这些存在潜在威胁的区域，又如何能规避危险的发生，北京航空航天大学计算机学院和经管学院的合作团队研发了一个名为DangerousGoodsEyes，DGeye，...。
4月2日，是第十五个世界孤独症日，孤独症患者如同来自其他星球的客人，与周围的世界格格不入，宛如被无形的屏障包围，他们能看能听，却对身边的事物漠不关心，他们会说话，却无法表达自己的情绪和想法，他们被称作，星星的孩子，那层连他们的亲人都无法越过的屏障，有时却会被一些科技手段轻易打开，早在8年前，，纽约时报，就曾描述过一个13岁的孤独症患...。
SuperScript是对话式交互系统的会话引擎，它带有弱AI、自然语言理解、简单和开源的特点，SuperScript也是目前开源领域内最优秀的聊天机器人引擎，社区活跃，它的模块构建合理，基于Node.js，4月7日，雷锋网硬创公开课邀请到呤呤英语AI技术负责人Hain，这次分享从历史、设计和实现角度介绍SuperScript，嘉宾介...。
