AI 基于神经网络模型的算法使机器学习透明化 黑箱难题怎么破 (ai神经网络介绍)
编者按：人们可以训练人工智能 （AI）和机器人完成任务，但整个过程在黑箱中运作。我们并不知道 AI 和机器人是如何决策的。一家名为 OptimizingMind 的初创公司想要解决这个问题。这篇文章将讲述该公司对建立透明 AI 决策过程的愿景和大胆尝试。本文发表于 TechRepublic，作者Hope Reese，原标题《
TranSPArent machine learning: How to create 'clear-box' AI
AI 领域的下一个大事件并不是教会 AI 完成某项任务，而是让机器向人们解释为什么它们做出了某项决策。 比方说，一个机器人决定走一条特定路线去仓库，又比如，一辆无人驾驶汽车决定向左或向右转。我们怎么知道 AI 为什么做出这些决定？
卡内基梅隆大学计算机科学教授 ManuELA Veloso 是研究协作机器人的专家。他表示，能解释自身行为的 AI 对赢得大众对人工智能的信任至关重要。“我们需要质疑为什么算法程序会做出这样那样的决定，如果我们不在 AI 动机解释上花功夫，就无法信任这个智能系统。”
为解决该问题， 创业公司 OptimizingMind 发明了一项能观察智能机器决策过程的技术。
这个算法的目的是创造 “透明访问”系统，以呈现机器学习是如何做出预期（expectations）的。OptimizingMind 的负责人 Tsvi Achler 说：
有着神经科学、医药和计算机科学多重学科背景的 Achler 认为，我们能从人脑如何作出和解释决策中学习到很多（应用到 AI 的知识）。
“我感兴趣的是，大脑和计算机的共同点在哪里？为什么人脑可以在学会任何模型之后把它解释出来。如果我说 ‘章鱼’，你是否能告诉我那是什么？如果我问章鱼触手长什么样，你能告诉我吗？”
人能做到，AI 为什么不行？
他说，当人类观察到一个新模式（或规律）的时候，会立刻学会那个模式。这对 AI 暂时还不可能。 AI 的学习方法被称为批量学习。如果你想要对 AI 加入一个新模式或者新注解，你必须从头开始把所有的新旧模式重新教一遍。
Achler 开发的算法呈现出神经科学里的 “爆裂” 现象。当人观察到一个新模式时，多个神经元被同时激发，然后它们沉寂下来。当你向某人展示一个模式的时候，下一瞬间会发生神经兴奋，之后逐渐地平静下来。在这个算法里你会看到同样的事情。
实际上，这种研究方式是对传统机器学习进行了重新思考，Achler 认为该过程就像深度学习、感知器、支持向量机（SVM） 、 卷积神经网络（CNN）、递归神经网络（RNN）、反向传播等研究一样。研究者们并没有打算解决即时学习这一难题。 “这项技术的目的非常明确，那就是尝试解释 AI 是怎样思考的。没有人想过如何让系统变得更灵活或是更具可信度，而它的整体目标是让 AI 决策更容易被访问。”
OptimizingMind 是一种以人脑运行方式为基础的算法，旨在使开发者能“观察到系统内部，理解它们（AI 系统）在干什么，并且很方便地编辑它们，而无需从头开始训练”。这能让机器学习“一步到位”，而神经网络马上就能学会。举例来说，人们能告诉 Siri 某一个词的定义，然后它会被存储起来。今天神经网络还达不到这一点，它们需要用无数案例不断训练学习。
所以 “透明访问”系统是什么意思呢？根据 Achler 的说法， 这个系统提供了一种实时观察 AI 决策的方法。 它可以访问权重、特点和节点，提供能读取这些信息的灵活性，并且能改写它们。最终，这个系统能让我们理解神经网络是怎么做出一个决策的。这个工具能帮助工程师们大幅减少机器开发的时间，帮企业节省资源。
此外 Achler 还表示，在提供透明度之外，这个算法还可以被修改。不但预期（expectations）能被表达出来，每个单独预期还能随着新信息立刻改变。
今天，大多数机器学习的方法使用一个正反馈（feedforward）技术。风险投资公司 Naiss.io 的联合创始人 Ed Fernandez 说，正反馈使用优化过的权重执行任务。在正反馈系统里，独特性信息（ uniqueness information）依据训练中出现的频率被录入权重。这意味着整套训练中的权重必须经过优化。这又意味着 OptimizingMind 可以“根据正在被识别的模式执行优化”，这不是为了权重而优化，而是为了模式识别去优化。
当机器学习与商业更紧密结合，并成为无人驾驶和其他极其重要科技的基石，理解机器学习中到底发生了什么就变得至关重要。事实上， DARPA 最近启动了一项对可解释 AI （XAI，explainable artificial intelligence） 的投资。
正如 Veloso 教授说的：“我们不能假定 AI 系统完美无缺。”我们必须从 AI 的错误中学习。Veloso 表示，“如果某天发生了一起 AI 事故，我们必须避免它再次发生。”
via techrepublic
推荐阅读：
神经网络算法Batch Normalization的分析与展望 | 大牛讲堂
人工智能和深度学习的下一个风口在哪里？——余凯丨微软亚洲研究院院友会 （含22页PPT）
机器人也有好奇心，还能自己设定学习目标
原创文章，未经授权禁止转载。详情见 转载须知 。
抖音林客是为抖音生活服务的服务商打造的平台，服务商合作伙伴可在该平台为生活服务商家提供服务，为商家提供代运营服务和营销解决方案，助力商家长效经营。平台服务能力包括但不限于商家招募、商品管理、内容制作、店铺运营、商家培训、广告投流、产品能力等全方位服务内容。
舟山市鑫亚船舶修造有限公司舟山市鑫亚船舶修造有限公司位于浙江省舟山市六横镇东浪咀，始建于2002年8月。作为国内船舶修理领域中的大型民营合作体,公司现拥有三座生产基地。公司地处双屿港南岸(佛渡水道)，地理位置在东经122°06′50″，北纬29°47′25″，水陆交通方便，水域宽阔，船舶进出坞极为便利。 鑫亚船舶
畅梦游戏本着“以梦想，重新定义手游发行”的公司理念，打造多元化、年轻时尚的发行观念与全精品游戏产品线，携手国内外顶尖研发商与合作商共赢移动游戏市场。
东北大学家教服务中心|24小时联系电话：|东北大学家教网|东大家教网|东大家教|东北大学生家教|沈阳家教|沈阳家教网
新湖南，湖南新闻第一端。是湖南日报社的全新融合，是湖南15家省市州党委机关报全媒体合作平台。党报底色，湖湘基因，是全球湖南人的精神家园。
北京明豪彩升印刷技术有限公司专业从事各类宣传册,企业画册,台历挂历,海报,礼盒,纸箱,手提袋等产品印刷,印刷技术好,价格低,可免费送货上门,欢迎新老客户来电咨询.
常州迅捷网络科技有限公司是腾讯企业邮吉林-黑龙江-海南-内蒙古区域授权服务商，授权区域：长春市、吉林市、四平市、通化市、白山市、辽源市、白城市、松原市、哈尔滨市、齐bai齐哈尔市、牡丹江市、佳木斯市、大庆市、鸡西市、双鸭山市、伊春市、七台河市、鹤岗市、黑河市、绥化市等多个城市，我们将为广大企业提供全方位的邮箱服务。
选用大型电锅炉,大型工业电锅炉,大功率电锅炉,大功率半导体电锅炉【电话13591642491】认准辽宁稀结
高考网依托好未来教育强大的教学资源，已实现优秀教学资源共享为己任，建立的适用于高中生学习和交流的专业平台。免费提供2025高考成绩查询功能、新高考政策解读、学习资料下载等相关内容，与全国各地高中生共享高考信息与学习资料。
安徽宏凤空调滤网有限公司是生产空调过滤器产品的专业厂家。安徽空调滤网产品包括初效、中效、亚gao效、gao效等等各个级别，适合各种品牌的中泱空调，机房空调，净化空调等等，产品的制作技术、净化技术指标均达到或超过jin口******产品，从而大大降低了用户的使用成本。产品广泛应用于医院、制药、化工、电子、电信等等各个行业。产品主要有空调滤网、空调除湿机配件、扬子过滤网等
苏州帝洛普环境科技有限公司是集研发,生产,销售,系统安装,售后服务于一体的热能专业技术公司.我司的主营产品为低氮锅炉,模块锅炉,铸铝锅炉,燃气锅炉,冷凝锅炉等
品胜—IT、数码、手机配件领导者。提供专业的移动电源、充电宝、手机平板电脑壳膜、充电电池、笔记本电池、数码相机电池、手机电池和数码、电脑、手机周边配件,是中国最专业、最优秀的配件提供商。
新闻联播，进入冬季，冰雪运动、冰雪旅游、冰雪消费持续走热，各地积极打造多元场景，提升服务质量，冰雪经济充满活力，近日，北京首钢滑雪大跳台和国家速滑馆举行了两场赛事，2024—2025国际雪联单板及自由式滑雪大跳台世界杯和国际滑联速度滑冰世界杯北京站比赛，作为冬奥会的积分赛，这两场赛事吸引了世界各国的高水平运动员参加，也让前来观赛的...。
休闲小吃作为可以让大家放松美食，一直以来都比较受上班人群喜爱，休闲小吃消费没有时间点，大家随时想吃都可以购买到，近些年来随着消费人群的不断扩大，许多休闲小吃品牌在不断发展，小力排骨在众多休闲小吃中，以口味吸引大批食客味蕾，而且小吃价格实惠，美食街到处可以看到该小吃的身影，门店里面挤满黑压压人头，生意充满着一片景象，吸引许多加盟商想了解...。
创业作为通往致富的快捷通道，对于众多的人士来说有着很大的吸引力，女性作为市场的主导，选择女士鞋帽产品经营有着很大的市场，大东女鞋作为一家知名的品牌，多年的经营使其拥有强大的研发、设计团队，结合消费者对于时尚的追求，推出了多种不同的潮流款式，那么大东女鞋怎么加盟，大东女鞋加盟电话和条件是什么多少，一起来了解一下吧，大东女鞋一家高品质的品...。
2月23日，壳牌中国与阿里云签署战略合作意向书，成为长期战略合作伙伴，双方将基于壳牌在能源转型领域的深厚积累和阿里云在云计算、大数据、人工智能等方面的技术优势，带动壳牌集团的优势资源和阿里巴巴集团在绿色低碳、出行等领域的丰富生态资源，在能源转型及数字化转型领域展开创新合作，携手共赴，净零，未来，作为世界领先的能源解决方案提供商，壳牌是...。
农产品对于家庭来说，在生活中不可缺少，很多家庭都有反复购买的需求，特别是食用油的要求也很大，青海汉尧能够在食用油以及各种农副产品的生产销售领域很出色，青海汉尧加盟费，大家可以在合同签订以后，按照要求缴纳，青海汉尧加盟商可以在了解的基础上与公司商谈加盟细节，签订合同，合同要求需要向总部交纳加盟费，加盟费大概在2，3万元左右，具体收费标准...。
#总师官宣歼15歼35都上航母#，当天，歼，15总设计师孙聪院士引见，歼，15和歼，35两型飞机都会上航母，总台记者钱江王磊秦祎王居蔚刘姝杉，...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
当天小编给大家引见的是如何在电脑高低载，网络阅读器，到电脑桌面上，详细如下，1.首先，咱们关上电脑，在电脑中找到阅读器，如下图白色框中的图标就是电脑自带的阅读器，也可以关上电脑上的其余阅读器，2.关上到了阅读器主页，咱们在搜查框中输入，网络阅读器，3.而后在搜查结果中找到，网络阅读器，，如下图所示，点击，立刻下载，4.会弹出一个窗...。
[全球网报道记者姜蔼玲]韩国，中央日报，11日报道称，正在华盛顿加入北约峰会的韩国总统尹锡悦外地期间10日与乌克兰总统泽连斯基会面，韩国国度安保室当日举行资讯颁布会，称将为乌克兰及其国民提供所需声援，此信息经韩媒报道后，引发不少韩国网友不满，有网友称，，此举，令人寒心，，非要四处抚慰抗争迸发吗，报道称，今日晚宴前，尹锡悦夫妇和泽连...。
奥迪A3作为一款紧凑型轿车，备受生产者的喜欢，那么，它的多少钱终究是多少呢，上方咱们一同来详细解析，首先，咱们须要了解的是，奥迪A3的多少钱相对来说较为固定，不会发生太大的浮动，不过，这并不象征着它不会由于各种起因此发生变动，车型定价目前市场上开售的奥迪A3车型较为丰盛，多少钱也因此存在差异，目前最新的奥迪A3四门掀背车分为三款车型，...。
抖音极速版电脑版是一款非常不错的短视频分享软件。为用户带来了大量的网络红人、美食博主、流量明星、穿搭达人等海量优质用户
摄影，摄影如何，什么摄影，哪些摄影，怎么摄影
手工品牌不仅可以锻炼各年龄人群的动手能力，还能让大家在动手的过程中收获更多的成就感，现在的手工行业内，也出现了很多不同的手工品牌，滴蛙手工就是其中一个，很多人知道这个品牌，但并不了解它的加盟资讯，那么，小编这就来为大家介绍滴蛙手工怎么加盟，如何经营，部分想要加盟滴蛙手工的创业者，先要知道品牌总部制定的规范化地加盟流程，创业者先要联系总...。
以上，便是陕西小吃中较有名气的几种，其排名不分先后，陕西小吃博采各地之精华，兼收民族饮食之风味，俨然是中华餐饮的明珠，各位食客如若路过陕西，千万不要错过这些风味美食哦，否则你将抱憾终身的！...。
苹果印度工厂暴乱，iPhone一夜被偷2万部中国台湾科技公司、苹果iPhone主要代工商之一纬创设在印度卡纳塔卡，Karnataka，的iPhone制造工厂于当地时间12月11日晚发生抗议暴动事件，警方在事发后已赶往现场维持秩序，目前累计已逮捕132人，目前，据统计，纬创损失高达43.7亿卢比，约3.88亿台币，，有超过2万部iPho...。
未公布，根据查询广州人民政府官网得知，截止到2023年10月27日广州地铁15号线动工时间还没有公布，2021年10月8日，广州市交通运输局在其官网上发布了，广州市交通运输，十四五，规划，，其中就有15号线一期，横沥到万顷沙，入围，广州地铁15号线是规划中一条南沙环线，起始站为蕉门站，广州15号线地铁什么时候开通广州地铁15号线为南沙...。
雷锋网讯，4月20日，思迈特软件，Smartbi，宣布完成亿元级B，轮战略融资，本轮投资方为明略科技，此次战略合作双方将进一步加强在数据分析和智能决策等领域的优势叠加效应，据了解，思迈特软件Smartbi产品矩阵覆盖传统BI、敏捷BI、智能BI三个不同的BI发展阶段，满足企业在不同场景下的BI需求，除此之外，思迈特软件还面向行业ISV...。
