AI 基于神经网络模型的算法使机器学习透明化 黑箱难题怎么破 (ai神经网络介绍)
编者按：人们可以训练人工智能 （AI）和机器人完成任务，但整个过程在黑箱中运作。我们并不知道 AI 和机器人是如何决策的。一家名为 OptimizingMind 的初创公司想要解决这个问题。这篇文章将讲述该公司对建立透明 AI 决策过程的愿景和大胆尝试。本文发表于 TechRepublic，作者Hope Reese，原标题《
Transparent machine learning: How to create 'clear-box' AI
AI 领域的下一个大事件并不是教会 AI 完成某项任务，而是让机器向人们解释为什么它们做出了某项决策。 比方说，一个机器人决定走一条特定路线去仓库，又比如，一辆无人驾驶汽车决定向左或向右转。我们怎么知道 AI 为什么做出这些决定？
卡内基梅隆大学计算机科学教授 Manuela Veloso 是研究协作机器人的专家。他表示，能解释自身行为的 AI 对赢得大众对人工智能的信任至关重要。“我们需要质疑为什么算法程序会做出这样那样的决定，如果我们不在 AI 动机解释上花功夫，就无法信任这个智能系统。”
为解决该问题， 创业公司 OptimizingMind 发明了一项能观察智能机器决策过程的技术。
这个算法的目的是创造 “透明访问”系统，以呈现机器学习是如何做出预期（expectations）的。OptimizingMind 的负责人 Tsvi Achler 说：
有着神经科学、医药和计算机科学多重学科背景的 Achler 认为，我们能从人脑如何作出和解释决策中学习到很多（应用到 AI 的知识）。
“我感兴趣的是，大脑和计算机的共同点在哪里？为什么人脑可以在学会任何模型之后把它解释出来。如果我说 ‘章鱼’，你是否能告诉我那是什么？如果我问章鱼触手长什么样，你能告诉我吗？”
人能做到，AI 为什么不行？
他说，当人类观察到一个新模式（或规律）的时候，会立刻学会那个模式。这对 AI 暂时还不可能。 AI 的学习方法被称为批量学习。如果你想要对 AI 加入一个新模式或者新注解，你必须从头开始把所有的新旧模式重新教一遍。
Achler 开发的算法呈现出神经科学里的 “爆裂” 现象。当人观察到一个新模式时，多个神经元被同时激发，然后它们沉寂下来。当你向某人展示一个模式的时候，下一瞬间会发生神经兴奋，之后逐渐地平静下来。在这个算法里你会看到同样的事情。
实际上，这种研究方式是对传统机器学习进行了重新思考，Achler 认为该过程就像深度学习、感知器、支持向量机（SVM） 、 卷积神经网络（CNN）、递归神经网络（RNN）、反向传播等研究一样。研究者们并没有打算解决即时学习这一难题。 “这项技术的目的非常明确，那就是尝试解释 AI 是怎样思考的。没有人想过如何让系统变得更灵活或是更具可信度，而它的整体目标是让 AI 决策更容易被访问。”
OptimizingMind 是一种以人脑运行方式为基础的算法，旨在使开发者能“观察到系统内部，理解它们（AI 系统）在干什么，并且很方便地编辑它们，而无需从头开始训练”。这能让机器学习“一步到位”，而神经网络马上就能学会。举例来说，人们能告诉 Siri 某一个词的定义，然后它会被存储起来。今天神经网络还达不到这一点，它们需要用无数案例不断训练学习。
所以 “透明访问”系统是什么意思呢？根据 Achler 的说法， 这个系统提供了一种实时观察 AI 决策的方法。 它可以访问权重、特点和节点，提供能读取这些信息的灵活性，并且能改写它们。最终，这个系统能让我们理解神经网络是怎么做出一个决策的。这个工具能帮助工程师们大幅减少机器开发的时间，帮企业节省资源。
此外 Achler 还表示，在提供透明度之外，这个算法还可以被修改。不但预期（expectations）能被表达出来，每个单独预期还能随着新信息立刻改变。
今天，大多数机器学习的方法使用一个正反馈（feedforward）技术。风险投资公司 Naiss.io 的联合创始人 Ed Fernandez 说，正反馈使用优化过的权重执行任务。在正反馈系统里，独特性信息（ uniqueness information）依据训练中出现的频率被录入权重。这意味着整套训练中的权重必须经过优化。这又意味着 OptimizingMind 可以“根据正在被识别的模式执行优化”，这不是为了权重而优化，而是为了模式识别去优化。
当机器学习与商业更紧密结合，并成为无人驾驶和其他极其重要科技的基石，理解机器学习中到底发生了什么就变得至关重要。事实上， DARPA 最近启动了一项对可解释 AI （XAI，explainable artificial intelligence） 的投资。
正如 Veloso 教授说的：“我们不能假定 AI 系统完美无缺。”我们必须从 AI 的错误中学习。Veloso 表示，“如果某天发生了一起 AI 事故，我们必须避免它再次发生。”
via techrepublic
推荐阅读：
神经网络算法Batch Normalization的分析与展望 | 大牛讲堂
人工智能和深度学习的下一个风口在哪里？——余凯丨微软亚洲研究院院友会 （含22页PPT）
机器人也有好奇心，还能自己设定学习目标
原创文章，未经授权禁止转载。详情见 转载须知 。
中国设计师网，隶属于北京赛尔文化传媒有限公司，服务于工程技术设计人员。为电气设计师、照明设计师、暖通设计师提供专业的技术交流平台。
XML-JSON转换工具，WEB调试完后，可将XML文档压缩，加快文本在网络中的传输速度。
【应用商店】,vivo应用商店
马洲商城|马洲贸易网
欧高智创专注显示设备解决方案,是一家构建集研发、设计、生产、加工、销售于一体的专业工厂，有多年智慧液晶显示设备、LCD/LED显示器、高亮液晶显示模组、常规液晶显示模组、新能源广告机、物联网硬件/智能模块/云控系统的开发与应用等各类软硬件经验，欢迎来电咨询为您免费提供一站式定制化解决方案！
废水处理是一个复杂的过程，旨在减少水中的污染，使其达到排放标准或进行再利用。这个过程通常包括物理、化学和生物三种方法。
专业从事电路板拆解,重金属回收,电器拆解,荧光粉以及pcb线路板的生产和销售，欢迎来电咨询
易维权-多元化一站式纠纷解决服务平台（onlinedisputeresolution，简称ODR）服务是为了线上快速解决纠纷，遵循行业标准，联合业界专业人员，为企业及其消费者 提供的包括在线法律咨询、消费投诉、协商和解、调解、仲裁的一站式纠纷处理服务平台，无需进行法律诉讼（不打官司）快捷解决纠纷。简称，快速纠纷解决服务
草图溜溜官网是一个专注于提供高质量草图模型的免费平台。我们每日更新大量SketchUp-SU模型，包括建筑、景观园林和家装等多个领域。无需登录，即可免费下载SU素材。探索我们的skp模型库，发现精彩的设计灵感！www.caotu66.com
山东卓塍网络科技服务有限公司，行业领先的电商代运营服务公司，超五百人运营团队，七年行业经验，专注网店代运营服务,一站式托管运营,为您提供专业的淘宝,拼多多,天猫,京东,天猫国际,京东国际等代运营服务。
欢迎来到中小学免费试卷资源下载网——您的专属免费试卷下载宝库。我们致力于提供最新免费学习资料和一站式学习资料库，覆盖小学初中全科试卷下载及各学科测试卷集锦。在这里，您可以轻松找到按学科分类试卷库和中小学精选试题库，无论是数学、语文还是英语，我们都有精细学科试卷分类供您选择。
湖南益阳香樟树基地坐落于中国香樟之乡,本基地长期提供:全冠香樟树,移栽香樟树,丛生多杆香樟树,丛生多杆朴树,全冠栾树,丛生多杆栾树,丛生香橼树,全冠香橼树,价格优惠。
AI影视不能为了用AI而选择AI，而是要尊重电影的制作本质，赵天奇对说道，当传统的影视制作流程面临成本高昂、周期漫长等挑战时，AI技术的出现为行业带来了新的曙光，其中短剧作为一种新兴的影视形态，以其短小精悍、节奏紧凑的特点，迅速崛起并吸引大量观众，同时，短剧有更大的灵活性和商业潜力，正是在这一趋势下，赵天奇认为，通过AI技术...。
最近，一个的朋友向我吐槽在公司已经做了5年的运营，但是最近的一次内部晋升却失败了，最让人郁闷的是被提名的是一个刚工作两年的90后小朋友，但是，我其实很能理解这个事实，因为，互联网在充分赋能每个个人的同时，也同样在加速放大每个人的能力，这早已不是一个看资历的时代了，别人的工作经验虽然短，但是自我迭代的速度可能比你快十倍，就运营这个领域来...。
雷锋网消息，2019年7月1日，据DIGITIMES报道，三星电子已向多家中国手机厂商，包括OPPO和vivo，提供多种5G芯片组解决方案样品，用于测试和验证，三星首次开放自产芯片一直以来，三星的手机芯片大多数是，自产自销，，从不对外开放，但从DIGITIMES报道可以看出，三星已正准备对外开放5G芯片，虽然早前OPPO和vivo已确...。
日料产品，是大家喜爱吃的美食，不仅有丰富的营养价值，也有新颖的吃法，所以推出市场之后，就受到大众顾客的追捧，现在市场上有很多日料品牌店，其中就有有喜屋，有喜屋是大家熟悉的品牌，经营的产品质量很好，而且价格优惠，所以提升产品的销售量，现在品牌发展快速，创业者想要加盟，但不知道，有喜屋的加盟条件有哪些，加盟后有团队扶持吗，有喜屋的加盟条件...。
大约四年前，俄罗斯排名第一的网站、被誉为俄罗斯版Google的Mail.ru的联合创始人、董事长和CEODmitryGrishin推出了2500万美元的基金，专门投资为消费者打造的机器人，他认为机器人技术将是下一次技术革命的颠覆者之一，他不只是说说而已，还把钱都投到机器人技术上，现在他已经准备好要加注了，他创办的GrishinRobo...。
5月29日，在2023中关村论坛，雄安智能城市分论坛，上，奇安信集团董事长齐向东表示，雄安新区领跑智能城市建设，网络安全能力也需要与时俱进，他提出，以，零事故，为目标，建立一体系、一中心、一平台，为我国智能城市的网络安全防护树立样板，...。
在硅谷的投资人、分析师看来，中国对他们来说，首先想到的可能就是十几亿人的大市场，每个有手机的人安装一个他们的App，那就是绝对海量的用户群，每个人点击一下他们的广告，他们就赚翻了，每家公司买他们一台设备，他们就可以IPO了，除此之外，他们不会比中国这些已经刺刀见红的创业者更理解中国市场，硅谷的大佬们怕是很少有人关注中国互联网创业者们面...。
7月21日，中央社会上班部首个官网宣传平台，中社部消息宣传核心，微信群众号已正式上线，据该微信群众号简介引见，中社部消息宣传核心群众号旨在宣传党的社会上班的严重方针政策，钻研讨论社会上班严重通常和通常疑问，交换社会上班停顿状况和阅历做法，展现新时代社会上班活泼通常，值得一提的是，该官网微信群众号也披露了中央社会上班部的简称为，中社部，...。
**方法1，经常使用QQ官网网站**1.关上阅读器，并访问QQ官网网站，输入你的QQ账号和明码登录，**方法2，经常使用腾讯TIM**1.下载并装置腾讯TIM，关上TIM，点击左上角的WEBQQ图标，3.输入你的QQ账号和明码登录，**方法3，经常使用Chrome阅读器裁减程序**1.在Chrome阅读器中装置QQ网页版裁减程序，点击...。
2014年十二星座运程运势预测水瓶座2014年总体运程往年水瓶们事业运不太理想，皆因土星常年停留事业宫，而宫主星冥王落宫不理想，上半年任务量较多，把任务做好，降职时机大，下半年适宜找协作同伴或许与另一半一同做！财运比拟容易出现懵懂账或许因同情心被骗，还是理性生产为主，独身的水瓶们不太喜欢被约束，也疑问得关心另一半，但是往年容易走向婚姻...。
重庆分类目录网站收录浏览器相关的优秀网站大全分类检索，为上网用户提供浏览器网站排行榜与您分享、收藏！
汽车制造商推崇演变式创新，谷歌则追求着颠覆性的革命，智能汽车的拥趸们现在分成了两大阵营，一方认为辅助驾驶系统会日臻完善，最终实现无人驾驶的伟业；一方则觉得智能汽车能，一蹴而就，，突然浮现，关注智能汽车的网络写手BradTempleton近日做出了评论，他不推荐演变式路线的理由是，不够，自动，，你还需要时时刻刻盯着汽车，Templeto...。
从历年CES来看，谷歌的产品和战略必是一个硬核或中心为大家所关注，今年的CES也不例外，值得注意的是，谷歌的智能语音助手，GoogleAssistant，成为今年的一大热点，GoogleAssistant产品副总裁ManuelBronstein表示，谷歌正在围绕GoogleAssistant构建一个类似Android的完整的生态系统，...。
聊天应用将会是未来的浏览器，机器人会是未来的网页，虽然微软聊天机器人Tay的暴走事件还历历在目，品牌商们已经对机器人着迷，从荷兰航空公司KLM到化妆品零售商丝芙兰，市场营销人员都在抓住机会，利用消费者花在FacebookMessenger、Kik和Slack等聊天应用上的时间，开发自己的自动化短信界面——从在线支付到个人化妆教程，...。
据日本媒体，读卖新闻，报道，从今年夏天开始，日本政府计划测试一套游客指纹认证系统，即一个指纹就能帮助游客完成身份认证、商品购买和服务费用支付，日本希望赶在2020年奥运会和残奥会之前找到一种更有效的犯罪案件数量控制手段以及减轻游客出行携带现金或信用卡负担的方法，接下来，他们将率先在一些旅游中心的人气零售店展开测试—300家纪念品商店、...。
发表在爱普生投影仪2021，11，1013，56爱普生EH，LS300W激光电视怎么样?据说是内置了腾讯视频的内容，3LCD的显示技术，下面就跟着爱普生EH，LS300W的真实用户来看看，爱普生的激光电视画面效果如何，1.爱普生激光投影仪亮度高，色彩好，配套移动平台和抗光屏幕，组成激光电视，体验百寸大屏电视，效果挺好，大白天不拉窗帘都...。
