完美的优化目标 人工智能的盲点 (完美的优化目标是什么)
人工智能（AI）系统的脆弱性一直被行业人员所诟病，稍微的数据错误就会使系统发生故障。例如在图像识别中，图片微小的像素改变，不会干扰人类视觉，但机器可能会发生紊乱。正如CVPR 2017论文中所论述的那样“修改一个像素,就能让神经网络识别图像出错”。
至于原因，研究人员有过很多探究：数据不够好，算法设计不精妙....近日，在科技媒体wired上，计算机科学家Erik J. Larson撰文表示： 优化思维是AI脆弱性的根源。 （译者注：这里的优化思维，也可以翻译成“追求足够好”、追求完美AI）
优化是推动AI尽可能准确的动力，在抽象的逻辑世界中，这种推动无疑是好的， AI运行的现实世界中，每一个好处都是有代价的。 例如需要更多数据来提高机器学习计算精度，需要更好的数据来确保计算的真实性。
“这种更好”必须保证不断的进行数据收集，因此当AI开始逐渐形成完整的画面时，新数据的出现可能改变现有状况，从而导致系统崩溃。这也是大众眼中近乎完美的AI经常“犯精神病”的原因之一：将狗狗当成菠萝，把无辜的人看成通缉犯。
人类不是一个优化者，过去几万年大脑本身也并没有进化出完美优化的功能。大脑是轻量级的，从不追求100%的准确性，并能够从小数据中得出假设。
换句话说，大脑满足于在“门槛”上混日子，如果1%的准确率就能让它生存，那么这就是大脑所需要的准确率。但这种最小生存策略也会导致认知偏见，让人们思维封闭、鲁莽、宿命论、恐慌。
AI严格的数据驱动训练方法能有效避免这种认知偏见，却也让其陷入“过度纠正”。确实，对人类而言，好的心态能够抵御完美主义带来的破坏性影响，一个不那么神经质的大脑已经帮助我们在“生活的冲撞和摇摆”中茁壮成长。
将这种“反脆弱”引入AI，那么也意味着：
与其追求压缩越来越大的数据堆，不如专注于提高AI对不良信息、用户差异和环境动荡的容忍度。
这种AI将消耗更少的能量，产生更少的随机失误，带来更少的负担。如何做？目前来看，有三种方式。
五百年前，实用主义大师尼科勒·马基雅维利指出，世俗的成功需要一种反直觉的勇气。对于聪明人来说，大部分不存在的知识将是不必要的；生活往往不会符合我们的预期。因此，人类可以改变对模糊性的处理方式。
例如当AI遇到单词suit时，它会通过分析更多的信息来确定该单词是表示衣服，还是法律名词。分析更多信息通常意味着利用大数据缩小答案范围，这在99.9%的情况下有效，剩下的0.1%，AI仍然会“自信”的将suit表示为法律名词，但实际上它是衣服。
因此，AI应该有足够大的答案范围。研究人员在设计AI时候，应该允许“模棱两可”，并将模糊选项代入后续任务中，就像人类能够读懂一首诗歌的多个潜在含义一样。如果下游任务不允许“模棱两可”的存在，这时设计的AI应该能请求人类的帮助，让人类代替它进行决策。
目前的AI希望通过大数据的发散性思维实现创造。但众多科学研究显示，生物的创造力往往涉及无数据和非逻辑过程。因此，依靠大数据或许能够批量创造出许多“新”作品，但这些作品仅限于历史数据的混合和匹配。换句话说，大规模的发散性思维的产生必然伴随着低质量。
数据驱动的创造所产生的局限性可以从GPT-3以及Artbreeder等文本和图像生成器中看到。通过“观察”历史场景，然后添加专家意见，试图产生下一个梵高。但结果往往是这位“梵高”只能复制以前画家的作品。这种AI设计文化，显然误解了创新的含义。这种情况从大家对FaceNet的盛誉中可见一斑，因为有一些面部识别的创新，仍然是蛮力优化。可以类比为调整汽车的扭矩带增加汽车性能，并称其为汽车交通革命。
90年前，《科学发现的逻辑》一书的作者 就指出：用事实推翻想法比证明想法更合乎逻辑。将这种思维引入到AI产物中，我们可以将数据的功能从小想法的大量产生者转变成大规模的毁灭者（a mass destroyer of anything except），当然一些前所未有的想法除外。（译者注：这里的大规模毁灭者是指将“重复作品”筛选出来）
因此，与其无休止的产生“重复作品”，不如让计算机搜索有价值的作品，从而找到未被赏识的“梵高”。
将人脑融入AI听起来很科幻，短期内很难有大的进展，但我们可以另辟蹊径，设计友好的人机关系。当前人与机器的合作关系并没有发挥它应有的作用，人类要么充当机器的保姆，要么充当AI系统更新的附属品。前者意味着乏味、枯燥，后者意味着被动。如何解决？当前的工作重点已经关注三个方面：
1.攻关科研，让AI有能力“知道”它何时缺少训练数据。换句话说，追求正确的AI，不如追求让AI知道自己何时不正确，赋予AI认知自己的智慧。人类的大脑无法拥有计算机的数据处理速度，所以当无知的算法认为自己无所不能的时候，人类的干预总是太晚。因此，应该通过编程让“傻瓜”发现自己是“傻瓜”。
2. 完善人机交互界面。因追求优化而造成的不透明设计，即黑盒算法。交互设计应该消除黑盒性质，例如将刚性按钮（只有一个选项）替换成包含概率的选项，标明第一个选项的可能性为70%，第二个选项的可能性为20%，第三个选项的可能性为5%，以此类推。如果没有满意的选项，那么就要求AI重新定向，或者进行手动操作，以最大的限度提高计算机的逻辑和人类的主动性。
3. 仿照大脑建立去中心化的AI模型。大脑包含去中心化的认知机制，例如逻辑、叙述、情感，它们之间相互制约、相互平衡。因此，AI系统也可以设计包含不同推理架构，例如如果深度学习不能访问它所需要的数据，系统就可以过渡到if-then的控制程序。更重要的是，人工智能可以向外看，从人类学的线索中学习，而不是狂热地集中在自己的内部优化策略上。
以上技术建议并不是未来虚幻的想象，它是现在就可以实现的设计创新。需要研究者抛弃大数据以及完美智能的假设，在这个不断变化的世界中，创造性要求比最准确要求来的更加明智。
版权文章，未经授权禁止转载。详情见 转载须知 。
宜兴绿创环保填料厂【手机13915376960】长期供应高品质填料,曝气器,水处理填料,环保填料,组合式填料。与全国多家科研院校和工矿企业建立了长期技术、业务合作关系，一直致力于市场调研和新产品开发，产品不断更新，科技含量不断增高，使产品逐步实现了单一化到多元化的转变，上千多个用户遍步全国石油、化工、轻化、纺织印染、电力、煤炭、钢铁、造纸、制药、自来水等行业，过硬的产品质量和完善的售后服务深受用户好评。
重庆牛公子食品有限公司是一家集调味品研发、生产、销售为一体的大型集团型企业，现旗下“牛公子”牌系列火锅牛油和“严太太”牌系列鸡精，推向市场以来，深受广大消费者的青睐。
深圳市强禾科技有限公司是一家无线智能照明解决方案提供商，一直深耕智能照明行业，专注蓝牙照明方案和wifi照明方案.可提供蓝牙LED控制器、wifi灯带控制器、蓝牙LED球泡灯、投光灯、智能幻彩灯等智能灯控照明整体解决方案。
河北博海生物工程开发有限公司
无锡长源冷拉型钢有限公司专业从事生产各类冷拉型材，包括：冷拉型钢/方钢/圆钢/六角钢/异型钢/扁钢/槽钢/H型钢等冷拉钢材，主要规格在4-70mm之间，产品规格多样、应用广泛，热烈欢迎各位新老客户来电咨询，期待您的来电！
苹果id贷无需征信验证,苹果手机xr以上可申请。id贷平台为您提供苹果id贷下款额度信息、申请入口。苹果id贷是为用户周转资金，无视黑白必下款的手机苹果id贷款平台。
台州市黄岩森宝机械有限公司坐落中国模具机械之乡，拥有20年以上自动吹瓶机生产经验，专业从事全自动吹瓶机研发生产的企业，SE系列全自动吹瓶机可生产10ML到20L不同形状的PET材质的瓶、桶、罐，可满足矿泉水、碳酸饮料、果汁、食用油等领域的吹瓶需求。
山东正阳建筑设计有限公司具有国家住房和城乡建设部批准的建筑行业（建筑工程）甲级设计资质。可承担建筑工程设计、建筑装饰工程设计、钢结构工程设计、建筑智能化系统设计、照明工程设计和消防设施工程设计等甲级专项工程设计业务。
备案/许可证编号为：京ICP备20031439号-1
零零五手游攻略每天为广大安卓手游玩家提供最新安卓手机游戏资讯,最专业的手游攻略,最全面的安卓手游排行榜，是及资讯、攻略、排行人气的安卓手游综合网站。
保定招聘网，保定人才网，保定百姓人才网，专为保定求职人员提供大量求职岗位
深圳市斯沃德厨柜有限公司高端不锈钢全屋定制品牌、专业不锈钢厨柜厂家，提供不锈钢全屋定制、不锈钢厨柜、不锈钢厨柜加盟、不锈钢衣柜/不锈钢浴室柜，不锈钢酒柜，不锈钢鞋柜，不锈钢书柜等。不锈钢全屋家居价格咨询热线：400-002-0076
现在英语已经成为了一种通用的语言，掌握好的英语口语能力，对于个人的发展来说特别的至关重要，有哪些学英语口语的最好的app呢，一般的学英语方式可能会受各种限制，当然有了这些软件就可以为大家提供了更加便捷和高效的学习方法，以下小编将详细的介绍英语口语软件的一些功能和给大家带来的好处，1.，英语口语8000句，该软件采用了真人对话模拟练习，...。
10月6日消息，台积电今日公布了9月营收情况，汇总如下，合并营收，约新台币1804.3亿元，当前约407.77亿元人民币，，环比减4.4%，同比减13.4%Q3营收，新台币5467.32亿元，当前约1235.61亿元人民币，，相比上一季度增加13.7%，相比去年同季度减少10.83%，优于此前预期今年累计营收，新台币15362.07亿...。
麻花是一种非常美味的食物，麻花是非常酥脆的，在外面加上芝麻更非常香，因此现在麻花制作的品牌越来越多，弘祥蜂蜜大麻花以自己的古法制作在市场上获得了消费者的赞赏，同时加入了蜂蜜，更加养生，因此弘祥蜂蜜大麻花是人们非常青睐的一食品品牌，接下来介绍，弘祥蜂蜜大麻花加盟费，弘祥食品16年以来一直专注于食品行业的创造，目前所生产的各种产品达到了1...。
01真实故事阿飞最近似乎找到了赚钱的捷径，做互联网几年来跌跌撞撞，第一次感觉赚钱真没那么难，他发红包来道喜，说，很久之前看了王叔之前的一篇文章，瞬间感觉打通了任督二脉，认知一下子提升了，我问，是哪一篇有这么大的魔力?，阿飞，名字记不清了，大概内容是讲摆地摊，讲付费流量那篇，阿飞，让我对付费流量有了更新的认识，之前一直在互联...。
衣服也是人们在日常生活中都不能够离开的一个项目，所以很多人在外面工作了一段时间之后想要创业都是会选择加入到服装行业，有关39元服装在全国各地都是比较受欢迎的，毕竟这样的品牌是不用愁消费者的，但是在进行创业的时候，是应该要认识到有关品牌的加盟费用问题，所以下面就为你介绍39元服装加盟店多少钱，39元服装加盟店要多少钱，39元服装在市场上...。
雷锋网按，2018全球人工智能与机器人峰会，CCF，GAIR，在深圳召开，峰会由中国计算机学会，CCF，主办，由雷锋网、香港中文大学，深圳，承办，得到了深圳市宝安区政府的大力指导，是国内人工智能和机器人学术界、工业界及投资界三大领域的顶级交流盛会，旨在打造国内人工智能领域最具实力的跨界交流合作平台，7月1日，随着议程进入到第三天，本次...。
雷锋网消息，近日，以，韧则行远，为主题的2020启明创投第十二届CEO云端峰会周如约而至，11月20日，2020启明创投第十二届CEO云端峰会周第三天的医疗健康论坛的对话CEO环节，就，中国胰岛素之王的全球创新之路，这主题，启明创投主管合伙人梁颕宇对话甘李药业创始人兼董事长甘忠如博士，甘李药业成立于1998年，前身为北京甘李生物，主要...。
OPPOFindX7系列在1月8日正式发布，天玑9300的FindX7标准版定价3999元起，骁龙8Gen3配双潜望长焦的FindX7Ultra是5999元起，FindX7标准版星空黑、海阔天空、大漠银月、烟云紫配色↑，中间两个是玻璃拼素皮，FindX7系列这一代，和FindN3一样，在左侧加了三段式的拨钮，4个配色中，只有大漠银月是...。
青草山涧青草山涧[网易海南澄迈县网友]入云龙智多星道法人造的觉得元始天尊了预计王思聪是不是请不起男的有时也是难的青草山涧[网易海南澄迈县网友]当天我跟我弟说了他只初三就社会闯荡了当年的当年东郊也是前十的存在吧初三的时刻他常在我背地议论他初三毕业后学到的五笔与办公软件所以我素来不用字形五笔输入文字三亚，南山寺，椰小鸡椰子鸡，网吧，往年的...。
2017年立春详细期间公历，阳历，2017年2月3日23时34分01秒立春的习俗1、祭句芒神句芒为春神，即草木神和生命神，句芒的笼统是人面鸟身，执规矩，主春事，2、咬春北边吃的食品是春饼，而南边则盛行吃春卷，吃春饼和春卷，是人们对，一年之计在于春，的美妙祝愿，值得一提的是，立春这一日，中国民间，咬春，的另外一种食品是萝卜，比拟广泛的...。
1、AndroVid，AndroVidPro，是一个十分好用的视频编辑器，领有许多适用的配置，如修剪、宰割以及抓取视频帧，对N多音频和视频格局转换等，并且可以分享您编辑过的视频，2、KineMaster，巧影KineMaster，是一款在Android系统上运转的顶尖视频剪辑软件，研发团队历经几年的醉生梦死，以最迷信的方法设计操作页面...。
重庆分类目录网站收录通信相关的优秀网站大全分类检索，为上网用户提供通信网站排行榜与您分享、收藏！
一时间，曙光升腾，万物生长，江河汇聚，天地开阔，中国离信息高速公路还有多远?向北1500米，1995年，北京中关村，一块巨型广告牌，造就了中国互联网的记忆经典，向北1500米，指向中国第一家互联网公司——，瀛海威，即InformationHighway，这个广告，大部分人不但看不懂，还误以为是路标，当时，瀛海威还策划过一个更夸...。
青藤嘟嘟鱼，特色美食项目，吸引了源源不断的吃货，门店全部采用现杀活鱼，确保新鲜健康，标准化工艺制作，特色酱料，鱼肉细嫩，滋味鲜美，让人欲罢不能，吃过一次，还想吃第二次，随着青藤嘟嘟鱼门店生意的日渐红火，许多精明的创业者都萌发了加盟的想法，那么，青藤嘟嘟鱼如何加盟呢，不妨看看下面的回答，合作咨询，加盟者可以拨打加盟热线，浏览青藤嘟嘟鱼招...。
雷锋网消息，4月9日，新东方旗下OK智慧教育举行线上发布会，发布了首款5G教育硬件产品——OK5G云盒，新东方创始人俞敏洪、OK智慧教育创始人贾云海等嘉宾出席了线上发布会，OK智慧教育成立于2014年，创始人贾云海，是新东方内部孵化出的专注智慧教育的独立品牌，是集，教育专用智能终端，教育服务平台，和，全场景智慧教育解决方案，为一体的...。
11月21日，努比亚Z70Ultra正式发布，红魔10Pro系列同款的无打孔真·全面屏、骁龙8至尊版、等效35mm的IMX906、强化的OV64B长焦，定价4599元起，努比亚Z70Ultra是骁龙8至尊版，不锈钢VC投影面积约4400mm²级别，LDPPR5X，UFS4.0闪存，16GB和24GB版本是9600Mbps的增强版LPD...。
发表在投影仪评测2020，8，2113，07新家和观影升级你会选择投影仪还是大尺寸的电视，不可否认，随着投影仪不断的发展，越来越多的家庭开始选择一台投影仪作为居家主要的娱乐设备，只需要一台投影仪就可以在客厅、卧室乃至户外搭建自己的家庭私人影院，而且不受时间和场地的限制，极大可能的享受大屏幕的视觉体验，尤其是在当下电影院仍未完全复苏的时...。
