完美的优化目标 人工智能的盲点 (完美的优化目标是什么)
人工智能（AI）系统的脆弱性一直被行业人员所诟病，稍微的数据错误就会使系统发生故障。例如在图像识别中，图片微小的像素改变，不会干扰人类视觉，但机器可能会发生紊乱。正如CVPR 2017论文中所论述的那样“修改一个像素,就能让神经网络识别图像出错”。
至于原因，研究人员有过很多探究：数据不够好，算法设计不精妙....近日，在科技媒体wired上，计算机科学家Erik J. Larson撰文表示： 优化思维是AI脆弱性的根源。 （译者注：这里的优化思维，也可以翻译成“追求足够好”、追求完美AI）
优化是推动AI尽可能准确的动力，在抽象的逻辑世界中，这种推动无疑是好的， AI运行的现实世界中，每一个好处都是有代价的。 例如需要更多数据来提高机器学习计算精度，需要更好的数据来确保计算的真实性。
“这种更好”必须保证不断的进行数据收集，因此当AI开始逐渐形成完整的画面时，新数据的出现可能改变现有状况，从而导致系统崩溃。这也是大众眼中近乎完美的AI经常“犯精神病”的原因之一：将狗狗当成菠萝，把无辜的人看成通缉犯。
人类不是一个优化者，过去几万年大脑本身也并没有进化出完美优化的功能。大脑是轻量级的，从不追求100%的准确性，并能够从小数据中得出假设。
换句话说，大脑满足于在“门槛”上混日子，如果1%的准确率就能让它生存，那么这就是大脑所需要的准确率。但这种最小生存策略也会导致认知偏见，让人们思维封闭、鲁莽、宿命论、恐慌。
AI严格的数据驱动训练方法能有效避免这种认知偏见，却也让其陷入“过度纠正”。确实，对人类而言，好的心态能够抵御完美主义带来的破坏性影响，一个不那么神经质的大脑已经帮助我们在“生活的冲撞和摇摆”中茁壮成长。
将这种“反脆弱”引入AI，那么也意味着：
与其追求压缩越来越大的数据堆，不如专注于提高AI对不良信息、用户差异和环境动荡的容忍度。
这种AI将消耗更少的能量，产生更少的随机失误，带来更少的负担。如何做？目前来看，有三种方式。
五百年前，实用主义大师尼科勒·马基雅维利指出，世俗的成功需要一种反直觉的勇气。对于聪明人来说，大部分不存在的知识将是不必要的；生活往往不会符合我们的预期。因此，人类可以改变对模糊性的处理方式。
例如当AI遇到单词suit时，它会通过分析更多的信息来确定该单词是表示衣服，还是法律名词。分析更多信息通常意味着利用大数据缩小答案范围，这在99.9%的情况下有效，剩下的0.1%，AI仍然会“自信”的将suit表示为法律名词，但实际上它是衣服。
因此，AI应该有足够大的答案范围。研究人员在设计AI时候，应该允许“模棱两可”，并将模糊选项代入后续任务中，就像人类能够读懂一首诗歌的多个潜在含义一样。如果下游任务不允许“模棱两可”的存在，这时设计的AI应该能请求人类的帮助，让人类代替它进行决策。
目前的AI希望通过大数据的发散性思维实现创造。但众多科学研究显示，生物的创造力往往涉及无数据和非逻辑过程。因此，依靠大数据或许能够批量创造出许多“新”作品，但这些作品仅限于历史数据的混合和匹配。换句话说，大规模的发散性思维的产生必然伴随着低质量。
数据驱动的创造所产生的局限性可以从GPT-3以及Artbreeder等文本和图像生成器中看到。通过“观察”历史场景，然后添加专家意见，试图产生下一个梵高。但结果往往是这位“梵高”只能复制以前画家的作品。这种AI设计文化，显然误解了创新的含义。这种情况从大家对FaceNet的盛誉中可见一斑，因为有一些面部识别的创新，仍然是蛮力优化。可以类比为调整汽车的扭矩带增加汽车性能，并称其为汽车交通革命。
90年前，《科学发现的逻辑》一书的作者 就指出：用事实推翻想法比证明想法更合乎逻辑。将这种思维引入到AI产物中，我们可以将数据的功能从小想法的大量产生者转变成大规模的毁灭者（a mass destroyer of anything except），当然一些前所未有的想法除外。（译者注：这里的大规模毁灭者是指将“重复作品”筛选出来）
因此，与其无休止的产生“重复作品”，不如让计算机搜索有价值的作品，从而找到未被赏识的“梵高”。
将人脑融入AI听起来很科幻，短期内很难有大的进展，但我们可以另辟蹊径，设计友好的人机关系。当前人与机器的合作关系并没有发挥它应有的作用，人类要么充当机器的保姆，要么充当AI系统更新的附属品。前者意味着乏味、枯燥，后者意味着被动。如何解决？当前的工作重点已经关注三个方面：
1.攻关科研，让AI有能力“知道”它何时缺少训练数据。换句话说，追求正确的AI，不如追求让AI知道自己何时不正确，赋予AI认知自己的智慧。人类的大脑无法拥有计算机的数据处理速度，所以当无知的算法认为自己无所不能的时候，人类的干预总是太晚。因此，应该通过编程让“傻瓜”发现自己是“傻瓜”。
2. 完善人机交互界面。因追求优化而造成的不透明设计，即黑盒算法。交互设计应该消除黑盒性质，例如将刚性按钮（只有一个选项）替换成包含概率的选项，标明第一个选项的可能性为70%，第二个选项的可能性为20%，第三个选项的可能性为5%，以此类推。如果没有满意的选项，那么就要求AI重新定向，或者进行手动操作，以最大的限度提高计算机的逻辑和人类的主动性。
3. 仿照大脑建立去中心化的AI模型。大脑包含去中心化的认知机制，例如逻辑、叙述、情感，它们之间相互制约、相互平衡。因此，AI系统也可以设计包含不同推理架构，例如如果深度学习不能访问它所需要的数据，系统就可以过渡到if-then的控制程序。更重要的是，人工智能可以向外看，从人类学的线索中学习，而不是狂热地集中在自己的内部优化策略上。
以上技术建议并不是未来虚幻的想象，它是现在就可以实现的设计创新。需要研究者抛弃大数据以及完美智能的假设，在这个不断变化的世界中，创造性要求比最准确要求来的更加明智。
版权文章，未经授权禁止转载。详情见 转载须知 。
IP反查域名是通过IP查询相关联的域名信息的功能。它提供IP地址历史上绑定过的域名信息，以及域名历史上解析过的IP地址列表。
河北永诚精密铸造有限公司主要生产国标扣件、建筑扣件、脚手架扣件等产品,始终坚持良好的工作理念，把产品的质量和客户的满意作为生存的追求，努力提高产品的质量和性能，使永诚不断的发展壮大
厚学网-湖州领先的培训学校、培训课程信息网.覆盖400个以上城市,超过10万家教育培训机构,100万个教育培训课程辅导班及相关优惠的培训课程费用信息,您要的优质培训这里都有.找培训,上厚学网!
南昌汇腾环保工程有限公司是一家从事通风系统工程与净化工程为一体的公司,电话:13657092388公司专注于共板风管加工,废气处理,螺旋风管加工,通风工程,净化工程,无尘车间,厂房降温,**空调,新风系统,地下室通风,酒店通风,商业厨房排烟,除尘工程项目的规划,改造,设计,安装,维护提供整套系统服务.
深圳市嘉德锐瀚技术有限公司是一家集研发，生产，销售，服务于一体的高新技术企业，主营产品有：全自动点胶机、灌胶机、涂覆机、加热固化炉、UV固化炉涂胶AOI、流体控制非标定制化一体解决方案。欢迎来电咨询:15920094212
搪瓷反应釜厂家山东搪联化工设备有限公司,主要生产搪玻璃反应釜,搪瓷反应釜，不锈钢反应釜，储罐等。我厂搪瓷反应釜规格、型号、尺寸齐全.搪玻璃反应釜厂家排名选搪联
NAK80一般指NAK80模具钢。NAK80模具钢是一种预硬塑胶模具钢，是日本大同制钢株式会社钢。广泛应用于注塑模具制造。它以优异的耐磨性、耐腐蚀性和良好的热稳定性而著称。被广泛应用于多种模具制造领域。
自如驿是自如旗下的世界青年欢乐旅行驿栈，旨在为全世界年轻人提供打破国界、亲密交流的旅行居住空间。独创3Q睡眠系统、五星级卫浴及娱乐公区。
房贷计算器2024年最新版包含有：商业贷款计算器、公积金贷款计算器、组合贷款计算器，当前房贷计算器包含有央行最新商业贷款基准利率(LPR)，可快速计算等额本息、等额本金等各种贷款利率。
维贝尼总部位于北京，源自欧美国际化最先进早期教育理念。颠覆传统的早教模式，专注于打造“中国精致社区亲子教育空间”；维贝尼国际目前开设有0-3岁早教班，1.5-4岁精品幼托班，3-8岁幼儿英语启蒙班，立志于向全国的0-8岁宝贝提供高质量的成长环境，让更多孩子得到全面、快乐的成长机会。
南京溧水大金山国防园拓展基地，南京拓展训练、南京国防教育、南京大金山、企业团建基地。
零峡知识网专业的门户信息网站,涵盖了|生活|科技|房产|互联网|汽车信息与一站的综合性专门户网站。
过去一周里，雷锋网参加了业内多个重大会议，包括国内的双创周、极飞科技年度大会，以及国外的IROS2016等，下面我们就来回顾下，这些大会都有哪些看点，IROS2016，见证机器人领域最顶级的国际会议IROS会议今年已经举办到第29届，会议每年会收到约两千多篇论文投稿，而本届会议在韩国大田举办，会有2500位来自约40个国家的全球机器人...。
今天下午，第十三届全国人大四次会议在北京正式闭幕，历年来，两会内容都是社会各界关注的重点，其中谈及的议题也是我国未来发展的可靠风向标，相较往年两会内容，今年出现了更多关于，自动驾驶，、，智能网联，、，汽车芯片，等提案，工信部发布的，2020人工智能中国专利技术分析报告，显示，截止2020年10月底，我国自动驾驶领域的年度专利申请已达1...。
腾讯升级员工福利，入职5年送长期健康保险，入职15年可提前退休继上周五推出员工，退休福利，后，11月9日，腾讯再度升级员工福利，根据新方案，腾讯员工，职业里程碑，将从过去的三个节点升级为六个，1年、5年、10年、15年、20年、法定退休，如入职满15年时，腾讯员工将获赠一份，终身健康保险，，同时可自由选择是否退休，根据腾讯推出的，退休...。
11月25日，雷锋网邀请到众安互联网医院负责人黄佩佩，以，众安互联网医院——做一亿人的医管家，为题，为我们解读众安保险的，医，药，险，互联网医疗创新模式和具体落地逻辑，2020年，，互联网，医疗迎来了自己的高光时刻，在供需双方和政策的共同驱动下，互联网，医疗正在逐步进化，从互联网网络问诊，到复诊开药，再到医保、商保支付，以及现在的诊...。
发表在华硕投影仪2022，4，2113，48华硕LatteL1是华硕官方推出的新品便携式家用投影仪，内置智能系统和电池，支持用户携带到户外使用，那么这款投影仪的详细配置到底怎么样呢，下面就来全面了解一下，看看华硕LatteL1投影仪怎么样，1.光学参数华硕LatteL1采用DLP显示技术，使用LED光源，整体画面色彩更为细腻，颜色丰富...。
发表在光学屏幕幕布2023，4，1917，36今天为大家带来一组实拍评测，无需多言，上图说话！我们使用的是菲斯特菲涅尔光学屏幕，并与普通白塑幕进行效果对比，首先我们会展示对比效果，然后使用专业仪器测试，用数据证明所言非虚，先给大家一点小小的震撼，以下两张图均为实际拍摄，左边是菲斯特菲涅尔光学屏幕，右边是作为对比的普通白塑幕！小小科普，...。
沉迷于刷短视频的危害真的很大，不仅会让你消耗掉大量的时间精力、又累又困却什么事情都没干成、什么也没学到，还会因为平台根据你的喜好固定推荐的内容让你陷入信息茧房，沉迷于短视频还会让你久坐久站低头影响身体健康，最可怕的是沉迷于短视频会让你专注力退化、耐心下降、阅读理解与深度思考能力下降，...。
近日，寓居在北京的王女士向红星资讯反映，因租房后被房东发现其患有早期癌症，她和丈夫面临被房东宣布双方面解除合同强迫收房，7日内必需搬离的境况，房东张先生则示意，租户在签署合同时对病情有所瞒哄，如癌症患者在其所租售的屋宇内逝世，该屋宇会被认定为，凶宅，，从而造成市场价值贬损，其可以双方面解除合同，是因租户示意，有权拒绝一切上门看房的行为...。
申明，1.以上内容仅代表揭发者自己，不代表黑猫揭发立场，2.未经授权，本平台案例制止任何转载，违者将被清查法律责任，3.黑猫揭发处置揭发不收取任何费用，凡以黑猫揭发名义不要钱的均为混充、诈骗行为，请及时报警并与黑猫官网反应，揭发邮箱heimaotousu@vip.sina.com，4.请大家选用官网渠道处置生产纠纷，不要轻信第三方机构...。
华阳陆地钻研核心、中国南海钻研院和中国国内法学会7月11日在京联结发布了，南海仲裁案判决再批驳，报告，所谓，南海仲裁案判决，出台距今已有8年，报告重申了中国对仲裁案以及仲裁判决的立场，强调中国政府不会抵赖仲裁庭作出的合法判决，也不会接受任何基于判决的主张和执行，近日，中方发布，仁爱礁合法，坐滩，军舰破坏珊瑚礁生态系统考查报告，黄岩岛...。
本田锋范是一款深受生产者喜欢的紧凑型SUV，作为本田品牌的明星车型之一，它在外观和经济性能上都有着不错的体现，而置信许多车友最关心的疑问就是，本田锋范究竟要多少钱一台呢，本文将带你片面解析本田锋范的售价及性能消息，1.本田锋范的售价概述作为一款抢手的SUV车型，本田锋范自上市以来便备受追捧，依据不同的性能和版本，其售价也略有不同，以下...。
新京报讯，记者张建林，7月3日，有网传视频显示，故宫神武门左近冒起白烟，疑似有火情，3日下午，记者向故宫方面求证，故宫方面示意，这是一次性消防演习，防火上班是故宫博物院安保上班的关键方面，故宫的现代修建绝大局部为木质结构，防火上班具备复杂性和严格性，消防安保压力渺小，记者得知，作为重点防火单位，故宫有常态化消防演习，此前故宫方面就曾...。
6月26日，一份来自微软、任天堂和索尼的联合声明在网上被泄露，这是一份提交给美国贸易代表办公室的文件，在7页内容中，三家主机生产商共同反对美国政府在中美贸易战中对游戏机征收25%的关税，因为这将造成巨大影响和不必要的经济损失，主要包括，1.对消费者、游戏开发者、零售商和游戏机制造商造成伤害，2.将上千个高价值的美国工作岗位置入危险境地...。
7月12日，14日，由中国计算机学会，CCF，主办，雷锋网、香港中文大学，深圳，承办，深圳市人工智能与机器人研究院协办的全球人工智能与机器人峰会，CCF，GAIR，将在深圳盛大开幕，这已经是CCF，GAIR举办的第四个年头，值得一提的是，去年的，计算机视觉专场，专注于安防与医疗两个热门领域，收获了超高人气，CCF，GAIR2019峰会...。
如今，各行各业都在忙着转型，想要搭上智慧快车，开启数字化转型之旅，在我们网购的过程中，经常会看到大多数商品发货地都写着金华、义乌等字样，浙江省金华市以小商品闻名，据，中国互联网络发展状况统计报告，显示，2020年，从电商市场主体的城市分布来看，深圳、上海位列前二；金华，这个浙江省的地级市则以20.56万家跻身全国电商市场主体数量TOP...。
发表在综合交流大区2023，11，1614，00在选购投影仪的时候，相信大家通常都因为繁多的参数而头疼，毕竟对于小白用户来说，各项参数的作用都不会太清楚，那么选购投影仪的时候需要注意哪些呢，下面就分享投影仪的参数主要看哪些方面的详细内容，看看投影仪各项参数有什么意义，投影仪的参数主要看哪些方面，1.亮度投影仪的亮度以流明来衡量，亮度越...。
在日常工作中，投影机可以提高办公效率，在会议室开会时，好用的投影是非常重要的，普通灯泡投影机在白天的话需要拉上窗帘，才能看的清晰；而激光投影机在白天不需拉上窗帘，投影照样清晰，市面上有多种投影机品牌，但是又该如何根据自身的需求挑选好的投影机品牌，普天达小编为你们提供了几款投影机品牌，希望能够帮助到你们，办公商用投影仪什么牌子好——品牌...。
