完美的优化目标 人工智能的盲点 (完美的优化目标是什么)
人工智能（AI）系统的脆弱性一直被行业人员所诟病，稍微的数据错误就会使系统发生故障。例如在图像识别中，图片微小的像素改变，不会干扰人类视觉，但机器可能会发生紊乱。正如CVPR 2017论文中所论述的那样“修改一个像素,就能让神经网络识别图像出错”。
至于原因，研究人员有过很多探究：数据不够好，算法设计不精妙....近日，在科技媒体wired上，计算机科学家Erik J. Larson撰文表示： 优化思维是AI脆弱性的根源。 （译者注：这里的优化思维，也可以翻译成“追求足够好”、追求完美AI）
优化是推动AI尽可能准确的动力，在抽象的逻辑世界中，这种推动无疑是好的， AI运行的现实世界中，每一个好处都是有代价的。 例如需要更多数据来提高机器学习计算精度，需要更好的数据来确保计算的真实性。
“这种更好”必须保证不断的进行数据收集，因此当AI开始逐渐形成完整的画面时，新数据的出现可能改变现有状况，从而导致系统崩溃。这也是大众眼中近乎完美的AI经常“犯精神病”的原因之一：将狗狗当成菠萝，把无辜的人看成通缉犯。
人类不是一个优化者，过去几万年大脑本身也并没有进化出完美优化的功能。大脑是轻量级的，从不追求100%的准确性，并能够从小数据中得出假设。
换句话说，大脑满足于在“门槛”上混日子，如果1%的准确率就能让它生存，那么这就是大脑所需要的准确率。但这种最小生存策略也会导致认知偏见，让人们思维封闭、鲁莽、宿命论、恐慌。
AI严格的数据驱动训练方法能有效避免这种认知偏见，却也让其陷入“过度纠正”。确实，对人类而言，好的心态能够抵御完美主义带来的破坏性影响，一个不那么神经质的大脑已经帮助我们在“生活的冲撞和摇摆”中茁壮成长。
将这种“反脆弱”引入AI，那么也意味着：
与其追求压缩越来越大的数据堆，不如专注于提高AI对不良信息、用户差异和环境动荡的容忍度。
这种AI将消耗更少的能量，产生更少的随机失误，带来更少的负担。如何做？目前来看，有三种方式。
五百年前，实用主义大师尼科勒·马基雅维利指出，世俗的成功需要一种反直觉的勇气。对于聪明人来说，大部分不存在的知识将是不必要的；生活往往不会符合我们的预期。因此，人类可以改变对模糊性的处理方式。
例如当AI遇到单词suit时，它会通过分析更多的信息来确定该单词是表示衣服，还是法律名词。分析更多信息通常意味着利用大数据缩小答案范围，这在99.9%的情况下有效，剩下的0.1%，AI仍然会“自信”的将suit表示为法律名词，但实际上它是衣服。
因此，AI应该有足够大的答案范围。研究人员在设计AI时候，应该允许“模棱两可”，并将模糊选项代入后续任务中，就像人类能够读懂一首诗歌的多个潜在含义一样。如果下游任务不允许“模棱两可”的存在，这时设计的AI应该能请求人类的帮助，让人类代替它进行决策。
目前的AI希望通过大数据的发散性思维实现创造。但众多科学研究显示，生物的创造力往往涉及无数据和非逻辑过程。因此，依靠大数据或许能够批量创造出许多“新”作品，但这些作品仅限于历史数据的混合和匹配。换句话说，大规模的发散性思维的产生必然伴随着低质量。
数据驱动的创造所产生的局限性可以从GPT-3以及Artbreeder等文本和图像生成器中看到。通过“观察”历史场景，然后添加专家意见，试图产生下一个梵高。但结果往往是这位“梵高”只能复制以前画家的作品。这种AI设计文化，显然误解了创新的含义。这种情况从大家对FaceNet的盛誉中可见一斑，因为有一些面部识别的创新，仍然是蛮力优化。可以类比为调整汽车的扭矩带增加汽车性能，并称其为汽车交通革命。
90年前，《科学发现的逻辑》一书的作者 就指出：用事实推翻想法比证明想法更合乎逻辑。将这种思维引入到AI产物中，我们可以将数据的功能从小想法的大量产生者转变成大规模的毁灭者（a mass destroyer of anything except），当然一些前所未有的想法除外。（译者注：这里的大规模毁灭者是指将“重复作品”筛选出来）
因此，与其无休止的产生“重复作品”，不如让计算机搜索有价值的作品，从而找到未被赏识的“梵高”。
将人脑融入AI听起来很科幻，短期内很难有大的进展，但我们可以另辟蹊径，设计友好的人机关系。当前人与机器的合作关系并没有发挥它应有的作用，人类要么充当机器的保姆，要么充当AI系统更新的附属品。前者意味着乏味、枯燥，后者意味着被动。如何解决？当前的工作重点已经关注三个方面：
1.攻关科研，让AI有能力“知道”它何时缺少训练数据。换句话说，追求正确的AI，不如追求让AI知道自己何时不正确，赋予AI认知自己的智慧。人类的大脑无法拥有计算机的数据处理速度，所以当无知的算法认为自己无所不能的时候，人类的干预总是太晚。因此，应该通过编程让“傻瓜”发现自己是“傻瓜”。
2. 完善人机交互界面。因追求优化而造成的不透明设计，即黑盒算法。交互设计应该消除黑盒性质，例如将刚性按钮（只有一个选项）替换成包含概率的选项，标明第一个选项的可能性为70%，第二个选项的可能性为20%，第三个选项的可能性为5%，以此类推。如果没有满意的选项，那么就要求AI重新定向，或者进行手动操作，以最大的限度提高计算机的逻辑和人类的主动性。
3. 仿照大脑建立去中心化的AI模型。大脑包含去中心化的认知机制，例如逻辑、叙述、情感，它们之间相互制约、相互平衡。因此，AI系统也可以设计包含不同推理架构，例如如果深度学习不能访问它所需要的数据，系统就可以过渡到if-then的控制程序。更重要的是，人工智能可以向外看，从人类学的线索中学习，而不是狂热地集中在自己的内部优化策略上。
以上技术建议并不是未来虚幻的想象，它是现在就可以实现的设计创新。需要研究者抛弃大数据以及完美智能的假设，在这个不断变化的世界中，创造性要求比最准确要求来的更加明智。
版权文章，未经授权禁止转载。详情见 转载须知 。
压缩CSS使得体积减小,传输速度快，格式化CSS在线转换成易编写、易读。
天眼查专注服务于个人与企业信息查询,都在用的商业查询平台,为您提供公司查询,工商信息查询,企业查询,工商查询,企业信用信息查询等相关信息,帮您快速了解企业信息,企业工商信息,企业信用信息等企业经营和人员投资状况,查询更多企业信息就到天眼查官网！
嗨客手机站提供手机游戏、手机软件下载，这里有最新、最热门的苹果、安卓手游推荐、手机网游排行、手游攻略、手游礼包、手游开服开测等福利！
淮安金利达包装有限公司
山东省音乐家协会
安徽金达防爆电气有限公司为二工防爆子公司，座落于中国-安徽-蚌埠，是一家集开发、生产、销售、安装、服务为一体的专业防爆公司，专业生产厂用防爆配电箱、防爆正压柜、防爆接线箱、防爆仪表箱、防爆操作柱、防爆冰箱、防爆冷风机、防爆油汀、防爆仪表柜、不锈钢防爆箱等产品。
Rmall全生活广场，集“购物、娱乐、餐饮、商务、办公、家居、休闲、运动、旅游”等九大功能于一体，打造全天候一站式生活广场，倡导体验式购物、娱乐引导消费。
创德激光电阻焊接应用专家主营:激光焊接机,精密电阻焊接机,自动点焊机设备,非标定制焊接设备,是国内一家专业从事光通讯，汽车电子,医疗器械,3C电子等行业应用的自动化焊接设备制造商。
肇庆市荣坚管业有限公司是专业生产PE和PVC管材的大型厂家，拥有一支高素质的科技人才队伍和管理团队。公司拥有“荣坚”、“坚之塑”、“雄坚”三个品牌。公司是集科研生产、销售为一体的专业化企业，具有多年生产管材及异型材。公司主要产品有pe通信管、pvc给水管、建筑排水管、卫生饮用管、难燃线槽线管、电讯电力管、打井专用管、农用灌溉管道以及异型材等。
深圳骊微电子是芯朋微、士兰微、启臣微、富满代理商，代理销售电源芯片/半桥驱动芯片、IGBT、MOS、二三极管等电子元器件，供应开关电源芯片、电源管理芯片、电源ic、适配器芯片、充电器ic、电机驱动芯片等产品，为客户提供高效能、低功耗、品质稳定的电源方案，同时提供电源DEMO设计整套方案，使客户的系统性能优异、灵活可靠，并具有成本竞争力。
无缝钢管厂(13622147777)天津大无缝联合钢铁有限公司专业生产无缝钢管,高压锅炉管,管线钢管,高压合金管等，,欢迎前来洽谈合作!
taishan-中华泰山网由泰安日报社主办，创立于2003年，为泰安地区唯一经国务院新闻办公室批准的新闻信息服务一类资质网站，拥有专属编辑记者80余人，建立起了以中华泰山网为龙头，包括“中华泰山·国际在线”英文频道、“泰山幸福E家园”、《泰安新闻发布》、泰安市文化产业网、泰安文明网、泰安志愿者网、泰安信息化协会网站、泰安房产网、泰安交警网等众多子网在内的泰安最大网站集群。
人工智能，AI，系统的脆弱性一直被行业人员所诟病，稍微的数据错误就会使系统发生故障，例如在图像识别中，图片微小的像素改变，不会干扰人类视觉，但机器可能会发生紊乱，正如CVPR2017论文中所论述的那样，修改一个像素，就能让神经网络识别图像出错，至于原因，研究人员有过很多探究，数据不够好，算法设计不精妙....近日，在科技媒体wire...。
据路透社5月12日报道，软银集团旗下的芯片技术公司Arm在本周四公布了创造纪录的2021年收入，Arm首席执行官雷内哈斯告诉路透社，其新芯片设计业务增长前景强劲，软银现在整计划让这家英国科技公司上市，因为此前来自监管的压力阻止了软银将其出售给美国芯片制造企业英伟达，Arm公司采用Fabless模式，专门设计芯片的基本蓝图，在去年Arm...。
8月23日，在重庆召开的2021中国国际智能产业博览会上，腾讯云和生态伙伴慧眼科技联合打造的腾慧飞瞳AI质检仪正式发布，该产品针对目前3C零部件产品外观检测准确性差、效率低等难题，创造性的采用一站式智能化解决方案，突破制造业外观检测自动化的瓶颈问题，大幅提升检测效率，解放质检人力、优化成本，腾讯云联合慧眼科技正式发布腾慧飞瞳AI质检仪...。
12月22日，山石网科·安全守护者峰会系列活动，双维驱动，人机共治——数据安全治理白皮书2.0发布会，圆满落幕，会上，山石网科面向行业发布，数据安全治理白皮书2.0，数据安全治理白皮书2.0，创造性地提出了，双维驱动、人机共治，的建设理念，相比于1.0版，本次白皮书的更新迭代可协助企业及组织更科学、更智能、更高效地开展数据安全治理...。
在牛顿的一生中，成就与抱负之间的细微差别是显而易见的，如果没有哈雷，也许他会沉迷于炼金术和神学，但他现在确实就是物理学之父，同样的事情有可能出现在GPT身上，尽管它并非人类，但去年11月底一个化身，社交对话工具，的横空出世，代号，ChatGPT，，似乎在证明它具有同理心、世界观、以及在消费、医疗等方方面面的创造性能力，历经9个多月的体...。
那些疯狂到以为自己能够改变世界的人，才能真正改变世界，但凡人能想象到的事物，必定有人能将它实现，这是儒勒.凡尔纳的名言，他在，海底两万里，为人们描绘了一个极有趣的科幻世界，他构造的鹦鹉螺号潜水艇在当时给人们带来极大的冲击，尽管在二十一世纪的今天已不足为奇，但是在凡尔纳的时代，人们还没有发明可以在水下遨游的潜水艇，甚至连电灯都还...。
我认为年轻时尚就是大胆的尝试，勇于打破陈规，充满创造性的思维是年轻的，也是潮流时尚的，但是我不能理解的时尚就是走相反的道路，就比如与众不同并不是搞独立，这就会让潮流与正统相违背，什么是潮流问题一，什么是潮流这是最近在IN潮流馆里一只在争论一个问题很多人觉的穿件贵点的衣服就是拜金.....那我到是要问了.....这社会还有谁不拜金你们读...。
新华社北京8月10日电题，有效推进中华低劣传统文明发明性转化翻新性开展——各地各无关部门深化贯彻落实文明传承开展座谈会精气新华社记者散步苏州古城平江历史文明街区，评弹声声委婉俗气、余韵悠长，苏绣、宋锦、缂丝、苏扇等非遗匠心独具；环球文明遗产耦园，以及顾颉刚等名人旧居，独特导致，没有围墙的江南文明博物馆，……6月中旬进行的，平江九巷，市...。
水脉亦文脉，大运河宛若一条纽带，奇妙地将各地特征与风情严密相连，它不只仅是一条河流，还是一幅渐渐开展的文明长卷，概略要深入挖掘黄河文化蕴含的时代价值讲好什么延续历史文脉深入挖掘黄河文化蕴含的时代价值，讲好黄河故事，延续历史文脉中国文化源远流长，中华文明博大精深，只有全面深入了解中华文明的历史，才能更有效地推动中华优秀传统文化创造性转化...。
路透社4月28日消息称，尽管世界上许多强大的经济体仍然对比特币保持警惕，但地处非洲的中非共和国却宣布将比特币作为官方货币，这样的做法使这个主要出产黄金和钻石的国家的居民感到困惑的同时，也使加密货币世界感到难以置信，同时，促使国际货币基金组织对此保持谨慎，使用比特币，一种在全球计算机网络共享账本上流通的数字货币，来买卖商品和服务依赖于可...。
早在7月份，美国食品及药物管理局，FDA，颁布了对未来医学创新举足轻重的三条规范这三条规范分别是，healthblog对FDA在紧跟大潮的努力做了一番评论，指出FDA虽然做出了努力，但同样亟需规范，规范的颁布可谓众望所归，这从侧面证明了在信息化时代下的医学技术创新范畴，FDA也在尽全力保证前者受到不公平的待遇，但是，这些规范也使得FD...。
当前，以智能化为核心的科技产业变革正在兴起，人工智能技术与各个行业的融合不断加剧，工业制造已逐渐成为人工智能的重点探索方向，在人工智能技术的加持下，工业制造正变得越来越聪明，生产线上的，钢铁躯体，开始有了自己的工业大脑，一向沉默的工业生产数据逐渐学会，开口说话，......用友在，秘密，地钻研了半年之久后，近日他们的工业大脑也即将正式...。
一年一度的计算机领域的国际学术大会CHI2022已经在美国新奥尔良成功召开，作为开启线下参会的代表，其带来的，沉浸式，体验广受好评，但会议完毕之后，据推特，实名认证，的科学家们在线晒新冠核酸检测，很多人得到了新冠阳性结果☹，是的，参加完一场学术会议，某些人变阳了，例如这位哈佛大学计算机助理教授表示，多年未进行面对面的科学交流，在CHI...。
前不久，一份新能源汽车的成绩单在网络上流传，6月，某国有汽车品牌交付数据达20116辆，排在新势力榜单第三位，而时间回到2021年，该新能源公司还在头疼如何扩大销路，虽然该公司已在50多座城市开设近80家体验服务网点，但要把车卖进更多人家中，单打独斗并不够，还是要呼朋唤友，找更多经销商，但在当时召唤经销商并不简单，由于叠加疫情等因素，...。
