电影看多了吧!能毁灭人类的是 人工非智能 (电影看多了吧怎么办)

文章编号:39851 资讯动态 2024-12-03 AI深思考人工智能

电影看多了吧!能毁灭人类的是“人工非智能”

别幻想超级智慧的AI(人工智能)了,先去考虑下那些愚蠢的算法吧

你要做好思想准备,五月份就要上映《复仇者联盟2:奥创纪元》,在这之前的几周时间里,不少科技网站的编辑和写手可能会对AI大加批判,届时会有一大波文章来阐述AI给现实生活带来的威胁。无论《复仇者联盟2》是否会打破票房纪录,至少给我们带来了另外一种视角,让我们可以“奥创”的形式,重新审视AI暴动。

开发奥创(由著名影星詹姆斯·斯派德配音)的初衷是维护世界和平,保护人类免受其他威胁,但最终它为了追求完美,决定将人类斩尽杀绝。这是好莱坞最新一次,当然肯定不会是最后一次将人工超级智能融入到电影里面。媒体自然不会错过这个好机会,一定也会大肆报道,继而引发人们对AI的深深思考。

能灭绝人类的,是愚蠢的AI。

AI绝不会完全无害。一些自主算法会对人类造成伤害,这是不可避免的。但是对待AI可能造成的风险,还需要进一步评估,至少头脑需要保持一点冷静。就像太空中废弃的卫星,你需要识别它们可能造成的危害,然后再去选择是把他们变成太空废品,还是进行废物利用。

有害的AI可能和人们所想的超级智能完全不同,它可能不会像奥创一样,而能毁灭人类的AI可能非常愚蠢。

在AI安全概念的背后,有一股很明显的势头。今年一月,非营利性组织Future of Life Institute发布了一份AI安全公开信。但这不是一次业余的作秀,因为除了很多不明真相的群众,一些专业人士也参与其中,包括了计算机科学家,机器人学家,以及法律专家。

Ryan Calo就是其中之一,他是华盛顿大学的法律教授,主攻机器人领域的法律问题。对Calo来说, AI的短期风险其实和智能无关,而是所谓的自主权

Calo的假设确实很令人忧心。首先,现实世界中就存在某些人的权利被剥夺的状况,因此有时候你根本无法分辨哪些状况是AI造成的,哪些又是人为造成的。在AI的背景下,自主权的定义就是无需人为干预。比如程序员可能不会把某些事关联起来,但AI却能通过一些纯粹的定性分析,实现它们的“目的”。显然,这些AI做出的结论可能不会准确,但如果你想想看,一些数据代理商和广告商正是无耻地利用这种AI技术,追踪人们的线上活动,收集我们访问网站的各种信息

Calo所举得那个种族主义例子可能是由于AI连接到错误的“点”上造成的。实际上,“种族主义”并不是一个最具说服力的AI例子,现如今很多更高级的行为追踪软件就在做着不少“肮脏的勾当”,在这些软件面前,一个小小的“种族主义”算法真的是小巫见大巫了。

另外在Calo眼里,AI其实不算是个真正的“种族主义者”。一个没有观点的机器是不可能带有任何偏见的。但是, 社交和情感智能的缺乏却会带来巨大问题

电影看多了吧!能毁灭人类的是“人工非智能”

对于由AI驱动的机器人,如果让他们杀人,此时可能会产生戏剧性的影响。在科幻小说里,武装机器人经常出现战场暴行,比如一个中央超级智能给他们下达杀人的指令。而更有趣的问题出现在与远程通讯机器人的联系中断时。

当军事机器人进攻某个目标时,一般而言都会有人类参与。但当无人机或地面机器人忽然通讯中断,又会出现什么状况呢?是停止?还是撤退,又或是暴露在敌人的炮火中,或被俘虏?去年六月,美国国防部高级研究计划局旗下的Robotics Challenge项目就进行了一次机器人模拟战争,他们的答案是通讯中断后,继续完成任务。

此外,还可能出现其他状况,比如武装机器人很可能引发战争罪行,因为他们可能忽然把毗邻战场的平民百姓列为进攻目标,也不会放过战败投降的士兵。也有一些容易界定的情况,比如机器人出现故障,会向人群开火,滥杀无辜。

问题的重点在于,由于AI可以独立执行杀戮行为,没有人能对此负责。

机器人专家和各国需要为各种情况做好准备,明确道德和法律之间的灰色底单,因为一旦无知的机器人自主权泛滥,那么许多暴行将会逃脱历史的惩罚。

股票崩盘,肢体损缺,以及其他日常灾害

当然,绝大多数的AI还是比较安全,即便出现问题,也不至于杀人。毋庸置疑,一些自主选股软件又会再次浮出水面,继而有可能再次引发2010年那场“闪电崩盘”的股灾——当时道琼斯指数在短短几分钟时间里下跌1000多点。其他AI也会曲解敏感数据,引发一系列悲剧发生,一旦数据分析有误,工厂里干活的机器人和养老院里的机器人会错误对待人类。

电影看多了吧!能毁灭人类的是“人工非智能”

上面这些例子其实并不算太严重,因为还有很多耸人听闻的,虽然研究人员和机器人专家钻研AI安全是非常枯燥的,但是如果不真正对待的话,很多悲剧是无法避免的。

事实上,AI还有一个潜在缺陷,那就是假设它比实际上的还聪明。随着越来越多的机器人融入到人类的生活,高估AI能力很可能会导致实际伤害。“未来的方向,是机器人与人类并肩工作,”Tony Stentz说道,他是卡耐基梅隆大学机器人技术工程中心主管。Stentz理想中的未来工厂,是机器人的力量与人类的思维完美结合,这种团队是非常有前途的。但是AI研究人员和机器人专家必须要让机器人明白自己的目标和能力,否则为造成非常大的安全隐患。

要明白机器人能做哪些,不能做哪些

高估AI会导致一系列问题。在美国马里兰州,当地监狱已经开始使用算法来评估哪些假释犯人需要严加监管。软件开发人员肯定觉得自己的产品对于量刑建议有非常大的帮助,但问题是,当涉及到如此重大的决定时,依靠一个智能软件真的靠谱吗?

不仅如此,一旦AI自主权得不到有效控制,很可能出现所谓的“滑坡效应”,引发全球危机。比如工人本可以在工作中避免受伤,但是由于算法错误却导致残疾;还有人可能受智能选股软件的诱导,把毕生的积蓄砸进股票市场,最终家破人亡。可怕的是,这些受害者可能会忽然发现,自己竟然得不到法律保护,甚至连财务追索权都没有(靠机器人赚钱的想法的确有些愚蠢)。

这些AI安全问题,正是研究人员和专家需要考虑的,他们也必须要考虑各种非预期后果,如果说我们无法阻止超级AI接管世界,但至少,我们得明白它们会给我们造成哪些潜在影响。

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
凉拌鸡腿怎么做

凉拌鸡腿的做法,凉拌鸡腿怎么做请看步骤:1.如图所示2.拌匀即可✅3.成品✌️

酱包装机

济南迅捷机械设备有限公司成立于2006年,专注于包装、灌装生产解决方案。2008年成立了济南东泰机械制造有限公司主攻包装机械设备、包装机器、灌装机械的设计、研发、生产制造,至此公司同时拥有“迅捷机械”和“东泰机械”两个工厂。主营产品为:食用油灌装机、辣椒酱类灌装机、真空旋盖机、液体灌装旋盖一体机...

51苹果助手

51苹果助手致力于打造国内顶尖的手机软件、手机游戏下载基地,旨在为用户提供满意的下载资源,同时包含游戏新闻、游戏攻略、游戏福利以及软件教程等多种资讯,给用户一站式的网站浏览体验!

高速光模块哈巴焊机,高速线束脉冲热压焊锡机,光器件/墨盒芯片再生焊接机,手动分板机,PCB冲床分板机,广东亚兰装备技术有限公司

广东亚兰装备技术专注电子设备研发、生产、销售、服务为一体的综合性配套厂商,公司主打产品有脉冲热压焊锡机,陶瓷片脉冲热压机,脉冲式热压机,bosa脉冲热压焊锡机,hotbar哈巴焊机,排线哈巴机焊头,墨盒芯片再生焊接机,墨盒芯片热压机,光器件焊接机,高速光模块焊接机,SFP、XFP、QSFP等高速线束焊锡机,光通讯模块热压机,PCB分板机,冲床分板机,铡刀式分板机等,全国售后服务电话:13528582360.

深圳宣传片拍摄制作公司

【象美传媒】深圳宣传片制作,拍摄产品广告片,海外众筹视频拍摄,企业短剧拍摄公司,深圳宣传片制作影视团队,企业宣传片拍摄/产品TVC广告宣传片,产品短视频拍摄制作筹划执行

济源大济网

济源大济网是一家主要由在京济源人组成的商业联盟,集结了超过2000名在京济源老乡,提供各行各业先进经验,降低信任成本团结互助形成有效的商业联盟,并带动济源本土的经济发展。把济源的好东西带到外面,把外面的好东西带回济源。

天尼威环保

江苏天尼威环保科技有限公司,咨询电话:15261590666,是一家专业生产污泥和污水处理设备的厂家,产品包括:螺压式污泥脱水机、移动式污泥脱水车、自动加药装置、高效溶气气浮、水处理格栅等,拥有多项专利,我们坚持诚信经营,用户至上的理念,为用户提供优质的产品和服务。我们可以根据您的需求和实际情况提供适合的水处理解决方案。欢迎来电咨询!

云进销存

雨田在线进销存软件,云进销存,是基于互联网操作的进销存管理软件,使用浏览器即可实现异地、实时业务办理。老板随时能够对客户资源、销售情况、采购情况,库存存货情况,做到了如指掌。

厂房出租

仓小二提供厂房出租、厂房出售、厂房求租求购、仓库出租、工业土地出租出售、园区招商的O2O工业地产交易服务平台,让企业选址一站式服务安全省心!

皮带输送机

青岛优耐德专业从事皮带输送机,滚筒输送机,链板输送机,仓储物流输送分拣系统等设备生产,是专业的皮带机厂家,滚筒线厂家,欢迎来电咨询。

全局底部横幅