Etzioni 华盛顿大学教授 给出了他的 Oren 人工智能三定律 人工智能应该如何监管 (etzioni怎么读)

文章编号:46410 资讯动态 2024-12-10 人工智能马斯克三定律监管AI

人工智能应该如何监管?华盛顿大学教授 Oren Etzioni 给出了他的“人工智能三定律”

雷锋网 AI 科技评论按:8月中旬的时候,斯克等 26 国 AI 技术领袖公车上书要求联合国禁止“杀人机器人”的研发与使用这件事唤起了人们对人工智能使用和监管的新一轮担忧。现在 AI 已经开始取代部分人的工作,以后 AI 难道还要用来杀死人类吗?虽然全球各大 AI 研究机构都在尽量开放自己的成果,促进发展的同时避免技术垄断来减少人们的担心,但仅仅“开放”并不能解决一切问题。

近日,AI 研究机构艾伦人工智能研究院(Allen Institute for Artificial Intelligence)院长、华盛顿大学教授Oren Etzioni 也在纽约时报发表了一篇文章,讲述了他对人工智能监管的看法。Oren Etzioni 在 Tom M. Mitchell 指导下于1991年拿到CMU的博士学位,而后在来到华盛顿大学,担任计算机工程学院教授;2005年时他牵头成立了华盛顿大学图灵中心并任主任,中心的研究领域包括数据挖掘、NLP、网络搜索。Oren Etzioni 在文中提出了他心中的“人工智能三定律”,雷锋网 AI 科技评论将文章编译如下。

被许多人看作“现实版钢铁侠”的美国顶尖科技公司创始人埃隆马斯克,最近敦促国家有关领导人提早采取措施监管人工智能技术。马斯克坚持认为,人工智能是对人类生存的“潜在威胁”,如同科幻作品中的人工智能,是一个令人担忧的观点。不过,即使是像我这样的研究人员也认识到,人工智能会对武器设计,工作机会和隐私安全产生极大的影响。人们对于是否应该开发人工智能技术很自然地会产生疑问。

我相信答案是肯定的。但是,为了谨慎,难道我们不应该一步一步地至少减缓人工智能A.I.的开发进度吗?问题是如果我们这样做,那么例如中国这样的国家就会超过我们。 A.I.之马已经脱缰,我们最好的打算是试图引导它。 A.I.不应该被武器化,而且任何A.I.必须有一个坚守的“禁地”。除此之外,我们应该规范A.I.系统对实际应用场景方面的影响,(例如,自动驾驶车辆的安全性),而不是在还未定形且快速发展的A.I.领域试图定义和控制某些概念。

我提出了三个有关人工智能系统的规则,这些想法是受到科幻作家艾萨夫·阿西莫夫1942年提出的“机器人学三律”启发的。我在此基础上做了进一步发展。阿西莫夫的三定律是:第一、机器人不得伤害人类,或看到人类受到伤害而袖手旁观;第二、在不违反第一定律的前提下,机器人必须绝对服从人类给与的任何命令;第三、在不违反第一定律和第二定律的前提下,机器人必须尽力保护自己。

这三大定律看上去虽优雅简练但却模糊不清:当涉及到A.I.时,究竟什么才是伤害?基于我提出的三条规则,我找到了更为具体的方法来避免A.I.造成伤害。

首先,A.I. 系统必须遵守其操作人员的所有规则 。这套规则将涵盖私人,公司和政府机构。 我们不想要A.I. 从事网络欺凌,股票操纵或恐怖主义威胁; 我们不想要F.B.I. 利用A.I.系统钓鱼执法。 我们不想要自动驾驶车辆闯红灯,或者更糟的是制造违反国际条约的A.I. 武器。

我们的一般法规应该修改,人们不能借口称是A.I.系统做了一些我们无法理解或预期的事情。简单地说,“不管我事,是A.I干的”;这不应该成为违法行为的借口。

A.I.系统必须清楚地表明它不是人类。 正如我们在一则机器人案例中所见 - 计算机程序可以与真人进行日益复杂的对话 - 人类社会需要确保A.I.系统被清楚地标示出来。在2016年,一个被称为吉尔·沃森(Jill Watson)的机器人在佐治亚理工大学(Georgia Tech)担任在线课程的教学助理,愚弄学生,并让大家以为它是人类。根据牛津大学的研究人员称,更为严重的例子是在2016年选举之前的日子里,在社交媒体上广泛使用的支持特朗普的政治机器人。

我的规则将确保人们知道机器人何时冒充某人。例如,我们知道@DeepDrumpf - 一个在Twitter上幽默地模仿唐纳德·特朗普的机器人。A.I.系统不仅发出假的推文;它们也发布假新闻视频。华盛顿大学的研究人员最近发布了前总统巴拉克·奥巴马的假视频,非常令人信服地似乎在说一些被嫁接到他视频中的话,真实情况是与他说的完全不同。

我的第三条规则是。由于其能自动引用,记录和分析信息的特殊能力,A.I.系统处于获取机密信息的主要位置。例如开始被越来越多的家庭接受的“智能音箱”亚马逊Echo,就可能会记录下家庭中所有的谈话内容,包括那些私密的,或您的孩子可能无意泄露给A.I.的信息。即使看似无害的室内清洁机器人也会绘制你家的地图。这些就是你要确保管控的信息。

我相信这些规则听起来还不够完整。我在这里介绍它们,只为抛砖引玉。无论你是否同意Musk先生关于A.I.的进步速度及其对人类的最终影响的观点,很明显的一点是A.I. 已经来临。社会大众需要做好准备。

版权文章,未经授权禁止转载。详情见 转载须知 。

人工智能应该如何监管?华盛顿大学教授 Oren Etzioni 给出了他的“人工智能三定律”

全局中部横幅
纸金网

纸金网,中国纸黄金,黄金价格,今日金价,黄金走势图,纸黄金,纸白银,纸铂金,黄金投资,实物黄金,贵金属投资服务的第一站,为华人黄金投资者提供及时全面的黄金资讯。

中国科普博览

中国科普博览(简称博览),中国科学院权威出品、专业打造的中科院科普云平台,提供高品质的科普教育与科学文化服务, 共享人类科学,与科学同行。博览以科研为依托,汇聚百余所科研机构的高端科学资源,聚焦国内外前沿科技和科学突破;以专业为基 础,云集千余位各科学领域的科学大家,洞察热点和生活中的科学真相;以创新为引领,讲述当代科技、教育与文化等领域创新的非凡 思想和生命故事,传播有温度有态度的新科学观。

我的生活记录

比克尔下载中心主要为您提供免费软件、绿色软件、游戏软件、安卓手机软件下载及其相关的使用教程,同时还有通俗易懂的电脑技术教程、游戏资讯、游戏攻略秘籍等

山东方管,山东方矩管,山东镀锌方管,方矩管

山东鲁航方管厂家(189-6351-1368)长期销售山东方管,山东方矩管,山东镀锌方管,方矩管等产品,规格齐全,质量可靠,价格优惠,可按需生产定做,常备百万吨现货,发货及时,质量保障,15年钢铁经营经验,详情咨询.

上海自动化仪表九厂

上海自动化仪表九厂销售网http://www.shyb9.com上海自仪九仪表有限公司原由:上海上自仪公司转制而来,上海自仪九仪表有限公司主营LWGY涡轮流量传感器、LDCK电磁智能流量计、LB刮板流量计、LZ型系列金属管转子流量计,YF型系列旋涡流量计等流量仪表。

沈阳无缝管

沈阳科建金属材料有限公司(电话:024-8158078886003988)代理销售通钢,鞍钢,包钢,宝钢,天钢等各大钢厂生产无缝钢管,质优价廉,欢迎光临惠顾

恩平市顺锋电子有限公司ENPING

恩平市顺锋电子有限公司,江门产业转移工业园恩平园区二区B5.,主要经营麦克风管体;麦克风配件;麦克风外壳;锌合金配件;纯铝配件,86-0750-7823931,如需购买麦克风管体;麦克风配件;麦克风外壳;锌合金配件;纯铝配件,请联系我们恩平市顺锋电子有限公司

矿物电缆专用填充料

辽宁维克阻燃新材料有限公司,坐落于镁资源丰富的海滨城市中国(辽宁)自由贸易试验区营口市渤海大街西93号110-048。总投资5000万元,占地面积15000平方米。热线电话:400-6417-666手机15904170535电话:0417-3351113传真:0417-3570500邮箱:3246294014@qq.com

云南GRC轻质隔墙板

龙泉源建材(13888831737)是一家生产销售批发云南轻质隔墙板,昆明轻质隔墙板,云南GRC轻质隔墙板,昆明厨房排烟气道,昆明卫生间排气道,云南卫生间排气道,云南水泥烟道昆明GRC轻质隔墙板,多孔隔墙板的昆明轻质隔墙厂家.我们有良好的售后服务体系,欢迎各位新老客户前来咨询了解!

全局底部横幅