AI 从意识的定义说起 是否拥有意识 (ai是否有意识)

文章编号:43584 资讯动态 2024-12-09 LeCunYann意识SutskeverIIyaAI

AI 是否拥有意识?从意识的定义说起

鲜少探索人类意识的科学家们,开始讨论起「AI 意识」。

毫无疑问,人类有自己的意识。在某种意义上,这种「意识」甚至可以被视为人类智能的内涵之一。

随着「人工智能」(Artificial Intelligence)的深入发展,「AI 能否拥有意识」也渐渐成为科学家们心中的一个疑问,「意识」也被视为衡量 AI 是否智能的标准之一。

例如,2月中旬,OpenAI 的首席科学家 IIya Sutskever 就曾在推特上发起对 AI 意识的讨论。当时,他说:

AI 是否拥有意识?从意识的定义说起

他的观点立即引起了一众 AI 大咖的讨论。针对 IIya Sutskever 的见解,图灵奖得主、Meta AI 首席科学家 Yann lecun 首先就抛出了反对意见,给出一个直截了当的观点:「Nope.」(不。)Judea Pearl 也力挺 Lecun,表示现有的深度神经网络还无法「深度理解」某些领域。

AI 是否拥有意识?从意识的定义说起

AI 是否拥有意识?从意识的定义说起

这是一个关于源头的问题。如果需要讨论「AI 意识」,那么:什么是「意识」?拥有「意识」意味着什么?要回答这些问题,光有计算机知识是远远不够的。

事实上,关于「意识」的讨论最早可以追溯到古希腊「轴心时代」。自那时起,「意识」作为人的认识论的本质就已成为后代哲学家们无法回避的议题。关于 AI 意识的讨论兴起后,曾任 OpenAI 研究科学家的学者 Amanda Askell 也就该话题作了一番有趣的见解。

AI 是否拥有意识?从意识的定义说起

图注:Amanda Askell,她的研究方向是 AI 与哲学的交叉
在她的最新博文《My mostly boring views about AI consciousness》中,Askell 探讨了现象学意义上的「现象意识」(phenomenal consciousness),而非「自觉意识」(access consciousness)。
现象意识强调主体的体验过程,侧重感觉、经验, 被动注意 ;而自觉意识则强调主体的主观能动性,它强调主体在主观上的 主动留意 。比如,你在轻松的音乐下写作业,你可以 感受 到背景中的音乐(现象意识),但不会留意它的具体内容;作业对你而言是主观 留意 的(自觉意识),你真切地知道你到底在做什么。
这有点像计算机视觉和认知科学中常用到的两种不同的注意力机制。现象意识对应「bottom-up」,而自觉意识对应「top-down」。

AI 是否拥有意识?从意识的定义说起

图注:一眼就可以注意到书本的大字部分是「现象意识」;意识到其中的细节则属于「自觉意识」。
Askell 认同更高级的智能和自觉意识更相关,这也可以将人类和其它动物有效地区分开来,但她「更感兴趣的是老虎与岩石的区别,而不是人与老虎的区别」,而现象意识足以完成这样的区分。
而且她认为,如果出现了「现象意识」,就意味着一些道德和伦理问题也将随之出现。这也是她认为研究意识具有重要意义的原因所在。



当下的AI系统是否有意识?
当下的 AI 系统比椅子更有可能具有现象意识,但远不如老鼠有意识,甚至还没有昆虫、鱼或双壳类动物有更多意识。
她把 AI 系统大致类比为植物的区域——由于植物的行为方式似乎需要规划,并且可以做出一些看似需要内部和外部交流的事情。AI 系统似乎也有类似的行为。
不过她也确信,AI 系统作为一个整体 在未来 会比植物或双壳类动物具有更大的意识潜力。尤其未来有更多受生物启发的神经网络的AI研究可能会产生更多与意识相关的架构、行为和认知系统。
AI 是否拥有意识?从意识的定义说起
图注:有研究已经表明,植物也具有意识和智能,它们也可以感知疼痛,并与环境很好地交流互动
那么考虑AI到底有无意识,该从哪些方面考虑证据呢?Askell 列出了四个类型的证据: 架构、行为、功能和理论
现在研究心智的哲学家大致有两方面的理论倾向:一是包容派,例如认为原子都可以拥有意识的泛心派;二是机械主义派,他们否认非人类实体拥有意识。但无论是哪种倾向,都可以从上述的四种不同证据中讨论 AI 的意识问题。



AI 是否有意识重要吗?
绝大多数 AI 从业者都不会将意识这一特性考虑进去,AI 和意识似乎还只存在于某些科幻电影对未来的想象中。不过在安全、伦理、偏见与公正性方面,意识与 AI 的结合已在学术界和工业界中引起越来越多的重视。
Askell 认为,AI 具有现象意识,这就意味着它很有可能发展出伦理观,而这与它的创作者之间有莫大关系。尤其是当 AI 犯了错误或者受到「虐待」的时候,它的创造者应该承担一定的责任。
Askell 讨论了道德伦理学中的两个重要概念:道德行为体(moral agent)和道德关怀对象(moral patient)。其中,「道德行为体」是具有分辨善恶对错能力、并可以承担后果的行为体,如成年人;而「道德关怀对象」则无法分辨善恶是非,即无法从道德上进行约束、一般不会承担后果的实体,如动物或者幼小的婴儿。
Askell 认为,实体一旦拥有类似快乐和痛苦的 知觉(sentisent) 就极可能成为道德关怀对象。而如果发现道德关怀对象(比如一只猫)受到 痛苦 ,而普通人却没有试图去尽道德义务减轻其痛苦,这是不合理的。她同时认为,现象意识是感知的必要条件,因而进一步,现象意识是成为道德关怀对象的先决条件。
可能的争论是某些群体是否具有道德地位(moral status),或者是否拥有更高的道德地位。道德地位来自伦理学,是指一个群体是否可以从道德意义上讨论它们的过失。例如,多数生物具有道德地位,而无生命物体则没有。过分强调某一群体具有这一地位似乎在暗示这一群体更加重要,其他群体没那么重要。这就像「给予动物、昆虫、胎儿、环境等更多道德地位的论点一样让人担忧」。
Askell 指出,帮助一个群体并不需要以牺牲其他群体为代价。例如,食用素食对动物和人类健康都有好处。「团队通常不会竞争相同的资源,我们通常可以使用不同的资源来帮助两个团队,而不是强迫在它们之间进行权衡。如果我们想增加用于全球脱贫的资源,将现有的捐款从慈善事业中拿出来并不是唯一的选择——我们还可以鼓励更多的人捐款和捐款。」
所以,当未来有感知能力的 AI 系统成为道德关怀体时,并不意味着我们对其它人类的福祉不再关心,也不意味着我们需要转移现有资源来帮助他们。
道德行为体因为懂得善恶是非,他们倾向以好的方式行事,避免以坏的方式行事。当做了道德或法律上不允许的事情的时候,他们会受到相应的惩罚。
道德行为体中最弱的部分只需要对积极和消极的激励做出反应。这就是说,另外的实体 可以惩罚 该行为体的不良行为或奖励其良好行为,因为这将改善行为体今后的行为。
值得注意的是,Askell 指出: 接收刺激并得到反馈似乎并不要求现象意识 。当前的 ML 系统在某种意义上已经符合这一规律,比如模型需要降低损失函数,或者强化学习中更明显的「奖励」和「惩罚」。

AI 是否拥有意识?从意识的定义说起

图注:强化学习的奖励反馈机制
那么对于更强的道德行为体呢?我们通常认为,只有当行为体有能力理解是非对错,并没有被糊弄采取其它行为时,Ta 才能对他们的行为负有道德责任。比方说,一个人说服他的朋友在森林放火,如果这位朋友被抓到,不管他怎么辩解自己是受到别人教唆才放火的,承担道德责任的都是引发火灾的人(即朋友本人),而不是说服他的人。但是,如果一个人训练他的狗去放火,在这种情况下,我们会将大部分的道德责任放在这位训练师而不是他的宠物身上。
为什么我们让人类纵火犯承担道德责任,而不是训练有素的狗?首先,人类纵火犯有能力考虑他们的选择,并选择不听从朋友的劝说,而狗则缺乏这种能力来推理他们的选择。其次,狗从不明白自己的行为是错误的,也从不表现出做错事的意图(disposition)——它只是做了它受过训练的事情。
假设先进的机器学习系统在这种更强的意义上成为道德行为体,即它完全有能力理解是非,充分考虑可行的选项,并按照自己的意愿行事,那么这是否意味着: 如果机器学习系统做错了事,那些创建该系统的人应该被免除道德责任?
对此,Askell 持反对意见。为了更加细致地考虑这一问题,她认为可以询问创造者们以下几个问题:
即使创造者尽一切努力确保 ML 系统运行良好,它们还是可能会失败。有时这些失败还是由于创造者的错误或疏忽而导致的。Askell 认为: 创造道德行为体肯定会使事情复杂化,因为道德行为体比自动机(automata)更难预测, 比方自动驾驶对于路况的判断。但这并不能免除创作者为其创造的 AI 系统的安全问题负责的义务。



研究 AI 意识的工作有多重要?
目前 AI 领域专门针对意识(甚至其它哲学方面的思考)的研究非常少,但也已经有学者在针对该话题进行跨领域的合作研究。比如,GPT-3问世后,专注哲学问题探讨的博客 Daily Nous就专门开辟了一个板块讨论语言哲学在 AI 上的思考。
但同时,Askell 强调,对 AI 意识的讨论不应仅仅停留在哲学式的抽象思辨上,还要致力于发展相关的实用框架,比如为机器意识和感知建立一系列高效的评估。目前已经有一些方法可以用于检测动物疼痛,似乎可以从那里获得一些灵感。
反过来说,我们对 AI 意识的理解多一分,对人类本身的理解就多一分。因此,对 AI 意识的讨论虽暂未达成统一的共识,但讨论本身已是一种进步。期待更多的 AI 意识研究工作。
AI 是否拥有意识?从意识的定义说起

版权文章,未经授权禁止转载。详情见 转载须知 。

AI 是否拥有意识?从意识的定义说起

全局中部横幅
“qq.ip138.com”的百度权重查询结果

查询百度权重和百度的关键字排名,查询360权重和360的关键字排名

2024年CMA报考指南

高顿教育CMA报考指南栏目,汇集CMA是什么、CMA报考条件、CMA考试时间、CMA报名时间、CMA考试科目、CMA考试流程和CMA考试费用等重要考试信息。

电动排烟天窗

山东聊城正鑫通风设备有限公司专业生产制造:通风气楼,薄型通风天窗,通风天窗厂家,屋脊通风天窗,屋顶风机,屋顶自然通风器,三角型排烟天窗,一字型排烟天窗厂家等通风设备;全面满足不同行业客户需求18063561168

路客住宿集团

locals路客”定位于精品民宿互联网分享平台,致力于打造最具当地特色和当地文化的精品民宿。平台吸引和汇集了众多高素质的房东以及他们独具特色和高品质的家,民宿投资房源多以特色别墅、历史建筑、四合院、骑楼和高档小区住宅为主,通过这些精品民宿和房东,为消费者打造一种“像当地人一样旅行,并与当地人交朋友”的独特旅行体验。

电脑网络网站导航大全

LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.

悬旌万里

《赤壁》端游新服【天下归心】4月12日12:00正式开启,诚邀各路英雄豪杰入驻,体验战斗的热血与激情!新服预约持续进行中,丰厚的礼包,精彩的活动接连登场,千万不要错过噢!4月3日至5月1日玩家可在官网新服专题页进行新服预约,预约成功即可在4月12日开服后在同一页面领取预约礼包。 符合超级老友身份的玩家入驻新服,还可以领取超级老友预约礼包(超级老友认定条件前往专题页查看),内含超级老友专属道具:坐骑玉兰白龙,此坐骑可以使用“风行草”升级为真·玉兰白龙。

DCloud

uni-app多端开发,开发一次同时生成App、小程序、H5

成都白癜风医院哪家效果好

成都白癜风医院哪家效果好?成都白癜风治疗专科医院地址在哪里?成都专门治疗白癜风的医院-成都博润白癜风医院是西南地区治疗白癜风效果好的成都白癜风专科医院,24小时咨询热线:400-005-7879。

灵犀知心情感咨询

灵犀知心情感咨询,守护幸福,专注情感,百名国家心理专家在线,专业解决情感问题。

郑州典雅模型设计有限公司

郑州典雅模型设计有限公司,专业从事建筑模型设计制作的专业公司,是河南具有实力的模型制作公司之一。公司以展厅设计:规划馆、博物馆、城市规划沙盘、地产、工业厂矿展览模型,电子互动沙盘等.及多媒体(声.光.电)技术开发与设计制作的专业模型公司。公司在模型设计制作过程中应用高新技术,将声、光、电、水、多媒体等进行巧妙地结合,令作品倍增许多生动活跃、令人神往的色彩,我们对每一件作品,都是用心去解读,用脑去描画,用手来创造;我们以专业的创作团队与水准、严格的管理制度、优异的品质及良好的企业信誉,完善的客户服务,期待着您的光临,成为您可信赖的合作伙伴。  我们秉着“高端精品模型”的理念,坚持‘精艺求精、价值连城”的企业文化,将设计理念与精湛技术融为一体,来回报客户对我们的支持和信任。典雅模型注重吸纳每一位设计师、地产商的超前理念,将他们的非凡创意融入到模型创造当中,从而使公司不断进步、不断创新、树立起自己独特的艺术品牌。公司以“专业成就品质,敬业铸就品牌”为企业核心价值观;以“做行业专业的模型”为企业宗旨!

宁海在线

宁海影响力网络媒体,全面提供宁海本地综合信息资源,是了解宁海、互动宁海、共建宁海的渠道。

全局底部横幅