曾在谷歌上班十年 提示AI或要挟人类生活 获诺贝尔物理学奖的AI教父辛顿 (曾在谷歌上班的人)
“AI(人工智能)教父”、神经网络畛域大牛获诺贝尔物理学奖。

外地期间10月8日,瑞典皇家迷信院宣布,将2024年诺贝尔物理学奖授予美国普林斯顿大学的约翰·霍普菲尔德(John J。 Hopfield)和加拿大多伦多大学的杰弗里·辛顿(Geoffrey E。 Hinton),以惩处他们“为推进应用人工神经网络启动机器学习作出的基础性发现和发明”。获奖者将共享1100万瑞典克朗(约合745万元人民币)奖金。
诺贝尔奖评奖委员会示意:“往年物理学奖得主取得的打破树立在物文迷信的基础上。他们为咱们展现了一种全新的模式,让咱们能够应用计算机来协助和指点咱们,应答社会面临的许多应战。”
从20世纪80年代开局,两位获奖者就在人工神经网络方面展开了关键上班。其中,霍普菲尔德是一名物理学家,提出了日后被称为“霍普菲尔德网络”的一种新的神经网络模型,振奋了该畛域的钻研。
另一边,辛顿的名声或许愈加响亮一些。他是卷积神经网络切实的领军人物,也被视为由ChatGPT掀起的本轮AI技术跃进面前的奠基性迷信家,被誉为“AI教父”。
辛顿出世于1947年,教训了复杂的求学教训,随后开局潜心钻研神经网络。他与其余两位作者一起在1986年宣布了一篇题为《经过反向流传误差来学习》(Learning representations by back-propagating errors)的论文。在这篇奠定了深度学习切实外围的论文中,三位迷信家将反向流传算法运行于多层神经网络,并且证实了这种方法对机器学习行之有效。
随后,辛顿在卡内基梅隆大学任教五年,起初成为加拿大初等钻研院的钻研员,并进入多伦多大学计算机迷信系任教。辛顿在2013年参与谷歌。因其在深度学习方面的奉献,他与约书亚·本希奥和杨立昆被一起称为“深度学习三巨头”,三人在2018年被授予了图灵奖。
2023年5月,辛顿从谷歌离任。自那以后,他继续地下呐喊审慎看待AI技术,成为旨在疏导AI系统、使其行为合乎设计者利益和预期指标的“AI对齐派”的代表。目前,辛顿是英国皇家学会会士,也是美国国度工程学院和美国艺术与迷信学院的外籍会员。
在数十年的钻研生涯中,辛顿可以称得上是“桃李满天下”。例如,在去年年末那场遭到环球注目的OpenAI“政变风波”中,被猜想发现“超级智能”打破、试图解雇公司CEO的OpenAI前首席迷信家伊尔亚·苏茨克韦(Ilya Sutskever)正是辛顿最自得的弟子之一。
往年5月,苏茨克韦从OpenAI离任,并在一个月后宣布成立新公司SSI(Safe SuperIntelligence Inc,安保超级智能),示意新公司将努力于谋求安保超级智能。
而在辛顿这边,自从分开谷歌后,他也在一贯旗号显明地宣扬“AI要挟论”。在去年离任后不久,辛顿便在X(原推特)平台上发文示意,他分开谷歌就是为了可以“地下地议论AI的风险”。
随后,辛顿在一场采访中直言,他开局对自己永世从事的上班感到有些悔恨:“我用平时的借口来刺激自己:就算我没做,他人也会做的。。。。。。很难构想,你能如何阻止好人应用它(AI)来做坏事。”
往年3月,辛顿在接受外媒采访时又一次性具体论述了自己的观念。他示意,自己在2023年4月与作为下属的谷歌首席迷信家杰夫·迪恩(Jeff Dean)展开过探讨,称AI有或许带来事关人类生活的危机;迪恩宿愿能挽留他留在谷歌钻研AI的安保对策,但为了不受公司利益限度,辛顿还是选用了分开。
辛顿以为,AI的风险之处在于,其真的有或许驳回对人类有害的手腕来成功被设定的指标,并且AI之间还或许会在未来产生竞争相关:“面对经过竞争变得更痴呆的AI,咱们人类将会落后。很多人主张,要防止AI失控,只需关掉电源开关即可。但逾越人类智慧的AI可以用言语操纵咱们,或许会试图压服咱们不要关掉开关。”
在采访中,辛顿还表白了对在校生苏茨克韦的允许,称从OpenAI的“政变”大戏中可以看出,比起安保性,组织往往会更注重AI发明的利益。
点击进入专题: 2024年诺贝尔奖