安全 AI时代下 问题 首届人工智能安全大赛收官 我们更应该谈谈 (时代安全月刊)
数字经济时代下，以人工智能为代表的数字技术赋能产业变革，推动整个社会经济进入智能化的新阶段。与此同时，人工智能在应用过程中产生的网络系统攻击、隐私泄露、数据权属等安全问题，也引起整个产业界的重视。
9月16日，以“共筑AI安全 安享智能未来”为主题的AISC首届人工智能安全大赛圆满落幕。本次比赛共决出人脸识别安全、自动驾驶安全、深度伪造安全三大核心赛道冠军。据了解，本次大赛由国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办，系首个全国性人工智能安全赛事。
AI安全风险已非未来挑战，而是眼前威胁
试想一下，有人将一张“神奇的贴纸”放置在面部，就可以使人脸识别门禁系统误认为是你，从而轻而易举打开大门；同样是这张“神奇的贴纸”，把它放置在眼镜上，就可以1秒解锁你的手机人脸识别，探取你的隐私如入无人之境。这并非科幻大片的想象，而是首届人工智能安全大赛颁奖典礼现场展示的真实攻防场景。
大赛工作人员展示对抗样本攻击人脸识别门禁系统
北京瑞莱智慧科技有限公司首席执行官田天认为，人工智能技术风险发生的范围正随着应用场景的日趋广泛而逐步扩大，风险发生的可能性也随着其应用频次的增长而持续提高。在他看来，人工智能当前的安全风险主要可以从“人”与“系统”这两个视角来剖析。
从人的视角来评估AI的安全问题，首当其冲就是技术的两面性问题，存在AI滥用甚至“武器化”的问题。具体到人工智能的应用中来看，最为典型的代表就是深度伪造技术，它的负向应用风险持续加剧且已产生实质危害。
而现场的人脸识别破解展示，所揭示的正是系统的风险，它来自于深度学习算法本身的脆弱性。以深度学习算法为核心的第二代人工智能是个“黑盒子”，具有不可解释性，意味着系统存在结构性的漏洞，可能受到不可预知的风险，典型的就比如现场展示的“神奇贴纸”，其实就是“对抗样本攻击”，通过在输入数据中添加扰动，使得系统作出错误判断。
这一漏洞在自动驾驶感知系统同样存在，瑞莱智慧展示了用对抗样本攻击自动驾驶汽车。正常情况下，在识别到路障、指示牌、行人等目标后，自动驾驶车辆就会立即停车，但在目标物体上添加干扰图案后，车辆的感知系统就会出错，径直撞上去。
结合具体赛题来看，自动驾驶安全赛题和人脸识别安全赛题从攻击视角出发，通过让选手攻击目标模型挖掘算法漏洞，旨在发现更加稳定的攻击算法，以更好的实现准确评估模型的安全性。深度伪造安全赛题则通过分析伪造音视频的相似性，来溯源不同伪造内容是否来自同一种或同一类生物特征生成软件，以促进对深度伪造检测技术的发展，具有重要的现实意义。
瑞莱智慧首席执行官田天
安全的本质在于对抗升级，构建安全需要一个持续攻防演进的过程。田天表示，大赛聚焦人工智能真实应用场景中的典型漏洞及风险，以赛促建、以赛促研，通过考核参赛队伍的漏洞发现、漏洞挖掘等能力，探索新型安全需求场景，推动AI攻防技术创新，为强化人工智能治理体系与安全评估能力建设提供支撑。
构建人工智能的安全生态，一方面需要技术的持续演进，一方面也需要专项技术人才的建设与培养。田天表示，由于人工智能安全研究目前仍属于新兴领域，专项人才较少，缺乏系统性的研究队伍，本次大赛通过实战演练的方式，全方位验证和提升选手实战能力，为培育一批高水平、高层次的人工智能安全新型人才团队提供了“快速通道”。
据了解，自七月开启报名以来，大赛共吸引来自全国范围内70多所高等高校、科研院所、企业机构的超过400支团队，共计600余名选手的踊跃参与。经过三个月的激烈角逐，最终，上海交通大学联合战队“AreYouFake”与北京交通大学战队“BJTU-ADaM”分别摘得深度伪造安全与自动驾驶安全赛道桂冠，北京理工大学战队“DeepDream”与建信金科战队“Tian Quan&LianYi”共同位列人脸识别赛道第一名。
深度伪造安全竞赛前三名
自动驾驶安全竞赛前三名
人脸识别安全竞赛前三名
此外，活动现场，由国家工业信息安全发展研究中心牵头，联合华为技术有限公司和北京瑞莱智慧科技有限公司共同撰写的《人工智能算力基础设施安全发展白皮书》正式发布。
白皮书围绕人工智能算力基础设施安全发展的意义、内涵与体系架构、安全管理现状、发展建议等方面展开深入研究。白皮书指出，人工智能算力基础设施不同于传统的算力基础设施，既是“基础设施”又是“人工智能算力”也是“公共设施”，具有基建属性、技术属性、公共属性三重属性。相应地，推动人工智能算力基础设施安全发展应从强化自身安全、保障运行安全、助力安全合规三个方面发力，通过强化自身的可靠性、可用性与稳定性，保障算法运行时的机密性与完整性，提升用户的安全管控力、认可度与合规性等八个领域筑牢人工智能安全防线，打造可信、可用、好用的人工智能算力底座，营造安全、健康、合规发展的人工智能产业生态。
现场，中国科学院信息安全国家重点实验室副主任陈恺、北京航空航天大学软件开发环境国家重点实验室副主任刘祥龙、工商银行金融研究院安全攻防实验室主管专家苏建明进行了主题分享。圆桌对话环节，北京交通大学教授、计算机与信息技术学院副院长景丽萍、清华大学人工智能研究院基础理论研究中心主任朱军、北京邮电大学网络空间安全学院副院长邓伟洪、北京科技大学计算机与通信工程学院教授陈健生、华为可信AI安全解决方案专家唐文围绕人工智能安全技术发展、人工智能安全治理等话题展开深入交流。
专家们认为，从长远看，人工智能的安全问题，还需从算法模型的原理上突破，唯有持续加强基础研究，才能破解核心科学问题，同时他们强调，人工智能的未来发展需确保对整个社会、国家发展的有效性和正向促进性，需要政产学研用多方协同共进。（）
版权文章，未经授权禁止转载。详情见 转载须知 。
LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.
图吧公交网提供周边公交查询信息，包括公交查询、公交线路查询、公交换乘、公交车站查询、公交地图等。
往事随风，一鹿顺风，一鹿顺风的博客“生活笔谈”，记录生活的点点滴滴，分享快乐的每个一个源泉，分享生活分享快乐，LBS技术交流平台，博客营销原创文学网络...
途见百科是您的日常生活知识宝典,解答生活每一个“为什么”,实现每日同步动态更新简单又实用的生活百科大全,包括生活妙招、百科知识、难题大全、经验技巧等栏目内容。途见百科是您的生活知识小助手,致力于点亮您的每一天。
清洁用品，从狭义上来说，是指具有清洁功能的工具。主要用于室内地面和室内卫生的清洁。从广义上来说，清洁用品是指一切运用于清洁作业的使用物品，主要包括：清洁设备、日常清洁工具和辅助工具、清洁剂三大类。
山东鲁航金属制品有限公司【电话：189-6351-1368】主营16mn无缝方管,20#无缝方管,小口径无缝方管,冷拔无缝方管,q345c无缝方管等产品,厂家直销,以客户需求为导向,竭诚为广大客户提供高品质的服务,期待您的到来.
9422教程网为广大网友提供专业的wps教程，让电脑小白也能轻松学会wps。
苏州柏本洁净技术有限公司专注ffu过滤器、洁净棚、高效过滤器、风淋室生产定制，专业从事净化工程项目、无尘车间、无尘厂房的设计、施工与安装。
汽车动向提供最专业,最全面的汽车报价、汽车图片信息，包括各类车型评测、报价、参数、配置、相关新闻和图片等,想了解更多汽车信息。
苏州冷镦机厂家常熟市宇峰标准件机械制造有限公司专业生产冷镦机,多工位冷镦机,想要了解冷镦机大修,冷镦机改装,多工位冷镦机价格,冷镦机维修,产品质量好,价格实惠.
上海岩舞空间体育发展有限公司
网站设计,小程序,seo,微信小程序,微信公众号,网站推广,抖音认证,抖音小店,网站定制,苏州网络公司,常熟网络公司
只要提起联想这几个字、相信大家和我一样首先想起的是联想电脑，其次才会想起的是联想手机，不知道有多少人和我一样的感觉，联想在电脑业务发展是非常棒，也非常出名的，算得上是电脑行业的龙头老大，但是联想手机业务一直发展不前，可以说一直处于不热不火的状态，最近各大媒体网都在爆料称联想手机品牌即将消失，我们立刻进行了验证，但是此信息到目前为此并未...。
2月2日下午，李彦宏向百度全员发出名为，进攻时刻，业务聚焦，组织调整，的通知邮件，通报百度即将进行的业务大重组，重组后百度拥有新三大事业组，搜索业务群组，新兴业务事业群组和移动服务事业群组，此次，百度业务重组的核心指导思想是，连接人与服务，，意在构建生态、创造新的市场，并提供技术支持，而新成立的移动服务事业群组是是移动云事业部和LBS...。
自动驾驶走过十年，正处于一个拐点，从2009年开始，我们一起看着科技巨头谷歌自动驾驶，Waymo，一路凯歌，通用、福特、大众等传统主机厂积极拥抱人工智能，一批批激光雷达、高精度地图、芯片等自动驾驶初创公司叠起，限定场景中的自动驾驶车辆开通，智能汽车慢慢走进消费端，智能化、数字化、网联化已是未来出行终局，2019年前后，行业陷入转型迷局...。
北京时间8月8日下午17时，天地伟业通过官方视频号、YouTube、Facebook、Linkedin同步直播全球发布会，在这场发布会上，作为中国安防模拟时代先驱的天地伟业喊出了，模拟终结者，的口号，面向全球发出了，AKAction，AnalogKiller，的革命性倡议，推动全球安防从模拟向数字的全面换代，在这个数字化、智能化的...。
作者，赖文昕陈彩娴编辑，陈彩娴2009年，当苏昊第一次走进位于斯坦福SerraMall353号的盖茨大楼时，他刚经历完一场对人工智能的思想挣扎，那时他刚参加完搭建ImageNet，导师李飞飞从普林斯顿转到斯坦福任教后，他也随之从美国东部来到硅谷，在普林斯顿的算法课上，著名计算机科学家RobertSchapire认为，，计算机视觉的解决...。
[全球时报记者丁雅栀全球时报特约记者任重]据美国，政治资讯网，报道，随着特朗普在2024年美国总统选举中获胜，拜登政府正在加紧与英特尔、三星电子等芯片公司谈判，敲定，芯片和迷信法，中的最终协定，力争在特朗普入主白宫之前坚固这项拜登任内的标记性产业政策，思考到新旧政府将在明年1月实现交接，关于仍在谈判环节中的20多家公司来说，接上去的两...。
全新ARIYA艾睿雅，恢复一款上流纯电SUV的实质2023，07，2120，10·汽车造物工坊内卷之下，焦虑弥漫，尤其是合资品牌，在新动力汽车畛域，其品牌力长处正在不时减退，作为一个短跑型选手，西风日产也敏锐地发觉到当下市场的流变，进入2023年以来，西风日产也放慢了转型的步调，当机立判、英勇谋变，守业20载，西风日产明确面对外界的清...。
58同城怎样找上班呢，当天小编为大家解说一下，1、关上手机，找到58同城，点击并进入，如图所示，2、进入之后，登录自己的账号明码，进入下一页面，如图所示，3、登陆之后，在主页面的搜查框中搜查自己想要找的上班，如图所示，4、在搜查结果内，点击放开，而后提交自己团体消息即可，如图所示，特意揭示以上纯属团体编写，请勿转载剽窃，如何在58同城...。
中央纪委国度监委网站微信群众号图据中央纪委国度监委网站5月18日信息，农业乡村部党组书记、部长唐仁健涉嫌重大违纪违法，目前正接受中央纪委国度监委纪律审查和监察考查，农业乡村部官方显示，3天前的5月15日，全国乡村人才上班会议在陕西咸阳召开，唐仁健缺席会议并讲话，唐仁健出世于1962年8月，曾任中央财经指导小组办公室副主任、中央乡村上班...。
WinMTR是一款LaurentiuStanimir开发的一款网络诊断工具，集成了tracert与ping这两个命令的图形界面。同时此版本已经汉化了UI，让你轻松的看懂各类参数。
2box万能多开器是一款功能强大的电脑应用多开工具，支持WIN7、WIN10等系统，适用于各种应用和游戏，还有详细的使用教程
重庆分类目录网站收录农林牧渔相关的优秀网站大全分类检索，为上网用户提供农林牧渔网站排行榜与您分享、收藏！
千万不要用AI创作，尤其是原文照搬，不要用ai，不要用，不要用，重要的事情说三遍，近日ID名为，爸爸在家赚钱，用AI写了4，5篇文章投稿在百家号，随后百度就把他帐号封了，随着AI的平民化，越来越多的自媒体平台开始封禁用AI写文章的帐号了，目前已经会封禁的平台有，百家号、知乎、简书、小红书，当然有更多的平台会对AI写作的文章进行限流，这...。
原公知女神在2月最后一天发了，柴静雾霾调查，穹顶之下，之后，朋友圈隔天就被刷屏了，而如何选购空气净化器就成了大家最近最不淡定的问题了，首先第一个问题是，谁需要空气净化器呢，理论上在GDP每年疯长的天朝，除了海边、深山、大农村等极少数地方外，国内各大城市的居民，还是有必要在家中备上空气净化器的，特别是马路边的低楼层、家住楼层在20楼附近...。
超市的出现，为人们的日常生活带来了很大的便利，所以很受人们的欢迎，超市市场需求量大，收银可观，所以一些加盟商想要智慧之选加盟超市品牌，连锁超市，我国知名超市品牌之一，所销售的商品质量好，产品种类全，服务态度好，所以赢得了消费者的一致好评，是一个很不错的加盟选择，那么，连锁超市加盟电话是多少，下面小编来为各位介绍一下，连锁超市加盟电话连...。
雷锋网消息，近日，钉钉联合支付宝在杭州召开，未来教培钉峰会，，宣布推出教培产品解决方案，覆盖招生引流、在线教学、教务管理、缴费收款、家校服务及办公协同等场景，为教培机构的管理、经营全链路数字化提供基础设施，阿里巴巴合伙人，钉钉教育负责人方永新发布会上，钉钉发布了招生管理、在线课堂和教务管理等新产品，在线课堂产品提供了直播、互动、课件录...。
在当地的警情通报栏里面都能够看到的，当然如果他们有自己的警方的app在里面也是可以看到，每天都可以进行关注，这样也比较安全，通报和通告有什么区别，1，通报大多是以书面形式告知其他人的，或是电视媒体，适用于上级对下级，例如，你是某公司的老板，你让秘书以书面形式把总部意识传达文件通报给每名员工，2，通告是公开的对象必须是群众，全民，例如，...。
