瑞莱智慧揭示深度合成技术真相 巧解AI时代面子问题 (瑞莱智慧怎么样)

文章编号:36721 资讯动态 2024-11-30 智慧城市瑞莱智慧AI安全

如今,新技术在全球范围内的蓬勃发展,不断推动着人工智能与经济社会的深度融合,人们的生产和生活方式,已经越来越多地被人工智能改变。但与此同时,潜藏的问题和风险也不断被曝露出来,一个非常典型的例子,就是以视频换脸作为主要表现形式的深度合成技术。采用这项技术制作的内容在互联网上广泛传播,已发展出多元化的商业应用。如果不加以引导和治理,将会产生巨大的负面影响。

作为领先的第三代人工智能基础设施和解决方案提供商,深度合成技术是瑞莱智慧持续关注的重点。3月1日,瑞莱智慧在北京举办了主题为“AI时代的‘面子’问题”的媒体沟通会,中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文,瑞莱智慧CEO田天,副总裁唐家渝出席了此次会议。会上,瑞莱智慧通过对《深度合成十大趋势报告(2022)》(以下简称“《报告》”)的详细介绍,以及对深度合成内容检测平台DeepReal的交流展示,在分享自身对于深度合成技术不同维度的探索和思考的同时,也产生了很多独到见解和前沿观点。

深度合成内容亟待治理 检测工具成刚需

瑞莱智慧与清华大学人工智能研究院、清华大学智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心近日联合发布《报告》,介绍和研判深度合成技术及应用带来的机遇与挑战,并就其发展与治理给出切实可行的建议和措施。瑞莱智慧CEO田天在沟通会上对《报告》内容进行了深入解读。

瑞莱智慧揭示深度合成技术真相 巧解AI时代面子问题

田天认为,技术的不断成熟是深度合成内容迎来爆发式增长的重要原因。研究论文的持续增加、开源技术工具和大量代表性方法的涌现,令深度合成内容的效果更加逼真、制作也更加高效,尤其是生成对抗网络等算法的出现,让合成内容达到了“真假难辨”的程度。“新型伪造方法层出不穷、网络传播环境的日趋复杂,加上基于检测算法存在漏洞缺陷等,反深伪检测技术面临‘强对抗性’,需要持续更新与迭代”。

深度合成内容的治理是一项长期的工作,需要社会各方的通力协作。田天表示,瑞莱智慧希望为人工智能和深度合成技术的规范发展出力。对于深度伪造内容,相关的检测工具十分重要,瑞莱智慧研发的深度合成内容检测平台DeepReal,将协助各界、各个机构,让深度合成技术健康发展。

AI安全迎关键窗口期 各方携手促发展

近年来,中美两国均出台了人工智能发展战略规划,从国家层面整体向前推进。无论是中国,还是美国,都有着完整的研发促进、鼓励创新的相关机制,在这些因素的驱动下,中国在人工智能领域,有着很大的上升空间,这也给了AI企业非常好的发展机会。在人工智能安全这个有着非常广阔发展空间的细分领域,中美两国可谓是并驾齐驱。

近年来,人工智能安全已成为国家政策层面重点关注的领域,国家相关的法律法规的不断完善以及各方对于算法治理、隐私保护等问题的高度关注,人工智能安全已迎来关键窗口期。现在在国内,尚未产生有世界影响力的人工智能产品和产业生态,这正是瑞莱智慧努力的目标。未来,瑞莱智慧与各界的联系和合作会越来越紧密,共同为人工智能领域的健康发展贡献力量。

瑞莱智慧揭示深度合成技术真相 巧解AI时代面子问题

中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文

中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文受邀出席了本次沟通会,他在演讲中表示,深度合成技术涉及到认知安全,所以我们要提升社会认知安全意识,将它作为集体责任,提升公众的数字素养,以及每个人对深度合成时代真相的认识和鉴别力,这里面有很多需要去努力的事情。人工智能企业都非常希望政府相关部门和各界积极开展有关法律伦理、治理上的对话和相关规范的制定,以及相关最佳实践的推广,这其实都是为了实现创新和治理之间的动态平衡,实施敏捷、稳健治理,同时使科技更好地服务数字化转型、数字生活。

深度伪造技术持续进化 DeepReal成对抗利器

深度伪造技术持续进化,网络数字内容多变、隐匿性强,监管难度大,因此开展主动技术防范与检测工作是必要的。会上,瑞莱智慧副总裁唐家渝向媒体讲解和展示了深度合成内容检测平台DeepReal。他表示,深度伪造技术检测工作当前面临两大难点:一是肉眼难以辨别,传统人工内容审核团队无法应对,二是深度伪造检测面临“强对抗性”,新型伪造方法层出不穷、网络传播环境复杂、深度学习检测算法模型存在结构性缺陷等。

瑞莱智慧揭示深度合成技术真相 巧解AI时代面子问题

瑞莱智慧副总裁唐家渝

唐家渝介绍,在结果准确度方面,DeepReal在学术数据集和ZAO等主流方式生成的网络数据集中,已达到99%以上的准确率,而在实际应用中,DeepReal的检测准确率也已达到业界顶尖水平,远超Facebook此前举办的Deepfake检测挑战赛所公布的最好成绩。在检测速度方面,DeepReal可实现每帧画面的检测时间仅用时30毫秒。DeepReal平台此前在国际安全极客大赛等多个重要赛事中屡获大奖,无论是标准层面、实战落地层面还是监管层面,瑞莱智慧现已与多家单位开展多方面的合作,DeepReal将在网络虚假内容甄别、人脸资料审核、影像物证真实性检验等实际应用场景中发挥强大作用。

唐家渝表示,除深度合成技术内容检测以外,瑞莱智慧目前也正在做相关研究,探索深度合成技术的正向应用,例如人脸替换技术,包括演员的面部替换、影视本地化配音、后期更换演员台词等等。例如虚拟IP的打造和运营,这样的虚拟资产,相比真人来说更加可控,也更加有想象空间。在谈到深度合成内容制作的发展趋势时,唐家渝认为,目前该技术集中在人脸合成范围内,未来一定会扩展到人体、环境等复杂场景下的合成。与此同时,未来相关的法律法规将更加完善,合法合规的应用边界更加清晰,会进一步促成深度合成相关产品的加速落地。

凭借在人工智能安全领域的深度探索与实践,瑞莱智慧将运用最新科技,发挥技术优势,与优秀的合作伙伴携手,为人工智能安全和企业的转型升级树立更多标杆,推动智慧城市的高质量发展,为人们带来更加美好的生活。

版权文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
无线微波组网

深圳市安视源电子科技有限公司,十五年专业无线设备研发,生产经验,专注研发和生产远距离无线微波传输设备,欢迎致电13798410798,车载船载动中通天线,动中通无线微波设备,无线监控设备,广电融媒体高清无线视频直播设备,企业级远距离无线网桥设备。10-100公里传输设备定制,欢迎咨询。

武汉输送机

武汉中普瑞特工业有限公司产品:武汉输送机、武汉滚筒输送机、武汉食品输送机、武汉皮带输送机、武汉提升机、武汉升降输送机、武汉带式输送机、链板输送机、移动式输送机、滚筒线、皮带滚筒线、滚筒运输线、动力滚筒线、滚筒线链条等,输送设备行业从业多年。

沃德传媒(山东)有限公司✅建筑摄影.中国

--邀拍热线:17896366661✅专业从事建筑空间景观摄影,抖音视频代运营,企业形象摄影,厂容厂貌摄影,酒楼饭店vr全景摄影,会议摄影,1000+企业拍摄经验。✅奎文,潍城,坊子,寒亭,寿光,临朐,青州,高密,诸城,安丘,昌邑,滨海,商业拍照,360度,720°,济南,烟台,临沂,淄博,青岛,威海,东营,聊城,滨州,菏泽,济宁,日照,德州,山东,3DVR网站技术服务团队

安徽同运环保机械有限公司

安徽同运环保机械有限公司成立于2018年9月17日。19年5月投产。公司坐落于皖中腹地,庐江县北部,东连巢湖、南接铜陵,北临肥西三河镇,西有京九铁路。合铜公路、同白公路、新白公路穿境而过,交通便利风景优美。注册资金1000万元人民币。主营范围:环保机械、钢结构及设备钢结构、钢桥梁、轨道设备、异形钢构件制作、安装;钢结构平台制作、安装等项目

物流街

物流街网站是互联网仓储一站式综合服务平台,为商家提供B2C+B2B的仓库租赁、仓配一体等仓储物流服务。

分享屋

分享屋是一个IT视频教程,免费分享破解软件,IT资源,编程程序学习论坛,每日更新Java教程,web前端教程,python,PHP,ios,android,人工智能,大数据,C/C++,linux,go语言,微信小程序,数据结构与算法,运维,测试等各类IT教程论坛的网站

Unity

Unity是全球应用非常广泛的实时内容开发平台,为游戏、汽车、建筑工程、影视动画等广泛领域的开发者提供强大且易于上手的工具来创作、运营和变现3D、2DVR和AR可视化体验。

重庆市第九人民医院【官方网站】

北部地区最大的医疗中心,国立江苏医学院(今南京医科大学前身),国家三级甲等综合医院,重庆市急救医疗分中心,重庆医科大学北碚附属医院

全局底部横幅