何为 负责任且可评估的AI 商汤发布AI治理白皮书诠释 落地为王 (负责任是什么)

文章编号:45748 资讯动态 2024-12-09 商汤数据安全AI治理

一年一度的AI产业盛会——世界人工智能大会刚刚落下帷幕。据不完全统计,三天会期间,有10余场围绕AI伦理、可持续发展相关的主题论坛。其中,近半数,都涉及可信AI,如何落实为AI立信、为技术立规,成为既原则与政策之后,新的伦理热点话题。

本届WAIC上,商汤正式发布《“平衡发展”的人工智能治理白皮书——商汤人工智能伦理与治理年度报告(2022年)》深入探讨并分享了商汤在推动AI治理落地进程中的洞察、思考、目标与实践。

今年以来,新加坡、欧盟、美国、中国等国家的监管机构和第三方机构纷纷发布AI治理测试工具箱、技术监管沙箱,推进AI治理的落地实施。报告指出,当前,人工智能治理已经进入了以技术验证为主的落地实践阶段。

商汤高度重视人工智能治理,去年就提出了“平衡发展”的人工智能伦理观,同时明确了“以人为本、技术可控、可持续发展”的伦理原则。随着人工智能治理进入落地实践阶段,商汤此次进一步提出了发展“负责任且可评估”的人工智能,并将其作为商汤开展人工智能治理的愿景目标,打造伦理治理闭环。

人工智能治理进入3.0阶段,核心是负责任且需可评估

从发展历程看,人工智能治理至今已经经历了以原则讨论为主的1.0阶段,以政策讨论为主的2.0阶段。进入2022年,随着全球人工智能治理进程的持续推进,以及可信、负责任人工智能等相关理念的持续渗透,有关验证人工智能治理如何落地实施的倡议日益增多。人工智能治理开始进入以技术验证为主的3.0阶段,即落地实践阶段。

而目前,人工智能治理的落地实践仍面临许多挑战,各行各业需要重点处理“理念与行动”、“政策与实践”、“技术与用户”三组关系,即将人工智能伦理的共同原则付诸实施;将政策要求转化为技术和业务团队可执行的实践标准;深化用户对AI治理的理解、提升用户参与AI治理的能力,最终才能深入推进人工智能治理。

为有效地推进人工智能治理,商汤科技基于对全球人工智能治理诉求的分析,结合自身对技术和市场的理解,在白皮书中提出,“人工智能治理应当是一个价值牵引、技术先行、多方参与、分层推进的动态进程”,为人工智能治理的落地实践建立了有效路径。

报告认为,从治理效果看,人工智能治理的实现由低至高,可分为可用、可靠、可控、可信四个层次。其中,“可用”是指人工智能系统在功能、性能层面应当能够满足应用场景需求;“可靠”是指人工智能系统在安全性、鲁棒性层面应当能够满足部署环境和可持续运营要求;“可控”是指人工智能系统在功能层面应当能够充分保护人类的自主意志和权利、保障人类对系统的控制权;“可信”是指人工智能系统的设计和应用应当符合人类的价值理念和伦理道德。

何为「落地为王」?商汤发布AI治理白皮书诠释「负责任且可评估的AI」

人工智能治理的“分层目标”

报告指出,人工智能治理体系建构的目标,就是发展负责任的人工智能;但相关工作不应停留在“口头上”、“纸面上”,还应做到有迹可循、有据可查。因此,基于“平衡发展”的伦理观,“以人为本、技术可控、可持续发展”的伦理原则,商汤此次提出发展“负责任且可评估”的人工智能,并将其作为开展人工智能治理的愿景目标。

何为「落地为王」?商汤发布AI治理白皮书诠释「负责任且可评估的AI」

“负责任且可评估的人工智能”的核心要求

构建覆盖全生命周期的治理体系,打造AI治理闭环

作为业界最先组建人工智能伦理与治理委员会,并将伦理治理工作当作公司战略级方向的科技创新企业之一,商汤自2020年1月统筹推进人工智能伦理治理工作体系建设以来,已在内部开展大量治理创新实践,并形成了一整套可评估的人工智能治理落地方案,将伦理原则嵌入到产品设计、开发、部署的全生命周期,初步形成了人工智能治理闭环。

在数据风险方面,商汤将个人信息保护融入产品研发全生命周期,设立“数据安全与个人信息保护委员会”,实施个人信息保护评估审查,确保产品遵循默认符合个人信息保护的设计要求。

在算法风险方面,商汤作为领先的人工智能企业,主动承担算法开发者的主体责任,针对商业化算法场景,开展基于真实场景下的算法验证与评测,实现 AI 技术的真正可信与可控。

在应用风险方面,商汤持续完善人工智能伦理治理体系,建立覆盖设计、开发、部署全生命周期的产品伦理风险审查流程;紧随全球人工智能行业发展变化,建立“全球AI伦理风险库”;定期组织员工进行人工智能伦理培训,持续完善内部伦理传播体系,不断提升员工伦理素养。

何为「落地为王」?商汤发布AI治理白皮书诠释「负责任且可评估的AI」

商汤AI治理闭环,推进构建负责任且可评估的AI

为保障人工智能治理体系的有效落实、推动形成伦理治理“人人有责”的企业文化,商汤还建立了伦理风险目标管理机制、伦理风险事件处置机制和伦理治理质量控制机制。此外,为推动发展“负责任且可评估”的人工智能,商汤还在内部开发了一系列覆盖数据治理、算法测评、模型体检、伦理审查的流程工具和技术平台。

随着人工智能逐渐深入产业应用,AI的发展与治理之间的关系越来越像汽车的“发动机”和“方向盘”一样,相辅相成、缺一不可。

版权文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
军事频道

360军事频道,聚合全网知名军事网址及新闻资讯,提供中国军事、世界军事、军事新闻、原创军事评论、军事科技、军品装备等全方位的中国军事及世界军事内容。

保温板专业网

信阳中一保温板是专业珍珠岩保温板生产厂家,主要生产珍珠岩保温板,珍珠岩外墙保温板、珍珠岩无机板等产品,价格合理,销售热线:13903767000(周经理)

玄关风水

大门风水网【www.drtmeng.com】中国风水大师讲解一下农村大门风水,住宅小区大门风水,别墅庭院大门风水学知识。

深圳电信宽带

宽带申请办理到深圳电信网上营业厅-提供最新的深圳电信宽带套餐资费介绍、提供宽带优惠、便捷、高效的电信宽带安装服务,独享电信带宽千兆光纤入户。

舟山市归国华侨联合会

舟山市侨联|侨联|舟山市归国华侨联合会

标准电压互感器

互感器现场测试设备|电子式互感器测试仪|二次压降及负荷测试仪|电容式电压互感器现场校验仪|电压互感器现场测试仪

NAK80

NAK80一般指NAK80模具钢。NAK80模具钢是一种预硬塑胶模具钢,是日本大同制钢株式会社钢。广泛应用于注塑模具制造。它以优异的耐磨性、耐腐蚀性和良好的热稳定性而著称。被广泛应用于多种模具制造领域。

发卡网

发卡网是96云店网专注虚拟商品自动发货发卡平台,公司运营资质齐全的发卡平台,拥有电信业务经营许可,支付通道齐全常年无缺,D0当天秒结算,六年品牌老站专注稳定,企业个人软件开发者零售开店首选寄售平台

广东朗迪智能装备有限公司

广东朗迪智能装备有限公司致力于微型高压齿轮水泵、汽车洗窗泵、医疗专用水泵、家电、电脑、汽车连接器、医疗、线材、CCD检测、包装及焊接自动化领域的研发。

满意度调查

民安汇智(北京)信息咨询有限公司成立于2016年,注册地位于北京市朝阳区利泽中一路1号院1号楼2层202B号东687,法定代表人为周定收。经营范围包括经济贸易咨询;市场调查;公共关系服务;企业管理咨询;会议服务;企业策划;设计、制作、代理、发布广告;组织文化艺术交流活动(不含演出);承办展览展示活动;技术推广服务。

全局底部横幅