互联网秘密规则 上 言论自由背后的内容管制 (互联网秘辛)

互联网秘密规则:言论自由背后的内容管制(上)

言论自由的边界是如何在一个高风险公共领域的爆炸性增长时期中成立起来的?

今天,YouTube的十几亿用户大约每分钟上传400小时的视频。同时在每小时里,Instagram用户送出1.46亿个“赞”,Twitter用户共发送2100万条推讯。去年8月,马克·扎克伯格在Facebook上表示,该网站到达了“一个重要的里程碑:Facebook首次实现一天之内有十亿人使用Facebook”。

但是,在面对自由与管制的问题上,这些平台的内容过滤机制——时常处于企业利益、社交责任、基本人权等问题之间权衡的迷之困惑当中。事实上,我们所迷恋的西方言论自由,背后有我们看不见的机制。

YouTube内容分析师的故事

2006年夏天的某个日子,朱莉·莫拉·布兰科永远记得这天:这个日子她落实了新的工作。莫拉·布兰科是当时加州州立大学奇科分校的应届生,主修艺术,辅修女性主义研究,而且她大部分空间时间都在捣腾雕塑。在跳槽到互联网创业公司YouTube前,布兰科在时事电视台(Current TV)从事后期制作,每天为着沉重的房租奋斗。她想,也许,她可以在赚足了钱然后去追求她一生的梦想:成为一名发型设计师。

那是一个温暖、阳光明媚的早晨,她坐在公司办公室里——公司坐落于圣马特奥市,旧金山里田园牧歌式的富裕区。Mora-Blanco是60多个二十几岁在这家仍未实现盈利的网站中工作的人之一。

布兰科的团队——一共10个人——被称为“SQUAD队”(Safety, Quality, and User Advocacy Department:安全、质量和用户宣传部门)。他们团队一般工作四到六天,部分时间实行轮班,晚上他们就一起审阅视频。他们的职责是什么?过滤网站上被用户标记的攻击性或恶意的内容,维护YouTube这个羽翼未丰的品牌。或者如布兰科所说的。YouTube创始人希望YouTube能够成为一个新锐的网站——一个属于所有人的地方——而不是另一个eBaum。

出现在电脑屏幕上的视频永无休止。大概4秒钟,SQUAD小队的成员大概看完一屏的视频然后选择“批准”——同意上传到网站;“拒绝”则是——删除该视频,但不惩罚上传者;“打击”——则是不仅删除,还将对上传账户采取一定禁止措施。点击、点击、点击……但某一天,一些事情改变了布兰科的发展轨迹。

“噢,天啊!”对于那个早上看到的东西,布兰科如今还心有余悸。不过最后她还是回忆了起来,她说,她看到视频中一个蹒跚学步的孩子在一个昏暗的房间,里面发生了骇人听闻的暴力。

Ewing-Davis冷静地帮助布兰科点击“打击”,停用了该账户,并报告了组长。然后,该信息将会被发送至检举中心——一个由国家失踪和受虐儿童中心(NCMEC)于1998年发起的报告系统。儿童虐待的镜头是法律明确禁止的行为。

这个视频是消失了,但下一个又来了。

是的,这就是你的工作。布兰科和Ewing-Davis在街上踱来踱去,思索着: 对的,你总会看到些不好的东西。

大约过了十年,那个儿童受虐的视频仍然困扰着布兰科。“在我的脑海里,那个画面还时常浮现。”“我对职业生涯没有很多的规划,当时25岁还年轻的我,还在为薪酬感到高兴,却从未想过遭遇如此之黑暗沉重。”

布兰科是十几个接受The Verge采访的来自YouTube、Facebook等主流互联网平台的前任或现任员工之一,他们在接受采访时,都谈到了内容审核造就的“互联网黎明”。他们当中大多数人都是第一次公开他们的经历,他们的故事揭示了言论自由的边界是如何在一个高风险公共领域的爆炸性增长时期中成立起来的。如法学教授许多年前首次提到的:“Facebook这一类平台拥有比世界各地任何一名最高法院法官、国王或总统更多的‘决定谁能发言、谁的发言被听见的权利’。”也就是说,它们为民众带来更大的话语权。

互联网内容从放任到管制

YouTube于2005年2月15日注册,由华裔(台湾)美籍华人陈士骏、查德·赫利 (Chad Hurley)、乔德·卡林(Jawed Karim)创立。2006年11月,Google公司以16.5亿美元收购了YouTube,并把其当做一家子公司来经营。

YouTube成为在线视频之王并不容易,创立之初,这三个二十多岁的年轻人是非常的挫败,因为技术上他们没有简单的方法来分享两个特别引人注目的视频:2004年那场摧毁东南亚的海啸剪辑和Janet Jackson的超级碗“服装事故”。2005年4月,他们进行了第一次上传测试。到了10月份,他们发布了第一个点击量过百万的热点视频:这段视频是耐克的广告,展示的是巴西足球明星Ronaldinho领取“金靴”的场景。几个星期之后,Google斥资16.5亿美元收购了这家视频分享网站。当时Google称其为“互联网革命的下一阶段”,此时YouTube已经有65名员工。这个时候,布兰科获得了晋升:内容策略分析师。到2006年中期,YouTube用户每天在线观看的视频超过1亿个。

YouTube诞生初期,该网站吸引了一小部门专门共享关于家庭和朋友生活的视频。但 随着网站的爆发式扩张,内容主题也多样起来,甚至充斥着大量危害社会的内容:商业电影和音乐的剪辑视频被上传,同时有大量的业余和专业的色情。慢慢地,虐待儿童、殴打和虐待动物的视频也随之出现 。到了2007年底,YouTube承诺遵守著作权法,并创建一个专门负责内容审核的小组。但筛选恶意内容比想象中要复杂,首先它需要密集的人类劳动。

于是,就有了上述“SQUAD队”的工作了。他们为内容审核创造了一系列的标准,其中简单地说就是“这个视频能够分享给家人吗?”大多数情况下他们都是各自独立,部分具有争议性地则交给创始人来决断。慢慢地,他们便形成了一个行业内尚未出现过的工作领域:专业的内容审核。(作者可能不知道天朝有广电局)

到了2006年秋季,与 SQUAD一起处理数据和视频插图的YouTube律师、审核政策主导者为该团队制定了一个长达六页的规则小册子,然后每隔几周还更新一次。 没有政策定义,这个即兴创作的小团队未曾领会到,他们实际在研发了一个关于言论自由的新全球标准。

互联网秘密规则:言论自由背后的内容管制(上)

走向自由?互联网公司的反叛与约束

2009年夏天,伊朗示威者涌上街头,抗议内贾德当局在选举中舞弊。此次抗议被称为“绿色运动”,是伊朗革命历史上最重要的政治事件之一。在这场大规模抗议和骚乱中,互联网成为示威者传递信息、发泄不满和积聚外界同情的重要渠道。个人博客、Twitter、Facebook等成为示威者交流的重要方式;Youtube、Flickr等成为向国际媒体反映德黑兰街头实景的首选载体。而布兰科和她的团队,监控着许多被上传到YouTube的抗议视频。

7月20日,该团队收到一段视频:这是一位业余摄影师拍摄并上传到YouTube上的一段视频。视频拍摄于总统大选抗议活动中的伊朗街头,记录了一位名叫Neda Agha-Soltan的女子胸部中弹后死亡在大街上的经过。画面中这个26岁的女孩血液从眼睛冒出,她生命中最后的而且是可怕的时刻被记录了下来。

这个视频上传后数小时内,它都成为布兰科和团队关注的焦点。根据她的回忆,他们的政策指导并没有任何有关“构成了新闻价值”的指引,或者说,在本质上构成了新闻伦理。但她知道视频所具有的政治意义,也意识到他们的决定将能给她的牺牲带来贡献。

布兰科和团队最终决定保留该视频。后来,该视频引发了全球范围的言论自由与人权的对话——它有巨大的政治影响力。他们有巨大的政治权力。

随后,SQUAD政策团队迅速与法律部门合作,决定放宽其无端的反暴力政策,匆忙创立起一个“豁免新闻”的标准。如今这段视频被广泛转载,全球都可以目睹这个拥护民主的抗议者的壮举。后来该视频还获得了荷赛奖。

今天,YouTube的十几亿用户大约每分钟上传400小时的视频。同时在每小时里,Instagram用户送出1.46亿个“赞”,Twitter用户共发送2100万条推讯。去年8月,马克·扎克伯格在Facebook上表示,该网站到达了“一个重要的里程碑:Facebook首次实现一天之内有十亿人使用Facebook”。

互联网秘密规则:言论自由背后的内容管制(上)

在面对自由与管制的问题上, 这些平台的内容过滤机制——时常处于企业利益、社交责任、基本人权等问题之间权衡的迷思当中 ——它们对言论自由、政府异议、社会规范的形成、用户安全 、隐私的意义有重大的影响。哪些内容应该被删除?谁来决定内容的去与留?什么是新闻价值?威胁?伤害?当涉及到法律实施吗?他们也很困惑

虽然公众对政府的审查制度和大学校园的言论自由管理感到愤怒,但是客户内容管理给关于隐私、共同管理的互联网的言论自由带来了和平传播的环境。关于内容审核,微软研究员Kate Crawford定义为——是“ 一个选择什么才能构成公共领域自由言论的深刻人类决策过程 ”。

截至去年夏季,社交媒体平台——尤其是Facebook——占据所有主流新闻网站43%的流量,将近三分之二的Facebook和Twitter用户通过社交平台接收新闻内容。无节制的社交媒体经常涉及宗派暴力、家庭暴力、暴力极端主义者的招募、大规模欺凌事件等等。报告称,社交媒体和移动科技给巴基斯坦等国家的妇女带来真正的伤害,因为它让强奸犯多了一个勒索受害者的手段(受害者或许会因被强奸了而入狱)。

《大西洋月刊》某个报道所提倡的一种流行叙事,是指当前内容审核系统被打破。但是,对于那些已经受到在线伤害的人来说,“ 打破”已经不是一个合适的词,相反,这制度应该是在此前已经被全部击碎了 。在过去的18个月中,通过对十几名业内专家的采访发现,具有全球影响的内容审核已经被边缘化,甚至达到惊人的程度。早期凭借经验达成的直觉性审核政策今天依旧存在,但已经被业内拒绝参与实质性公众对话和媒体问答的企业所掩盖。

原创文章,未经授权禁止转载。详情见 转载须知 。

全局中部横幅
RCO催化燃烧设备

福建桑涂环境科技有限公司是一家专注于RCO催化燃烧设备,环保催化燃烧设备,废气催化燃烧设备的高新技术环保企业,我司拥有严格的管理制度,一流的服务质量,详询18350183331。

宫保鸡丁的全部作品及图片

豆果美食用户们制作的宫保鸡丁的全部作品及图片

中原品牌栏目

河南广播电视台中原品牌栏目是民生频道下属的子栏目,新上线《中原汇》项目,为河南企业助力服务!

超级快车

超级店长是光云科技旗下的一款中小商家SaaS工具,围绕商品、装修、复制搬家、打单发货、促销、交易评价、一件代发、分销下单、财务利润等多场景的解决方案,涵盖淘宝、1688、京东、抖音等数十个电商平台

丹东泡沫制品

凤城市阳光泡沫制品厂可以加工定做各种规格型号的食品包装箱,工艺精湛,做工考究,是丹东,东港,凤城,宽甸本溪等区域食品厂家和果蔬合作社的首选,咨询热线:0415-8190084

高品质补钙药品

高品质补钙药品,络合钙吸收快,不伤肠胃的补钙产品,武汉西莫制药有限公司,于2013年6月成立,位于武汉市东湖开发区高新大道858号生物医药园A85-2栋,是国内首个三类补钙新药、具有自主知识产权。

武汉中北知识产权代理有限公司

武汉中北知识产权代理有限公司,成立于2005年1月25日,十多年来已为湖北地区众多客户提供了专业、及时、高水平的知识产权法律服务。业务范围全面涉及国内外商标、专利、版权、知识产权行政及诉讼案件。武汉中北知识产权秉承“服务第一,信誉至上”的宗旨,致力于给客户提供适合其发展的知识产权保护方案,擅长处理各类商标专利纠纷及诉讼、中国驰名商标的认定和保护。

GG租号

gg租号网站是steam,绝地求生,英雄联盟(LOL),穿越火线(CF),王者荣耀,QQ飞车等游戏租号交易平台网站,无需帐号密码,玩家登录上号器即可随时随地畅玩游戏。

古诗句网

古诗句网为大家提供中国古诗词大全,包括历代古诗词原文欣赏、古诗词经典翻译以及古诗词鉴赏和评论,也是一个提供诗词名句鉴赏和古文赏析的实用古诗词网站(gushiju.net)。

上海申锐测试设备制造有限公司

上海申锐测试设备制造有限公司是一家以产品研发、项目配套为一体的综合性检测仪器企业

商客同城

江西省顺风车|求职招聘|房屋租售|二手车|生意转让|本地头条|同城吃喝玩乐-商客同城

岩土网

岩土网是一个面向广大岩土工程工作者的岩土工程综合门户网站,综合了岩土工程领域的技术、人才、企业、设备、材料、信息、行业研究、资金等岩土工程产业链上的各个环节,全力打造出一个

全局底部横幅