维基百科和谷歌联合开发机器学习算法 如何揪出论坛里的骂街党 (维基百科和谷歌)

文章编号:36896 资讯动态 2024-11-30 机器学习谷歌维基百科

如何揪出论坛里的骂街党?维基百科和谷歌联合机器学习算法

最近,来自维基百科和谷歌的 IT 专家,公布了把 AI 用于“节制”维基百科用户评论的成果——找出哪些用户在搞人身攻击,还有他们为什么要在网上骂街。

针对该问题,研究人员开发机器学习算法,分析维基百科在 2015 年收到的的海量评论。这一年,维基百科讨论页面共收到 6300 万条评论。这些评论存在的本意,是讨论如何改进维基百科收录的各条文章。

这些算法使用 10 万条包含侮辱性言辞的评论以进行训练,当然,这样的样本规模只能算是偏小的。起初,十名人类员工对这些评论进行分类,以明确用户评论中都出现了哪些人身攻击语言方式。举个例子,该机器学习算法能区别直接人身攻击(比如“你是个XX”),第三方人身攻击(张三是个XX),以及间接人身攻击(“张三说李四是XX”)

研究成果以论文形式发表出来,题目为'Ex MaCHIna: PerSONal Attacks Seen at Scale'(Ex Machina:大规模人身攻击)。雷锋网得到消息,该论文将在四月份澳大利亚珀斯举行的的世界互联网大会上展出。

34 名用户“贡献”了 9% 的网上谩骂

如何揪出论坛里的骂街党?维基百科和谷歌联合机器学习算法

横坐标轴:总发帖数;竖轴:侮辱性言论比值;黑色:匿名用户;蓝色:注册用户

该分析表明,维基百科 43% 的发表言论来自匿名用户。这些人中的绝大部分并不经常发帖,有的就只发过一次。但平均发表脏话概率比注册用户高六倍。但据雷锋网了解,维基百科注册用户比匿名评论用户多 20 倍,意味着超过半数的人身攻击言论仍是注册用户发表的。

研究人员发现,大多数情况下用户言论是得体的。 80% 的人身攻击来自于 9000 多名用户,而这一群体发侮辱性帖子的平均次数少于五次。 意味着大多数人只在被激怒后,才开始在网上骂街。

但是,有一个包含 34 名活跃用户的小群体。研究人员对该群体的打分是“危害指数超过 20”。 这 34 个人竟然贡献了维基百科全部侮辱性言论的近十分之一 ,准确来说,是 9%。

很明显,这些人就是网络世界里所谓的“骂街党”——那些喜欢上网和人骂战,把人身攻击作为日常宣泄、娱乐活动的人。现在的好消息是,新的机器学习算法使得维基百科在用户群中找出这些人变得更加容易,然后只需要把这几个人的账户封掉,就能一下子减少论坛上 9% 的恶意言论。太划算了,是不是?这意味着偶尔发表人身攻击言论的普通用户不必被封号——大多数只在和人吵起来之后才开骂。这还意味着,维基百科不需要像拉网一样把全部评论筛一遍,用机器学习检测侮辱性言辞,而只需把精力放在管理这些极少数的骂街党上。

论坛维护:人+AI

如何揪出论坛里的骂街党?维基百科和谷歌联合机器学习算法

网上骂战,有时像野火一样被瞬时点着。正因如此,相比能自动决定该屏蔽哪个论坛用户的计算机程序,有时候人类管理员更有用。

论文作者们在结论中说道:

未来,AI 大概会在网站评论管理中起到越来越大的作用。研究人员指出,能自动筛选评论的系统可发挥极大的辅助作用——人类管理员能更清晰地把握用户谈话的健康状况,并可以更快得发现“有毒”评论内容,在引发更多用户反感之前采取措施。

维基百科的 AI 小编上岗,用于检测恶意破坏或虚假编辑等行为

版权文章,未经授权禁止转载。详情见 转载须知 。

如何揪出论坛里的骂街党?维基百科和谷歌联合机器学习算法

全局中部横幅
逃跑吧少年下载

4399逃跑吧少年官网为您提供逃跑吧少年怎么玩、逃跑吧少年攻略、营救队友技巧、逃跑吧少年视频、逃跑吧少年资讯爆料、逃跑吧少年电脑版下载、安卓版下载。

无锡户外拓展露营基地

无锡户外拓展基地拥有自己的户外拓展培训基地,集合专业的拓展培训师,为企事业单位提供户外拓展活动的训练方案,户外烧烤,户外篝火露营,野外徒步探险等活动的资讯发布,欢迎来电咨询.

苏州科贝斯电子有限公司

苏州科贝斯电子有限公司是集研发、生产、销售、安装、售后为一体的高新技术企业。主要产品有UPS电源、EPS电源、免维护蓄电池、交直流稳压电源、机房环境监控及精密空调等近百种产品。服务热线:189-1353-3588

HDI三聚体科思创N3300

上海箴智化工科技有限公司主要销售HDI三聚体科思创N3300,HDI三聚体科思创N3390,HDI缩二脲科思创N75等产品,质量上乘,型号规格齐全,知名品牌,价格合理,如有订购HDI三聚体科思创N3390,HDI缩二脲科思创N75等产品需求,请致电13262882888.

AppGrowing中国版

AppGrowing是专业的全球移动广告情报分析平台,实时追踪全网如巨量引擎巨量千川百度营销穿山甲阿里汇川快手抖音等流量平台广告情报监测,广告优化师、广告代理商、广告主、运营人员、流量平台提供广告创意素材搜索、竞品投放策略追踪。

锋格练字官网

[锋格练字官网]中国硬笔书法连锁加盟品牌,练字加盟品牌之一。0经验办学,总部全程扶持,不限名额免费师训,招生无忧,轻松运营。练字加盟热线400-902-5118

首页

栅极驱动芯片、电源管理芯片、功率器件、功率集成方案等业务-广东巨风半导体有限公司

香港身份

迈睿移民咨询(深圳)有限公司,主营因私出入境中介服务,自费出国留学中介服务。特色咨询服务,香港移居计划

废旧锂电池回收处理设备

郑州鼎硕机械制造有限公司主要产品有废旧锂电池回收处理设备,锂电池回收分解设备,散热器铜铝分离机,塑料金属分选机,欢迎咨询选购!

陕西区县农副产品批发公司

成都霍达尼商贸有限公司面向陕西,是一家专注于区县农副产品批发的微型企业。我们致力于满足客户多样化的需求,提供优质的批发服务。公司拥有一支经验丰富的团队,秉承诚信、专业和高效的原则,在激烈的市场竞争中不断前行。通过大数据分析和市场研究,我们不断优化产品线和服务内容,确保与时俱进。

汽缸垫,发动机汽缸密封垫片

专业生产汽缸垫的定点生产企业,从事发动机汽缸垫的开发、汽缸垫片研制、汽缸密封垫生产、汽缸垫圈销售。公司主要产品有汽缸垫。我们已优质的汽缸垫质量、优惠的汽缸垫价格、完善的汽缸垫售后服务来赢得汽缸垫买家的信耐。

全局底部横幅