维基百科和谷歌联合开发机器学习算法 如何揪出论坛里的骂街党 (维基百科和谷歌)

文章编号:36896 资讯动态 2024-11-30 机器学习谷歌维基百科

如何揪出论坛里的骂街党?维基百科和谷歌联合开发算法

最近,来自维基百科和谷歌的 IT 专家,公布了把 AI 用于“节制”维基百科用户评论的成果——找出哪些用户在搞人身攻击,还有他们为什么要在网上骂街。

针对该问题,研究人员开发机器学习算法,分析维基百科在 2015 年收到的的海量评论。这一年,维基百科讨论页面共收到 6300 万条评论。这些评论存在的本意,是讨论如何改进维基百科收录的各条文章。

这些算法使用 10 万条包含侮辱性言辞的评论以进行训练,当然,这样的样本规模只能算是偏小的。起初,十名人类员工对这些评论进行分类,以明确用户评论中都出现了哪些人身攻击语言方式。举个例子,该机器学习算法能区别直接人身攻击(比如“你是个XX”),第三方人身攻击(张三是个XX),以及间接人身攻击(“张三说李四是XX”)

研究成果以论文形式发表出来,题目为'Ex Machina: Personal Attacks Seen at Scale'(Ex Machina:大规模人身攻击)。雷锋网得到消息,该论文将在四月份澳大利亚珀斯举行的的世界互联网大会上展出。

34 名用户“贡献”了 9% 的网上谩骂

如何揪出论坛里的骂街党?维基百科和谷歌联合开发算法

横坐标轴:总发帖数;竖轴:侮辱性言论比值;黑色:匿名用户;蓝色:注册用户

该分析表明,维基百科 43% 的发表言论来自匿名用户。这些人中的绝大部分并不经常发帖,有的就只发过一次。但平均发表脏话概率比注册用户高六倍。但据雷锋网了解,维基百科注册用户比匿名评论用户多 20 倍,意味着超过半数的人身攻击言论仍是注册用户发表的。

研究人员发现,大多数情况下用户言论是得体的。 80% 的人身攻击来自于 9000 多名用户,而这一群体发侮辱性帖子的平均次数少于五次。 意味着大多数人只在被激怒后,才开始在网上骂街。

但是,有一个包含 34 名活跃用户的小群体。研究人员对该群体的打分是“危害指数超过 20”。 这 34 个人竟然贡献了维基百科全部侮辱性言论的近十分之一 ,准确来说,是 9%。

很明显,这些人就是网络世界里所谓的“骂街党”——那些喜欢上网和人骂战,把人身攻击作为日常宣泄、娱乐活动的人。现在的好消息是,新的机器学习算法使得维基百科在用户群中找出这些人变得更加容易,然后只需要把这几个人的账户封掉,就能一下子减少论坛上 9% 的恶意言论。太划算了,是不是?这意味着偶尔发表人身攻击言论的普通用户不必被封号——大多数只在和人吵起来之后才开骂。这还意味着,维基百科不需要像拉网一样把全部评论筛一遍,用机器学习检测侮辱性言辞,而只需把精力放在管理这些极少数的骂街党上。

论坛维护:人+AI

如何揪出论坛里的骂街党?维基百科和谷歌联合开发算法

网上骂战,有时像野火一样被瞬时点着。正因如此,相比能自动决定该屏蔽哪个论坛用户的计算机程序,有时候人类管理员更有用。

论文作者们在结论中说道:

未来,AI 大概会在网站评论管理中起到越来越大的作用。研究人员指出,能自动筛选评论的系统可发挥极大的辅助作用——人类管理员能更清晰地把握用户谈话的健康状况,并可以更快得发现“有毒”评论内容,在引发更多用户反感之前采取措施。

维基百科的 AI 小编上岗,用于检测恶意破坏或虚假编辑等行为

版权文章,未经授权禁止转载。详情见 转载须知 。

如何揪出论坛里的骂街党?维基百科和谷歌联合开发算法

全局中部横幅
快塑网

从PE、PP、PVC、ABS等塑料原料交易切入,为用户提供物流、金融、行情资讯等一站式的服务。好料推荐_实盘推送_成交实况_抢低价料,打造塑化行业数字化的云服务平台

大神探诸葛九九动画

诸葛九九一位热爱冒险和推理的美少女,利用其超高的逻辑推理能力与高科技武器惩奸除恶声张正义,利用缜密的逻辑思维和强大的推理能力,帮助遇到困难的人们寻找真相。

啦啦外卖

太原多讯网络科技有限公司自主开发微信商城系统的企业,我们拥有成熟的技术研发团队以及售后团队,旨在为广大用户提供好的互联网电子商务服务体验!

cs1.6中文版下载,反恐精英cs1.6中文版下载

反恐精英cs是一款让玩家疯狂的射击游戏。cs1.6中文版官方下载的魅力无限!无论是做匪还是做警都让玩家着迷,乐始不疲!玩家们喜欢cs,爱上了一款叫反恐精英的游戏。

二氧天气网

二氧天气网_提供天气预报查询一周,天气预报15天查询,天气预报40天查询,天气资讯,空气质量,生活指数,旅游出行,交通天气等查询服务

善用AI

善用AI,专注AI技术分享的网站,可免费下载ai新手入门教程,AI绘画教程,智能AI写作课程,各种AI视频工具,AI软件经验分享。

千图设计室

千图设计室AI海报是千图网旗下的智能海报在线设计平台,提供免费AI智能海报生成,只需输入一句话,即可快速生成各种节日海报,日签,邀请函,电商主图,公众号配图,喜报,倒计时等模板生成。一键可生成多种设计风格美图,满足您的个性化需求,快速稿定设计需求。

SCI英文论文润色

美国艾德思EditSprings公司专业提供SCI/EI/SSCI英文润色、学术翻译、论文翻译润色、发表支持、基金标书、SCI翻译、论文润色、SCI润色、期刊查询、专业英语翻译、人工翻译等业务,致力于提供专业、准时、无忧、个性化的学术服务体验,助您学术成功!

生活中的知识one

生活知识大全网-生活小常识大全,生活小窍门大全,健康小常识等频道,为您提供日常生活小常识,生活知识,生活知识大全,生活小窍门,生活小妙招,运动保健等生活相关知识.健康生活,家有妙招,尽在生活知识大全网

旌沃代理记账公司

旌沃代理记账公司提供专业的代理记账服务,为您解决繁琐的记账工作,让您专注于核心业务。我们拥有经验丰富的团队,确保为您提供高质量的记账服务。

全局底部横幅