维基百科和谷歌联合开发机器学习算法 如何揪出论坛里的骂街党 (维基百科和谷歌)

文章编号:36896 资讯动态 2024-11-30 机器学习谷歌维基百科

如何揪出论坛里的骂街党?和谷歌联合开发机器学习算法

最近,来自维基百科和谷歌的 IT 专家,公布了把 AI 用于“节制”维基百科用户评论的成果——找出哪些用户在搞人身攻击,还有他们为什么要在网上骂街。

针对该问题,研究人员开发机器学习算法,分析维基百科在 2015 年收到的的海量评论。这一年,维基百科讨论页面共收到 6300 万条评论。这些评论存在的本意,是讨论如何改进维基百科收录的各条文章。

这些算法使用 10 万条包含侮辱性言辞的评论以进行训练,当然,这样的样本规模只能算是偏小的。起初,十名人类员工对这些评论进行分类,以明确用户评论中都出现了哪些人身攻击语言方式。举个例子,该机器学习算法能区别直接人身攻击(比如“你是个XX”),第三方人身攻击(张三是个XX),以及间接人身攻击(“张三说李四是XX”)

研究成果以论文形式发表出来,题目为'Ex Machina: Personal Attacks Seen at Scale'(Ex Machina:大规模人身攻击)。雷锋网得到消息,该论文将在四月份澳大利亚珀斯举行的的世界互联网大会上展出。

34 名用户“贡献”了 9% 的网上谩骂

如何揪出论坛里的骂街党?和谷歌联合开发机器学习算法

横坐标轴:总发帖数;竖轴:侮辱性言论比值;黑色:匿名用户;蓝色:注册用户

该分析表明,维基百科 43% 的发表言论来自匿名用户。这些人中的绝大部分并不经常发帖,有的就只发过一次。但平均发表脏话概率比注册用户高六倍。但据雷锋网了解,维基百科注册用户比匿名评论用户多 20 倍,意味着超过半数的人身攻击言论仍是注册用户发表的。

研究人员发现,大多数情况下用户言论是得体的。 80% 的人身攻击来自于 9000 多名用户,而这一群体发侮辱性帖子的平均次数少于五次。 意味着大多数人只在被激怒后,才开始在网上骂街。

但是,有一个包含 34 名活跃用户的小群体。研究人员对该群体的打分是“危害指数超过 20”。 这 34 个人竟然贡献了维基百科全部侮辱性言论的近十分之一 ,准确来说,是 9%。

很明显,这些人就是网络世界里所谓的“骂街党”——那些喜欢上网和人骂战,把人身攻击作为日常宣泄、娱乐活动的人。现在的好消息是,新的机器学习算法使得维基百科在用户群中找出这些人变得更加容易,然后只需要把这几个人的账户封掉,就能一下子减少论坛上 9% 的恶意言论。太划算了,是不是?这意味着偶尔发表人身攻击言论的普通用户不必被封号——大多数只在和人吵起来之后才开骂。这还意味着,维基百科不需要像拉网一样把全部评论筛一遍,用机器学习检测侮辱性言辞,而只需把精力放在管理这些极少数的骂街党上。

论坛维护:人+AI

如何揪出论坛里的骂街党?和谷歌联合开发机器学习算法

网上骂战,有时像野火一样被瞬时点着。正因如此,相比能自动决定该屏蔽哪个论坛用户的计算机程序,有时候人类管理员更有用。

论文作者们在结论中说道:

未来,AI 大概会在网站评论管理中起到越来越大的作用。研究人员指出,能自动筛选评论的系统可发挥极大的辅助作用——人类管理员能更清晰地把握用户谈话的健康状况,并可以更快得发现“有毒”评论内容,在引发更多用户反感之前采取措施。

维基百科的 AI 小编上岗,用于检测恶意破坏或虚假编辑等行为

版权文章,未经授权禁止转载。详情见 转载须知 。

如何揪出论坛里的骂街党?和谷歌联合开发机器学习算法

全局中部横幅
站长AI

掌握AI利器,抢占先机!站长AI奉上全方位AI工具合集,内容鉴定、编程、SEO、智能写作等尽在其中,轻松解决难题,让你事半功倍,还有更多惊喜等你发现!

电脑网络网站导航大全

LOL网址导航网是专业的上网导航网站,精心收录各类优质热门网站信息,同时提供天气、快递、违章等各种生活便民查询工具网址,为您提供安全便捷的上网导航服务,现已被众多网友设为上网主页,网址导航大全首选LOL网址导航.

郑州无痛人流医院哪家比较好

郑州无痛人流医院哪家比较好,郑州医大妇产医院人流专家指出,女性朋友若意外怀孕了可以到医院先做一下检查,然后听从医生安排选择合适自己的人流方式。

海葬服务中心

北京海葬服务中心为市民免费解答海葬服务怎么办理,海撒全部费用大概多少钱,通过电话可咨询北京骨灰海葬办理地点及骨灰海葬流程及注意事项.

攻略日记

攻略日记网提供各类游戏相关的攻略心得,包括网游攻略、手游攻略、心得秘籍、游戏技巧、游戏资讯等,致力于最新、完整、有特色的游戏资讯以及攻略!

烈火前端

一个前端妹纸的博客,专注国内外前端设计资讯,前端资源下载,前端开发教程,国内前端行业最好博客站点

吉祥新闻网

吉祥新闻网是吉林广播电视台官方门户网站,集纳了吉林广播电视台现有广播频率和电视频道的所有精彩内容。吉林广播电视台全网粉丝量超过6000万,吉林卫视全国覆盖人口12.8亿,全国排名第14位。吉林IPTV在网用户突破433万户,覆盖人口超过1500万。

旅游小程序,旅游票务分销系统定制开发【免费申请】

微程之家,为10000多家旅游公司提供旅游小程序开发、旅游票务分销系统定制开发等业务。【免费申请旅游小程序】

水泥网

水泥网作为水泥行业门户网站,是经原国家建材局正式授权的官方网站,主要向大家提供水泥行业市场分析、水泥行情、水泥标准、水泥行情报道、水泥价格、水泥行业相关公司、新型水泥技术等丰富内容信息。水泥行业全面的信息资讯平台

苏州风泰克智能科技有限公司

苏州风泰克智能科技有限公司直营高压风机、旋涡气泵、气环真空泵。为客户提供满意的风机解决方案。秉承“制造精品,优质服务”的理念,打造风机行业的优质品牌,产品安全可靠,品质如一。

全局底部横幅