分享、发现微信公众号

造谣成本低,辟谣成本高?今日头条要用算法把辟谣成本降下来

2016-12-29刺猬公社
导读

有一种尴尬的传播现象是,谣言满天飞,但真实的声音却没人看。今日头条这次给出的算法+人工的解决办法,或许是种答案。

   

最近,如果你打开今日头条阅读资讯,可能会刷到标注红色“辟谣”小标签的新闻。




这是今日头条推出的一项新功能——辟谣机制,只要用户最近5天在今日头条内阅读过的内容,后被证实为谣言,系统将通过辟谣机制,第一时间在页面的信息流中为其展示一条辟谣信息。

 

谣言正成为移动互联网时代所有平台必须面对的一个难题。Facebook在美国大选期间就受到诸多质疑。为了解决这个问题,Facebook近日陆续推出了多项打击虚假新闻的战略。Facebook鼓励用户举报,被用户多次举报的新闻会推送给第三方审查机构进行辨别。鉴定的假新闻将被打上标记,在人们阅读或分享这种新闻时显示警告信息。


与Facebook这种打标签的措施不同,今日头条的辟谣机制更为主动,也就是说主动澄清谣言。

 

12月14日,有媒体报道称,搜狐“将进行大刀阔斧的改革,逐渐撤除内容部门,并不再设置编辑岗位”。消息一出引发哗然,随后搜狐官方发布声明对此进行澄清。今日头条则以“成都全搜索新闻网”发布的稿件为辟谣内容,利用算法准确展示给阅读过谣言内容的用户,以实现精准辟谣,也就是说凡是读过谣言内容的用户,都会收到辟谣内容。



今日头条辟谣功能,精准推荐给阅读过相关谣言的用户

 

据今日头条副总编辑徐一龙介绍,辟谣功能需要机器算法和人工共同合作。算法模型通过消息评论和用户举报等反馈渠道,将符合谣言特征的异常内容抓取出来,交由人工进行复审。“在审核方面,算法还不能给出完全精准的判断。不管是谣言,还是对标题党等低质内容的打击,我们一直采用的都是人工与机器结合的方式进行的。”据了解,目前今日头条通过机器收集分析各类用户反馈识别虚假信息的准确率达到60%,结合人工复审可进一步提升到90%。

 

一旦一条消息被判定为虚假信息后,系统会立刻停止对其推荐和展示,并且今日头条运营团队会依据平台规则对发布虚假信息的来源进行处罚。

 

当谣言停止传播,下一步则是精准辟谣,而选择可靠的信源就成了关键问题。据今日头条副总编辑徐一龙介绍,辟谣内容来源首选权威媒体和事件当事方(人或机构方)两类信息出处进行辟谣。“如果辟谣出错,那么接连不断的非真实消息推送对用户和平台的伤害,远比单纯的谣言传播影响更大。”

 

新媒体时代,平台应该怎么对待谣言?在今日头条上线辟谣机制之际,刺猬君和今日头条副总编辑徐一龙聊了聊,徐一龙曾任《中国周刊》副总编、搜狐新闻中心总监、《京华时报》特稿部主编。以下为Q&A:

 


今日头条副总编辑徐一龙


刺猬君:介绍下今日头条的辟谣机制吧。


徐一龙:简单来说就是,只要用户最近5天在今日头条内阅读过的内容,后来被证实为谣言,那么系统将会通过辟谣机制,第一时间在页面的信息流中为该用户展示一条辟谣信息。辟谣内容来源会首先选择权威媒体以及事件的当事方,比如人或者机构方。

 

辟谣机制是这样运行的,比如,有大量用户举报了一篇内容为虚假信息,或在某篇内容的评论区中密集出现“假新闻”等类似关键词,机器即可自动识别并将其提交至今日头条审核团队的工作后台进入复审队列。

 

在确认为虚假信息后,系统将会立刻停止虚假信息的推荐和展示,并依据平台运营规则对违规账号进行处罚。而造成较大影响的虚假信息,比如时政、社会、国际、财经、体育等影响范围较广的硬新闻方面,今日头条的辟谣机制就会走到最后一步,精准推送辟谣内容。

 

刺猬君:辟谣新闻是只推给阅读过谣言的用户吗?


徐一龙:看过谣言的用户,系统会自动推荐给他辟谣文章。而对于没看过的此谣言的用户,系统会根据他的个性化阅读需求正常推荐,不会强推。比如,一条母婴类辟谣,没必要推荐给没看过且不是母婴人群的用户看。

 

刺猬君:今日头条为什么要做这样一个辟谣功能?跟近期自媒体频繁出现的谣言有关系吗?


徐一龙:其实这个想法的诞生最初跟自媒体没有太大关系,反而与传统媒体密切相关。今年9月份的时候,当时河南南阳发生了一起很大的校车车祸。第一时间做报道的是当地传统媒体,说6人死亡。两个小时之后,就又说没有人伤亡。然而最后确认是2人死亡。

 

这条新闻当时影响比较大。死亡6人的消息已经推出去了,这个数字反复变,用户不会觉得是媒体报道有误,反而会觉得今日头条作为一个平台推送了一条假新闻。当时我们就在想,如何让后面更正确的信息自然地推送给用户,让看过最初消息的用户修正他的认知,也能让新读者直接看到最正确的新闻消息。最后内部讨论的结果就是,觉得该有这么个机制,既能精准辟谣,又不让用户收到冗余信息。

 

现在今日头条的日活已经超过7000万,是移动端最大的内容分发平台之一,作为平台我们肯定有责任的,我们需要流量,更需要有信任度的流量。基于这个考量,加上今日头条在算法和大数据方面有比较好的积累,我们就做了这个算法辟谣的尝试。

 

刺猬君:微博、微信也有辟谣机制,它们鼓励用户举报疑似谣言,然后把确认的谣言打上标签,通过辟谣帐号进行展示。那么,今日头条的这个辟谣机制与它们又有何不同?


徐一龙:微博、微信对辟谣的标注是很有效的手段,但解决不了一个问题:确保曾经看过这个谣言的人,能看到辟谣的标注。今日头条可以用算法定位到,看过谣言的人,实现精准辟谣,这是一个创新。

 

因为数据吞吐量非常大,用户举报也是我们打击谣言的重要辅助。今日头条一直设有举报按钮,被举报的信息会进入复审系统,经过人工和算法的多重审核来判定其是否为谣言。一旦判定为谣言,与打上谣言标签的方式不同,今日头条算法系统会立刻停止假消息的推送,这其实可以做到即时中止谣言的继续传播。

 


日头条鼓励用户对违规内容举报

 

但已经读过假消息的用户该怎么办呢?谣言依旧会留在他/她心中,对他/她产生影响。根据头条个性化推荐特点而开发的精准辟谣机制,其实就是在解决一个谣言传播之后的遗留问题,可以更正用户对事件的错误认知。而此前的辟谣方法是不能解决这个问题的。

 

刺猬君:今日头条一直在说没有人工编辑,但从这次辟谣机制来看,你们是对内容进行干预的?


徐一龙:如果一个用户在一个平台里面看到了虚假信息,他一定会对这个平台持负面观点,这会直接影响到整个公司的根本利益。所以,不管哪个平台都是非常反感虚假信息和谣言等低质消息的。

 

今日头条没有传统媒体那样的编辑,不代表它对内容不作为。我们有产品、运营、审核的同事,他们每天很重要的工作就是调教算法,让算法进行更精准地分发,让优质的内容分发得更好,也让低质的内容被准确地抓出来打击掉。现在头条基本可以说是中国所有严肃媒体最重要的流量来源,严肃媒体的内容经常在头条上面成为点击量超百万的爆款。

 

标题党、谣言等低质内容会损伤用户对头条的信任,这部分高点击会带来低留存,这不是我们需要的“有信任的流量”,长期来说会伤害我们的商业价值。所以,打击低质一直以来都是我们的重要任务,我们有专门的部门和算法工程师做这件事。

 

刺猬君:Facebook最近卷入假新闻的漩涡,很多人说这是因为扎克伯格过于信任算法,在2016年年初裁撤人工编辑才导致的这个后果。你觉得呢?人工和算法哪个更重要?


徐一龙:首先,我觉得这是把Facebook的两件事情混为一谈了。Facebook撤掉人工编辑,撤掉的是其热门话题的人工编辑,这个其实跟审核没有关系。热门话题的人工编辑的主要工作是推荐Facebook上点击量很好的一些资讯,呈现给读者。而Facebook的失实信息并不是通过热门话题传出来的,它即使没有到热门里面,也可以传播出来。所以,Facebook的谣言问题跟年初裁撤人工编辑是没有关系的。

 


另外,对于Facebook以及今日头条这样的内容平台来说,现阶段,人工审核和算法模型都很重要。对于传统媒体来说,审核或者删除不实信息确实不需要算法,那是因为传统媒体处理的信息太少了。一般说来,处理的信息越少越不会出错,书籍出错的概率要小于杂志,而周刊、半月刊的杂志出错率又小于日日出版的报纸。

 

而不管是微信、微博还是今日头条,作为信息分发的平台每日要处理的内容太多。像今日头条,每天会接收到几百万篇文章的发布请求,最终放出上线的有20万篇左右。如果仅仅依靠人工编辑来处理这几百万篇文章,这是绝对不可行的。而算法模型现在也并不能对每篇文章都能做出完全正确的判断,所以需要人工审核与算法协同作战。当内容数量大到一定程度后,明确的规则才是更加可靠也可行的约束方式。

 

刺猬君:自媒体时代以来,谣言好像就越来越泛滥。你怎么看待这个现象?


徐一龙:其实自从有信息传播以来就有很多谣言,从古代还没有印刷术,到纸媒时代,到今天的互联网时代,谣言假新闻一直都是存在的。只是,资讯爆炸,信息传播效率提高之后,这一问题越来越显著。

 

我们也一直可以看到一种蛮尴尬的传播现象,叫做谣言满天飞,但是真实的声音却没人看。比如可能有10万个人看到一个谣言,但真实的声音辟谣出来以后,只有一千个人看到这个辟谣信息。就像纸媒辟谣信息,也只是放在角落里的豆腐块,这就是很尴尬的一个现状。所以我们的这个辟谣功能,就是想通过技术来解决这个千古难题,给看过谣言的人精准辟谣。





内容产业报道第一媒体

微博 @刺猬公社

合作、转载事宜请联系微信号yunlugong

投稿邮箱ciweigongshe@126.com

网站www.ciweigongshe.net

提交公众号
听记者们讲幕后,听新闻界前辈们讲古;温故历史的先声,撷取域外的经验;八卦下新闻学院的男神女神,挖挖行业转型人的心声;佐以饭局、段子和刺猬君的撒娇卖萌,就是我们刺猬公社的存在理由.

刺猬公社的二维码

微信扫一扫

刺猬公社的标签

广告一下^_^