兔撕鸡大老爷 25-09-17 16:25
微博认证:2024微博年度新知博主 科技博主

#抖音称谣言治理是今年最重要工作#
到抖音总部听了一场别开生面的发布会,这会有点意思啊,首次公布了抖音怎么运用AI辟谣求真的。

抖音一直都有不实信息处理小组,人类发布的谣言实在太多咯,这个组在今年用上了AI大模型做辅具,AI有多牛逼呢,抖音这个平台的谣言曝光量整体下降67%,大模型识别谣言的准确率高达85%,这个数值还能继续提升。

AI抖音求真拿豆包大模型作为数字基座,再进行了专门场景的后训练,来适配谣言的鉴别与处理。

这是以前人工做不到的。
有时候我会觉得人类很渺小,一分钟也就能敲几十个字,一天写完几封文档,还做不完一整份百页PPT,但AI可以做更多,我是有点敬畏的。

人类生产、搬运谣言的本事太强大了。有人空口传“70岁老人买火车票有折扣”“网络游戏下个月要正式关闭”,不怕死的乐子人还敢P蓝底白字的警情通告,我要是人工找到每一条涉事视频做详尽标注,我会到想死啊,真牛马都没有这么大工作量。

AI能提升的,不仅仅是处理量了。
它是能够主动做风险发现和事件溯源的,就拿“70岁老人买火车票有折扣”来讲吧。

抖音谣言治理用到的大模型技术是具备联网检索分析能力的,比如可以联网检索到中国国家铁路集团官网、上海辟谣平台、媒体报道渠道查证官方消息。还会梳理站外站内的线索提炼主旨,把大量能证伪的信息串成一张“报告”,供机器和人工再次判定。过去可能从这条谣言的发现到处置得几天,现在可能以小时计。

还有“萤火虫濒临灭绝”“内蒙古火山景区有黄金”“9月15日开征房东税”“限时领取育儿补贴”这都是近期特别火的谣言。

只要是到达一定热度的内容就会被大模型召回,把视频里的文案、音频、画面转写成信息,提炼视频的内容主旨,联网检索看相关的权威媒体有没有说过此文件,做谣言的风险研判,如果是谣言,那就输出结论和列举谣言点,做出视频下架处置,再把对应谣言点入库,进行大面积的回查贴标签,拦截掉新增,不给谣言赋予流量。

除了这些在“幕后”的治理,平台也给用户提供了一些工具。

就拿最近特别火的谣言来讲吧:
少林方丈释永信去世,是假的。
足协接管苏超,也是假的。
南京小红叔事件11人中招HIV,更是假的。
第一条估计中国人都知道了,第三条至今还有人深信不疑啊。

抖音AI将这些内容标注上了“谣言”,当一些新闻特别劲爆时,人们会主动搜索,对吧,抖音求真用简讯+事件脉络+谣言红印章组成了辟谣专页,止谣,在这处将了军。

要是人们还是在苦心琢磨流量,编和传新的假故事,即便遇到封号,限流等处置,只能说抖音谣言治理的这个小分身再加把劲发育吧。

发布于 安徽