【#闲鱼回应涉黄#:平台采用双重审核机制,但涉黄违规用户刻意用日常普通词汇作为暗语规避检测,无论是系统还是常规人工巡检,都很难第一时间识别出隐藏的违规含义[并不简单]】9月21日,#闲鱼 涉黄#登上热搜,据河北经视报道,闲鱼平台暗藏一条成熟的涉黄产业链,暗语“处宝可约”背后牵连出大量未成年少女被明码标价,最小年仅14岁。此外,还有客服甚至声称这些未成年少女“支持带到三甲医院认证”。还有商家以“模特上门约拍”“游泳教学”“上门健身”等名义发布商品,配以女性照片进行隐晦暗示,引导用户脱离平台进入私域或线下进行非法交易。
21日,@钱江视频 记者搜索闲鱼平台,搜索“处宝可约”页面显示“小闲鱼没有找到你想要的宝贝”,而网友评论里提到的“女生自用自行车”“苹果取卡针”等色情暗号,记者发现价格都显示正常,没有显示上述报道中提到的666元、999元一次。
随后,@钱江视频 记者就此采访了2位闲鱼平台官方客服,他们都表示,针对近期曝光的涉黄相关违规内容,闲鱼始终保持持续关注和严格管控的态度,普通用户如果发现可疑涉黄商品,可提供商品链接和对应账号名称向平台举报,平台收到举报后会直接由人工后台跟进处置。
一位客服人员告诉记者,平台现行采用“机器筛查+人工复核”的双重审核机制,面对每日庞大的商品发布体量,一般会由预设程序的系统完成自动排查拦截,普通合规商品可快速通过上架,触发风控规则的商品会进入更长的人工审核环节;同时,也会有专门的审核部门会持续开展人工巡检,结合用户举报线索筛查违规内容,部分已上架的商品后续也可能在二次复核中被下架。
此外,针对涉黄暗语难以被前置拦截的问题,另一位客服人员也解释,涉黄用户会刻意使用如“自行车”“茶杯”等普通日用品这类常规语义完全合规的日常词汇作为暗语,来刻意规避系统识别,这类词汇隐藏的涉黄含义,无论是后台系统还是普通人工巡检,都很难第一时间识别出来,所以会产生未被检测到的违规内容会短暂正常展示,只有后续通过用户举报、线索汇总确认暗语含义后,平台才会将其纳入风控拦截系统,完成处置。
客服人员也表示,具体的审核规则、执行细节属于内部审核部门的专属权限,一线客服无权限知晓全部细节,但平台表示一直在持续开展全平台商品专项排查,不断优化对应的识别拦截能力,只要发现相关违规内容就会严肃处置,情节严重的直接对账号执行永久封禁。而针对过往每次相关涉黄问题曝光,他也告诉记者,平台都会加大审核力度,持续优化平台交易环境。戳更多#闲鱼涉黄其他平台也有#>> http://t.cn/AXORX1HU
