上游新闻
25-08-05 13:22 微博认证:上游新闻客户端官方微博

#平台自动审核不能成为摆设#【微评丨平台评论区出现不雅照无法删除,自动审核不能成为摆设】#平台须打破对AI审核过度依赖#
据正在新闻报道,一女子在社交平台发帖称,自己在旅行平台上订一家酒店查看评价时,看到酒店的点评区有一张女性不雅图片,她找酒店客服反馈删除这条评价,客服称无法删除。而平台则反馈称是系统自动审核通过。该事件被报道后,很快成为热搜话题。

顾客发布评价信息,目的是为其他用户提供参考。通过评价用户可以表达自己的意见和感受,为商家提供反馈以便于商家提升服务和改进不足。作为第三方平台,保护用户隐私信息是基础规则。涉事不雅照片在酒店点评区存续期间,已构成对当事人隐私权的侵犯。同时,这类内容通过APP传播,极易与酒店住宿场景产生关联联想,对当事人造成二次伤害。

平台必须打破对AI审核的过度依赖,在图片识别、语义分析等技术环节之外,还要增设人工审核岗位,优化投诉响应机制。明确补救和惩戒的事后责任。通过技术手段与人工审核相结合的方式,履行内容管理主体责任。此次事件也应为监管部门提供警示,一方面要主动作为,加强对三方平台的内容安全动态巡查,另一方面应推动"技术合规"标准建设,要求企业证明其审核系统的有效性。(上游新闻记者 时婷婷)http://t.cn/A6FESJ59