【#小红书处置涉未成年人形象不当营销笔记2.4万篇##小红书处置AI魔改毒动画超12万篇#】
10月27日至28日,小红书公布未成年人保护与治理最新进展。
今年7至9月,平台共处置AI魔改、毒动画等违规内容超12万篇,日均处置违规笔记7000余篇、违规账号300个。
在违规内容打击方面,平台结合AI特征识别能力、图像识别技术和经典动画剧目IP,覆盖40余部经典儿童动画IP及早教动画。针对此类内容,平台结合账号历史违规频次实施双线分层处置,并对批量制作、传播违规内容的团伙采取封号、禁言措施。针对“小圈层暗语”隐蔽性强、更新极快的特点,平台搭建了自进化的语义识别体系,每天学习超2000个新暗语,自动召回新出现的变体和违规交易信息。此外,在隐私肖像保护领域,平台在7至9月共处置利用未成年人形象进行不当营销的笔记2.4万篇、账号1000多个。
在加强正向引导方面,平台在暑期针对搜索侧的“厌学”等负面情绪进行专项干预,优先展示正向引导内容。同时,今年7月平台上线100%人工未成年人保护专线,至今累计处理5300多起未成年人和家长的求助。(南方都市报、极目新闻)
