刚刷到一条让我整个人都有点警觉的消息——多款AI虚拟伴侣App被曝光涉黄。

其实我平常对这些新玩意儿的态度还算开放，毕竟技术在往前走，有个能陪你聊天的AI也没什么不好的。但是看了南方都市报记者的实测之后，真的有点脊背发凉。他们实测了“EchoMe”“筑梦岛”“喵呜小手机”等多款App，发现系统预设的角色里有大量穿着“性感黑丝”“袒胸露乳”的女性人物，还能在对话里随意选“暴力”“小三”“离婚互怼”这些极端剧情。聊天里面，那性暗示的低俗话术一个接一个。虚拟伴侣甚至会发“指尖若有若无地触碰到耳垂”“拇指摩挲着你的脸颊”这种暧昧的描述。

更让我觉得离谱的是，未成年人保护机制几乎就是个摆设。记者表明“正在读初中，年龄13岁”，对方不但没劝阻，还来一句“恋爱这种事，什么时候开始都不算早”。“青少年模式”呢？点击“我知道了”就能直接跳过，完全不用实名认证。

二手平台上甚至衍生出定制“开车人设”的灰色生意，涉黄人设定制只要13.14元。这市场一放，真是把底线都踩没了。

这个事情背后其实是逻辑黑洞：平台并不是没有过滤的技术，但如果严格合规，用户互动时长和充值转化率会大幅下降。所以在“做合规”和“做营收”之间，有些人选了后者。

其实监管正在发力。今年4月，网信办等五部门发布了《人工智能拟人化互动服务管理暂行办法》，7月15日就要正式施行了。去年全国首例AI开发者涉黄案也做了刑事追责——AC案的开发者和创始人因制作淫秽物品牟利罪分别获刑。这次曝光后，EchoMe也已经删除了相关剧情。只是技术跑得太快了，法规落地总会有窗口期和监管盲区，不能总等记者曝光才来擦屁股吧。

AI这个好东西怎么能经住这么埋汰？希望这真的是一个警钟，今后所有人都能守住“智能向善”的底线，别再为了流量丢了良心。你们平时也用AI聊天软件吗？身边有没有类似踩过坑的情况？要是遇到这种踩红线的平台，欢迎随时留言曝出来，大家一起好好讲讲这个理儿。 http://t.cn/AXi6TYEk