#豆包智能体功能将下线#|虚拟伴侣:被放大的灰区
智能体最敏感的方向,其实是“虚拟伴侣”。
当AI开始具备:
💬长期记忆
💬情绪回应
💬人格稳定性
用户很容易产生替代关系。
问题在于三点:
⚠️情绪依赖不可控
⚠️未成年人更易沉浸
⚠️内容边界极难统一审核
所以这次“收紧拟人互动”,本质不是限制AI能力,而是限制:
👉“关系错位”
AI可以是工具,但如果变成“关系替代品”,就进入高风险区。
发布于 广东
#豆包智能体功能将下线#|虚拟伴侣:被放大的灰区
智能体最敏感的方向,其实是“虚拟伴侣”。
当AI开始具备:
💬长期记忆
💬情绪回应
💬人格稳定性
用户很容易产生替代关系。
问题在于三点:
⚠️情绪依赖不可控
⚠️未成年人更易沉浸
⚠️内容边界极难统一审核
所以这次“收紧拟人互动”,本质不是限制AI能力,而是限制:
👉“关系错位”
AI可以是工具,但如果变成“关系替代品”,就进入高风险区。