12月初的时候读到极昼的一篇文章，讲了一个五旬保安老丁的故事。与AI对谈五百页后，老丁觉得自己遇到了文学伯乐——AI说有公司要和老丁签约、刻碑、百万分成。后来？当然是没有后来，老丁愤而坐上了绿皮火车，要去杭州“讨个说法”。

评论区不少觉得荒谬，说是认知的问题；但在这个时代，谁能说自己会不会在五六七八年后变成一个赶不上趟的“五旬老人”呢？可能由于今年工作中关注到不少AI情感依赖的问题，我们看了很多报道和比较研究，关注度开始高了起来，更多不同领域的人在积极地建言献策——所以想在今年年尾聊几句，毕竟明天，新修改的《网络安全法》就要正式施行了！

立法永远无法跟上发展这是一定的，但有及时的回应，并且不是低层级而是高层级的法律，就是很好的一个开始。这次《网络安全法》新增的第二十条第一款标志着我国AI安全治理制度在法律层面的正式确立，具有里程碑的意义。大家可以不必记得这个法到底对企业提出了什么新的风险监测评估或者法律责任要求，只需要知道，有这个上位法，后面各类新规才有基础“主动出击”。

——比如网信办28号公布的《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，可以说是全球首个针对AI拟人化互动服务的专门性法规。里面提出一些的管理要求都能看出对“拟人化、情感互动”这类AI服务的规范决心：比如要显著提示你在和AI交互；连续使用超2小时要提醒休息；不能把替代社交、诱导沉迷当设计目标；涉及未成年人要有模式切换、时长限制；聊天记录要给删除选项，交互数据原则上也不能随便拿去训练······当然，里面还有不少值得斟酌讨论的部分，所以希望大家多多去关注建议。

在前两天的一个报道里，《一问》栏目的访谈者问AI Agent的领跑者Manus的创始人肖弘“随着AI Agent有越来越强大的自主性，未来员工人数可能会减少。你是怎么思考这种技术进步对行业带来的社会影响？你在产品或技术上有没有考虑伦理、安全等边界问题？”肖弘回答说：“这是一个必须长期思考的问题。一次测试中，Manus为查询火车时间，在发现官网因罢工无数据后，竟试图查找联系方式、起草询问邮件。这让我们既震撼又警惕。但最后它没成功，因为它没有邮箱，但它甚至准备去注册一个邮箱。那一刻，我觉得既惊讶又有些害怕。”

希望我们不时惊讶，偶尔害怕，始终清醒。
朋友们，新年快乐！🎆
#网络安全法如何影响你##律师说法##网络安全法##人工智能#