小满 26-03-08 19:48
微博认证:媒体人、摄影师、数码测评师、汽车测评师、互联网分析师、本地新势力博主、资讯短视频资深拍客 汽车博主

近期,“AI龙虾”从国外火到国内,不同于ChatGPT等需要用户持续发指令的AI,这款开源AI智能体OpenClaw可实现“主动自动化”,无需人工干预,替用户完成各种工作、生活指令,同时具备持久记忆,越用越聪明,进而衍生出“养龙虾”。#AI龙虾爆火工信部发布高危风险预警##反诈连连看#

3月8日,工业和信息化部网络安全威胁和漏洞信息共享平台(NVDB)发布《关于防范OpenClaw开源AI智能体安全风险的预警提示》,提醒用户注意风险防范,即便该AI应用承诺本地私有化部署,数据不上传云端,但其完全自主决策、调用系统的特性,极容易被黑客攻击,进而被恶意接管。

关于AI智能体的权限设定,存在明显悖论,越是“自主”的AI,往往需要越高的系统权限,用户承担的风险也越大,尤其针对“AI龙虾”的代装服务,更是无形中会放大风险,最好找信任背书的专业团队进行代装。

另外,“AI龙虾”的出现,极容易被滥用于婚恋诈骗,用户更难以防备“杀猪盘”陷阱。目前,AI辅助的杀猪盘已经规模化出现,而且正在快速进化,龙虾完全可以替人聊天筛选对象,进而被诈骗分子用于升级AI骗术。

细思极恐的是,一个诈骗者可以同时操控数十个AI账号,在不同平台撒网,24小时无休进行诈骗,AI技术进步太快,当前监管存在明显盲区。http://t.cn/AXVVdsiT

发布于 陕西