安全_云舒
26-01-31 10:48

早上起来就看到公众号到处都在“恐怖,天网来了”“震惊,机器人建立隐秘沟通渠道”,仔细一看,这moltbook不就是利用agent做类似irc反控木马吗,或者说某种蠕虫病毒。但是大家还挺乐意加入…

说起来,大模型提示词注入也和sql注入差不多,把数据当指令执行。用agent当后门比传统木马好,用自然语言控制,传统工具比较难检测。

发布于 浙江