【LeftoverLocals：通过GPU本地内存泄漏监听LLM响应】
- 研究人员发现了一种新的GPU漏洞LeftoverLocals，通过该漏洞攻击者可以读取其他进程中的GPU本地内存数据。
- 这会影响LLM等GPU应用的安全性，文章以llama.cpp为例，演示了如何通过读取本地内存来恢复LLM的响应。
- 测试了多种平台，发现AMD、Apple和高通的GPU存在该漏洞。Nvidia和Intel等则不存在。
- 攻击者可以通过并行程序来实现该攻击，不需要特殊权限。文章详细解释了技术原理和攻击步骤。
- 由于该漏洞的影响范围很广，作者通过CERT/CC组织进行了协调披露，以便GPU厂商修复。
- 建议GPU生态需要建立威胁模型、探索执行栈以确定安全特性的实现点，并进行大量测试和审核来增强安全性。
- 该漏洞进一步凸显了GPU和LLM等新技术在安全方面仍存在的挑战，需要各方共同努力提高安全性。
《LeftoverLocals: Listening to LLM responses through leaked GPU local memory | Trail of Bits Blog》 http://t.cn/A6j4iHac #机器学习# #人工智能#