【GPU的漏洞】#芯片##半导体##大模型##GPU#

2024年1月18日，gadgets360报道：安全研究人员Trail of Bits发现了GPU的一个安全漏洞security flaw ，导致有可能从GPU内存中窃取“关键数据”。

漏洞被命名为“LeftoverLocals”。其特点是：不只对消费者应用程序有影响，而且会侵入大语言模型（LLM）和机器学习（ML）模型中使用的GPU——在AMD Radeon RX 7900 XT上运行70亿参数量模型时，LeftoverLocals漏洞在GPU每一次调用数据时可能会泄漏约5.5MB数据，在llama.cpp上运行7B模型时，每次LLM查询总共会泄漏约181MB数据。

由于模型训练往往涉及敏感和私密数据，因此风险性更高。

目前证实收到影响的包括NVIDIA、苹果、AMD、高通等多个型号的消费性GPU。

卡内基梅隆大学（Carnegie Mellon University）正在对LeftoverLocals进行跟踪，并通知了GPU供应商如英伟达、苹果、AMD、Arm、英特尔、高通和Imagination等。