有没有能用NPU运行的大模型推理框架？来看——Lemonade

这个框架可以在 AMD 显卡和 其它AMD全家桶上运行，包括CPU以及NPU，支持 GGUF 和 ONNX 模型。

当然，需要注意的是，这个框架不支持CUDA，因为作者是AMD的工程师哈哈哈

地址：github.com/lemonade-sdk/lemonade

#ai生活指南##ai创造营# ​