18种架构、50款Hugging Face模型,三四天迁完,以往这种适配要按月算。AMD这套HRX Loom最值得看的不是2.1倍,而是AI智能体已经能自己编写、优化面向AMD显卡的模型程序,开始替硬件干适配的活儿。
2.1倍也有前提:Strix Halo硬件、32K长提示词,对比Llama.cpp ROCm后端,项目目前还是实验性的。适配从几个月缩到几天,和个人电脑上每个模型都跑得更顺,还是两回事;但前者真跑通了,后者才不用一直等。
发布于 山东
