斌叔OKmath
26-07-21 09:23 微博认证:橙旭园CEO 教育博主

介绍 Unsloth for AMD 🚀
您现在可以在 AMD 硬件上训练和运行 LLM

• 我们与 AMD 合作,让您能够在 AMD GPU 上训练和运行 500 多个模型
• 支持 Windows、WSL、Linux
• 在 3GB VRAM 上训练 Qwen、Gemma

GitHub: http://t.cn/A6TQ7z9P

支持 Radeon、Instinct、Ryzen 和数据中心 GPU,通过我们定制的 Triton 内核和数学算法,实现高达 2 倍的速度提升、70% 更少的 VRAM 使用量,且无精度损失。我们还支持针对 GGUF 和 Safetensors 推理的优化 ROCm 构建。

Unsloth 是一个开源的本地 UI,用于更快的 LLM 训练和推理,具备工具调用修复、代码执行、安全网页搜索、远程 API 以及 HTTPS 部署功能。将本地模型连接到 Claude Code、Codex 代理,并运行最新的 Kimi、GLM、DeepSeek、Qwen3.6 和 Gemma 4 模型。

发布于 北京