Simon的白日梦
24-07-22 08:39 微博认证:科技博主

微调大语言模型,只用这个就够了~!

**GitHub - hiyouga/LLaMA-Factory: A WebUI for Efficient Fine-Tuning of 100+ LLMs (ACL 2024)**

🧐LLaMA-Factory是一个高效微调100多个大语言模型的WebUI,支持多种模型和训练方法,旨在简化模型微调过程。

➡️链接:http://t.cn/A6HbnxUC

✨重点
●🔧 **多模型支持**:支持LLaMA、LLaVA、Mistral、Qwen、Baichuan、ChatGLM等多种模型。
●💡 **集成方法**:包含持续预训练、多模态监督微调、奖励建模、PPO、DPO等多种训练方法。
●📊 **高级算法**:支持GaLore、BAdam、DoRA、LongLoRA、LLaMA Pro等先进算法。
●📈 **实验监控**:提供LlamaBoard、TensorBoard、Wandb等多种监控工具。
●🚀 **高效推理**:提供类似OpenAI风格的API,支持Gradio UI和CLI,使用vLLM进行高效推理。
●📝 **详细文档**:包括安装、数据准备、快速开始等详细说明,支持Colab和本地机器。

⬆️⬆️以上分享内容精选自我每周更新的AIGC百宝箱—知识星球:AI白日梦想家([抱一抱]可以向我提问/信息分类查找/72小时无理由退款),加入方法请见置顶帖图9:http://t.cn/A6jz8QLy(WX扫才能享受6折优惠哦) ,感谢大家打赏支持 [爱你]

发布于 广西