vLLM 有方便的 CLI 界面啦！vLLM-CLI

当然这个不是官方项目，而是开发者自己搞的，支持以下功能：

交互式配置菜单系统（无需记忆参数）
自动检测和配置多块 GPU
保存您最后的工作配置以便快速重用
实时监控 GPU 使用情况和服务器日志
内置常见场景的配置文件或自定义您的配置文件。

正在使用 vLLM 但是觉得每次启动参数一大串很烦的同学可以试试这个项目

地址：github.com/Chen-zexi/vllm-cli

#ai创造营# #ai生活指南#