【TinyChatEngine: 设备端大型语言模型(LLM)推断库，可用于边缘计算，可以在笔记本电脑、车载娱乐系统、机器人或飞船上运行代码助手、办公应用和智能回复等服务】'TinyChatEngine: On-Device LLM Inference Library' MIT HAN Lab GitHub: github.com/mit-han-lab/TinyChatEngine #开源##机器学习# ​