【BitNet:微软推出的用于1bit大型语言模型推理的官方框架,支持在CPU上快速无损推理,未来还将支持NPU和GPU,显著提升性能和能效】'bitnet.cpp - Official inference framework for 1-bit LLMs' GitHub: github.com/microsoft/BitNet #人工智能# #机器学习# #高效推理#
发布于 北京
