科技达人 Alex Cheema 在家中使用两台 MacBook 部署了目前最强大的开源大模型 Llama 3.1,拥有惊人的4050亿参数。他通过四位量化技术将模型压缩到了约200GB(相当于3个《赛博朋克2077》游戏的大小)。Alex 表示,实际体验丝毫不逊色于目前最优秀的闭源大模型。
模型源码下载地址:
http://t.cn/A68vXvje
现在大家可以在自己的设备上运行 8B、70B 和 405B 的参数的超级LLM模型啦![耶]
#ai观察局# #llama##meta发布最强开源模型llama3.1# http://t.cn/A68ft1e0
发布于 上海
