两台 128 G 统一内存的 DGX Spark 连在一起能跑怎样的模型?
知名 AI 技术博主 Alex Finn 最近把第二台 DGX Spark 带回了家,和原本的那台拼在一起,组成了 256 GB 共享内存的本地算力集群。不得不说,DGX Spark 的工业设计很有苹果的精致感,而且设置起来非常简单,插上电它就会自动创建 Wi-Fi 网络,直接用主力电脑连过去就能配置,连显示器都不用接。
为了让家里的所有设备,包括 Mac Studio 和游戏电脑都能用上这个集群,Alex 用 Tailscale 组建了一个局域网。这样哪怕出门在外,用手机或者普通笔记本也能随时调用家里的本地模型。这种安排比花上万美元去买满配的 MacBook Pro 划算得多,毕竟笔记本合上就关机,运行久了还烫手,而家用服务器可以始终保持在线。
这次 Alex 在集群上重点测试了 Deepseek 4.1 Flash。本地跑大模型最棒的地方在于思维链完全透明,你能直观地看到它是怎么思考。简单的贪吃蛇网页代码它不到一分钟就写完了。随后他又尝试用一句话让它开发一个暗黑风格的 3D 游戏,模型不仅用 three.js 搞定了复杂的关卡和升级机制,甚至在写完后自己截图进行了运行测试。
很多人会问,既然每个月都在订阅云端模型,为什么还要折腾本地模型。Alex 认为,一旦你拥有了免费且无限制的 Token,AI 的使用场景就会发生根本性变化。他把这称为环境智能,也就是那些可以让它全天候运行的任务,比如让本地模型 24 小时不停地进行代码审查,或者在网上筛选商业机会。这种不心疼成本的无限调用,才是本地大模型真正的魅力所在。
#Deepseek##DGXSpark##本地模型# http://t.cn/AXjTXJ3r
发布于 上海
