ChatGPT 5.6 悄悄发布了,但这可能是今年最让人郁闷的科技新闻。这个新模型在基准测试里击败了 Mythos,价格还只要三分之一,可以说是目前最强的 AI。但糟糕的是,普通人现在根本用不上。这次 OpenAI 和美国政府联手,只把使用权开放给了首批筛选出的 20 家企业。曾经人人平等的 AI 民主化时代,似乎正在被这种由少数机构钦点赢家的准入制打破。如果最顶尖的生产力工具只对极少数人开放,那普通人在竞争中几乎毫无胜算。
面对这种云端大模型随时可能被设限的新常态,研究本地 AI 已经成了必须提上日程的选择。AI 技术博主 Alex Finn 就搭建了自己的本地的 AI 家庭实验室,入手了 RTX 5090 等硬件,就是为了在自己的设备上运行大模型,构建不受任何人控制的 AI 智能。
如果大家也想尝试本地部署,硬件选择上可以根据需求来定。比如 Mac Studio 拥有超大统一内存,适合运行 GLM 5.2 这种超大参数模型,缺点是速度稍慢。像 DGX Spark 这种专用设备属于即插即用,带宽和内存比较均衡。而像 RTX 5090 这样的顶级显卡,虽然显存相对较小,但带宽极高,运行中小型模型时的速度非常惊人。在花钱买硬件之前,建议先用现有的工具多交流,想清楚自己的具体使用场景再下手。
#ChatGPT5.6##AI技术[超话]##HOW I AI# http://t.cn/AXSH8Cp3
发布于 上海
