是煦煦哟
25-10-17 07:51 微博认证:科技博主 超话小主持人(科技超话)

最近刷到个特有意思的技术尝试——EXO Labs居然把苹果M3 Ultra和两台英伟达DGX Spark凑一块儿干活了!原本我以为不同品牌的硬件很难搭伙,结果人家用自家开源的EXO框架,直接让这几台设备组成了“AI小分队”,在跑AI大模型的时候,比单独用M3 Ultra的Mac Studio快了快3倍,这效率提升真的有点惊艳。

说通俗点,这个组合的逻辑特别像“专人干专活”。你想啊,AI处理文字的时候,一部分是费劲儿的“前期计算”,另一部分是快速的“内容生成”。他们就让擅长 heavy 计算的DGX Spark搞定前者,速度比Mac Studio快3.8倍;再让M3 Ultra负责后者,生成速度反超DGX Spark 3.4倍,中间靠传输数据让两者无缝衔接,硬是把各自的优势都榨出来了。

不过得说句实在的,现在这还只是个“实验级玩法”,EXO框架也没对普通用户开放,咱们想试试还得再等等。 http://t.cn/AXwhQguC

发布于 福建