快科技官方
26-07-23 12:31 微博认证:快科技(原驱动之家)官方微博

【本地跑100B大模型!Acrab发布边缘AI芯片GΞLIX 1:5nm制程加持】初创企业Acrab正式发布其首款边缘AI终端SoC GALIX 1。该芯片基于5nm制程工艺,支持100B参数规模大模型本地运行,采用异构计算架构,集成20核Arm CPU、3TFLOPS GPU、独立NPU及音视频处理引擎,AI总算力达650TOPS,官方测试显示,指定场景下该芯片预填充性能达1416.8 Token/s,为苹果M4 Pro Mac Mini的7.5倍。

发布于 广东