实时快报:【#三星公布LPDDR5X-PIM性能,AI推理速度提升2倍#】云财经讯,据报道,三星电子日前公布面向智能手机、AI PC等端侧AI设备的LPDDR5X-PIM架构及详细性能指标。该技术可在内存内部直接完成部分运算处理,无需将数据反复传输至处理器。三星使用Meta的拥有80亿参数模型"Llama 3.1"进行测试,结果显示:处理时间:从传统LPDDR5X的12.3秒缩短至5.4秒,提速约2.3倍;每秒Token处理量(TPS):从27个提升至81.3个,是现有产品的3倍。
发布于 广东
