我觉得,端侧大模型是今年最值得关注的方向之一。
云端大模型比拼的,往往是参数规模和能力上限;而到了端侧,功耗、内存、延迟,每一项都是绕不开的硬约束。模型不仅要跑得起来,还得在手机上跑得好、用得顺。相比榜单上的分数,这些真实场景里的表现,或许更能检验这一轮 AI 技术究竟走到了哪一步。
今年的中国计算机大会(CNCC)在成都举办,开幕日下午恰好安排了一场《端侧大模型》专题论坛,由刘知远老师主持,微博也有直播。CNCC 每年一届,是观察国内计算机领域前沿进展的一个重要窗口。没法去现场的话,看看直播也值得。
个人观点:端侧能真正跑起来、用起来,AI 才算真正走进了应用场景。
#AI时代的技术想象##CNCC2026#
发布于 中国
