下午看完 CNCC 端侧大模型论坛的直播,脑子里反复浮现的,是一个很具体的画面:一个 350 亿参数的模型,运行在一台手机上,每秒生成大约 20 个 token。
主持人特意强调了这个数字,并称这是模型在旗舰手机上的平滑运行表现。说实话,我原本以为,这个规模的模型真正跑上手机,至少还需要好几年。但今天下午,它就这样出现在了直播的演示里。
刘知远老师在开场时提到了另一个更让人意外的数字:全国存量手机的算力总和,已经超过全国存量云端算力的 10 倍。而在未来十年、二十年里,这些算力还将逐步转化为真正可用的智能。我们每天揣在口袋里的手机,原来一直是一笔被低估的算力资源。
姚远老师的报告里,真正让我记住的,反倒是几个很小的场景:坐电梯快到 24 楼时,助手适时提醒你;店员聊起与当前任务无关的话题时,它安静地不去打扰;微波炉工作结束后,它主动叫你。这些事情单独看都不起眼,但放在一起,勾勒出的却是另一种助手:它不需要你时刻盯着,也不必每次都由你主动唤醒,而是能在合适的时候出现,在不需要的时候保持安静。350 亿参数、每秒 20 个 token,这些数字当然重要,但它们似乎也正在变成最不值得大惊小怪的部分。真正值得关注的,是这样一个模型,终于开始在我们每天使用的手机上运行。#CNCC2026##AI时代的技术想象##计算未来#
发布于 广东
