胡延平E-Rambler 26-03-24 23:02
微博认证:前 DCCI互联网数据中心创始人 微博原创视频博主

把Token命名为词元,是有点过时的认知。尽管Token只是智能的局部,Token经济并不等于智能经济,但Token的形态、表征、内涵、场景都要远大于“词”。另外Token只是something,有些人却当成了everything。当然,这些并不影响Token经济是当前AI输出与应用的主力形态。但无论看现在还是看未来,词元是LLM大语音模型阶段的认知载体,而AI已经在往多模态、时空智能、物理现实、世界模型走了。越往后底层越不是语言,输出的也不是词。就像早期模型产品命名为文、问、言之类,后来都隐隐开始觉得不妥一样,越往后智能越不需要问,也不必言,甚至和字词无关。实际上现实需要的是智能的表征单位、能力单位和价值单位,一方面至少要和Token能对得上,另一方面至少概念到中期还能成立,有弹性有冗余度的命名,就是“智元”。

发布于 上海