jev 类模型没有生成式解码器循环，输出有界，利用并行推理，并且具有极端的压缩/效率激励。这使得它们非常适合在设备上运行（这很快就会发生）。

在那个时候，你可以将判断能力嵌入几乎所有现有的交互中，比如通知、电子邮件、相机、键盘、主屏幕、传感器、快捷方式、无障碍功能等，边际成本为零，而且几乎是即时的（用户完全不会感觉到 LLM 的延迟）。

更具体地说，你可以将许多对 LLM 来说可能过于昂贵的潜在问题框定为决策，比如：

我应该推送这个吗？
这不寻常吗？
用户在意这个吗？
哪个行动是合适的？
这个打断值得吗？
他们的意图变了吗？
这个 UI 应该适应吗？

这基本上以几乎免费的方式添加了一个新的计算编程原语。

http://t.cn/AXO0sNfU