【#刚刚，Thinking Machines Lab首次发长文，揭开LLM推理不确定性真相#】由OpenAI前CTO Mira Murati创立的Thinking Machines Lab发布首篇博客，直指大语言模型（LLM）推理中不确定性的真正根源：缺乏批次不变性。在不同批次大小下，LLM的输出会受到影响，导致结果不确定。博客详细解析并通过实验证明，启用批次不变性核函数后，LLM推理可实现完全确定性。http://t.cn/AXPDwLJg