AI 很擅长在封闭系统里面打造无懈可击的逻辑闭环,从形式到内核都能做到天衣无缝
一旦少了现实验证,就只能靠自己的多元视角来勘破,实际上这不现实,因为过于逆人性了,大脑本就希望节省能量…
所以,解决之道不是再叠加一层升阶视角,而是保持开放性
agent loop 如果无法处理好外部信息/判断的融入,很快就会降维到搞笑的程度,这不是 LLM 智力不足而是 harness 本身“智力不足”
发布于 广东
AI 很擅长在封闭系统里面打造无懈可击的逻辑闭环,从形式到内核都能做到天衣无缝
一旦少了现实验证,就只能靠自己的多元视角来勘破,实际上这不现实,因为过于逆人性了,大脑本就希望节省能量…
所以,解决之道不是再叠加一层升阶视角,而是保持开放性
agent loop 如果无法处理好外部信息/判断的融入,很快就会降维到搞笑的程度,这不是 LLM 智力不足而是 harness 本身“智力不足”