上课的时候老师说判断黑盒和白盒模型谁更可靠并不取决于可解释性,而是validation正确率。因为validation是evaluated against人/专家的金标准,实际上在问的就是该模型多像人。这就很哲学了,就像人变成了造物主,衡量你这个“新生命”好还是不好,取决于你多像我。这还很像柏拉图的理型,只是这次人类把自己放到了理型的位置。ml在做无客观可验证答案task时必须把人类的答案作为ground truth,这样的底层逻辑还挺自恋的。
发布于 浙江
上课的时候老师说判断黑盒和白盒模型谁更可靠并不取决于可解释性,而是validation正确率。因为validation是evaluated against人/专家的金标准,实际上在问的就是该模型多像人。这就很哲学了,就像人变成了造物主,衡量你这个“新生命”好还是不好,取决于你多像我。这还很像柏拉图的理型,只是这次人类把自己放到了理型的位置。ml在做无客观可验证答案task时必须把人类的答案作为ground truth,这样的底层逻辑还挺自恋的。