http://t.cn/AXfYjevF 所有人,尤其是与数据打交道的计算机算法工程师,须好好学习高维空间的几何与高维数据的概率统计性质。它与我们熟悉的低维空间的直觉完全不同。这也是我上本书《高维数据分析》的主要目的。也是理解现代深度神经网络处理高维数据(tokens)必要的数理基础。我的新书《深度表征学习的原理与实践》也只是将这一纲领延续和扩展到更一般的高维空间里的低维数据结构。而正是高维空间不一样的几何统计性质,好好利用的话,成就了现代压缩感知,高效优化算法,也成就了深度学习!之所以工程领域现在大家不像以前一样关心理论,是因为目前资源尚且允许实践者通过试错的方式进步。且不管这样做对不对,存在就是合理的。那在这种情况下,正确的理论如何证明它的价值呢?应该是等到试错成本过高的时候;或者理论能指出全新的方向和可能。
发布于 德国
