ChatGPT 现在面临一个大问题。

牛津和剑桥的研究人员揭露了大型语言模型的一个巨大威胁。”

他们称之为“模型崩溃”。

互联网生态系统正在迅速变化，生成式 AI 很快就会贡献大量在线文本。这迫使我们考虑，当像 gpt-n 这样的未来迭代版本使用从网络上抓取的、已经由 LLM 生成的数据进行训练时，会发生什么。

根据研究，不加区分地使用模型生成的内容进行训练会导致结果 AI 中出现“不可逆转的缺陷”。模型会丢失“原始内容分布的尾部”。换句话说，它开始忘记真实人类写作的创造性、边缘性和独特细微之处，陷入一个重复的回音室。

这不仅仅是 ChatGPT 的问题……研究人员构建了理论直觉，证明这种崩溃在所有学习型生成模型中普遍存在，不仅发生在大型语言模型中，也发生在变分自编码器和高斯混合模型中。

科技公司依赖于从互联网抓取大规模数据来构建更智能的模型。然而，该论文警告称，如果我们想维持使用网络数据训练的好处，就必须认真对待模型崩溃。

最终启示？在充满 AI 内容的网络中，从真实人类互动中收集的数据将变得越来越宝贵。