※ 引述 《Wardyal》 之铭言:
: 人类也会“模型坍塌”?
: AI 专家揭露:你的认知正在静默老化
: 为什么小孩子说的话会震惊你?
: 为什么年长父母总重复同样的话?
: 前几天看到 AI 领域大神 Andrej Karpathy 的访谈,
: 他提出一个关于 AI 训练的观察,
: 似乎也成为对人类认知老化的最佳隐喻。
: #当AI模型坍塌
: 当 AI 模型持续在自己生成的数据上训练时,
: 会发生一个现象:模型坍塌(Model Collapse)
: 它们的输出会失去多样性、丰富性,
: 只占据极小的可能内容空间。
: 举个例子:
: 你问 ChatGPT 讲笑话,它只会讲那几个。
: 不是它不会讲别的,而是它的分布已经“静默地坍塌”了。
: Karpathy 说:
: "如果你看任何单一例子,并不明显,
: 但这些样本已经悄悄占据了极小的内容空间。"
比较可怕的是
打出这一篇文章的人
根本是想到什么打什么吧