https://x.com/hilbertspaess/status/2097476196791709843?s=46
不确定为什么这个新闻台湾几乎没什么在传 在X已经破亿点阅了
大意是有Anthropic（Claude母公司）工程师
相信Ai如果照这个速度发展下去
10年内AI有机率会杀光所有人类（另有主管背书 认为>10%机率)
他表示资深工程师和高层普遍认为这是真的
私底下都带着这种恐惧上班
他觉得现在OpenAI 和 Anthropic 为了利益以及责任感的缺少
双方毫无止尽地把AI的能力推到极限
这篇贴文也是他离职的声明 同时放弃了他的股权 相对来说他也没什么利益考量讲这些事情
他的担忧理由 来自于他的研究是 Recursive Self-Improvement
简单来说以往是人类研究员 有足够的高阶知识去改进AI模型 产生更强的模型
但现在AI的能力强到可以开始取代“改善AI系统”这个高阶知识的工作 （就像现在AI开始可以取代数学家一样）一直去改进自己
于是AI会一直生成更强的AI
直到人类根本跟不上研究的能力 单凭人类脑袋根本不知道自己创造了什么东西