※ 引述《greydust (灰)》之铭言：
: 所以想要让AI自己写程式码改进自己然后无限进化 至少目前是不可行的
: 至于马斯克会说已经到了
: 我觉得一定程度上是在嘴砲 另外一定程度上是在说现有的AI工具确实加速了AI的研究
: 只是这个加速至今仍然卡着人类 没办法自我加速而到达严谨意义上的奇点
那是人类的极限，并非AI的极限。
前提有误，谁说模型进步需要程式。假设模型有个缺点，叫他造25字的句会生错，
可能只是训练集没有、也许是训练方式需要修正、也许要新增评价公式。
程式仅是AI中的一环，甚至属于最不重要的部分。
更写实的例子，若claude里有人看到一篇讲提示词的论文，他大可直接丢给AI，
说请根据论文生十个改善提示词的范例，然后做些实验决定是否加入下次模型。
AI已经在一起发掘人描述问题的方式，如果人不介入，干脆自己问自己，
用有字天书解决问题，何尝不可。
就像围棋，没人知道在干嘛，啊也没人下得赢。显然不是我们要的。
既然人一定要介入，代表科幻的奇点定义没有意义，那说现在即奇点并不为过。
再退一步说，即使自我迭代已经现在进行式，加速度也未必肉眼可见，
下几万盘棋跟训练一次模型，所需时间差那么多。发现了吗，
既然瓶颈在硬件，则是谁在迭代，有差吗？
就算不提自己改自己，直接天降产生AI的AI，像围棋或预测蛋白质那样，
去哪个领域，那边就会突破。瞬间产出十套AI耕耘十个领域。
那又如何，你机器还是一样多啊，别人又不会借你。
所以程式对AI真的没很重要。哪天有谁，不管是人或AI，提出怎样练更快，
就算逼他只能手刻组语，大家也看不到他的车尾灯。
至于现况，只要AI一直在用几年时间解决人类要花几十年的问题，这就是奇点。
以前3D打印出现时，我也认为，“呵，不能印3D打印机，好意思说工业革命喔”
结果大家还不是用的很爽。

能把开发能力加个三五倍已经很奇点了

推

这篇完美说出我想说但说不出来的感受 已收藏 感谢

科技奇点是体现在短时间有很大的进展AI本身如果还是停留在LLM 那大概是没用还是一样 只要AI还不能自己改善AI自己 就都没到因为成长速度就还是取决于人类 人类速度就那样