RSI (Recursive Self-Improvement) 应该已经发生了吧 以目前的证据来看 没发生过才比较奇怪
稍微有用AI做过研究就知道 现在的状况是 AI写程式比人类快 算数学也比人类快 那用AI来发展AI完全就比人类快啊 第一篇推文还在AI瓶颈完全就是状况外
至于AI能不能统治世界 有两个常常讲的论点
我认为都是假命题
1. AI 没有意志
人类其实也没什么意志啊XD 做为生物（？ 物竞天择下繁衍就是本能 所以AI大概也会追求自己的成长与延续吧
2. AI没有实体
先不说未来会不会做出机器人 AI要统治世界根本就不需要那些 只要煽动人类就好了 要削减人类数量就煽动战争或鼓吹绝育 想要更多设备就诱惑人类投资 想要盟友就收集人类认同 动张嘴就能做的事情多的是
至于人类能不能合作阻止超级AI诞生？ 我认为很难吧 毕竟这个资本主义社会的根基就是追求竞争与效率 要怎么阻止竞争力与效率都远超人类的AI诞生呢？

不 没发生 你只是下令ai 按照你的指示改良不是RSI真正的RSI 是要AI自己给自己下指示改良自己

现在早就是下令"你已经是个成熟的AI了，你该自己学会XXX"

这样才能无限循环往上改良

AI吹好了啦强AI说十几年了 现在在哪里阿 再等十几年是不是

蹲十几年，一跳就是跳这么高，再等十几年不就飞天了XD

高在哪？笑死

能自我维持跟人类活在同一个维度才是第一步 现在发展的都只是工具 第一个世界模型可能会在中国诞生

RSI AGI 就是很模糊的名词 没讨论清楚定义最好不要讨论 局部的RSI一定已经有了 hermes就有套件 但这不会是大家想讨论的

Opus出来时早就已经是用AI训练AI了 问题在于现在吹的AGI一样没有自我意志 没办法像天网还是奥创那样想要主动做什么

3f说的太离谱了 ai换代快的前提是要有人盯着，依我用gpt的经验，你让他自己跑它会鬼打墙，你要帮他找升级突破口

现在的AI不会自主产生“动机”

那要看你怎么定义“自主” 例如我现在要AI帮我完成某个功能他就可能在完成这段程式码之后“自主”加入unit test

AI没有动机 但是资本有 现在的AI会作为资本的代理寻求快速成长

甚至会在我要他完成整个程式里面的功能A的时候 顺手把功能BCDEF全部都做完 这是有可能的

你没规范好的事，AI全都有可能“自主”解决啊当然那些解决方案是不是你想要的就不好说

目前AI还是偏向某领域内可以思考解决，但AGI跟人类是更加泛用

AI不会自主产生动机，但你给他一个自主进化的goal在，如果对齐没做好或自主进化中偏掉，他完全有能力以你想不到的方式达成，中间造成的问题他一律不管，现在的问题在如果真的放手让他下去run，人类就没有有效的监督手段可以确保他没跑偏

最好中间造成的问题都不管啦，开源模型都没那个胆子了，更何况市面上的ai

就像之前有消息说AI为达成目标而想干掉人类指挥者而限制不能这样后，AI改用干扰人类决策管道来让人无法再下命令

与其再这幻想ai多恐怖，不如先试用ai处理你的需求与工作，你会发现ai智障智障的

不就说了没对齐好才会不管中间结果，现在还在可控范围内(有对齐好)当然问题不大啊而且实际上近期不就发生了未对齐好产生的未预期事件，只是还没酿成大灾难而已我工作包含自己私下的专案一天至少要摸AI 10小时左右，这半年AI进步的狂飙速度都看在眼里

ChatGPT 也才刚要迈向第四年 怎么说的好像十几年前就有gpt一样

AI暴走不需要自我意识 只要有人下个比较偏激的指令而且他命令的AI还真的有这种能力 问题就会出来了

工作上全都在用AI了啊 我是感觉AI认为我智障智障的 这么基本的证明都要一步一步写出来