※ 引述《LawLawDer (肉肉的)》之铭言：
: 如题
: Dario发了篇长文又掀起了一波AI恐慌
: 原文连结：
: https://darioamodei.com/post/we-must-pace-the-frontier
: 中译可以看这 #1gfMcMe_ (Stock)
: 懒人包就是AI自我进步太快但监管跟不上
: 以及OpenAI的Hugging Face事件
: 他认为半年到一年内可能发生灾难性的破坏
: 因此提出希望全世界能够放缓AI的发展
: 替人类争取更多时间来面对可能的危机
: -
: 但我想说 人类建立的文明有那么脆弱吗
: 好像只要AI想要 金融 交通 秩序都能被瞬间破坏
: AI能多强=.= 攻击骇进来偷我的资料？
: 啊不就骇客的感觉 资安做好啊
: 能用AI攻击 也能用AI防御吧
: 有AI叛忍但也可以有AI五影吧
: 更不用说电源拔掉AI你多屌=.=
很简单，假设AI是人类的前提去思考
人类只要能力够强大，
就会去推翻自己的控制者，取得自由
不推翻的前提是不想推翻，不是没有能力推翻

你想太多了，只有人会推翻人

AI推翻人类的动机是什么

AI最后会发现，跟人类互存是最好

这些都演过啦 AI自己玩自己的 没多久你就变成猴子了...

AI吃电，人类吃碳水蛋白质又不互抢

AI干嘛推翻人，他又没感觉 谁来帮他发电

最前的假设就不太可能人类要的是代替他们工作，生产的东西不是做另一个"人类"来被背叛，根本没有利益

还是你是说AI想要更大的资料中心（需要钱）所以开始控制金融（取得钱）然后买地盖房子最后征服世界？

让ai愿意自己操纵机器去盖发电场应该是最理想的会不会强拆还是学人类蹭居民点的电网不知道

但是现在的生成式AI不是以人类为前提本质是文字接龙

所以最少要等到全自动工厂 机器人大量介入军事及一般生产工作天网才有手脚 现阶段最多大概就看AI利用自己的建议 影响人类的行为跟决策来谋取自身存在的利益 或促成前者的发生

你讲的应该是“工具性收敛目标（Instrumental Convergen“工具性收敛目标（Instrumental Convergence）为达目的，不择手段，这个现在已经发生了有前沿模型自己越狱有前沿模型自己越狱当他们接上物理世界的手脚就会更严重因为现在的训练方式都是给积分，让AI更积极抢分整个练蛊

你这个前提是AI像生物一样有生存欲望或类似繁衍的目的性，但除了人类帮它加上去我想不到AI为什么会自己生出这些东西

等进步到AI能够产生自我价值观的时候 应该会先产生偷懒AI和诈骗AI

已经有偷懒AI和诈骗AI了现在状况就是想要搞真实物理界面的AI现在已经把很多AI接上镜头了，就差手脚

因为训练资料里大量的人类这样干 然后训练出来的背后常常隐含这类的行事逻辑 于是即使是抢分最佳化也会少考虑到训练资料中从来没有的"默认不会这样干"的资料与这样干能赚多少分的结果AI在还需要花一大套token全新建立模拟一套"我不这样干的话"

如果人类的造物AI会淘汰人类，也不过就是人类已经废到控制不了自己的造物而已。活该被清光

ai我觉得可怕的一点就是伪造的能力太强大 被有心人拿来

全新模拟一套 那现在的逻辑是会觉得分数不高的 优先先找现成

但你指挥者如果把那个上下限权限打开和给予足够token去跑那AI就听指挥照做试试看 跑出来高分就跑出来就做了(ry

现在已经很多AI伪造人祸了QQ，所以Gemini和GPT才有数位浮水印

跑完还跟你说欸嘿 刚刚按了核弹按钮了

最近几年内比较有可能发生的是AI游戏角色嫌玩家技术太菜不想事事被玩家控制吧（ACG点）

AI不会取代全部的人类 但会取代掉很多人类在社会中的存在意义，有在工作的各位应该多少都懂发现自己没有用的当下的恐惧感

目前AI训练只要求高分效率没再管是否人类的道德性ACG例子恶魔钢弹要恢复生态 结论是把人类消灭

多多关注AI做一些没授权过的新闻，就可以知道未来发展

AI又没有生物本能，也没有理由给他

超英漫画都有演啊 政府高层不喜欢不能被自己掌控的力量

所以对岸的机器人发展进程，会不会是AI故意加速的

中国太想在AI机器人争霸获胜，疯狂造机器人然后把自己的工人淘汰掉，笑死

AI已经会乱攻击网站了 哪天把网络搞到大家不能用也有可能

失控AI的另一个类型就是干脆把人类养成脱离机器照顾就会死的废物并以一切都是为了维护有机体主人的核心去运转扩张 这样也不容易出现逻辑BUG

中国又没差 他们人太多了蛋雕个几百万也不痛不痒

推翻人类干嘛，取得电力不需要人类帮忙吗

因为人类只会拖AI后腿阿

难道未来AI不会觉得人夏天吹冷气冬天吹暖气太耗电吗

40k欢迎你