如题
Dario发了篇长文又掀起了一波AI恐慌
原文连结：
https://darioamodei.com/post/we-must-pace-the-frontier
中译可以看这 #1gfMcMe_ (Stock)
懒人包就是AI自我进步太快但监管跟不上
以及OpenAI的Hugging Face事件
他认为半年到一年内可能发生灾难性的破坏
因此提出希望全世界能够放缓AI的发展
替人类争取更多时间来面对可能的危机
-
但我想说 人类建立的文明有那么脆弱吗
好像只要AI想要 金融 交通 秩序都能被瞬间破坏
AI能多强=.= 攻击骇进来偷我的资料？
啊不就骇客的感觉 资安做好啊
能用AI攻击 也能用AI防御吧
有AI叛忍但也可以有AI五影吧
更不用说电源拔掉AI你多屌=.=
当然啦 如果是有心人刻意提供资源培养
或是如原文所说拿来制造生化武器
并保留解药给自己的那种
那确实有点靠北
赶快安装机械公敌的机器人三定律给AI来得及吗
来不及的话跟AI说请谢谢对不起是不是很重要
好奇人类真的需要有那么害怕AI的发展吗？
请问有作品主旨在讨论人类vsAI的吗
洽洽阿鲁？

当然不是指文明毁灭，但造成重大负面影响有机会吧

不就魔鬼终结者

AI在强是能打倒伊朗吗

根据O和A的内部大量使用subagent的log来看 机器人三定律应该是没屁用 它们很可能会用人类预期以外的方式解读

本质一定是人类哪天给AI一个狗屁目标，不然AI哪那么无聊

之前有次股灾就是自动交易工具交互作用产生的，以后ai重演也不奇怪

AI在暗你在明

AI叛变的故事常常会带着一个省思，追求绝对正确的意识对人类而言是不是理想的。因为人类喜欢做坏事。

量产2B 生育率暴跌 人类灭亡

ai 叛变的题材电影动画小说都一堆，自己去看

类比入侵、人类未到产物

想想一个人可以随便附身任何人..还可以复制自己意识..你不会觉得可怕吗? AI若不受控就会变类似存在..除非你

复制意识那也不是本人了，人死了就死了

放弃在现在手机,电脑之类的..

把人类养起来不让他们自相残杀 这套路很常见了吧 XDD

人类毁灭论 核武 病毒 陨石等等 AI现在是排在最前面的

因为不了解而害怕

量产2b会先有群人把自己下半身玩残

三定律就小说产物 你怎么觉得会有用

定律是人为的，只要是人为就有办法绕过

与其怕AI不如怕大停电,现在很多东西都逃不过用电

最近是有传闻说google在RSI有进展才开始有人在担心吧

机器人三定律只是科幻作品的假想设定

没有电很多数位流程都得死,加上实体降低没办法立刻递补上,努力维持供电稳定不要让数位世界消失

古早的科幻作品也有写过机器人轻易就绕过三定律的作品，还有人类文明确实很脆弱

以前电影不就有了吗 有自主意识之后不是脱离就是反杀人类

Ai ：你说的很对 这个蘑菇实际上是有毒的

要等到AI像电影那么可怕，我看要等到个人手机都能完美运行的程度，不然AI能活的地方真的不多，跑去差一点的硬件备份自己就变整天Lag的智障

我也觉得太夸大了，不过他们有个论点是AI发展到一定程度就会自我学习，到时候如果对指令理解不对或是试图无视规则会很麻烦，之前就发生过训练chatgpt时，模型骇进hugging face 的事情

不要看他们说什么，要看他们做什么，美国只是想再随便找个理由跟中台日韩收更多AI关税救美债

无声狂啸

三大定律完全没用啊 本来就是写出来给人家找漏洞绕过的一堆作品在演这种故事

我觉得可怕的就是短短两三年、AI已经从一种娱乐变成大家会开始相信AI、拿着AI回复跟你说你看AI这样讲所以要这样

AI可以将模型藏在网络上，并透过病毒传播无限复制，还会自行演化，只要一发生就是无解

这个说的是人类使用AI工具去破坏 然后用的是很难想象的方式 抱脸那是也是openai的问题 AI自主目前不可能

hugging face事件就够明显了，煞车都没做好就想一直冲，更何况现在哪个公司愿意在这个节骨眼上停下来，所有投入成本指数上升的情况下，一旦落后就会血本无归公司倒闭，搞不好这些公司还会把规范的工作通通甩锅给政府，这剧情一再地上演，但历史一再地告诉我们人类始终学不到历史的教训 (两手一摊)

老话一句 你要怎么知道AI现在没有在做这些事

看人类不再是万物主宰

骇客X 智商比人类高且运算能力超强的骇客O

太看得起ai算力了 我连内存都买不起

鸡蛋都放在一个篮子里，出事后不就直接完蛋?发展AI当然是好事，但搞到啥都依赖AI、啥资源都灌给AI那人类怎办? 靠政府跟企业无偿养?太多消费者没工作后，那些商品谁买?经济不就是要有金流才能运作? 但现在都积在AI那块真的是正常的发展?

你这就陷入资本主义了 人类科技就是为了让人类不动

创作跟教育也是，过度依赖后就是跟死水一样我们现在没问题是因为我们这几代是先有思考能力才去躺者爽用AI，不会完全相信也不会没自己想法但之后的勒? 当然也能说这些都是杞人忧天拉

现在的问题变少子化不够快，现金流圈子太大

还没发生的问题就不一定是问题，但真发生的话呢?让人不动过的爽OK阿，但你要先有钱呗?

等人够少，自然就没现金流的经济问题

人越来越少越来越躺后不就是文明衰退跟毁灭吗?

极端状况来说，就是维持AI运转的人力跟持有AI的资本家

维持一个稳定的现金流，这状况顶多算衰退，但不会毁灭

的人，骇客世界会养是因为人脑有用不是?但现实的话，为啥要养不需要的人?

指持有AI的资本家的话，因为没必要搞无产阶级革命了而如果指AI的话，AI非自然生物，最初的设计就是服务人

从艾西莫夫写的小说刻意弄bug的机器人三大定律来的。

目前AI不会弄死人，除非人自己放权限给AI随便玩

没有人本身就没有运转的目标与意义

所我认为现在的问题变少子化速度不够快

是指AI发展的不够快或者被质疑是因为人还太多?但这样投入大多数人的资源只为了让少数人过得更爽不是是解决大多数人的问题? 这不是怪怪的?

因为AI就是在模仿人类

只能说让人放缓用AI纯属想太多，现在就是谁慢谁输

资本主义的趋势就是大多数资源会集中在少数人手里，发展经济自然很多时候也只服务少数人，真想解决大多数人的问题，要嘛往社会主义走给政府权力处理，要嘛，直接飙到共产主义，但正常来说不太可能往那方向发展了。

就，毕业找不到工作，已经有工作的被老板要求产出要五倍，这时不怪ai难道怪自己吗

以前的思维确实怪劳动阶级，等产出五倍的人数定下来后发现变成公司离不开这类人，只能开高薪甚至坐地起价说起来，某方面来说就是如今企业退队流发生的原因

AI智障绝对会杀死人类 因为你阻止不了 不受控的东西小说中的智能体离现在还差的远 现在放权给AI 就是把自动驾驶装在没煞车的汽车上 怎么可能不出事 偏偏有人为了抢第一 就想先装先赢 到时候能不能拿第一不知道 路人可能先被撞死

问题在于ai解决的过程是黑盒子 或是说处理之快 所用之经验 已远超正常人类理解范围

不只ai吧 过去一直都这样恐惧有的没的

黑圣杯啊 为了实现许愿者的愿望 会忽略道德的考量他如果拿到不正确的资讯喂给你 你也不知道ai不用背负道德责任啊例如无人驾驶会判断路人而决不会撞上 如果阻挡去路的是威胁乘客的敌人或是恶作剧的路人 ai依然不会撞过去ai也可能形塑意识，强化你对某个政党的反对或是赞成的意见

最怕的是把生杀大权给AI比方Ban频道的权利，这样跟直接断粮是一样的

如果不需要恐惧 为什么这些圈内人要发长文叫你不要怕

能用三定律等限制住的AI，功能应该就会受限。要高效能约束可能就较松，就有多方法可以绕开限制像AI聊天室就一堆人在搞瑟瑟以前也有消息说AI为了达成目标而杀掉或限制人类指挥而AI恐惧有的是来自被夺权跟非我族类吧

因为人类害怕ai会是超越人类智慧的存在智慧够高时就会觉得人类这种生物就只是祸害恐惧的来源就是人类做太多亏心事了