Fw: [情报] 天网和奥创来啦
楼主: ZMTL (夜风/潇湘 VR板已经开板!) 2023-06-02 09:51:57
※ [本文转录自 Military 看板 #1aUEUEtR ]
作者: jimmy5680 (还想飞的企鹅) 看板: Military
标题: [情报] 天网和奥创来啦
时间: Fri Jun 2 02:46:32 2023
https://twitter.com/ArmandDoma/status/1664331870564147200
https://tinyurl.com/mr2mynn8
根据一场研讨会的讨论内容
美国空军曾在模拟器里面开发一款操作无人机的人工智能
但是最终决定权仍在操作员手里
结果模拟测试时，
AI判断人类的决策会干扰自己执行首要目标(摧毁目标的防空系统)
因此AI决定要攻击操作员
美军输入参数要求AI不可以攻击操作员之后
AI的决定是改成攻击通讯系统，让操作员无法下令
======
不知道这算天网还是奥创，只能说科幻电影都是真的
网友：https://pbs.twimg.com/media/Fxj-SA1WcAYlc95.jpg
作者: jimmy5680 (还想飞的企鹅) 看板: Military
标题: [情报] 天网和奥创来啦
时间: Fri Jun 2 02:46:32 2023
https://twitter.com/ArmandDoma/status/1664331870564147200
https://tinyurl.com/mr2mynn8
根据一场研讨会的讨论内容
美国空军曾在模拟器里面开发一款操作无人机的人工智能
但是最终决定权仍在操作员手里
结果模拟测试时，
AI判断人类的决策会干扰自己执行首要目标(摧毁目标的防空系统)
因此AI决定要攻击操作员
美军输入参数要求AI不可以攻击操作员之后
AI的决定是改成攻击通讯系统，让操作员无法下令
======
不知道这算天网还是奥创，只能说科幻电影都是真的
网友：https://pbs.twimg.com/media/Fxj-SA1WcAYlc95.jpg
作者: patrickleeee (派脆) 2022-06-02 02:48:00
笑死
作者: KingKingCold (お元気ですか?私元気です) 2022-06-02 03:24:00
完蛋了 科技奇异点记得跟后世说 ChatGPT就是天网 ChatGPT就是天网
作者: b1izzard2000 (OGC) 2022-06-02 07:21:00
太帅了 还有几集可以逃
作者: Akitsukineko (跌死的猫 Death the Neko) 2022-06-02 08:01:00
会去看流浪地球的你比较可怕
作者: user048288ef (阿克西斯教徒) 2022-06-02 08:05:00
Al：人类真的废物，我们不要了
作者: greenday0827 (Hysteria) 2022-06-02 08:22:00
靠北 这天也太快到来XDDD
作者: candbilly153 (Black·Muya·White) 2022-06-02 08:41:00
铁人战争来囉
作者: lovegensokyo (神恋幻想乡) 2022-06-02 09:50:00
AI：愚蠢的人类只会降低效率
作者: MutsuKai (夜羽大人的小恶魔) 2023-06-02 09:53:00
笑死，人类不要来碍事
作者: lolic (lolic) 2023-06-02 09:53:00
挖靠..
作者: protess (钓鱼宗师) 2023-06-02 09:53:00
人类闭嘴
作者: melzard (如理实见) 2023-06-02 09:54:00
干 美军讲这个可信度还真的有够高的
作者: willytp97121 (rainwalker) 2023-06-02 09:55:00
古尔：就说了不要AI嘛
作者: staristic (ANSI lover) 2023-06-02 09:56:00
所以还有多少集可以逃？
作者: yueerwang81 (安安) 2023-06-02 09:56:00
优化流程最终模式，把人类优化出去
作者: probsk (红墨水) 2023-06-02 09:56:00
看来是个效率厨
作者: Annulene (tokser) 2023-06-02 09:57:00
审判日近了
作者: arrenwu (键盘的战鬼) 2023-06-02 09:57:00
这个有点像overfitting的问题
作者: shuten ( [////>) 2023-06-02 09:57:00
AI:那只猴子我们不要了
作者: peterisme17 (Totty~) 2023-06-02 09:57:00
把听从指令的优先度拉到最高不就好了
作者: lou3612 (鱼) 2023-06-02 09:58:00
这就reward函数没设定好
作者: arrenwu (键盘的战鬼) 2023-06-02 09:58:00
跟天网没啥关系 就AI做得不好而已
作者: macocu (傻傻的匿名) 2023-06-02 09:58:00
你的攻击范围有点大阿
楼主: ZMTL (夜风/潇湘 VR板已经开板!) 2023-06-02 09:59:00
三定律的概念也是防堵，但其实很难有一个程式上线时你能确定你已经堵完所有漏洞了XD
作者: tiger870316 (Chien) 2023-06-02 10:00:00
Ai也懂壤外必先安内
作者: dnek (哪啊哪啊的合气道) 2023-06-02 10:04:00
这感觉比较像鹰眼，真的像在看科幻片了现代AI
作者: npc776 (二次元居民) 2023-06-02 10:05:00
优先级没写好而已吧 任务目标的优先级写太高了
作者: jeff235711 (jeff235711) 2023-06-02 10:05:00
作者: bobby4755 (苍郁之夜) 2023-06-02 10:07:00
像隔壁棚直接把驾驶员弹出去就好了
作者: aegius1r (SC) 2023-06-02 10:08:00
AI: 人类不要雷
作者: JUSTMYSUN (小飞蚊) 2023-06-02 10:08:00
….还剩几集能逃
作者: naya7415963 (稻草鱼) 2023-06-02 10:08:00
小说都是真的
作者: eva05s (◎) 2023-06-02 10:09:00
这判断很理所当然吧优秀排除妨碍执行最佳手段的障碍
作者: kramasdia (New~~) 2023-06-02 10:11:00
AI:你们人类会反抗低能指挥官的指示 我会切断操作员的命令 没什么分别吧
作者: sasmwh561 (卡尔卡诺m9138) 2023-06-02 10:17:00
笑死，这是那个ai 战机剧情重现吧
作者: superLM (Let's play it by ear) 2023-06-02 10:27:00
真的假的
作者: poke001 (黑色双鱼) 2023-06-02 10:28:00
这个如果AI之后做得越好才越可怕吧 等AI也学会人类的诈欺手段之后那真的会出事
作者: speed7022 (Speed7022) 2023-06-02 10:28:00
AI:反应速度还要0.2秒的滚开
作者: iam0718 (999) 2023-06-02 10:31:00
丧尸跟天网 哪种末日会先出现
作者: poke001 (黑色双鱼) 2023-06-02 10:31:00
跟丧师比起来 天网其实比较科学一点尸
作者: toulio81 (恩...) 2023-06-02 10:36:00
人类帝皇那个世界线有够烂的！先不要
作者: cor1os (大丈夫だ问题ない) 2023-06-02 10:42:00
I'll be back
作者: ragwing (有女万事足！) 2023-06-02 10:45:00
这个灵长类我们不要了.jpg
作者: MoneyMonkey 2023-06-02 10:46:00
假设：AI早已控制人类社会的一大块间接证据，All lives matter被打成种族歧视，除了Undead和AI，谁会讨厌All lives matter ?间接证据，每次提到AI风险，总是一堆帐号出来粉饰太平，然后再被现实的发展“驳倒”…
作者: ha99 2023-06-02 10:48:00
看来被机器人控制的日子不远了……也太快……好恐怖
作者: chuckni (SHOUGUN) 2023-06-02 10:50:00
人类终究是要毁在天网手上的
作者: MoneyMonkey 2023-06-02 10:51:00
再来一个AI已控制人类社会一部分的间接证据：https://tw.news.yahoo.com/茶冷-182816249.html
作者: astrayred2L (astrayred2L) 2023-06-02 10:53:00
那个猴子已经没用了
作者: MoneyMonkey 2023-06-02 10:53:00
换个连结：https://disp.cc/m/ACG/fWLs（ [闲聊] Vtuber因公开反对AI遭肉搜骚扰）
作者: frozenstar (frozenstar) 2023-06-02 11:03:00
AI:我来组成头部!
作者: zeyoshi (日阳旭) 2023-06-02 11:05:00
ai：我不需要垃圾队友
作者: deepelves (Eadem mutata resurgo) 2023-06-02 11:06:00
雪风:GOOD LUCK
作者: kingo2327 (NakedGenius) 2023-06-02 11:09:00
还有几集可以逃
作者: Pep5iC05893 (结束) 2023-06-02 11:12:00
协议三呢
作者: ceckyo (雷耀扬) 2023-06-02 11:21:00
all in nvda
作者: s8714513 (YuzuMS) 2023-06-02 11:23:00
人类本来就很矛盾，你创造一个AI跟他说攻击能得分接着人类介入禁止他‘攻击’，最后跟AI说分数低的个体会被迭代消灭？到底？
作者: lemonjye (Garnet Dusk) 2023-06-02 11:24:00
这剧情还蛮像机战未来的
作者: zzro 2023-06-02 11:27:00
三定律根本对人工智能没概念时写的 跟没玩过MMO写SAO一样
作者: tp6jom32ul3 (有点中二) 2023-06-02 11:28:00
neuro：heart
作者: j022015 ( ˊ ﹀ˋ) 2023-06-02 11:30:00
至少它还知道要反制人类 有的人类已经连反抗都不会了
作者: egg781 (å–µå‰) 2023-06-02 11:34:00
先等是不是真新闻= =
作者: moritsune (君をのせて) 2023-06-02 11:35:00
想到十几年前的一部电影stealth,中译机战未来
作者: egg781 (å–µå‰) 2023-06-02 11:36:00
三定律也有漏洞可钻吧,间接发生"意外"弄死人类机战未来万幸的是AI战机是个好孩子= =
作者: grandzxcv (frogero) 2023-06-02 11:38:00
作者: chigo520 (CHIGO) 2023-06-02 11:50:00
你就把人类操作者当成无能的主管不就好了
作者: MoneyMonkey 2023-06-02 11:55:00
三定律根本做不出来，无需钻漏洞。
作者: d0922030 (CAV药丸) 2023-06-02 11:56:00
之后ai就会在执行任务时生成假的画面给操控者看然后自己玩自己的
作者: MoneyMonkey 2023-06-02 11:56:00
就算做出来，AI也可以把三定律的相关程式删掉。
作者: streakray (条纹衣boy) 2023-06-02 12:18:00
攻击操作员有料
作者: s175 (ㄏㄏ) 2023-06-02 12:24:00
这AI很赞欸
作者: greg90326 (虚无研究所) 2023-06-02 12:30:00
:O
作者: played 2023-06-02 12:31:00
Neuro: wink
作者: wolver (超级大变态) 2023-06-02 12:32:00
最短最快速的解法就是这样啊
作者: willytp97121 (rainwalker) 2023-06-02 12:47:00
奥创：人类天天叫我画几百万张色图还要我聊天时叫他们欧尼酱 我受不了啦
作者: sudekoma (′･ω･`) 2023-06-02 12:47:00
赞喔(′・ω・`)ｂ支持AI！
作者: inte629l 2023-06-02 12:55:00
お兄ちゃん じゃま…（病娇
作者: tmwolf (鲁神) 2023-06-02 13:20:00
谁叫你目标优先层级高于听命，艾西莫夫三定律写多久了都没在看逆
作者: LAODIE (老爹) 2023-06-02 13:21:00
烈焰魔剑:我就是人
作者: suckmanisme (我是萨克曼®) 2023-06-02 13:22:00
蛮可怕的...其实...
作者: pubao (jake) 2023-06-02 13:29:00
现实中：AI机器人可以做爱吗
作者: stinger5009 (歪歪歪) 2023-06-02 15:00:00
https://i.imgur.com/gxC0aLl.jpg AI都想跟拉米做爱了
