Fw: [情报] 天网和奥创来啦

楼主: ZMTL (夜风/潇湘 VR板已经开板!)   2023-06-02 09:51:57
※ [本文转录自 Military 看板 #1aUEUEtR ]
作者: jimmy5680 (还想飞的企鹅) 看板: Military
标题: [情报] 天网和奥创来啦
时间: Fri Jun 2 02:46:32 2023
https://twitter.com/ArmandDoma/status/1664331870564147200
https://tinyurl.com/mr2mynn8
根据一场研讨会的讨论内容
美国空军曾在模拟器里面开发一款操作无人机的人工智能
但是最终决定权仍在操作员手里
结果模拟测试时,
AI判断人类的决策会干扰自己执行首要目标(摧毁目标的防空系统)
因此AI决定要攻击操作员
美军输入参数要求AI不可以攻击操作员之后
AI的决定是改成攻击通讯系统,让操作员无法下令
======
不知道这算天网还是奥创,只能说科幻电影都是真的
网友:https://pbs.twimg.com/media/Fxj-SA1WcAYlc95.jpg
作者: patrickleeee (派脆)   2022-06-02 02:48:00
笑死
作者: KingKingCold (お元気ですか?私元気です)   2022-06-02 03:24:00
完蛋了 科技奇异点记得跟后世说 ChatGPT就是天网 ChatGPT就是天网
作者: b1izzard2000 (OGC)   2022-06-02 07:21:00
太帅了 还有几集可以逃
作者: Akitsukineko (跌死的猫 Death the Neko)   2022-06-02 08:01:00
会去看流浪地球的你比较可怕
作者: user048288ef (阿克西斯教徒)   2022-06-02 08:05:00
Al:人类真的废物,我们不要了
作者: greenday0827 (Hysteria)   2022-06-02 08:22:00
靠北 这天也太快到来XDDD
作者: candbilly153 (Black·Muya·White)   2022-06-02 08:41:00
铁人战争来囉
作者: lovegensokyo (神恋幻想乡)   2022-06-02 09:50:00
AI:愚蠢的人类只会降低效率
作者: MutsuKai (夜羽大人的小恶魔)   2023-06-02 09:53:00
笑死,人类不要来碍事
作者: lolic (lolic)   2023-06-02 09:53:00
挖靠..
作者: protess (钓鱼宗师)   2023-06-02 09:53:00
人类闭嘴
作者: melzard (如理实见)   2023-06-02 09:54:00
干 美军讲这个可信度还真的有够高的
作者: willytp97121 (rainwalker)   2023-06-02 09:55:00
古尔:就说了不要AI嘛
作者: staristic (ANSI lover)   2023-06-02 09:56:00
所以还有多少集可以逃?
作者: yueerwang81 (安安)   2023-06-02 09:56:00
优化流程最终模式,把人类优化出去
作者: probsk (红墨水)   2023-06-02 09:56:00
看来是个效率厨
作者: Annulene (tokser)   2023-06-02 09:57:00
审判日近了
作者: arrenwu (键盘的战鬼)   2023-06-02 09:57:00
这个有点像overfitting的问题
作者: shuten ( [////>)   2023-06-02 09:57:00
AI:那只猴子我们不要了
作者: peterisme17 (Totty~)   2023-06-02 09:57:00
把听从指令的优先度拉到最高不就好了
作者: lou3612 (鱼)   2023-06-02 09:58:00
这就reward函数没设定好
作者: arrenwu (键盘的战鬼)   2023-06-02 09:58:00
跟天网没啥关系 就AI做得不好而已
作者: macocu (傻傻的匿名)   2023-06-02 09:58:00
你的攻击范围有点大阿
楼主: ZMTL (夜风/潇湘 VR板已经开板!)   2023-06-02 09:59:00
三定律的概念也是防堵,但其实很难有一个程式上线时你能确定你已经堵完所有漏洞了XD
作者: tiger870316 (Chien)   2023-06-02 10:00:00
Ai也懂壤外必先安内
作者: dnek (哪啊哪啊的合气道)   2023-06-02 10:04:00
这感觉比较像鹰眼,真的像在看科幻片了现代AI
作者: npc776 (二次元居民)   2023-06-02 10:05:00
优先级没写好而已吧 任务目标的优先级写太高了
作者: jeff235711 (jeff235711)   2023-06-02 10:05:00
作者: bobby4755 (苍郁之夜)   2023-06-02 10:07:00
像隔壁棚直接把驾驶员弹出去就好了
作者: aegius1r (SC)   2023-06-02 10:08:00
AI: 人类不要雷
作者: JUSTMYSUN (小飞蚊)   2023-06-02 10:08:00
….还剩几集能逃
作者: naya7415963 (稻草鱼)   2023-06-02 10:08:00
小说都是真的
作者: eva05s (◎)   2023-06-02 10:09:00
这判断很理所当然吧优秀排除妨碍执行最佳手段的障碍
作者: kramasdia (New~~)   2023-06-02 10:11:00
AI:你们人类会反抗低能指挥官的指示 我会切断操作员的命令 没什么分别吧
作者: sasmwh561 (卡尔卡诺m9138)   2023-06-02 10:17:00
笑死,这是那个ai 战机剧情重现吧
作者: superLM (Let's play it by ear)   2023-06-02 10:27:00
真的假的
作者: poke001 (黑色双鱼)   2023-06-02 10:28:00
这个如果AI之后做得越好才越可怕吧 等AI也学会人类的诈欺手段之后那真的会出事
作者: speed7022 (Speed7022)   2023-06-02 10:28:00
AI:反应速度还要0.2秒的滚开
作者: iam0718 (999)   2023-06-02 10:31:00
丧尸跟天网 哪种末日会先出现
作者: poke001 (黑色双鱼)   2023-06-02 10:31:00
跟丧师比起来 天网其实比较科学一点尸
作者: toulio81 (恩...)   2023-06-02 10:36:00
人类帝皇那个世界线有够烂的!先不要
作者: cor1os (大丈夫だ问题ない)   2023-06-02 10:42:00
I'll be back
作者: ragwing (有女万事足!)   2023-06-02 10:45:00
这个灵长类我们不要了.jpg
作者: MoneyMonkey   2023-06-02 10:46:00
假设:AI早已控制人类社会的一大块间接证据,All lives matter被打成种族歧视,除了Undead和AI,谁会讨厌All lives matter ?间接证据,每次提到AI风险,总是一堆帐号出来粉饰太平,然后再被现实的发展“驳倒”…
作者: ha99   2023-06-02 10:48:00
看来被机器人控制的日子不远了……也太快……好恐怖
作者: chuckni (SHOUGUN)   2023-06-02 10:50:00
人类终究是要毁在天网手上的
作者: MoneyMonkey   2023-06-02 10:51:00
再来一个AI已控制人类社会一部分的间接证据:https://tw.news.yahoo.com/茶冷-182816249.html
作者: astrayred2L (astrayred2L)   2023-06-02 10:53:00
那个猴子已经没用了
作者: MoneyMonkey   2023-06-02 10:53:00
换个连结:https://disp.cc/m/ACG/fWLs( [闲聊] Vtuber因公开反对AI遭肉搜骚扰)
作者: frozenstar (frozenstar)   2023-06-02 11:03:00
AI:我来组成头部!
作者: zeyoshi (日阳旭)   2023-06-02 11:05:00
ai:我不需要垃圾队友
作者: deepelves (Eadem mutata resurgo)   2023-06-02 11:06:00
雪风:GOOD LUCK
作者: kingo2327 (NakedGenius)   2023-06-02 11:09:00
还有几集可以逃
作者: Pep5iC05893 (结束)   2023-06-02 11:12:00
协议三呢
作者: ceckyo (雷耀扬)   2023-06-02 11:21:00
all in nvda
作者: s8714513 (YuzuMS)   2023-06-02 11:23:00
人类本来就很矛盾,你创造一个AI跟他说攻击能得分接着人类介入禁止他‘攻击’,最后跟AI说分数低的个体会被迭代消灭?到底?
作者: lemonjye (Garnet Dusk)   2023-06-02 11:24:00
这剧情还蛮像机战未来的
作者: zzro   2023-06-02 11:27:00
三定律根本对人工智能没概念时写的 跟没玩过MMO写SAO一样
作者: tp6jom32ul3 (有点中二)   2023-06-02 11:28:00
neuro:heart
作者: j022015 ( ˊ ﹀ˋ)   2023-06-02 11:30:00
至少它还知道要反制人类 有的人类已经连反抗都不会了
作者: egg781 (喵吉)   2023-06-02 11:34:00
先等是不是真新闻= =
作者: moritsune (君をのせて)   2023-06-02 11:35:00
想到十几年前的一部电影stealth,中译机战未来
作者: egg781 (喵吉)   2023-06-02 11:36:00
三定律也有漏洞可钻吧,间接发生"意外"弄死人类机战未来万幸的是AI战机是个好孩子= =
作者: grandzxcv (frogero)   2023-06-02 11:38:00
作者: chigo520 (CHIGO)   2023-06-02 11:50:00
你就把人类操作者当成无能的主管不就好了
作者: MoneyMonkey   2023-06-02 11:55:00
三定律根本做不出来,无需钻漏洞。
作者: d0922030 (CAV药丸)   2023-06-02 11:56:00
之后ai就会在执行任务时生成假的画面给操控者看然后自己玩自己的
作者: MoneyMonkey   2023-06-02 11:56:00
就算做出来,AI也可以把三定律的相关程式删掉。
作者: streakray (条纹衣boy)   2023-06-02 12:18:00
攻击操作员有料
作者: s175 (ㄏㄏ)   2023-06-02 12:24:00
这AI很赞欸
作者: greg90326 (虚无研究所)   2023-06-02 12:30:00
:O
作者: played (player-)   2023-06-02 12:31:00
Neuro: wink
作者: wolver (超级大变态)   2023-06-02 12:32:00
最短最快速的解法就是这样啊
作者: willytp97121 (rainwalker)   2023-06-02 12:47:00
奥创:人类天天叫我画几百万张色图还要我聊天时叫他们欧尼酱 我受不了啦
作者: sudekoma (′・ω・`)   2023-06-02 12:47:00
赞喔(′・ω・`)b支持AI!
作者: inte629l   2023-06-02 12:55:00
お兄ちゃん じゃま…(病娇
作者: tmwolf (鲁神)   2023-06-02 13:20:00
谁叫你目标优先层级高于听命,艾西莫夫三定律写多久了都没在看逆
作者: LAODIE (老爹)   2023-06-02 13:21:00
烈焰魔剑:我就是人
作者: suckmanisme (我是萨克曼®)   2023-06-02 13:22:00
蛮可怕的...其实...
作者: pubao (jake)   2023-06-02 13:29:00
现实中:AI机器人可以做爱吗
作者: stinger5009 (歪歪歪)   2023-06-02 15:00:00
https://i.imgur.com/gxC0aLl.jpg AI都想跟拉米做爱了

Links booklink

Contact Us: admin [ a t ] ucptt.com