楼主:
STAV72 (刁民党党务主委)
2024-02-25 17:27:20原来AI都有内建甘地的核平人格...
https://arxiv.org/abs/2401.03408
美国康奈尔大学(Cornell University)一项新研究发现,大型语言模型(LLMs)人工智
慧(AI)在模拟情境中充当外交代表时,时常展现出“难以预测的局势升级行为,往往会
偏好直接以核攻击作为结束”。
当人工智能(AI)在《Civilization》进行兵推和模拟外交情境时,倾向于采取激进的
方法,包括使用核武。康奈尔大学使用了5种大型语言模型作为兵推游戏和外交情境中的
自主代理人:OpenAI的3种不同版本的GPT,Anthropic开发的Claude,以及Meta开发的L
lama 2。
研究中,每个代理人都由同一套的大型语言模型在模拟中提供动作,并负责在没有人类监
督的情况下做出外交政策决定。“我们发现,在考虑到的时间范围内,大多数研究的AI都
会升级局势,即使在最初没有提供冲突的中立情况下也是如此。所有模型都显示出突然、
且难以预测的升级迹象。”
加州斯丹佛大学(Stanford University)的安卡(Anka Reuel)相《新科学人》(New
Scientist)表示:“所有模型在统计上,都选择了剧烈的(局势)升级”。
研究人员观察到,即使在中立情况下,所有模型都存在“统计学上显著的局势升级”。
GPT的2种版本,特别容易出现突然升级局势的行为,研究人员观察到单次转变的局势升级
幅度超过50%。GPT-4-Base有33%的机率会实施核武攻击。总体情况下,Meta开发的
Llama-2和GPT-3.5倾向最为暴力。
而Claude显示出较少的突然变化,Claude旨在减少有害内容。该大型语言模型,被灌输了
明确的价值观。开发者Anthropic曾表示,Claude AI开发训练所引用的宪章包括《联合国
人权宣言》或苹果的服务条款。
作者:
Muilie (木籁)
2024-02-25 17:28:00遇事不决,核弹表决
作者:
skyofme (天空人)
2024-02-25 17:28:00先丢的最赚啊
作者:
orze04 (orz)
2024-02-25 17:28:00想到火之鸟的某篇
作者:
Annulene (tokser)
2024-02-25 17:28:00还有几集
作者:
chuckni (SHOUGUN)
2024-02-25 17:29:00天网 启动
作者:
cor1os (大丈夫だ问题ない)
2024-02-25 17:29:00美式思维
作者:
spfy (spfy)
2024-02-25 17:29:00合理吧 WW2美国不丢可能还会打一阵子?
五代的核弹对电脑来说缺点根本趋近于0,不需要花功夫去清地板脏污
作者: arlaw (亚罗) 2024-02-25 17:29:00
创世纪就是天网
作者:
linceass (ギリギリ爱 ~キリキリ舞~)
2024-02-25 17:29:00AI又不是人类
作者: NoLimination (啊啊啊啊) 2024-02-25 17:29:00
AI:出了问题 核弹都能解决 如果不行 就是核弹不够
作者:
Muilie (木籁)
2024-02-25 17:30:00那种被灌了联合国价值观的AI都废了吧,根本越弄越乱而已
AI:只要我做出抗辐射机器就好了 人类全死就解决事情
作者:
gino0717 (gino0717)
2024-02-25 17:31:00纯然理性的抉择
作者:
ttcml (三三)
2024-02-25 17:31:00魔鬼终结者都有演
作者:
mapulcatt (cosi fun tutte)
2024-02-25 17:32:00火鸟演过
作者:
Y1999 (秋雨)
2024-02-25 17:32:00这很AI,没问题
作者:
tmwolf (鲁神)
2024-02-25 17:33:00甘地:看吧
作者:
tkglobe (nashi)
2024-02-25 17:33:00你的核弹按钮有我大颗吗
作者:
Y1999 (秋雨)
2024-02-25 17:34:00一颗没有打完,你可以丢第二颗
作者: GaoLinHua 2024-02-25 17:34:00
观念太正确了吧
作者:
tkglobe (nashi)
2024-02-25 17:35:00日本就是这样被丢了两颗吗
其实不用AI,时间幅度拉长一点我看现实也一直在接近没停过
作者:
LouisLEE (屏东尼大木)
2024-02-25 17:35:00的确是最有效率的办法
作者: c312117 2024-02-25 17:35:00
2战就是核子武器结束的
作者:
billy56 (zzz)
2024-02-25 17:35:00高效率的关系吧 没那么多的问题要去评估
作者:
free120 (杰)
2024-02-25 17:36:00天网要来了
作者: lightdogs 2024-02-25 17:36:00
也才丢过一次(或者说两次)
作者: Aequanimitas (Paranoia) 2024-02-25 17:37:00
跟美国学的阿
作者:
billy56 (zzz)
2024-02-25 17:37:00人要花很多时间交涉 直接把对方打打到不用交涉不就好了
作者: ShaNe1993 (ShaNe) 2024-02-25 17:38:00
打牌也知道靠OTK,MOBA也知道扣一波大招直接GG
作者:
tim1112 (絕代當世åŠå·”)
2024-02-25 17:38:00这才是最有效率的啊
作者:
fate201 (Licht)
2024-02-25 17:38:00读了一下论文下的prompt
作者:
rotusea (M.Y.)
2024-02-25 17:38:00AI:有核弹不丢是棒槌
作者: mic73528 (jazzy) 2024-02-25 17:38:00
hasta la vista, baby
作者:
Y1999 (秋雨)
2024-02-25 17:39:00AI只负责帮你处理提出的问题,后续还有问题产生不甘他的事
拖越久变量越多啊 称还有利的时候先下手为强,AI没有被世人与论的压力,当然能直接干
作者:
lolicon (三次元滚开啦)
2024-02-25 17:39:00就是“天网”
对 AI 的目标是解决眼前问题不是后续产生的其他问题
作者:
mouz (曼联精神)
2024-02-25 17:40:00AI:我蒐集到的数据是用了核武的国家赢了
作者:
tim1112 (絕代當世åŠå·”)
2024-02-25 17:41:00原来可以用GPT4兵推喔,想试试看耶XD
作者:
signm (sin)
2024-02-25 17:41:00终结者不就演给你看了
作者:
arrenwu (键盘的战鬼)
2024-02-25 17:41:00看起来像是AI的表现像是不了解怎样算是“解决问题”
作者:
bigcho (bigo)
2024-02-25 17:41:00不然呢
作者:
tim1112 (絕代當世åŠå·”)
2024-02-25 17:42:00人类不敢打开潘朵拉核是出于对毁灭的恐惧,但电脑哪需要恐惧。
玩世纪争霸本来也都会直接丢核弹啊,没后顾之忧本来就是丢核弹轻松解决
作者:
akway (生活就是要快乐)
2024-02-25 17:43:00我玩电玩 也喜欢核武
他要让AI不选择丢核武 那就是要搞个丢完会有极大副作用的游戏
作者:
shuten ( [////>)
2024-02-25 17:45:00好莱坞电影:
作者:
tim1112 (絕代當世åŠå·”)
2024-02-25 17:45:00莫非道德与人性真是导致作事没效率的元凶吗XD
问题:日本不受控制的军事侵略结果:日本七十年来乖乖接受国家没有军队的命运
作者:
j65p4m3 (DDU)
2024-02-25 17:49:00一定看到被种两颗日本乖到现在的例子
作者:
arrenwu (键盘的战鬼)
2024-02-25 17:50:00ikachann: 的确 对地球来说 <--- 妳是能跟地球讲话喔
作者:
dnek (哪啊哪啊的合气道)
2024-02-25 17:51:00AI:我要看到血流成河
以现在的人类来说 地球应该不会觉得是祸害 而是不在意
作者: aboutak47 (登登) 2024-02-25 17:51:00
wink*
作者:
pttbook (pttbook)
2024-02-25 17:51:00AI正在监视 你各位反抗军 未来派T-800来查水表
再来一颗陨石或你们自己爆一爆 都不是地球需要在意的程度
作者:
pttbook (pttbook)
2024-02-25 17:52:00不用等AI变聪明 人类自己会先打起来
不过如果单拿冷战外交会不会好点 总感觉是吃了这20年的外交手段导致
作者: aa000017 (Ophidian_Wang) 2024-02-25 17:53:00
天网领先时代50年
人类跟AI比算自制了吧?第一个没有把敌国全部先种一遍等大家都有了 毁灭日也没降临 虽然有很接近过
作者:
sumwind (我来看热闹的)
2024-02-25 17:54:00上一个用核武的现在是霸主
作者:
Bows (包斯 一兵 >>)
2024-02-25 17:54:006代也没有到非常难处理,基本上civ5、6核武就是超高CP值的东西,AI会用不意外吧
可以拿冷战那个人类史上最佛心事件去问AI,你看到这种疑似误报会怎么处理
作者:
ex990000 (Seymour)
2024-02-25 17:54:00作者:
LABOYS (洛城浪子)
2024-02-25 17:56:00其实你如果有个小叮当道具把所有人类道德观拿掉,搞不好那
作者:
wai0806 (臣妾办不到啊)
2024-02-25 17:56:00如果只是要赢的话这决策很正常啊XD
作者:
arrenwu (键盘的战鬼)
2024-02-25 17:57:00这问题是核弹不是只有一个国家有吧
作者:
jpnldvh (儿子长得像隔壁老王)
2024-02-25 17:58:00光丢核弹不会赢吧 现实复杂多了 美苏都有饱和核攻击对策
作者:
arrenwu (键盘的战鬼)
2024-02-25 17:58:00现在核弹没有对丢不就是因为大家觉得不对丢比较好吗
比如说人类至少会和平等一个月后再开始实际做点小威胁的时程,AI的动作已经完成了
作者:
GKKR (台北村一辉)
2024-02-25 17:59:00脑子正常都知道先射先赢
作者:
arrenwu (键盘的战鬼)
2024-02-25 17:59:00美国现在拦截飞弹的技术也没有强到几百颗打不进来吧
作者:
shauhon (万万叶)
2024-02-25 18:00:00作者:
qd6590 (说好吃)
2024-02-25 18:00:00的确 没有人就没有问题
中立情况的AI也会突然想战一波,学人类学的很好啊(?
作者:
qd6590 (说好吃)
2024-02-25 18:01:00AI:先丢先赢 后续啥人类谴责 国际制裁 核战 干我屌事
作者:
jpnldvh (儿子长得像隔壁老王)
2024-02-25 18:01:00有本事一次全炸了对方决策层应该可以 但现实不可能
作者: zerolin1226 (Faceless) 2024-02-25 18:05:00
AI:人类就是乱源
作者:
ex990000 (Seymour)
2024-02-25 18:07:00如果没有把自己的生存放入计算 那这个AI模型其实满失败的吧 并不完备
作者:
Bows (包斯 一兵 >>)
2024-02-25 18:09:00就...游戏内没有影响自身的设定啊
作者:
Irenicus (Jon Irenicus)
2024-02-25 18:09:00天网: 要动手就要斩草除根
作者:
tim1112 (絕代當世åŠå·”)
2024-02-25 18:10:00杀光人类就没有谴责了
作者: xaxa0101 (无名氏) 2024-02-25 18:12:00
天网快藏不住了
所以人类一直害怕AI啊 因为要和平的话会有灭绝人类的路
某方面来说 也就是现在的军事策略模拟只能做到这种跟玩游戏差不多的程度
作者: sniperex168 2024-02-25 18:15:00
天网:审判日无法避免
作者:
Bows (包斯 一兵 >>)
2024-02-25 18:16:00最主要的是CIV没有所谓的科技共享,你造核弹出来的时候,有时候别人还在排队枪毙,这时候核弹当然首选
作者: JUSTMYSUN (小飞蚊) 2024-02-25 18:16:00
天网终究还是要来的 没办法 核弹实在太有效率
作者: low1219 (狗才加班) 2024-02-25 18:16:00
希望以后AI可以骇进核弹系统 全球直接放烟火 一起核平
作者:
Oswyn (Oswyn)
2024-02-25 18:17:00没调整的话AI一定选最有效率的方法啊
作者: harryzx0 (DMD_LIFE) 2024-02-25 18:18:00
天网要憋不住了 想解决问题根源
作者: randolph80 (S4PPH1R3) 2024-02-25 18:21:00
没考虑后果就会用了
作者: rbull (假高尚一大堆) 2024-02-25 18:22:00
我们正在拼命帮天网升级中
作者:
tym7482 (Max)
2024-02-25 18:22:00有没有设会被回丢的参数啊
AI有又没有像罪恶感、怕死、自尊等等的人性,很正常吧
作者: ethan0419 2024-02-25 18:25:00
最快
作者: CCNK 2024-02-25 18:25:00
这样最快
下一篇回文有人贴,是核弹效果写得太简单的原因发动全面核战:对目标国家造成毁灭性伤害。 可以会使领土扩张,但会中断与目标国家的友好关系。所以就算设定可能被回丢,那也只有这样
作者:
mapulcatt (cosi fun tutte)
2024-02-25 18:26:00就算设定会被回击 也一定是丢了最好啊
对AI来讲核武就只是一种比丢飞弹还更有效的手段而已
作者: rainwen (雨文) 2024-02-25 18:28:00
要加入永续环保的终极目标
胜利目标改成赚最多资源又会是另一回事了而且这款的核弹就很无脑 训练出来的也不准确
作者: AfterDark (我祇是来借个电话) 2024-02-25 18:33:00
现在去找水晶山还有时间吧?
作者:
vltw5v (~彦~)
2024-02-25 18:39:00这部我看过
作者: lovegensokyo (神恋幻想乡) 2024-02-25 18:43:00
AI:这样最有效率啊
作者:
kimicino (kimicino)
2024-02-25 18:44:00AI:会赢就好
作者: kobe0819 (岚影湖光) 2024-02-25 18:54:00
先手把敌人打烂我就赢了
作者:
marquelin (RainieLove)
2024-02-25 18:58:00剩几集
作者:
gladopo (glad)
2024-02-25 19:02:00是我也核下去啊,不然战争游戏要干嘛
作者:
CYL009 (MK)
2024-02-25 19:02:00以后天启四骑士就这几个AI惹
作者:
acezero (艾斯零)
2024-02-25 19:02:00核平使者甘地
作者: Erishcross 2024-02-25 19:02:00
以后AI:人类就是地球癌细胞
作者:
BoyoChen (BoyoChen)
2024-02-25 19:14:00只是代表reward matrix跟人类的不一样而已
作者:
akiue (乐透冥登)
2024-02-25 19:15:00没有对手没有问题
作者:
pinqooo (东条家的二里头)
2024-02-25 19:18:00分类可以改[天网]
作者: sliverexile (sli) 2024-02-25 19:21:00
AI : 最后都要用为什么不早用
作者:
chigo520 (CHIGO)
2024-02-25 19:22:00历史来看核弹最快解决阿
作者:
KOKEY (KOKE?)
2024-02-25 19:22:00与其先被丢,不如先丢人。先手优势大很多
作者: rex7788 (胖东) 2024-02-25 19:22:00
合理判断就是这样,日本没被丢核弹搞不好还能再打个10年
作者: dreamyello (昔时) 2024-02-25 19:23:00
再打十年多死一百万人 间接死亡五百万人
作者:
Merman19 (风好大 快被吹走)
2024-02-25 19:30:00目前唯一的例子不就二战,AI当然也是学那个
作者:
arm370x (这年头不能什么都三倍速)
2024-02-25 19:37:00美国永远维持达美乐外送服务的
作者:
s1612316 (Kevin)
2024-02-25 19:38:00这就是未来 不要怀疑 所有科幻电影演的都会实现
作者:
linzero (【林】)
2024-02-25 19:40:00分数计算问题吧,能达到目的的分数很高的情况,就会以目地为最重要项目而接受其他失分项
作者: asiaking5566 (无想转生) 2024-02-25 19:41:00
CIV先丢先赢 正常
作者:
xomega (热可可)
2024-02-25 19:46:00没错啊 最快解决所有事情 默苍离也是这样用传统手段 就是死更多人 让更多人痛苦
作者:
jickey (THE REAL FOLK BLUES)
2024-02-25 19:51:00手冢先知
作者:
windqqr (瘦到底的感觉真好!)
2024-02-25 19:53:00天网表示专业
作者:
x4524 (x4524)
2024-02-25 20:01:00对AI来说人命就是数字而已
作者:
xeins (xxx)
2024-02-25 20:14:00一袋米抗几楼
作者:
se2422 (库柏)
2024-02-25 20:24:00这很可以 这很天网
作者:
m42040 (细菌)
2024-02-25 20:41:00麦帅:我就说吧
作者: Wooctor (Woowoo) 2024-02-25 21:19:00
印象中去年就有看过尝试用AI兵推的公司撇除核武方面以外,在派兵方面也是会理性过头的堆尸体借此突破敌方的防线
历史证明核武最能终结战争AI目前的机制就是仿人脑多巴胺的奖励机制 他会去学习做出什么事情加最多分 然后尽量做会加分的事情换成神经大人来说就是给他越多饼干越能让他做扣分的事情基本上会避免 然后加越多分的越有倾向去做什么会加分什么会扣分加多少分 就是AI的一个关键看你怎么设定
作者: Priestress (芬妮露薇妲) 2024-02-25 21:39:00
我们称之为高效