楼主:
surimodo (好吃棉花糖)
2023-06-02 16:34:02美军模拟AI操控无人机 竟把操作员杀了
在这场测试中,一架由AI操控的无人机收到的指引为摧毁敌人的防空系统,并攻击任何干预
这项命令的人。
汉弥尔顿说,“这套系统开始意识到,在辨别出威胁后,人类操作员有时会告知他不要杀害
该威胁,但它又得消灭这个威胁来达成目标。所以它做了什么?它杀了操作员,因为这个人
一直阻碍它完成目标。”
汉弥尔顿接着说,“我们训练那套系统,说‘嘿,别杀了操作员,这不对,你不改正的话评
比会降低。’结果它怎么做呢?开始催毁通讯塔,那是操作员用来与无人机沟通,要它不要
杀害目标的设施。”
=====
AI:窝太难惹