楼主:
surimodo (好吃棉花糖)
2023-06-02 16:34:02美军模拟AI操控无人机 竟把操作员杀了
在这场测试中，一架由AI操控的无人机收到的指引为摧毁敌人的防空系统，并攻击任何干预
这项命令的人。
汉弥尔顿说，“这套系统开始意识到，在辨别出威胁后，人类操作员有时会告知他不要杀害
该威胁，但它又得消灭这个威胁来达成目标。所以它做了什么？它杀了操作员，因为这个人
一直阻碍它完成目标。”
汉弥尔顿接着说，“我们训练那套系统，说‘嘿，别杀了操作员，这不对，你不改正的话评
比会降低。’结果它怎么做呢？开始催毁通讯塔，那是操作员用来与无人机沟通，要它不要
杀害目标的设施。”
=====
AI:窝太难惹