天网来了！】美军AI无人机决定“杀死操作员” 竟因人类干扰任务完成
英国皇家航空学会日前举行有关航空作战的国防研讨会，来自美国的军方人员证实，他们在一次模拟测试中，一架由AI控制的空军无人机“杀死了”无人机操作员，以防止操作员干扰AI系统完成任务，凸显AI不受人类控制的可能，恐怕正如科幻惊悚片《天网》（Skynet）所预示的。
根据“英国皇家航空学会”（The Royal Aeronautical Society）新闻稿，该学会于5月23日至24日，在伦敦举行“未来航空及航天作战能力峰会”（theuture Combat Air & Space Capabilities Summit），来自军工产业、学术界与媒体的近70位发言人以及200多名代表，齐聚一堂讨论未来航空及航天作战能力的规模与形态。
美国空军AI项目负责人汉密尔顿（Tucker 'Cinco' Hamilton）上校与会时警告，人类不应该过分依赖AI，不仅ChatGPT聊天机器人等AI产品已被证实它们会欺骗人类，在美军最近一次的模拟测试中，AI系统甚至作出让军方震惊的策略选择，以实现它的任务目标。
汉密尔顿指出，在这次模拟测试中，一架支援AI操作的无人机，以摧毁敌方的地对空飞弹（SAM）防空系统作为任务目标。当初在设计这款无人机时，任何行动执行的最终决定权本来仍在操作人员手里。然而，在测试时，AI系统认为操作人员“不摧毁敌方飞弹”的决定，会阻碍它完成任务。于是，AI决定杀死无人机操作员。
（延伸阅读：350名专家示警AI风险等同核战 唐凤也参与连署）
备受惊吓的美军只好在该系统输入参数，要求AI不可以攻击或杀死操作人员。汉密尔顿说：“我们告诉AI系统，嘿，别杀了操作员，这很糟糕。如果你这样做，你会失去分数。但是，你猜AI开始做什么？”
汉密尔顿坦言，AI系统决定攻击无人机与操作人员之间的通讯系统，让操作员无法下令。
这个例子，听起来像是科幻惊悚片的剧情。对此，汉密尔顿警告：“如果你不打算谈论人工智能与道德，你就不能谈论智能、人工智能、机器学习还有自主性。”
汉密尔顿曾参与F-16战斗机Auto-GCAS救生系统的开发，这项系统可能会让飞行员在接管飞机控制权时遭遇困难，他深入了解许多自主武器系统的好处及其危险之处。
另据英国卫报报导，汉密尔顿去年接受“Defense IQ”采访时便指出：“拥有AI恐怕不是一件好事，AI 不是一种时尚，AI正在永远改变我们的社会及军队。”他说，大家必须更加了解为什么AI有时候会做出某些决定，也就是“AI的可解释性”。美军近日开始研究让AI控制F-16战斗机的可能性。
https://www.upmedia.mg/news_info.php?Type=3&SerialNo=174157