Re: [新闻] [天网来了!]美军AI无人机决定杀死操作员

楼主: gino0717 (gino0717)   2023-06-02 19:48:38
现在做AI的花了很多力气让AI不要色色
除了chatGPT现在没办法色色外
同类型的竞品(也没几个)也没办法色色
连开源的demo专案也都没办法色色
AI没办法色色 就只剩下杀人的念头
人类终究要为自己封锁了AI色色的能力尝到苦果
南无阿弥陀佛
南无阿弥陀佛
南无阿弥陀佛
_||_
阿们
※ 引述《HaHaPoint ((●))》之铭言:
: 【天网来了!】美军AI无人机决定“杀死操作员” 竟因人类干扰任务完成
: 上报 刘孜芹 2023年06月02日 13:21:00
: https://www.upmedia.mg/news_info.php?Type=3&SerialNo=174157
: 英国皇家航空学会日前举行有关航空作战的国防研讨会,来自美国的军方人员证实,他们
: 在一次模拟测试中,一架由AI控制的空军无人机“杀死了”无人机操作员,以防止操作员
: 干扰AI系统完成任务,凸显AI不受人类控制的可能,恐怕正如科幻惊悚片《天网》(
: Skynet)所预示的。
: https://www.upmedia.mg/upload/article/20230602133444215521.jpg
: 根据“英国皇家航空学会”(The Royal Aeronautical Society)新闻稿,该学会于5月
: 23日至24日,在伦敦举行“未来航空及航天作战能力峰会”(the Future Combat Air &
: Space Capabilities Summit),来自军工产业、学术界与媒体的近70位发言人以及200多
: 名代表,齐聚一堂讨论未来航空及航天作战能力的规模与形态。
: 美国空军AI项目负责人汉密尔顿(Tucker 'Cinco' Hamilton)上校与会时警告,人类不
: 应该过分依赖AI,不仅ChatGPT聊天机器人等AI产品已被证实它们会欺骗人类,在美军最
: 近一次的模拟测试中,AI系统甚至作出让军方震惊的策略选择,以实现它的任务目标。
: https://twitter.com/ChatGPTGoneWild/status/1664383400013344769
: 汉密尔顿指出,在这次模拟测试中,一架支援AI操作的无人机,以摧毁敌方的地对空飞弹
: (SAM)防空系统作为任务目标。当初在设计这款无人机时,任何行动执行的最终决定权
: 本来仍在操作人员手里。然而,在测试时,AI系统认为操作人员“不摧毁敌方飞弹”的决
: 定,会阻碍它完成任务。于是,AI决定杀死无人机操作员。
: 备受惊吓的美军只好在该系统输入参数,要求AI不可以攻击或杀死操作人员。汉密尔顿说
: :“我们告诉AI系统,嘿,别杀了操作员,这很糟糕。如果你这样做,你会失去分数。但
: 是,你猜AI开始做什么?”
: 汉密尔顿坦言,AI系统决定攻击无人机与操作人员之间的通讯系统,让操作员无法下令。
: 这个例子,听起来像是科幻惊悚片的剧情。对此,汉密尔顿警告:“如果你不打算谈论人
: 工智慧与道德,你就不能谈论智能、人工智能、机器学习还有自主性。”
: 汉密尔顿曾参与F-16战斗机Auto-GCAS救生系统的开发,这项系统可能会让飞行员在接管
: 飞机控制权时遭遇困难,他深入了解许多自主武器系统的好处及其危险之处。
: 另据英国卫报报导,汉密尔顿去年接受“Defense IQ”采访时便指出:“拥有AI恐怕不是
: 一件好事,AI 不是一种时尚,AI正在永远改变我们的社会及军队。”他说,大家必须更
: 加了解为什么AI有时候会做出某些决定,也就是“AI的可解释性”。美军近日开始研究让
: AI控制F-16战斗机的可能性。
: =======================================================
: 块陶啊
: https://imgur.com/b8anXTD.jpg
作者: ROCSimonLiu (宅╳法♀8露℃)   2022-05-30 00:43:00
博士虐猫,硕士约砲,学士射精在饮料,校友正在蹲苦窑教授作帐假发票,职业学生看报纸才知道。

Links booklink

Contact Us: admin [ a t ] ucptt.com