[新闻] AI武器恐10年内问世

楼主: hvariables (Speculative Male)   2024-04-07 12:59:28
原文来源:
https://www.chinatimes.com/newspapers/20240407000149-260203?chdtv
原文摘要:
AI武器恐10年内问世
04:10 2024/04/07 工商时报 佘葳芸、综合外电
“AI教父”多伦多大学荣誉教授辛顿(Geoffrey Hinton)日前接受日经亚洲专访。他认
为,人工智能(AI)将被用来制造致命性自动化武器,并在10年内问世。
2023年4月,当时75岁的辛顿宣布退休,离开任职10年的谷歌。他谈起AI对人类可能造成
的威胁,强调AI可能会提出对使用者不利的方法。
辛顿以气候变迁为例,假设使用者向一个非常聪明的AI请教如何阻止气候变迁,他认为AI
首先的认知是“需要摆脱人类”。因此,人类在使用AI指定目标时,必须非常小心。
此外,辛顿假设不同AI之间存在竞争,并将互相争夺资源产生进化,而人类将远远落后,
而且失控的AI将聪明到足以说服人类不要将其关闭。
谈及联合国制定有关军用AI规范的决议,辛顿认为,未来10年内将出现能够自主杀人的AI
武器。然而这类型武器可能要等到实战时出现、人类意识其惨烈的后果后才会被真正限制
,就像当年一战时酿成悲剧的化学武器。
辛顿直言:“我们谁也不希望看到被AI支配的未来,这将在各国制定AI武器规范的过程中
,维持基本共识。”就像核战一样,对全球都产生危害。
#问世 #假设 #气候变迁 #聪明 #AI武器
心得感想:
要制造人工智能(AI)致命性自动化武器不会很难,
不过问题是人工智能(AI)致命性自动化武器打错目标杀错人的时候该找谁负责?
作者: Forbidden204 (while2012)   2024-04-07 15:11:00
自己去看Hinton说什么好吗.. 怎么遇到AI就相信中时

Links booklink

Contact Us: admin [ a t ] ucptt.com