[新闻] AI教父警告!30年内“人工智能毁灭人类”

楼主: rexlin (Some like it hot!!)   2024-12-29 01:11:44
1.媒体来源:
TVBS
2.记者署名:
林思妤
3.完整新闻标题:
AI教父警告!30年内“人工智能毁灭人类”可能性升高
4.完整新闻内文:
“人工智能(AI)教父”辛顿(Geoffrey Hinton)认为,未来30年内有10%到20%的可能
性出现AI导致人类灭绝的结果;他警告,科技变革的速度比预期要“快很多”。
辛顿今年因在AI方面的贡献而获颁诺贝尔物理学奖。
英国“卫报”(The Guardian)报导,辛顿曾说,对人类而言,AI科技有10%的可能性引
发灾难性后果。
英国广播公司第4电台(BBC Radio 4)“今日”(Today)节目询问他对可能出现的AI末
日和10%的发生机率分析是否有变时,他说:“没什么变,10%到20%。”
节目客座编辑、前卫生大臣贾维德(Sajid Javid)说“机率增加了”,辛顿答道:“如
果一定要说,你看,我们以前从未和比我们聪明的东西打交道。”
他补充说:“你知道有多少例子是一个较聪明的东西被一个较不聪明的东西控制?这种例
子很少。以一个母亲和一个婴儿为例,演化费了很大力气让婴儿控制母亲,但那是差不多
我唯一知道的例子。”
辛顿说,人类与强大AI系统的智慧相比,就像学步的幼儿,“我喜欢这么想:想像你自己
和一名3岁小孩;我们就是那个3岁小孩”。
辛顿去年辞掉在谷歌公司(Google)的工作,以更畅快地谈论AI发展不受控制所构成的风
险。AI安全倡议人士的主要疑虑之一是,创造通用AI或比人类更聪明的系统,可能导致这
项技术脱离人类掌控,危及人类存亡。
他说,现在的状况是多数专家认为或许能在未来20年内开发出比人类聪明的AI,“这是很
恐怖的想法”。
他认为,研发AI的速度“非常、非常快,比我原本预期要快很多”,政府必须监管这项技
术。
他说:“我担心的是,看不见的手无法保障我们的安全,所以只将问题交给大企业的利润
动机,不足以确保这些公司安全地研发(AI)…唯有政府监管能迫使这些大企业从事更多
安全研究。”
不过,网络科技巨头Meta的首席AI科学家勒昆(Yann LeCun)不认为人类面临存亡威胁,
反而说AI“实际上可能拯救人类免于灭绝”。勒昆2019年与辛顿、班吉欧(Yoshua
Bengio)一起获得有“电脑界诺贝尔奖”之称的年度图灵奖(Turing Award)。(中央社

5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体:
https://news.tvbs.com.tw/world/2732829
6.备注:
魔鬼终结者?

Links booklink

Contact Us: admin [ a t ] ucptt.com