[新闻] AI教父辛顿:人工智能威胁恐比气候变迁

楼主: skyhawkptt (skyhawk)   2023-05-07 17:03:19
标题:AI教父辛顿:人工智能威胁恐比气候变迁迫切
新闻来源: (发文须填写新闻网站名称与连结,供板友分辨)
中央广播电台
https://is.gd/e4GSV0
https://is.gd/UynbPS
被誉为“人工智能教父”的电脑科学家辛顿(Geoffrey Hinton)。 (AP/达志影像)
研究人工智能(AI)的先驱辛顿(Geoffrey Hinton)5日接受路透社访问时说,人工智能给人
类带来的威胁可能比气候变迁“更加急迫”。
75岁的辛顿被视为“人工智能教父”之一,他近期宣布已从效力10年的科技公司Alphabet
离职,因为他希望在不连累雇主的条件下,将人工智能的风险公之于众。
各界咸认辛顿的研究对于当代人工智能系统发展有重要贡献。1986年,他与人合撰影响深
远的论文“借由反向传播谬误来学习表征”(Learning representations by
back-propagating errors),替支持人工智能技术的神经网络发展立下里程碑。2018年,
他因研究上的种种突破获颁“图灵奖”(Turing Award)。
如今有愈来愈多科技界领袖担心机器的智慧超越人类、最终控制地球,于是公开对人工智
慧构成的潜在威胁提出疑虑,辛顿也是其中之一。
辛顿说:“我不是要贬低气候变迁的重要性,也不是说不该担心气候变迁,那也一样是很
大的风险。但我觉得(人工智能)最后可能会更急迫。关于气候变迁,提出建议很简单:
只要停止排碳就好了。只要这么做,情况总会好转。而关于(人工智能),大家根本无所
适从。”
获科技企业微软(Microsoft)赞助的美国人工智能研究实验室OpenAI去年11月推出聊天机
器人ChatGPT,替人工智能技术竞赛开了第一枪,这款工具很快就成为史上成长最快的应
用程式,每月活跃用户在仅仅两个月内就达到1亿人次。
今年4月,有上千人签署公开信,呼吁所有人工智能实验室至少在6个月内暂停研发比
OpenAI近期推出的GPT-4更强大的系统,其中包括社群媒体推特(Twitter)执行长马斯克
(Elon Musk)、人工智能研究先驱班吉欧(Yoshua Bengio)和罗素(Stuart Russell)等。
辛顿与联名人士怀有一样的忧虑,担心人工智能会对人类造成存亡威胁,但他不同意暂停
研究。
他说:“这根本不切实际。我认同这是一种存亡风险,且已近在眼前,现在应该非常努力
投入大量资源去了解我们能做什么。”
上述联名信公开后,12名欧洲议会议员呼吁美国总统拜登、欧洲联盟执行委员会主席范德
赖恩(Ursula von der Leyen)等领袖召开峰会,讨论如何控管ChatGPT等先进人工智能系
统的发展,因为这些系统的发展速度超乎预期。
辛顿说:“科技界领袖最懂(人工智能),政界也必须参与。这件事关乎我们所有人,所以
大家都必须好好思考。”
※每日每人发文、上限量为八篇,超过会劣文请注意
⊕请确切在标题与新闻来源处填入名称与连结,否则可无条件移除(本行可移除)
作者: idolater (strawberry of Wrath)   2023-05-07 20:27:00
魔鬼终结都演过一轮了…

Links booklink

Contact Us: admin [ a t ] ucptt.com