原文标题:马斯克等千人签署公开信:呼吁暂停巨型AI实验
原文连结:https://news.cnyes.com/news/id/5130884
发布时间:2023/03/29 15:00
记者署名:
原文内容:
正当发展 AI 成为最新显学时,另一批科技人却是忧心忡忡,要求“暂停巨型 AI 实验”
。
生命未来研究所 (Future of Life)3 月 22 日向全社会发布了一封《暂停大型人工智能
研究》的公开信,呼吁所有人工智能实验室立即暂停比 GPT-4 更强大的人工智能系统的
训练,暂停时间至少为 6 个月。
这封信有 1100 多人签名,其中不乏科技界名人,例如马斯克 (Elon Musk)、苹果联合创
办人 Steve Wozniak、Stability AI 创办人 Emad Mostaque 等知名人士。
其中,马斯克在 chatGPT 走红之后,就不断批评 OpenAI,并在 2 月份发推文称,“
OpenAI 是作为一个开源公司 (这就是我将其命名为“Open”AI 的原因) 创建的,是一家
非营利性公司,旨在与 Google(GOOGL-US) 抗衡,但现在它已经 成为微软 (MSFT-US) 有
效控制的闭源、利润最大化的公司。”他认为,这家公司完全违背了当初成立的初衷。
生命未来研究所在信中呼吁,所有人工智能实验室立即暂停对比 GPT-4 更强大的人工智
能系统的训练,为期至少 6 个月。这种暂停应该是公开的和可验证的,并且包括所有关
键参与者。如果不能迅速实施这种暂停,政府应介入并暂停。
信中强调,人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、
安全、可解释、透明、稳健、一致、值得信赖和忠诚。
在此之前,OpenAI CEO Sam Altman 在与 MIT 研究科学家 Lex Fridman 的最新对话中指
出,AI 已经出现其无法解释的推理能力,同时承认“AI 杀死人类”并非完全不可能。
上个月,在微软发布 Bing 聊天机器人之后,一份名为“立即拔掉邪恶的 AI”的请愿书
在 change.org 上流传开来。
Future of Life Institute 是一家非营利组织,其使命是降低核战争的风险并改善 AI
治理。 著名物理学家 Max Tegmark 是其总裁,这家机构的网站中,将马斯克列为外部顾
问。
心得/评论:
帮马投顾翻译一下:
马投顾:不要再炒 AI 了,快回来炒电动车阿
AI 要毁面人类了
还有几集可以逃???