[新闻] 阿特曼新计画“Q*恐威胁人类” OpenAI

楼主: kukulee (KKK)   2023-11-23 10:52:23
TVBS
https://news.tvbs.com.tw/world/2313585
阿特曼新计画“Q*恐威胁人类” OpenAI收警告信后开除他
编辑 陈妍如 / 美编 曾梓倩 报导
ChatGPT之父、日前忽然被赶下台OpenAI执行长阿特曼(Sam Altman)与公司董事会之间
风波不断,《路透社》报导,有2名知情人士指出,在阿特曼被赶下台之前,OpenAI的董
事会收到了一封来自数名研究人员的警告信,称阿特曼目前致力推动的通用人工智能(
Artificial General Intelligence, AGI)取得进展,但这项强大的技术可能威胁人类,
这也是阿特曼之所以被解雇的其中一项原因。
报导指出,OpenAI公司将AGI定义为比人类更聪明的人工智能系统,据知情人士透露,
Open AI最近在一个名为Q*(发音为Q-star)的项目上取得进展,一些内部人士认为,这
可能是OpenAI在AGI领域的一大突破。
因为拥有庞大的计算资源,新的Q*模型能够解决某些数学问题,虽然其数学成绩仅达到小
学生的程度,但Q*在此类测验中取得好成绩,使得研究人员对 Q* 未来取得成功感到非常
乐观。
然而,数名研究人员于17日致信OpenAI董事会,警告这项强大的AI技术有可能对人类造成
威胁。消息人士称,这封未被揭露的信件引发董事会的不满,而OpenAI科技长穆拉蒂(
Mira Murati)也在22日向员工提到了Q*这个项目,并提及了董事会收到警告信的事。
这位不愿透露姓名的人士表示,鉴于庞大的运算资源,新模型能够解决部分数学问题,但
他们未被授权代表OpenAI发言。虽然目前Q*的数学水平还停留在小学生的程度,但它在多
项测验中取得了优异的成绩,让研究人员对Q*未来的成功十分乐观。
报导指出,AGI可以概括、学习和理解;在董事会收到的信里,研究人员强调了AI的能力
、潜在的危险,而阿特曼则领导ChatGPT,使其成为史上增长最快的应用程式之一,同时
从微软获得了必要的投资和资源,以让公司更接近超级智能或AGI。
阿特曼上周更在旧金山的APEC峰会上透露,他认为AGI已近在眼前,在OpenAI的历史上,
“已经有4次(机会),最近的一次就发生在过去的几周里”,阿特曼说,他将继续向前
推进发展,“能够做到这点,是我一生中的荣誉。”但事隔一天,OpenAI董事会就解雇了
阿特曼。

Links booklink

Contact Us: admin [ a t ] ucptt.com