[新闻] 马斯克用微软论文当论据起诉OpenAI:你们

楼主: jackliao1990 (jack)   2024-03-04 12:27:08
马斯克用微软论文当论据起诉OpenAI:你们自己早承认AGI了
https://www.qbitai.com/2024/03/125014.html
明敏
大概也只有马斯克敢了。
用微软论文当证据,起诉OpenAI。
一年前微软研究院发表的论文《Sparks of AGI:Early experiments with GPT-4》,现
在成为了马斯克起诉书中的关键角色。
这篇论文透过分析早期GPT-4的能力,认为GPT-4可以被视为早期AGI 。
去年论文发表时引发不小关注,1年被引次数已经高达 1500 次。
马斯克的起诉书里写道,微软自己的科学家自己也承认了。
这么看,OpenAI最新的一通回应不是啪啪自己打脸?
还真不一定。
这篇《Sparks of AGI》当初爆火确实不假,但其中很大一部分热度来自 争议 。
不少人觉得它不够严谨、在炒热度,而且这篇论文没有经过同行评议,只是上传到了
arxiv,结果也无法复现。
所以这篇论文到底说了啥? 马斯克凭啥敢拿它大做文章?
论文说了啥?
这篇论文主要测试了GPT-4在2022年秋季的一个早期版本。
研究提出,GPT-4不仅掌握语言能力,还能解决复杂新颖的问题,任务可以跨数学、编码
、医学、法律、视觉等。
在这些任务中,GPT-4的表现接近人类水平,大大超越以往LLM性能,例如ChatGPT。
由此,研究给出了关键性结论:
我们认为它可以被合理地视为一个早期版本(仍不完整)的AGI。
在此基础上,研究团队也进一步探讨了真正意义上的AGI应该具备哪些要素。
论文全篇超过150页,分别测试了GPT-4的多模态、程式码、数学、常识等能力,透过大量
实例得出结论。
以测试程式码能力为例,GPT-4和ChatGPT会得到相同的提示词,研究者将会对回答结果进
行分析。
GPT-4的一些数据结果非常值得关注。
例如在零样本下,GPT-4程式码能力在HumanEval上的精确度达到82%。
再例如在现实问题问答中,GPT-4的表现也远胜于ChatGPT。
研究也讨论了GPT-4基于自回归架构表现出的限制。
例如模型本身俱备对应的知识能力,但却会回答错问题,因为预测下一个token的机制使
得模型不能进行“内心对话”。
最后,论文作者也提出了对AGI的一系列构想。
这篇论文发表在GPT-4面世的一周后,引发业界巨大关注。
“AGI的闪现”让不少人感叹,一切都结束了。
但质疑也不少,很多人觉得这个结论是不是有点夸大其词了?
而且研究团队承认使用的一些测试方法不够科学严谨,他们主要是想展示GPT-4卓越的能
力。
不过可以肯定的是,这篇论文成功把GPT-4和AGI强关联,为GPT-4创造了更多讨论热度,
也成为AGI讨论热潮的重要推力。
但谁又能想得到,它现在倒成为马斯克起诉OpenAI的关键了。
马斯克到底想干啥?
马斯克搞事,总是醉翁之意不在酒。
去年他和千名大佬共同呼吁暂停开发AI半年,结果转头自己囤卡、开搞大模型,火速成立
AI新创公司xAI。
今年起诉OpenAI,核心的目的是督促其开源。
号称GPT-4是AGI也是给OpenAI上道德压力。 一方面要求他们开源,另一方面提出“AGI演
算法不应该授权给微软”。
同时,马斯克的Grok也还在稳定地推进中,目前已发表Grok-2。
值得一提的是,去年OpenAI宫斗前后,马斯克曾在访谈中表示,从现在(23年12月)算起
, AGI还有不到3年 。
但往小了说,写小说和JK罗琳一样好、能发现新物理规律或发明新技术的AI,从现在
算起不到3年。
当时他还表示觉得山姆·奥特曼很复杂。
目前,OpenAI方面除了否认GPT-4是AGI外,还没有更多回应。
有法律专家认为,马斯克列出的一系列观点,很难被当成明确的条款来执行。 “诉讼可
能比较牵强”,但是提出了“强有力的政策论点”。
有圈内大V还觉得马斯克这么干,有点吃不到葡萄说葡萄酸。
马库斯则调侃说,马斯克这么做逼得OpenAI不得不承认自己没达到AGI,但可以找第三方
来承认。
例如雇我这样的人来拯救他们。
参考连结:
[1]https://www.nytimes.com/2024/03/02/technology/elon-musk-openai-lawsuit-microsoft-research.html?unlocked_article_code=1.Zk0.M61l.NCnK2nvYNoUS&smid=url-share
[2]https://arxiv.org/abs/2303.12712
[3]https://www.courthousenews.com/wp-content/uploads/2024/02/musk-v-altman-openai-complaint-sf.pdf

Links booklink

Contact Us: admin [ a t ] ucptt.com