突发! Ilya Sutskever成立新公司SSI,安全超级智慧是唯一目标与产品
https://www.jiqizhixin.com/articles/2024-06-20-2
机器之心
自 5 月15 日从OpenAI 离职后 ,OpenAI 前首席科学家Ilya Sutskever 官宣了自己的新
动向。
今天凌晨,Ilya 在社媒X 上表示自己创立了一家新公司-“安全超级智慧”(Safe
SuperIntelligence,SSI)。
该公司的目标和产品非常明确、单一:追求安全的超级智能,希望透过一支精干顶尖的小
团队取得革命性的成果,进而实现这一目标。
以下是SSI 公司的公告:
超级智能已经触手可及。
建构安全超级智慧(SSI)是我们这个时代最重要的技术难题。
我们已经启动了世界上第一个专注于SSI的实验室,目标和产品都只有一个:安全超级智
慧。
这间实验室名为“Safe Superintelligence Inc”。
SSI是我们的使命、我们的名称和我们的整个产品路线图,它是我们唯一的关注点。 我们
的团队、投资人和商业模式都致力于实现SSI。
我们将安全性和能力视为透过革命性工程和科学突破来解决的技术难题。 我们计划尽快
提高能力,同时确保安全性始终保持领先地位。
这样,我们就可以安心地扩展规模。
我们专注于一个目标(SSI),这意味着不会受到管理开销或产品周期的干扰。 我们的商
业模式可以确保安全、进步等都不受短期商业压力的影响。
我们是一家美国公司,在帕洛阿尔托和特拉维夫均设有办事处。 在那里,我们有着深厚
的根基,并有能力招募顶尖的技术人才。
我们正在组建一支精干、顶尖的团队,由世界上最优秀的工程师和研究人员组成。 他们
将专注于SSI,不做其他任何事情。
如果你是这样的人,我们将提供一个机会,让你从事一生的事业,帮助解决我们这个时代
最重要的技术挑战。
现在是时候了,加入我们吧。
公告网址:https://ssi.inc/
公告中出现的另外两位共同创办人分别为前苹果AI高层、Y-Combinator 的合伙人Daniel
Gross和前OpenAI技术团队成员Daniel Levy。
Daniel Gross表示自己很高兴和荣幸与Ilya和Daniel Levy开启这项新事业。
Daniel Levy则表示,很难想像在人类历史的这一刻从事其他工作。
Ilya 与OpenAI 的故事
Ilya Sutskever 是以色列裔加拿大人,出生于前苏联,五岁随家人移民耶路撒冷(因此
他精通俄语、希伯来语和英语),2002 年搬到加拿大生活。
在多伦多大学就读大学期间,Ilya Sutskever 从一个叫做“改进 随机邻域嵌入 算法
”的计画开始,开始了与Geoffrey Hinton 的合作,后来在攻读博士学位时正式加入了
Hinton 的团队。
后来的事我们都熟悉:2012 年,Hinton 带着Ilya Sutskever 和另一位研究生Alex
Krizhevsky 建立了一个名为AlexNet 的 神经网络 ,其识别照片中物体的能力远远超过
了当时的其他系统。
AlexNet 是 深度学习 的爆发时刻。 经历了多年的失败之后,他的团队最早证明了 模式
识别 问题可以被解决──秘决就是一个经过大量资料和算力训练的深度 神经网络 。
这种思路从 电脑视觉 延伸到了 自然语言处理 领域,同样是ChatGPT取得如今成就的重
要因素,包括Sora在 影片生成 领域的成功也离不开这两点。
2012 年毕业后,Ilya Sutskever 在史丹佛大学跟随 吴恩达 做了两个月的博士后,随后
返回多伦多大学并加入了Hinton 研究小组的衍生公司DNNResearch 。
2013 年3 月,Google 收购了DNNResearch,聘请了Ilya Sutskever 担任Google Brain
的研究科学家。
在谷歌,Ilya Sutskever展示了如何 深度学习 的 模式识别 能力应用于资料序列,包括
单字、句子。 他与Oriol Vinyals和Quoc Le合作创建了 序列到序列 (Seq2seq)学习演
算法,深度参与了 TensorFlow 的研究,也是AlphaGo论文的众多作者之一。
对语言的浓厚兴趣,或许推动了Ilya Sutskever加入OpenAI的脚步。
2015 年7 月,Ilya Sutskeve 参加了Y Combinator 总裁Sam Altman 在Sand Hill Road
一家餐厅举办的晚宴,在那里他遇到了 马斯克 和格雷格·布罗克曼。
那场晚宴上诞生了OpenAI。 在场的人们就一件事达成了一致:它需要是一个非营利组织
,没有任何竞争性的激励措施来淡化其使命,还需要世界上最好的 人工智能 研究人员。
2015 年底,Ilya Sutskever 以“研究总监”的头衔开始领导OpenAI 的研究和运营,这
个组织也吸引了几位世界知名的 人工智能 研究者,包括“GAN 之父” 伊恩·古德费洛
、UC柏克莱的Pieter Abbeel 以及Andrej Karpathy。
2016 年,OpenAI 的第一个GPT 大型 语言模型 问世。 从 GPT-2 到GPT-3,模型的能力
越来越强大,证明了这条路线的实际正确性。 每一次发布,OpenAI 都在不断提高人们的
想像力上限。
但Ilya Sutskever透露,当真正让OpenAI出圈的ChatGPT发布时,公司内部对此的期望值
很低:“当你问它一个事实性的问题时,它会给你一个错误的答案。我以为它会很平淡无
奇,人们会说:你为什么要做这个?
将GPT模型封装在一个易于使用的接口中并免费开放,让数十亿人第一次了解到OpenAI 正
在构建的东西。 在此之前, ChatGPT 背后的大型 语言模型 已经存在了几个月。
ChatGPT的成功,让创始团队受到了前所未有的关注。
2023年,OpenAI 的执行长Sam Altman花了大半个夏天的时间,进行了长达数周的外联之
旅——与政客们交谈,在世界各地座无虚席的礼堂发表演讲。
身为首席科学家,Ilya Sutskever保持着低调的风格,也不经常接受采访,不像公司的其
他创始成员那般是个公众人物,而是把更多的精力放在了GPT-4上。
今年早些时候,Hinton曾公开表示对自己帮助发明的技术感到恐惧:“我从没见过更高智
能水平的东西被远远更低智能水平的东西控制的案例。”
作为Hinton的学生,Ilya Sutskever没有对这一言论发表评论,但他对超级智慧负面影响
的关注表明他们是同道中人。
随着GPT-4 以及后续一系列更强大的大 语言模型 的更新,以Ilya Sutskever为代表的一
部分OpenAI 成员越来越担忧AI 的可控性问题。
于是就有了后面Ilya Sutskever 突然与Sam Altman 所代表的派系决裂、离职收场的故事
。
如今,Ilya成立了新的公司,也重新开启了对AI的理想与坚持。 期待SSI能为 人工智能
的发展带来新的惊喜。
参考连结:
https://www.theverge.com/2024/6/19/24181870/openai-former-chief-scientist-ilya-sutskever-ssi-safe-superintelligence