看你定义的奇点是什么样子
1 专用型AI - 仅限于特定问题 → 人类目前还在这里
a 努力达到人类中 → 目前的自动驾驶、ChatGPT 在这里
b 在特定领域的计算力等同或远超人类
c 在特定领域中不止于计算力,且在判断力等抽象表现上接近或超越人类
d 在特定领域具象、抽象表现皆胜于人类,并有能力开拓人类未知的荒土
→ 围棋AI在这里
2 通用型AI
a 不止于特定问题,同一个AI可以处理泛用问题,并且能力等同或超越人类
b 拥有自主学习能力,意即AI本身有能力判断为了处理当前的问题
需要学习什么样的Data来提升自身
3 我们不需要人类啦
a 不止拥有通用型AI的能力,并且有能力创造全新的抽象概念
b 自主研究未知的物理定律、数学定理的能力
当然上这个划分法不是绝对,100个人有100种定义方法也很正常
如果是毁灭人类社会稳定的奇点的话,2-a的等级就足够了
因为即使我们让每个人都接受足以超过这个等级的AI能力的教育
也没有那么多职位可以满足所有人
乐观一点的情况是,多数人的工作是“满足其它人”的工作
明明可以叫AI来,我却要让真人来的那种 → 满足人类的阶级感
用这种方式来创造新的工作
悲观一点的情况是,社会终将因此崩毁,造成文明倒退,直至文明退至无法生成AI
历史从此在有AI和没有AI间循环往复
当前的情况是还在 1,多数AI,包括ChatGPT在内会变成高阶工具
毁灭人类还不至于,但是会造成严重的知识通膨
以往专精一门学科就可以吃一辈子
未来则必须精通多领域的知识才能生存下去
以“技术文明”尺度来看的话,3-b,有能力自主研究数学、物理的AI才是奇点
靠人脑炼蛊以百年为单位去突破数学、物理实在是太慢了
并且迟早会碰到物理上限 → 解决新问题所需的知识量超过人脑的容量
或甚至是,光是理解问题所需的知识量就超过人脑的存储量
如果可以放著一台超强AI自动推演数学,比方说解决 P=NP 问题
并在解决 P=NP 之后继续发现下一个“大定理”并解决,然后无限迭代
当然这种机器能不能存在是个未知数,毕竟有哥德尔不完备定理这个魔王定理存在
我不认为通用型 AI 会在20年内出现
现在有些 AI 可以跑到1-d的阶段是因为问题相对简单
像是围棋,虽然围棋已经很难了,但是和其它问题相比还是太简单
比方说自驾吧,以特斯拉为首的自驾开发周期来看
要实现完全自驾(L5)普及也是2035之后的事
更泛用的AI就不用讲了,google、微软的官方发言都讲得很保守
只有骗钱的金融圈在那边吹
人脑是大自然数亿年演化下的精华,不是简单可以超过去的