: ※ 引述《holiybo (米罗)》之铭言：
: : 马斯克看到CHATGPT后觉得恐惧
: : 但一般人哪会感到害怕
: : 甚至觉得新奇发展愈快愈好
: : 假设AI就这样无阻碍发展下去
: : 发展到什么程度你才会觉得恐怖?
: : 开始自动上PTT发废文?
: : 0.0?
阿肥外商码农阿肥啦！在下键盘研究员，基本上现在所有的模型本质上都还是弱人工智能
的，只是这两三年研究累积的体现。
当前还有很多问题是需要解决的，像是虽然偏好模型，但LLM还是对于学习并非是有偏的
，这边的偏好依旧需要人工大量去微调，这就跟我们人类差异很大。
人类至少你在求学的时候，老师或爸妈不会是看到你做错事情就打一次校正你，更多是教
你规则跟你之前累积的经验就可以快速学习，不过现在的LLM还是需要人工大量做Instruc
tion Tuning(引导校正)才对某些领域有效果，这也导致所有的模型叠代势必要offline
的训练才能保证不会学偏。
另一个问题就是人类其实有学习的轻重缓急之分，而且这是在我们从小的人格养成就固化
的，所以我们心中都会有一个世界模型，明白事物的意义跟赋予其主观意义，而且当世界
有意义时，人类就不太会跳脱世界模型思考学习，不过LLM看起来即使他学过大量语料知
道逻辑，但是世界模型依旧不完整，这也是一个待研究的议题，是否是数据不足才导致还
是参数不够，这还是一个Big Question。更何况人类会整合自己的目的动机与世界模型进
行针对性的学习强化，当前LLM对于学习依旧缺少目的性。
再来就是虽然很多研究表明大语言模型作为基石模型对于灾难性遗忘有一定的抵抗能力(
灾难性遗忘即是模型随着不断持续喂给他新的数据而且不让他回顾，模型会随着输入慢慢
偏移导致原本的任务效能下降)，但是依旧还是存在，而人类通常熟练一个任务后通常会
过目不忘，甚至只要稍微看一下就马上复习完成了，像阿肥三年没开车一开还是马上上手
一样。
最后就是电力消耗跟建构LLM的推论成本依旧还是过高，以ChatGPT为例光是推论已经把参
数都固定的状态下还是每天要烧70万美金，电力、GPU的使用量依旧是很吓人的，反观我
们现在研究苍蝇大脑其实苍蝇大脑的耗能极低但在图像识别或是语言沟通上却是表现很不
错的，而且人类大脑其实也有省电模式可以帮助我们减少耗能，但现在的LLM是全线运作
的，所以减少LLM的大小与消耗电力成本还是一个问题。
这边就举那么多是当前研究待克服的，倒也不是说完全无解，只是更通用的解法仍需要我
辈努力。
最后，我还是不太认为AI是完全取代人类的，这有点末世理论的感觉没什么依据，未来大
概五十年内技术会逐渐落地普及，更多的是解放人类双手，未来人机对话协作会越来越普
遍，由人类为指导者来引导任务进行不代表劳工会被取代，劳工未来更多是转向类似机器
人教练的工作，必须要有更专业的知识才能引导机器往你要的方向发展，加速人类文明的
累积。至于五十年后真的强人工智能出现，那也是至少五十年后的事情了。
差不多4酱