※ 引述《csie68 (小春子)》之铭言：
: AI可能会取代"人力"
: 一些基础的工作 就像现在的电动车
: 但不可能取代"人类"
: 因为没有电 AI就无法运作 拔掉插头 它能做什么？
: 所以结论
: AI会取代资工人吗?
: 答案是 不会
: 因为资工系 是人 不是电脑
: 无论AI发展得多好 都无法取代人
: 因为他就不是人 怎么取代？
: ※ 引述《xa56 (枒)》之铭言：
: : 东西会越来越进步啊
: : 只能说未来只有像设备工程师
: : 这种黑手而且一个当好几个人用的
: : 才能活下去吧
: : 制程类的都可以靠ai了
: : 只剩改机修机这种杂活暂时没人可以处理
阿肥外商码农阿肥啦！
我只能说当前甚至往后十几年都很难完全取代，除非真正的AGI实现了，那取代的可能不
止资工人，而是整个人类社会了，想想看AGI都有人类智慧了，那锁螺丝、自己修理自己
或是检测同类机器人都是很简单的，那干嘛还找人类黑手？
先说说像GPT-4即便是大成功的当下，很多企业要复现这样的模型难度也是跟登天一样
，整个复杂系统工程是OPENAI在标榜GPT-4可scalable的基础，这边说说Meta(Facebook)
其实之前有实现开源的GPT-3，光是训练重启就花了整整五十次，其中有各种像显卡崩溃
、loss跑飞等等，这些都是需要建构好的基础系统跟对于复杂系统的开发维护才能解决，
不是说很轻松的事情。
https://i.imgur.com/pLsUJnR.jpg
这边在说说这张图，这是ICLR 2020的一篇Paper，充分说明当前DL的难点，这边data A跟
data B有一条蓝色的部分是local minimum ，而白色星星移动点是模型初始值到鞍点，可
以发现到随机起始虽然都能始模型到达一定的低点也就是一定的精度，但是内部神经节点
的激活功能却完全不同，这也充分解释了为什么神经网络的解释性那么差，而且随着参数
量越来越复杂，可解释就成比例下降，最近OpenAI拿GPT-4来解释神经节点也发现这种现
象，有些神经网络节点看似有对一些抽象概念激活可以解释，但是有些连人都很难理解他
激活了哪些概念。
而且当数据分布发生变化，内部不变性也会改变，虽然说最近有一些研究认为现实世界的
结构是共享低复杂高结构化的所以也间接证明为什么GPT-4可以处理很多一般性的问题，
但是我们还是发现他对于高复杂度的问题像是数学等依旧是蛮差的，也刚好验证了这类大
语言模型更偏好kolmogorov复杂度低的预测，而他也确实学习到了其中的归纳偏置。
最后一点，就是当前基本上所有的模型都是基于类贝叶斯归纳原则的，若是要从哲学上探
究势必要挑战卡尔波普尔奠定科学非归纳的认知论，否则要模型取代一门科学学科跟研究
都是不可能的，尤其是模型在面对Out of distribution 的问题时当前基于梯度的反向传
播本质上是无解的，也就是为什么我之前会说要完全取代资工/工程师很困难，最多是让
工程师未来不需要一行一行写code仅需掌握一些抽象概念然后给模型优化方向跟目标来进
行程式撰写，而且撰写程式的复杂度也会随着越抽象门槛越来越高，因为你必须搞懂什么
样的优化方向而不是显式开发。
除非未来真的出现更好的学习算法或是我们真的完全可以复刻大脑，不然真的要离AGI还
差很远的，也就是LeCun说得当前深度学习还缺少世界模型、Hinton一直想找到能取代反
向传播跟梯度下降的新的学习算法的原因。但即使是这样LLM也确实充分展现了他跟人类
完全不同的强大力量，只是他现在甚至未来十年都仍需要依附人类之上。
以上