Re: [讨论] 软件工程师这条路,是不是走到尽头了?

楼主: oopFoo (3d)   2025-07-02 08:25:06
再强调一次,现在的ai是有用的,但问题太多,离取代还很遥远。
Yann Lecun已经讲超过一年了,不要再花时间在LLM上,我们需要更先进的架构。
https://www.techbang.com/posts/122728-yann-lecun-not-interested-in-llms-focuses-on-ai-hard-problems
"
谈到 AI 未来真正的挑战,LeCun 清楚地指出了四个他认为至关重要、但目前尚未有令人满意解答的领域。
第一是对物理世界的理解。他举了一个极简的例子:当人看到一个瓶子,知道推它会滑,敲它会弹,这些都是我们从小累积的世界模型。但今天的 AI,无论是从图片、影片还是文字中,都无法真正掌握这些“常识”。
第二个挑战是持久记忆。大多数 AI 系统处理输入时是一次性的:输入 → 推理 → 输出。它不会记得你上一秒说了什么,更无法累积对世界的长期观察与认知。而人类的记忆,正是推理与学习的基础。
第三,则是最根本也最具哲学意味的问题:推理。LeCun 对现今所谓“agentic AI”的批评颇为严厉。他认为让模型生成一堆答案,再从中选出最可能正确者,根本不是推理,而是暴力试错。他说这种方法就像“乱写程式然后看哪个跑得动”,低效而粗糙。
第四个挑战则是规划能力。真正的智能不只是对当下做出反应,更能思考未来。他形容:“如果 AI 能够在内部模拟一个世界,然后根据某个假设行动去预测未来的结果,那它就能计划达成目标的最佳路径。”而这,才是人类做决策的真正方式。
"
现在ai写程式的卖点是,程式师规划大纲,让"agentic ai"小段小段的暴力尝试,还有很长的context length来记得interaction。然后你可以有百个,千个ai帮你写程式,绝对是比自己写有效率。
但是,百个,千个ai垃圾,出来的还是垃圾。瓶颈还是在人类做判断,哪个可以留下,哪个抛弃。结果花的时间并没有减少。
现在是"工人ai"在推进llm如之前po在本版的工作。
https://www.ptt.cc/bbs/Soft_Job/M.1739017637.A.EA3.html
Meta刚花14.5b投资Scale AI,为什么?因为"工人 data labeling"才是目前的重点。
当初gpt横空问世的时候,不是"工人ai"马上要被淘汰了,怎么现在越来越值钱?
现在ai就是“Fake it till you make it”。如同自驾一样,每年都是自驾元年,喊个10年20年,迟早会对的。
现在就是一堆坏人跟外行人在吹AI。我们实际了解的人,还在找适当的地方使用。
作者: jeffguoft (十年磨一剑)   2025-07-02 08:56:00
槽点好多
作者: ku72 (ku72)   2025-07-02 10:16:00
靠AI赚钱的会来嘘你 XD
作者: Suleika (Suleika)   2025-07-02 10:54:00
3是把乱写的人洗掉,4是需要人下决定,我是觉得4才是根本原因,找关连找相似肯定出包工程不可能用这种方式全自动化不用人
作者: strlen (strlen)   2025-07-02 11:03:00
工业革命前前后后也是花了一百年 照现在发展速度 我看20年你要说明年或后年整个软件产业就爆掉当然不会啦
作者: dream1124 (全新开始)   2025-07-02 14:17:00
推,但第二点那样讲话会给信徒追杀。
作者: devilkool (对猫毛过敏的猫控)   2025-07-02 18:19:00
不少公司正在努力挑战第二点
作者: sunsamy   2025-07-02 18:42:00
上次我叫AI帮我改写程式,它写得我一时看不出对错但compile后没有一行对,我都要一行一行去改,这是什么?
作者: Morphee (千磨万击还坚劲)   2025-07-02 22:02:00
讲一堆,还是吊lecun的书袋子,没有个人想法,谁知道是不是学派之争呢
作者: dani1992 (dani)   2025-07-02 22:45:00
现在的发展速度可没有工业革命快
作者: NDark (溺于黑暗)   2025-07-02 22:48:00
楼上是穿越者从1840年来的
作者: KAOKAOKAO (鬼斗)   2025-07-02 23:35:00
但杨立昆是不是失宠了? Superintelligence Lab
楼主: oopFoo (3d)   2025-07-03 08:08:00
杨立昆没失宠,他是科学家,做的是基础研究。Llama2弄完后他就对llm失去兴趣。
作者: Obama19 (^_^)   2025-07-03 09:11:00
这个人争议很多 自己思考一下不要觉得他是权威 就对他的话全盘接受
作者: dani1992 (dani)   2025-07-03 10:00:00
去看对于工业革命时期全生产要素的增加速度估计跟现在比一下不就知道了,查资料很难吗
作者: pkro12345 (席龙)   2025-07-07 12:38:00

Links booklink

Contact Us: admin [ a t ] ucptt.com