Re: [闲聊] AI理论上要觉得人类很笨才对吧
楼主: iampig951753 (姆沙咪猪) 2026-07-10 23:06:10
虽然聪明还是笨可受公评
但昨天刚好看到两段影片
知名暗黑破坏神实况主想要尝试让AI指示他玩暗黑
后来发现AI不具备多少知识都在幻觉
就开始问一些“敏感问题”测试AI
结果感觉是快中风了
我现在才知道
有些AI连草莓里面有几个R
或是数到一百都不行（有些AI已经修正这些缺陷了）
https://youtu.be/LPBe2vWGBf4?si=uK38P69gq6Z_P9Ze
https://youtu.be/OkkmyPAjM6E?si=ywENCYSSXZWnbpWL
但昨天刚好看到两段影片
知名暗黑破坏神实况主想要尝试让AI指示他玩暗黑
后来发现AI不具备多少知识都在幻觉
就开始问一些“敏感问题”测试AI
结果感觉是快中风了
我现在才知道
有些AI连草莓里面有几个R
或是数到一百都不行（有些AI已经修正这些缺陷了）
https://youtu.be/LPBe2vWGBf4?si=uK38P69gq6Z_P9Ze
https://youtu.be/OkkmyPAjM6E?si=ywENCYSSXZWnbpWL
作者: kusotoripeko (好油喔) 2026-07-10 23:07:00
因为现在这些再怎么强都是大数据库、聊天软件够用了但肯定不是真的会思考的
作者: shadowblade (影刃) 2026-07-10 23:09:00
因为现在的AI是猴子打字机,只是不懂的人以为它会思考
作者: lovesleep68 (睡神) 2026-07-10 23:09:00
玩游戏都知道，AI只能当参考了...
楼主: iampig951753 (姆沙咪猪) 2026-07-10 23:09:00
我个人觉得离聪明还很远 只能说算数强而已
楼主: iampig951753 (姆沙咪猪) 2026-07-10 23:10:00
就是比较高能的打字机
作者: shadowblade (影刃) 2026-07-10 23:10:00
它的输出是它认为分数高的那个,和正确性与否一点屁关
作者: x2159679 (（● ω ●）) 2026-07-10 23:10:00
因为LLM是概率模型
作者: nekose (takitani) 2026-07-10 23:11:00
算法做的究极猜猜乐 猜到像真的在思考
作者: shadowblade (影刃) 2026-07-10 23:11:00
当然是可以当参考但讯息验证还是使用者的责任
楼主: iampig951753 (姆沙咪猪) 2026-07-10 23:11:00
他会尽量做加分项 然后回避扣分项
作者: shadowblade (影刃) 2026-07-10 23:12:00
总而言之找一个说法给你/不承认自己错/支持你的论点目前AI的基本通则因为这样分数高
作者: x2159679 (（● ω ●）) 2026-07-10 23:13:00
所以对LLM来说他也不是在算数，而是在背答案
楼主: iampig951753 (姆沙咪猪) 2026-07-10 23:13:00
作者: shadowblade (影刃) 2026-07-10 23:13:00
"凑"答案它也并没有非得找到100%符合的答案给你是了(更危险
作者: x2159679 (（● ω ●）) 2026-07-10 23:14:00
有的时候会有人跳出来说LLM流行很危险就是因为LLM被炒很大，而且LLM只是AI研究下的一个分支而已
楼主: iampig951753 (姆沙咪猪) 2026-07-10 23:14:00
模拟人类的思考方式但跟人类实际上的差异还是很大毕竟人类不是只有靠加减分来决定行为的
作者: x2159679 (（● ω ●）) 2026-07-10 23:15:00
但是现在整个股市都靠LLM了 = =整个非常奇幻
作者: shadowblade (影刃) 2026-07-10 23:16:00
它可以瞬间帮你省80%以上的功,但你自己要负责检查有没有歪掉,当然如果用在不要求精确性跟正确性的场合是很好用的工具
楼主: iampig951753 (姆沙咪猪) 2026-07-10 23:16:00
股市 大概是因为算是比较适合LLM的
作者: shadowblade (影刃) 2026-07-10 23:17:00
因此不适合给非专业人士用因为不具备复查能力
楼主: iampig951753 (姆沙咪猪) 2026-07-10 23:21:00
给至少有基本实力的人写程式可以省时间给完全外行的人想用AI写程式会出一堆问题
作者: kuninaka 2026-07-10 23:30:00
叫AI写程式去算就好，不用这么麻烦LLM已经越来越进化可以自己验证结果了今年就会有内建Harness的AI了吧不过最后都还是需要有人类在负责验证
楼主: iampig951753 (姆沙咪猪) 2026-07-10 23:32:00
期待看到成果
继续阅读
