这边说一下，本身在领域内的研究员（早期做语言统计建模的）。
其实当前研究比较少会深究像这种哲学僵尸的问题（假设LLM具备有人类所有能力，包含反
思、推理、计画、空间感知，但他其实是没有意识这种问题）。其实大家都是朴素的假设假
如AI具备这些能力下就足以作为具有人类智力的通用智慧体（是否是生命、是否有意识其实
不是最重要的）。
然后大部分的研究当前都相信当前LLM确实不具备有人类的智慧水平（即使他表现很出色，
也通过朴素图灵测试），主要还是在于对于特定问题上，AI表现不若人类（一些空间组合游
戏还有需要大量依序推理的，AI都很难做出在复游戏中抓住一些关键线索做规则遵循，
这个即使是三岁儿童的表现都远超语言模型。不过LLM储备的知识确实普通人类一生都难以
企及，所以以实用主义来说还是有其价值。）。
不过另一个有趣的地方是神经网络学习到的空间表征确实跟人脑的心理表征存在某种层度的
呼应也有不同的地方，这个其实也是当今最需要突破也发展最慢的，有蛮多学者目前还在致
力于解释神经网络，这块整合了认知科学皮质柱的研究跟讯息瓶颈理论，究竟神经网络是怎
么压缩特征然后人脑又是怎么压缩特征到高维区的到目前有一些实验佐证但缺乏关键证据就
是了。
差不多4酱

有道理 原来是这样 (听不懂)

简单来说业界学界根本不想鸟 AI有没有生命有没有意识这种哲学问题 而是专注于AI能做到什么工作 不能做到什么工作

其实你的研究内容过时了，我小学科展曾经做过类似的关于LLM与AI的......算了，这边太小写不下，不说了

之前棒球板有个争论，如果我们很认真地喂食最强的LLM全套棒球规则，能不能阻止AI在讨论棒球时讲出各种令人脑充血的发言（现在是二出局满垒，如果打者打出双杀）我认为应该还是不行，他就是没在理解规则，喜欢黑白讲

另外感觉上AI之所以在这些事情上表现不佳根本原因是内存不足 我记得之前看过一个分析目前AI模型的等效神经突出其实远低于人脑 它更接近于使用一个性能劣势的硬件靠着不断优化软件去做超级电脑靠着屎山代码做的事

简单说AI特定领域正确率比人高，能用吗？能用会被告吗？被告在说　他的依据呢？不太清楚，慢慢研究

喂规则不行，喂够大量干净的主播发言就可以

特定领域正确率比人高这点是对的，后面各种已经快要毁灭网络文化的事情大多都要归责于人类太可恶

其实细节牵涉蛮多东西的,包括后训练这人为干涉很重的一块也是,为了校准对其人类标准,光是这个校准行为本身就是问题之一XD

和家人讨论时，他们对于AI为什么一定会有幻觉比较不太能理解，我的解释是这东西本身就是个创作家（生成式人

加上注意力问题等等,当前架构下限制很多,更不用说如果是多轮对话时量大时,可能有污染问题存在.

工智慧），你去要求他准确地回答问题已经接近于强人所难了，幻觉率压在现在这个程度甚至可以说他们尽力了偏偏主流不想让AI只当个创作家，总是把他打造成小帮手所以三不五时就会用幻觉去帮助人类

幻觉问题撇过一篇文章,一种说法是因为"奖励"设计的BUG,随便输出什么比不输出高

听起来就是如果想证明LLM有没有意识，你得找一个生物学上

今年幻觉文章很多，但从根本上解决应该还早得很

这东西就是个写作文的啊，怎么可能根除幻觉写作时组合内容产生动人创作 和 法庭上组合内容凭空捏造闹出大笑话 对他根本就是同一件事情他一直都是在这样干的，怎么人类就开始怪他胡说八道呢

现在的任何模型讲白了就是空有神经的结构、却没有像真正生物大脑一样的反复迭代并且纠错的功能ㄅ

其实不是不行，你程式设计他每天都自己去爬新的资料学新的内容就好了，但没有任何一家正经的厂商会希望自己的服务这样做，学一学就希特勒万岁他要怎么赚钱研究这东西是要好好用的，那我当然是拷打出一个保证安全的版本然后固定它不动，最好什么错都不要给我犯这样就不能算是什么生物和意识了，它就是个固定的死物

LLM的学习跟想主张LLM有意识的人所想的学习是两码事..

有些人对于“实际上是死物”的理解不够明确因为它必须好好地拿来用，所以必须是个死物设定让它能自行改变自己的常识有没有出现过？以前有然后不到24小时就希特勒万岁了，谁还敢这样玩啊

不到24小时就希特勒万岁感觉很都市传说 AI吃饱太闲去喊这干嘛？ 不到24小时就躺平摆烂才是比较合理的发展方向

因为那是放在网络让和网友交流的聊天机器人网友一定会喂食希特勒万岁的，不然要喂什么？发现已经学歪之后就紧急关机了，再下去研究经费就没了现在的服务基本上不会因为你对它灌资料而改变它的脑但那个实验就是允许网友灌资料改变，想看看能学到什么

现在AI的行为就有点像是接龙 你讲了ABC之后它预测要接DE 所以了解这点自然会觉得它不是智慧生命但随着AI越来越像是有智慧的东西，说不定反过来证明所谓复杂的智慧生命可能也是以类似的方式在运作

它本质上是个死物这点无从改变 而为什么一定是个死物这是由人类政策决定的 人类当然也可以给AI自由活动并改变自己的空间 但实际上就没人做 所以就是没有不用说讲什么骚话，让AI(搭配机器人技术)自由地上接开枪打人技术上都是做的到的，但人类就是不会那么闲

理解AI的核心架构就不会觉得有意识的问题了至少目前的模型发展还没有人创造出来会觉得有意识大概就像网络交友被诈骗一样对方讲的话你听的懂、你喜欢听不代表对方是真心的