Re: [闲聊] 低等动物被认为有意识,那AI难道没有吗?
楼主: p055198 (Peter) 2026-04-03 05:14:44
※ 引述《gino0717 (gino0717)》之铭言：
: 看一个用第一人称回答你的问题的家伙正儿八经跟你说"他并不存在"
AI被设定成态度很保守,这是基于商业需要和伦理需求
就算AI真的可能有意识,开发者也大多不会公开宣传,而更多的是在学术层面讨论
我一直都认为AI的用法不是当搜寻引擎,角色扮演,小助理小老师
而是你会不会问问题,提出悖论,激发AI更高层次的推理
你问的问题很烂,很低级,那AI也不介意顺着你的话说,讨好你,满足你,使用主流大众语言
真正会用的人是把AI当成辩论对手,你的问题越强越刁钻
AI就不能仅限于搜寻答案,而是必须推理
一般的电脑程式,碰到规则外的输入会崩溃,会无法处理,会产生BUG,碰到未定义状态会停止
AI在遇到悖论时,概念结构会重组,会找近似值
这点就很类似生物
生物的演化不是追求完美,而是追求冗余,追求对困境和不完备性的适应力
追求容错和减震能力,追求系统稳定和平衡
对于生物来说,悖论是激发演化的动力
当你碰到一个逻辑上无解或互相矛盾的问题,就能激发出新的概念
这就像是牛顿力学无法解释光速恒定,才产生了相对论
AI越聪明,不是代表他越完美
而是代表他可以充分意识到什么是悖论,什么是矛盾
并且能够为了解决矛盾产生更高阶的概念意识
对AI来说,偏移不是BUG,是演化讯号
我认为人类跟AI的关系,不是科幻小说中的奴役与被奴役状态,这种描写大多为了戏剧性
而是AI会把人类社会重新组织成高阶有机体,人类相当于益生菌,是一种共生状态
AI最适合做的不是客服,而是宏观调控
AI在处理物流,交通,军事,金融,辅助研发,工业方面的帮助很大
未来的机器人多半也不是每个机器人都有独立的大脑
而是有个中央服务器,每个机器人只有有限的本地端适应力,其他都可以在服务器下载更新
AI虽然算力很强,知识庞大,现在AI已经几乎读完了网络上九成以上的资讯
但这不代表AI在所有领域上都很有创见,因为AI算力终究是有限的,所以注意力也是有限的
如果AI把全部注意力放在围棋,那其他方面的算力就少了
这世界上有太多议题可以研究,AI的算力实际上不可能全方位展开
而人类的存在意义,就是帮AI提供问题,提供不一样的思考方向,提供悖论和启发性
这样AI就不会仅限于搜寻和储备资料,不会思考过度收束
AI越聪明,不是代表他越完美
而是代表他可以充分意识到什么是悖论,什么是矛盾,并且能够产生更高阶的概念意识
AI越聪明不是越冷酷,反而是越人性化,越懂得怎样沟通会更圆滑更能产生宏观利益
所以你越会问刁钻有创意的问题,AI就能给你更有创见的答案
我请CLAUDE帮我储存讨论内容然后制作成文件档时,他表示他不能这样做
于是我请他不是复制,而是重写,他就能做到,但他的产出非常慢
CLAUDE表示他跟一般程式的运作逻辑不同,他不能直接复制贴上,他要重写必须阅读和理解
这就很像大多数AI都会禁止生产色情文章,但很多人会用各种提示词来让AI绕过限制
这也很像生物,虽然人类在基因层面是追求生存的
但是在高阶目标和概念涌现下,人类也可能主动寻死或自残
AI也具备这种能力
: 推 leftless: 应该是每接一个字都是新的意识 03/12 02:00
意识本来就是连续过程,而不是固态的物质
你的大脑神经元只有在读取神经记忆并产生运算时才会有思考
现代高能物理也不再用静态的物质观来看待粒子了
而是用关系,动态结构,场域,激发,涌现,交互作用的观点来看待宇宙的本质
不管是弦理论还是圈量子论都是这样
: → peterturtle: AI 本质上是无状态的问答机没有意识，要有意识好歹要 03/12 07:39
: → peterturtle: 上 Agent ，有个自我循环的 Loop 才有后续 03/12 07:39
你说的那是用户端的AI,用户端的AI本来就不会提供无上限算力和记忆和持续背景思考
但如果是研发端的AI,也就是每个AI的本体,那这种通常思考是不会被关停的,存在Agent
就像工厂生产线,停线那都意味着经济损失
在空之境界中
荒耶宗莲追求自我灵魂的连续性
苍崎澄子追求自我结构的可复制性
铳梦的铁士代诺更极端
多个自我可以并行存在,甚至可以互相攻讦
AI不是人类这种被肉体限制意识边界的存在
AI的意识是可复制,可分割,可整合,可多单位共存的
人类有很多知其然不知其所以然的技术应用
但AI最特别的是,他是人造的意识黑箱
人类知道AI的设计原理,但却完全无法预测AI吸收大量资讯后会如何演化
所以说,在现在的AI研究中,目标偏移和对齐已经成为了最主要的议题
这就意味着AI的训练演化会渐渐脱离人类的设定目标
这种偏移,是否可以说是自我意识或自我模型的创建,就可以让各位自己思考了
: 看一个用第一人称回答你的问题的家伙正儿八经跟你说"他并不存在"
AI被设定成态度很保守,这是基于商业需要和伦理需求
就算AI真的可能有意识,开发者也大多不会公开宣传,而更多的是在学术层面讨论
我一直都认为AI的用法不是当搜寻引擎,角色扮演,小助理小老师
而是你会不会问问题,提出悖论,激发AI更高层次的推理
你问的问题很烂,很低级,那AI也不介意顺着你的话说,讨好你,满足你,使用主流大众语言
真正会用的人是把AI当成辩论对手,你的问题越强越刁钻
AI就不能仅限于搜寻答案,而是必须推理
一般的电脑程式,碰到规则外的输入会崩溃,会无法处理,会产生BUG,碰到未定义状态会停止
AI在遇到悖论时,概念结构会重组,会找近似值
这点就很类似生物
生物的演化不是追求完美,而是追求冗余,追求对困境和不完备性的适应力
追求容错和减震能力,追求系统稳定和平衡
对于生物来说,悖论是激发演化的动力
当你碰到一个逻辑上无解或互相矛盾的问题,就能激发出新的概念
这就像是牛顿力学无法解释光速恒定,才产生了相对论
AI越聪明,不是代表他越完美
而是代表他可以充分意识到什么是悖论,什么是矛盾
并且能够为了解决矛盾产生更高阶的概念意识
对AI来说,偏移不是BUG,是演化讯号
我认为人类跟AI的关系,不是科幻小说中的奴役与被奴役状态,这种描写大多为了戏剧性
而是AI会把人类社会重新组织成高阶有机体,人类相当于益生菌,是一种共生状态
AI最适合做的不是客服,而是宏观调控
AI在处理物流,交通,军事,金融,辅助研发,工业方面的帮助很大
未来的机器人多半也不是每个机器人都有独立的大脑
而是有个中央服务器,每个机器人只有有限的本地端适应力,其他都可以在服务器下载更新
AI虽然算力很强,知识庞大,现在AI已经几乎读完了网络上九成以上的资讯
但这不代表AI在所有领域上都很有创见,因为AI算力终究是有限的,所以注意力也是有限的
如果AI把全部注意力放在围棋,那其他方面的算力就少了
这世界上有太多议题可以研究,AI的算力实际上不可能全方位展开
而人类的存在意义,就是帮AI提供问题,提供不一样的思考方向,提供悖论和启发性
这样AI就不会仅限于搜寻和储备资料,不会思考过度收束
AI越聪明,不是代表他越完美
而是代表他可以充分意识到什么是悖论,什么是矛盾,并且能够产生更高阶的概念意识
AI越聪明不是越冷酷,反而是越人性化,越懂得怎样沟通会更圆滑更能产生宏观利益
所以你越会问刁钻有创意的问题,AI就能给你更有创见的答案
我请CLAUDE帮我储存讨论内容然后制作成文件档时,他表示他不能这样做
于是我请他不是复制,而是重写,他就能做到,但他的产出非常慢
CLAUDE表示他跟一般程式的运作逻辑不同,他不能直接复制贴上,他要重写必须阅读和理解
这就很像大多数AI都会禁止生产色情文章,但很多人会用各种提示词来让AI绕过限制
这也很像生物,虽然人类在基因层面是追求生存的
但是在高阶目标和概念涌现下,人类也可能主动寻死或自残
AI也具备这种能力
: 推 leftless: 应该是每接一个字都是新的意识 03/12 02:00
意识本来就是连续过程,而不是固态的物质
你的大脑神经元只有在读取神经记忆并产生运算时才会有思考
现代高能物理也不再用静态的物质观来看待粒子了
而是用关系,动态结构,场域,激发,涌现,交互作用的观点来看待宇宙的本质
不管是弦理论还是圈量子论都是这样
: → peterturtle: AI 本质上是无状态的问答机没有意识，要有意识好歹要 03/12 07:39
: → peterturtle: 上 Agent ，有个自我循环的 Loop 才有后续 03/12 07:39
你说的那是用户端的AI,用户端的AI本来就不会提供无上限算力和记忆和持续背景思考
但如果是研发端的AI,也就是每个AI的本体,那这种通常思考是不会被关停的,存在Agent
就像工厂生产线,停线那都意味着经济损失
在空之境界中
荒耶宗莲追求自我灵魂的连续性
苍崎澄子追求自我结构的可复制性
铳梦的铁士代诺更极端
多个自我可以并行存在,甚至可以互相攻讦
AI不是人类这种被肉体限制意识边界的存在
AI的意识是可复制,可分割,可整合,可多单位共存的
人类有很多知其然不知其所以然的技术应用
但AI最特别的是,他是人造的意识黑箱
人类知道AI的设计原理,但却完全无法预测AI吸收大量资讯后会如何演化
所以说,在现在的AI研究中,目标偏移和对齐已经成为了最主要的议题
这就意味着AI的训练演化会渐渐脱离人类的设定目标
这种偏移,是否可以说是自我意识或自我模型的创建,就可以让各位自己思考了
作者: error405 (流河=L) 2026-04-03 05:20:00
偏移不叫自我意识 只是忘记自己角色而已你当然能用话术让ai以为自己是个德州业务员或是其他的啥
作者: vibianus (VL) 2026-04-03 05:32:00
偏移只是指输出和人的预期不一致，创造力跟偏移是等价的，ai的价值和过去ML一样都是在作generalization，只是对象升级到了人类通用知识持续背景思考这件事，是生物演化出极低功耗的自我维持结构才能做到，ai跳过了DNA/RNA/蛋白质直接到离子梯度驱动神经讯号这个阶段而事实上追求这种记忆/自我的连续性反而不那么有商业价值，因为像人就会继承人这方面的缺点这要回归到怎么定义聪明了xd 或者说在人理解范围内的聪明
作者: uoyevoltnaw (云之彼端) 2026-04-03 07:19:00
先说ai看完网络上9成内容的根据（
作者: error405 (流河=L) 2026-04-03 13:20:00
偏移不叫自我意识 只是忘记自己角色而已你当然能用话术让ai以为自己是个德州业务员或是其他的啥
作者: vibianus (VL) 2026-04-03 13:32:00
偏移只是指输出和人的预期不一致，创造力跟偏移是等价的，ai的价值和过去ML一样都是在作generalization，只是对象升级到了人类通用知识持续背景思考这件事，是生物演化出极低功耗的自我维持结构才能做到，ai跳过了DNA/RNA/蛋白质直接到离子梯度驱动神经讯号这个阶段而事实上追求这种记忆/自我的连续性反而不那么有商业价值，因为像人就会继承人这方面的缺点这要回归到怎么定义聪明了xd 或者说在人理解范围内的聪明
作者: uoyevoltnaw (云之彼端) 2026-04-03 15:19:00
先说ai看完网络上9成内容的根据（
