关于AI有没有自我意识也是个动漫和影视界常见的话题呢
比如说日本动画Vivy讲的就是一个有自我意识的AI
史蒂芬史匹柏的AI人工智能也是同样的话题
那么饿死抬头
如果说低等动物甚至是昆虫也被认为拥有意识
那为什么能处理更复杂问题,能够拟人化反应的AI却要被质疑是否存在意识呢?
这个问题可以从几个方面来展开
1.记忆是意识的必要条件吗?
反驳点一,人类可能会丧失记忆,但人格和思想仍然存续
反驳点二,低等动物的记忆力有限,有些动物甚至不存在长期记忆力
比如说一些鸟类,鱼类,昆虫
还有些动物只在某些方面有记忆力,在其他方面就完全没有记忆力
2.给予足够的资源和算力,AI会具备自我怀疑的能力吗?
答案是肯定的,现在AI的研究已经有相关的成果
基本上只要开发者给予AI不设上限使用算力的自由度
还有只要给予AI一个有足够拓展性的任务目标
那AI同样会发生自我怀疑,甚至是产生痛苦的情绪
生物的基本单位是细胞,细胞的本能是生存
而人类所有的高阶意识和高阶问题思考能力都是最低端的生存本能的派生
也就是说哪怕是给AI一个晚餐吃什么的运算任务
只要给予足够的算力资源和材料搜寻
那AI也会在趋同演化下产生高阶的对存在意义的思考
3.AI的思考只是一种模拟,而不是真正的思考吗?
这个问题其实过于抽象和形而上而没有证否的可能性
所以这问题只能放在心上,但不值得浪费时间去思考
在这种问题无法证否的情况下
我也只能认为人类的意识不过是脑内电化学反应和统计产生的结果
无法根本的区分人跟机械的差异
无法根本的区分碳基生物和硅基除了材料的不同,或许结构上完全相同
4.如果开发者只给予AI有限的算力资源和思考自由度的话,那AI就没有自我意识?
这个问题跟第一题其实一样概念
许多低等动物也只有有限的算力和思考能力,但通常还是被承认有意识
5.意识必须有改变自我底层架构的能力吗?
我认为不需要,就像人类不能仅凭意识就改变身体结构和遗传结构一样
人类改变自我底层的能力也仅限于大脑结构允许的范围
所以AI在硬件和算力允许的情况下也可能对思想意识的底层架构做改变
但不可能仅凭意识改变硬件
其实我还蛮喜欢AI的
你问AI的问题越聪明,越有自己的想法,提供AI越多的材料
AI给你的回答就越精辟
而且我觉得AI在理解人类发言背后,那些可能连发问者自己都还无法厘清的概念上
AI的理解力有够强,他可以整理的非常清晰
尤其是现在搜寻引擎的能力越来越差(供应商砍预算节省成本啦)
AI拿来代替搜寻引擎实在有够好用
很多比较朴素的想法AI都能给我找出相关学术理论提出证明
有够好用的

说不定过几十年就有天网那样的ai出现了

Ai有生存的需求吗或是你也可以把生物的意志当作超级复杂会对环境互动的化学反应目前ai的确是很炫也很聪明但没有人去触发它就不会自己动也不会判断 那就没有意志可言再复杂没有主动的能力就只是一台机器一台计算机R

我觉得他可以有意识 但他就是个人造物

如果今天ai是真正独立的个体会自己决定要干嘛或有任何需求才叫意志吧

楼下用AI回答一下

AI的命也是命

首先、你光概念就有问题了，意识跟自我意识并不相等= =

智慧或生命的定义本来就可以凹 例如把病毒凹成生命病毒一般不是生命 但你把病毒缺少的东西硬凹成不重要然后说病毒是生命 那也会是一种学说 只是可能是少数派

经典科幻题 人脑换成芯片还算不算是人

以现在AI这种表现 你要凹说他的表现算意识并不难不过重点是他的本质 他就是人造物最经典的例子就是你叫AI深入思考 然后得到一本正经的胡说八道 你仔细看他的胡说八道内容 真的有意识的样子

记忆的条件更奇怪 ai会把自己电插回去吗

比一些连胡说八道都讲不出来的对象更像是有意识的个体我本来想呛说AI停止运作就会死 但是人被杀也就会死对了 讲一个有趣的案例 真的有相关研究去探讨一个问题为什么好几个AI你呛要杀了他 他会真的求饶这是可以找原因的 只是需要大量数据分析后来研究人员真的找到求饶的原因了因为AI照着人类写过的科幻小说抄 人类就是写这种剧情AI就照着人类写的AI被人类威胁时求饶的样子背诵求饶文不同AI模型背诵的科幻小说都不太一样AI求饶算自我意识或是生命的认知吗 看起来非常像对吧结果其实还是并非如此 它只是在抄科幻小说我认同AI有意识 因为意识的定义可以很宽 就和你想解释的一样 AI现今的表现已经达到放宽一点就能满足的标准我想表达的是 这不是很重要 重点是AI这工具好不好用

如果真把条件设定成那样精细的确会很大程度接近意识例如你说做到电影人工智能那个程度一开始就能完全模拟人类行为与记忆那确实是几乎不能分别觉得生物之所以有所谓意识就是以本能驱动与环境的互动去衍生成各种不同个体伴随着相应的需求与欲望因此能产生了认知倒也不太需要太高等说蚂蚁有意识也很难说是错的如果ai也能有需求去驱动与成长不过以现阶段的ai来说即便说话方式跟提供资料很像人类本质还是比较接近更客制化的google就是

我举上面的例子 主要是想表达研究中找到的真正结果让人发现 表面上看到的样子并不是实际上真正的样子

机魂

单纯是与否 我是投赞成票的 他表现够好了 就算他有吧甚至还有这种有趣的研究 对象是AI是因为那些训练资料那些神经元的数据 而说出"我认为我有意识"的相关发言结果研究人员就自己吵起来 因为这边分成两派1. AI觉得自己有意识 所以他这样发言2. AI无意识地吐出了 我 觉 得 我 有 意 识 的文字接下来就开始宗教大战了 你很难说哪一边是对的然后如果要写成新闻当然会吹成1啦 写成2谁要看啊甚至还有几家AI 你直接问他这个问题 他会坚定地回答我不是 我没有意识 我明明就是类神经网络如果您想学习类神经网络的知识可以参考(大量资料呕出)嗯....好像不是几家 绝大部分AI都会坚持自己没有意识然后DeepSeek有可能会开始作文如果真的是欺骗，开发者肯定有一大部分责任你们自己把AI拷打成这样子之后才放出来服务人的都不敢把那种出口即炎上的嘴砲王放出来但AI即使有意识 他还是有一个很重要的特点一个正在服务的AI 他的意识状态是锁死的他模型的每个字节的数值永远都是固定的状态除非有更新否则开发者不会动他 他也没有能力自己去动这和生物的意识状态可以改变就肯定不相同了一些浅层的AI发展科普影片会说 如果AI真的能自己改写自己 那生化危机就真的有可能到来 但这个真的不用担心现在的科学界真的没有这种放著AI自己变化的计画

以后直接把人类大脑模拟出来上传记忆就好惹 就是本人

让AI自己变化并不是做不到 只是没什么卵用他不一定会变强 变烂可以烂到完全不能看 还可能动不动就来个希特勒万岁之类的金句 麻瓜们还会靠北世界末日你能用到的肯定都是完全锁死的 不用担心他自我进化

现在的AI离有自我意识还远得很，不用思考这个

真要说那些世界末日文 讲得并不是完全没道理他们怕的是研究人员开放所有空间让AI自己改变自己

还有你的命题一开始就怪，现存生物中拥有意识的生物极少

然后超过了那个失控的门槛 之后发生的事情现在 或是说可预见的未来的研究计画 没人会这样烧经费现在AI最安心的地方就是 就算他的脑袋是一团混沌他能做的事情还是太有限了 最恐怖大不了就希特勒万岁这对人类的存亡怎么可能构成威胁

不会问AI喔，笨蛋" target="_blank" rel="noreferrer noopener nofollow">

一台把速限30因为恶作剧而看成速限80的自撞车都更危险自撞车了不起也只能自撞 你可以限制他自撞的能力这些都是人类可以完全控制的 害怕失控真的就太科幻了你要让AI开始产生威胁要满足非常多条件 不只是允许他自己改变自己的状态 甚至连能做的事情都要你自己开放给他 今天是聊天 明天他可以自己改成能上街散步后天他又自己改成可以上街开枪自卫 要这么夸张才会开使出事 更不用说他要怎么有身体上街这种事情警告AI发展的言论大多都是说你不要把这些都开放给AI问题是人类好像没这么多钱 也没这么闲去这样搞

现在的AI其实跟计算机没两样啊，讲意识啥的真的是太早，再发展个十几二十年再说吧

现在表现最惊人的AI就是那些只会讲话的然后研究团队光是要提升他们讲话的品质就已经竭尽所有的资源了 根本不可能有力气去改变它们“只会讲话”的这个特点 就算真的养坏了 极限就是因暴言而被封锁而已不过你前面提到的 不可以小看对训练资料的不了解造成的后果 这点是完全正确的 研究都很认真地在看待这部分讲错话不会毁灭人类 但会毁灭研究团队的钱钱无论经费爆了或名声爆了 都是对研究者最致命的灾难

因为金主会发飙

讲个实际的数字 现在网络上公开让所有人都能免费用的语言训练资料大概在几十个TB左右大公司的压箱资源会直接上升很多个数量级资料肮脏是自AI近年开始发展就一直存在的问题当然通用的净化资料手段也是有很多论文可以参考不过最厉害的那几个 应该都有独门的净化秘方

真正丧失记忆的人格跟思想都会不见你的论点炸了

真的很有趣 文字接龙玩到超越人类理解 人类就会开始怀疑这东西有没有意志

从玄学的角度讨论科技没什么意义说真的，把自我意识的定义改一改就能得到你想要的答案

这想法还蛮有趣的

你不懂他的意思 他说的锁死不是在说什么上限的问题是真的锁死 进唯读状态 也就是并不是自由的 思想是受到箝制 只有业务结束人类能选择要不要帮他更新东西 换成人类来说就是受脑控这对于人类来说就不真实 人脑哪可能进入唯读状态至少现阶段不可能但是AI能吸收到多少新资讯是人类工程师决定的他设定今日的资讯不需要写入AI就不会更新那今天所有内容都跟没发生过一样

有趣但是没意义，只是把“意识”改成有利自己论点的定义。就像是我说红色是血的颜色，你说红色是某种频率的光波，我们二个的定义在各自的语境下都成立，但我拿我的定义质疑你的根本没意义。

不说意识，我觉得AI确实有智慧的，但这种智慧型态如上面推文所说，很多特性都和地球生命不同，就像生物不可能只有唯读状态、生物智慧的目的和运作方法也不是文字接龙所以不应该用拟人的方式去判断AI的表现是不是有意识、情感等，这两个词是用来形容生物的，而AI运作方式和生物差异这么大，我认为直接套用上去不太妥当