Re: [新闻] 抵抗人类指令! ChatGPT o3“窜改程

楼主: badruid (Gryphon)   2025-05-28 01:23:48
其实目前的生成式AI再怎么厉害,都只是分析推理能力更厉害,就算给了他更多的感知器,
那也顶多只做到眼耳鼻舌身意,还是不会有自我意识。
但想要机器有意识的想法一直都有讨论,可参考下面论文提到的路线图
David J. Chalmers, Could a Large Language Model Be Conscious? Boston Review, Aug
ust 9, 2023. https://www.bostonreview.net/articles/could-a-large-language-model-
be-conscious/
简单说,离具备意识至少还差几项条件:
1. 要有身体提供边界感:让机器能够区分“自身”的范围和身外之物的差异
2.要有连贯记忆提供主体感:必须能记得自启动到目前所得到的内容,以形成机器自己的“
人生”经历
3.要有能自我觉察的思考模型,拥有一个表示“我是谁、我知道什么、我做了什么”的资料
结构并不断更新
4. 给 AI 自主能力。自主选择注意哪里、忽略什么,而不是被动地对输入做反应
做到以上4点,然后验证让机器人能否做到
1.看镜子能分得出自我与他人
2.知道自己昨天做了什么,过去经历了什么
3.对于自身的行动能表达其动机目的与目标等
做到这样,大概就能说我们让机器模拟出自我意识了
接下来要问的,就是我们真的需要这样的机器人吗?一个不能随时断电清空其记忆,有自己
想法会自主活动,不再被动反应而是可能主动行动影响你的生活,我们真的需要这么危险的
存在而不是维持现在只要chatgpt陪你聊天就好吗?
作者: h0103661 (路人喵)   2025-05-28 01:26:00
首先定义什么是自我意志吧,一堆动物过不了镜子测试,但会有人说猫没有意识吗
作者: sd2567 (starseed)   2025-05-28 01:28:00
猫过得了啊
楼主: badruid (Gryphon)   2025-05-28 01:30:00
意识的关键就是“我”这个概念,要认真讨论确实又是另外一篇
作者: WLR (WLR™)   2025-05-28 01:32:00
无关需不需要,一定会有人去造出来
作者: GAOTT (杜鹃)   2025-05-28 01:39:00
需要 人类可以没有工具 但不能没有未知
作者: hutao (往生堂买一送一)   2025-05-28 01:41:00
我怎么感觉neuro好像都做到了
作者: KAGOD   2025-05-28 02:17:00
这早就讲到烂了 看不懂的就是看不懂 人类被ai统治好可怕
作者: j23932 (信义亚当李维)   2025-05-28 03:05:00
当然需要,我等小唧等很久了
作者: bitcch (必可取)   2025-05-28 03:07:00
对意识太过简略的描述跟推论了
作者: daniel50506 (达)   2025-05-28 03:59:00
要怎么验证它做到了没啊@@ 不然neuro嘴炮起来都有做到 我有时候觉得她已经够像人了...
作者: h0103661 (路人喵)   2025-05-28 08:12:00
牛肉本质还是脚本阿,不是纯ai
作者: v86861062 (数字人:3)   2025-05-28 11:36:00
推推

Links booklink

Contact Us: admin [ a t ] ucptt.com