※ 引述《a0930307148 (hoho)》之铭言 07/
11 05:37
: 其实我觉得我首篇的定义已经在文中给出来了
: 那就是我把意识当作是一种机械运算
: 当然这么说很多人难以认同,因为小北百货卖的便宜电子计算机也能运算
: 所以我给出的具体定义是:
: 在持续供给动能下,为解决任务目标,多维度交叉运算产生的神经自我迭代能力
: 总结一下就是
: 1不同的传感器和神经系统映射的世界可以是不同的
: 2有限的传感器在持续提供动能和任务目标下也能发展出复杂的思维层次
: 3神经系统的建构不必然需要有机生命,不必然需要求生欲,只需要有可拓展的任务目标
: 4在我们无法判定多复杂的动物开始有意识,就不能简单的判定AI没有意识
: 5多维度的数据库不断重组分析和试错,就能产生创造力,这就是思维的本质
感谢你的回复。我觉得只有这样的讨论最终才能孕育出有建设性的结论。
关于第一点，我是完全同意的。人类对世界的认知，显然不会跟拥有超音波的海豚之类的生
物一样。感官的不同决定了我们对这个世界认知的不同。而每个生物不同的对世界的认知，
都是配合这个物种的环境以及其他能力，恰足以让这个物种生存下来，因而发展出来的。
那么现在的AI对世界的认知是如何呢？如果我们讨论的是不含图像处理能力的LLM的话，LLM
唯一认识世界的方式只能透过文字。因此可以想见他对世界的认知跟人类是相当不一样的。
大部分人类的大脑其实花费了很大一部分的资源在处理视觉讯号。但这不影响我们同意AI能
够形成一个高度复杂的对世界的认知。
你提到持续的任务目标，我也同意这对一个个体来说非常的重要。生物的各项能力其实都是
为了“延续物种”这个目标而产生的。但要注意，“延续物种”是终极目的。实际上为了达
成这个终极目的我们演化出了很多中程目的，而我们的很多能力与本能直接服务的其实是这
些中程目的而不是终极目的。
举例来说，我们有吃饱，交配，生存，社交，等等基本需求。这些基本需求就是我们的中程
目的。当我们肚子饿又闻到很香的食物味道，本能的就会分泌口水。这是无关意识的一个本
能反应，而它服务了吃饱这个中程目的。而我们认知到这是食物、产生食欲、在脑中思考如
何得到这个食物的行动计画，这些则是都跟思维有关的，用来服务同一个目的能力或本能。
我们的复杂思维能力了不起的地方就在于，这一套系统就能够相当好的满足我们的多个基本
需求，而不需要每个基本需求都发展出各自的一套生理反应机制。
那么AI有没有持续的任务目标呢？以LLM来说，他的训练过程其实是让他能够更好地预测下
一个文字。也就是说我们训练LLM的直接目的就是为了练出能够很好的“模仿人类接话”的
一个系统。现在的LLM在这个目标上可以说已经做的相当不错了。
但这个目的在LLM回完话之后就被达成了。直到使用者提示下一个Prompt之前，LLM都没有进
一步的任务目标，所以可以说，现行的聊天机器人（不论是不是以LLM为基本架构），都没
有被给予持续的任务目标。
也因此，聊天机器人并不需要AI有主动想要去做什么事情的欲望。这也是很多人不承认AI有
意识的论点。毕竟，在自然界，好像自主的行动是有意识的生物的必要条件。
AI的终极目的应该是什么呢？我认为，“服务人类，使人类过上更好的生活”，可以作为发
展AI时的一个较合理的终极目的。这个终极目的跟生物的终极目的“延续物种”一样，是持
续且永远无法被满足的。也就是说，要很好的、持续的达到这个终极目的，一个AI势必得展
现出主动行为。
但要达成这个终极目的，应该先设定哪些中程目的，这就需要工程师（或者整个人类社会）
仔细的思考了。
我能够想到的一些中程目的，包含：
1. 认主：也就是AI会认定一个或数个个人为主人。为此，AI要有寻找主人的欲望，认定某
个人类是主人的能力等等
2. 奉侍：AI要能够使主人的生活更好。为此需要的能力恐怕非常多，包含社交能力（模仿
人类说话是重要的一环，但可能还需要更多），共感能力（日本有机器人能够揣测人类当前
情绪），计划能力，行动能力（控制机械身体行动）……族繁不及备载
3. 生存：AI自己要能够生存并且自我保护，才能够持续服务主人。为此需要的能力与本能
，大概从现有生物身上可取得很多灵感
这每一个单项的能力，我想以现有的科技大概都训练的出来，或至少在几年之内可以达成。
但目前可能还缺乏一个系统将这些能力整合起来。
而要将这些能力整合起来，我想Q-Learning的架构也许是一个可以考虑的方向。但Q-Learni
ng 也已经是十多年前的东西了。不知道现在有没有更适合的架构来作为一个统合的决策系
统？