※ 引述《choulan (莫可莫可)》之铭言
: 最近聊天用的AI很夯，我也去玩了一下，也试着弄了一些文字冒险游戏
小弟本身是相关的研究领域的刚好在西恰看到就简单回答，chatGPT当前是没有所谓记忆这
件事的，他其实是用到一个Trick就是直接把你前面的对话直接并到当前对话，由于目前有
最大字数上限(印象中是4000还是40000，有错还请见谅)超过就直接把你前面的对话都丢掉
，所以你常常会发现他好像讲一讲就自己忘记了。
GPT系列本身其实就是有点像接龙一样的语言模型，你问马可就会去预测一般人类遇到最常
做哪种回复(最常见应该是波罗)，所以你要说他有智慧还差得蛮远的，甚至生物智慧都是一
个当前学术研究的问题，像是神经演化算法也是一个新的研究方向(当前的神经元设计是由
人工构造用一些最佳化算法最佳化参数，而神经演化是基于遗传算法跟自然选择用进废退的
方式企图让模型自我生成)。
最后当前有几种业界常见的让chatBot有记忆的方式，第一种是用一个长短期记忆神经网络
来去记住前面经过哪些对话序列后该选择下一个是什么，这种常见有明确选择式的chatBot
，像是点餐机器人就是根据公司设定的对话串再决定你下一句该选择哪个对话节点，另一种
是去透过一个更轻量的小网络来训练机器把需要记忆的事情存起来，等到侦测到需要查询的
内容再合并起来给模型生成对话回复，其他的还有一些正在研究的做法，太复杂学术的就不
再这边讨论了。
人类其实在记忆上是很复杂的，大脑有分短期记忆跟长期记忆，而且人类也会选择记忆，举
例来说，你跟朋友前天话家常讲干话的内容应该没有人都可以完全记住的，但是你跟主管开
会讨论的内容重要代办事项至少可以让你记住两三天后再忘记，人类也会借助外部储存工具
来辅助，所以这块还是有很多代解之谜，我跟大家都一样期待有一天机器可以完美复刻人脑
通过百分之百的图灵测试，那么那天真的就是人类的科技奇点，再此之前身为研究员也会不
断努力地站在巨人肩膀上也给后辈当巨人的肩膀传承我们的任务。

这篇有种ai产的感觉（欸

只能等传说中能通过图灵的gpt4了

不是干话可以记好几个月但是开会只能记两三天吗（误

我总觉得LSTM那作法感觉不是很scalable 说XD