近期AI成果一个很重要的因素是从 ‘‘有限’’解放到‘’无限‘’
有了一定程度的‘‘无限’’作为能力 能做到的事显然就变得强很多
我们可以稍微回顾一下深度学习AI的发展
2012年Nvidia的GPU被用到图片分类问题上 其实1970年代就已经有相关技术
但是很吃算力 与其让电脑慢慢学习特征 不如人工研究怎么抓特征
然后用其他AI方法可以执行更快 准确性更好
这个吃算力但是能自己学习特征的方法不被看好
过了几十年的寒冬终于龟出专武GPU
值得开始一连串工程优化来提升这派系方法的能力
这个时候各种监督式学习方法开始蓬勃发展
就是人类给答案 AI直接学推论这些答案
但是这仍然属于‘’有限‘’领域
虽然现在不用再靠人类定义大量特征来解决问题
可以用搜集到的资料让AI自己抓特征
但是能解决的问题毕竟是要人先订好答案
2014-2018年 深度强化式学习与对抗式学习 藉著这波深度学习的力量出现了
从‘’有限‘’进步到部分‘‘无限’’
最知名的分别就是围棋AI与图片生成AI
围棋从学人类大师棋谱的监督式学习 逐渐完全靠自我对战进步
只靠订好的游戏规则学习到底要怎么下才会赢 自己探索套路
透过大量的对战不断学习进步(像是经历了人类数千数万年不断对弈)
最终完全不靠人类的围棋经验 反而能远胜人类
这就从有限进步到了无限 具备无限成长潜力
生成对抗学习则是在监督式学习的基础上
让AI知道哪些是希望要的 哪些是不要的 这样的规则
然后AI不断尝试提案出各种内容 目标是通过规则的检定
产生出被认证可以的结果 这些是间接‘’创作‘’出来的内容
AI画一张图 不是只有一种结果 AI能画一堆 通过检定就行
这就比监督式学习没有创造力的‘‘有限’’ 推广到了部分“无限”
显然这些新技术能处理的问题本身有高度价值 也能拿到经费
大量学界与业界精英全都进来练蛊 自然发展飞快
再更进一步 把上面各种技术全部用上 配上更新更强的算力
透过大量语料库让AI学会讲话看起来人模人样
在局部有限下讲话能力够强 再让AI讲话还能上下文‘’串的起来‘’
从有限的讲话结果串成无限的内容
而且这些内容是根据人类的偏好串起来的
讲得都是人爱听的(随便唬烂显然不会太受喜爱)
ChatGPT诞生
有了与人直接沟通的自然语言接口 整合其他内容又更加方便
能解决的问题又更多更有价值 就是现在的结果了