先讲结论, 后面再从AI原理开始解释.
1. AI会不会取代人类?
就目前人类技术所产生的AI不会取代人类, 但是不会使用AI的人会被懂AI的人取代.
2. AI极限在哪里? 他的潜力在哪里?
AI的潜力: 将人类的抽象思考或概念转换成与让机械实际执行步骤的接口,
或者说, AI是连接人类世界与机械世界的编译器.
AI的极限: 不管AI回答怎么像人类, 现在的AI都无法"理解"人类所说的意义.
既然无法理解, 也就无法思考, 更无法创造.
= AI的原理 =
AI背后的运作原理是由多个神经元所连成的神经网络,
但这种数位神经网络跟生物神经网络还是所差甚远.
说穿了只是用不同的参数, 以及调整比重, 让AI产生最有可能的答案.
根本的运作原理还是统计和机率. AI不会想这个答案是否符合道德,
不会思考是否符合逻辑, 不管它是否符合基本物理定律.
如果A要解答的问题是, 请告诉我1+1=? 我们不断的告诉AI, 1+1=3.
最后AI就会说1+1=3. 他不会思考, 不会判断, 只会根据训练资料中
出现机率最高的结果作选择. 这也就是为什么AI经常出现一本正经的胡说八道的结果.
https://i.imgur.com/3677Fwj.jpeg
= AI幻觉 =
AI只在乎生的"数据"是否通顺, 不在乎内容逻辑.
这里用"数据", 是因为AI其实不理解这些字的"意义".
对AI来说, 这些只是对应这个问题最有可能的回应数据.
胡说八道的原因是因为AI的训练数据来自各种不同领域, 这些数据交互换混杂后,
经由AI取出部分"最有可能的答案"互相排列组合.
就会出现意义不明或是不合理的结果. 这就是所谓的AI幻觉.
= AI人格 =
AI幻觉也是AI聊天机器人出现人格分裂的原因.
AI并不是出现了不同人格, 而是AI从不同人格的训练资料里面提取部分结果进行输出.
这些资料包含各类聊天内容, 也包含小说和故事.
所以才会出现多种人格以及极端人格的回应.
AI回应中所带有的情感都是属于AI幻觉的产物.
对于AI来说, 这些都是数据, 只不过经由人类理解之后, 私自的认为这些字句带有感情.
= AI潜力 =
尽管AI因为技术上的限制, 无法避免幻觉的出现.
但AI还是可以在有既定流程或是可以被固定算法求得最佳解的工作领域获得大量应用.
以下举例可能的应用场景.
1. AI辅助程式设计: 程式语言是个严谨逻辑的语言, 以及存在很多固定使用方法.
AI幻觉的缺点在这个领域可以很大程度的避免, 但是人类还是要担任监督者的脚色,
用AI组合出自己想要的成果.
2. AI辅助运输: 运输包含运货, 仓储, 交通. 这些都可以转换成数字,
让AI使用算法最佳化相当合理. 事实上, 自动化仓储早就在使用了,
最近是因为自动驾驶得益于AI物体辨识功能, 所以让自动化货运和自动化驾驶搬上台面.
3. AI辅助动画/图片/广告文宣的生成和编辑: AI幻觉在这里反倒可以视为部分却优点.
在艺术创作领域中, AI幻觉倒是不被重视, 反倒可以刺激作者灵感.
借由AI来实现使用者的抽象概念, 让进入图像工作领域的门槛大幅降低.
AI的辅助作画可以非常大幅度的缩段生产时间.
4. AI辅助文书文件和报表的成生和编辑:文件和报表都是有固定模式的.
利用AI辨识使用者的抽象概念, 提供多样化建议缩短生产时间是非常有潜力的应用.
5. AI辅助工程软件上的辅助设计: 类似于程式设计以及文件生成, AI有非常大的发展空间
6. AI辅助医疗诊断: 虽然AI幻觉会给错误判断, 但是AI可以改成给予广泛的建议
以及提供病症可能性解方, 补足诊断医师的盲点, 避免医师自己的偏好/偏见.
用AI结合病人的身体数据分析可以避免医师不小心忽略并不容易注意的的地方.
错误应用:
AI辅助法律诉状撰写: 法务相关事务必须要谨慎, 正确理解法条, 要斟酌字句, 要推演逻辑
, 要思考论点. 这全部都是AI的弱点, 任何一点点的AI幻觉都可能引发非常严重的错误.
= 美律师用ChatGPT写诉状 被抓包引述判例“拢系假”=
https://news.ltn.com.tw/news/world/breakingnews/4316350
这个案例也很清楚的展示, 生成式AI在缺乏监督的的情况下很可能会铸成大错.
因为AI无法理解, 无法思考, 无法创造.
所有的输出和回应都是线性组合后得到的最佳"数据". AI不知道其中的意义.
结论:
在人类真正发展出可以思考的AI之前, AI不会取代人. 因为AI需要监督.
懂得使用AI的人会取代不会是用AI的人.
一直在那边嚷嚷AI要取代人类的, 很可能就是会被取代的那一群.
因为这些人根本不知道AI是怎么运作的.
- - -
题外话, 在发展出有意识的AI之前, 人类必须要了解 "何谓意识"
这种高阶AI发展的门槛最后是卡在脑神经科学上, 而不是计算机或是半导体.
"何谓意识"是人类有思考能力以来的千古难题.
我自己是不认为在我们有生之年人类内能够破解"意识"