Re: [21春] Vivy最后的boss会是谁?

楼主: zball (QQ)   2021-05-30 02:53:33
※ 引述《loserfeizie (赤井心救援大队长)》之铭言:
: Vivy第10集雷
: Vivy作曲的事情
: 知道他的曲子只有四个人
: 一个是他自己
: 一个是松本
: 另一个也是松本
: 还有一个亚卡布
: 就是在音乐教室跟他对话的机器人
: 这100年唯一跟着Vivy的AI
: 名字的全称叫“AI集合数据库 亚卡布”
: 能够让全部的AI知道Vivy的曲子
: 好像也只有她
: Vivy最后的大boss会不会就是亚卡布?
表面上来看 是拥有复写AI最高权限的管理程式(who? 亚卡布?)
严格上来说 应该是人类自己吧
其实当"自律型AI"出现时 基本上他们就已经是人了(我思故我在)
而人的思考跟情绪是不考靠的 所以才需要机器辅助/SOP/法律限制/政体框架
严格来说 就是尽可能避免少数人独断决策跟失误能影响大局
但是这部作品来看AI 人类赋予它们各种权力跟义务
但其实没什么制衡 甚至是用AI管理AI
既然自律型AI跟人一样有同样的情绪跟思考 就意味着必然会犯跟人类一样的错误
(剧里众多机种都演示过了 自律AI绝不是完美无缺的)
过度依赖AI的结果 可视为赋予AI极高的权力
看看人类政体赋予某一族群过高权力 会发生什么事情就知道
这也是许多科幻作品跟游戏会将大规模使用自律型思考AI视为危险科技的原因
: 创造且过度依赖AI的作法 可视为过度放权给名为AI的新人类而不自知
今天就算不是vivy衍生出后续的病毒失控 依莫非定律也迟早会有其他AI做出一样的事
除去人类这个万恶因素以外
最终BOSS 可能就是VIVY自己了吧 : 毕竟她是第一台自律型人形AI
如果VIVY在一开始就能因为某些事故或原因不被允许拥有自律AI思考
或许就不会有其他机种跟事件出来
蛮讽刺的 也许这奇点计画 最终的源头其实就是她自己而不自知
作者: yosaku (脆弱的超强)   2021-05-30 03:10:00
slogan就讲的很清楚了 我消灭我的故事
作者: orze04 (orz)   2021-05-30 03:12:00
发现自己就是一切问题的原点 回到诞生那一刻自杀

Links booklink

Contact Us: admin [ a t ] ucptt.com