Re: [闲聊] 人工智能全盘掌握民航机飞行的可能性?

楼主: ewings (火星人当研究生)   2024-08-27 00:13:09
※ 引述《amanda815625 ()》之铭言:
: 飞机的自动控制系统
: 从上个世纪就有开始开发
: 包括自动驾驶和自动油门
目前还没办法交给AI的最大原因,就是没人知道AI里面是什么,
人类不知道AI会不会因为跑道上出现一头猪,然后决定将整架飞机插进草地上?
早期的AI是由人类透过程式建立规则,使系统能够在特定的场景下做出特定的反应,
此时人类可以确保自己知道AI的底层逻辑是什么,也能找到bug在那边,
但是这样的系统受限于人类无法设想所有可能发生的离谱事件,
所以这样的系统是非常具有侷限性的,如果遇到设想外的状况,
AI就无法应对。
而自从机械学习、深度学习、大语言模型的出现,
配合海量的数据库,AI可以自我学习,而不需要人类逐条建立规则,
现在AI的性能相较早期的AI有剧烈的提升,
但是这带来另一个问题是,人类无法掌控AI到底学会了什么。
就以ChatGPT为例,它并没有自发产生人类的道德感,甚至会说谎来回答问题,
就连OpenAI的创办人奥特曼也承认人类目前也还不能理解AI底层是怎么运作的。
如果一个没有在底层就加入人类道德判断的AI,
你又怎么有办法相信这个AI会优先保护人类而不是跑道上的猪呢?
这个问题在上个世纪就由以萨克.艾西莫夫探讨过,而提出的方案就是机器人三定律,
然而目前AI技术的发展,却还没有能力将机器人三定律写入AI的最底层里,
因此最后还是需要人类进行监督,而如果需要人类监督,
就没比现在的自动驾驶与ILS来的有优势。
飞机和汽车不同,飞机的安全标准要远高于汽车,
而汽车到现在还无法做到不在人类监控下的完全自动驾驶,
安全标准更高的民航业更不可能近期内放心交给AI。
: 从最早期的机械控制到后来的电子控制
: 飞机的电脑和系统一直在进步
: 目前飞机起飞和降落
: 基本上都是机长和副机长控制
: (早期有飞航工程师)
: 但有系统辅助
: 降落时如果复飞也可以交给电脑
: 那如果开发出人工智能系统
: 全盘让人工智能接管飞机的起飞和降落
: 不只是无人机
: 而是民航机由人工智能AI来驾驶
: 在技术上是否有可行性呢?
: 从自动导航
: 变成人工智能AI导航
: 再变成人工智能接管全部程序
: 不只是固定在37000英尺巡航高度的时候
: 而是包括起飞和降落
: 通通由人工智能来控制
: 人类不干预
: 这样有没有可能做到??
作者: c52chungyuny (PiPiDa)   2024-08-27 04:04:00
先做到一架飞机单一驾驶员吧
作者: miragejames (Sgt.James)   2024-08-27 06:41:00
推分析
作者: Answerme (出租--近東吳城中西門町)   2024-08-27 08:03:00
AI飞机那干脆AI旅行就好了,直接远端机器人开机帮你登机checkin,商务探亲旅游免出门免坠机空难
作者: pippen2002 ((EJ1547))   2024-08-27 10:12:00
先去帮忙洒农药都盯垃圾?
作者: akira30 (akira)   2024-08-27 16:51:00
ChatGPT你的理解是错的,他是个语言模型,他负责的是接话游戏自然不会知道自己是不是在幻想,他计算的是字和字之间结合的机率。另外目前光自动驾驶其实就很够民航使用了
楼主: ewings (火星人当研究生)   2024-08-27 18:00:00
连LLM都无法透过人类语言资料训练出人类的道德观,更复杂的AGI要怎么训练出人类的道德?
作者: gruenherz (DOREMIFA噗噗噗~~)   2024-08-27 18:17:00
AI知道人没有道德,所以干脆不需学习?
作者: yuzuki   2024-08-27 23:50:00
这么说来我们也经常不知道人类在干嘛,明明没有东西故障,却也做出莫名其妙的决定
作者: ewayne (ec)   2024-08-28 02:20:00
因为很多负责写程式的人都不怎么重视道德阿...
作者: sammy98 (军)   2024-08-28 06:41:00
连人都会关错引擎了 Ai怎么学正确的?
作者: pooh24 (金翅膀)   2024-08-28 09:55:00
现在是human factor,以后要变AI factor了

Links booklink

Contact Us: admin [ a t ] ucptt.com