Re: [闲聊] 人类对AI的恐惧从何而来？
楼主: yokann (欧洲) 2026-09-13 09:42:11
※ 引述《LawLawDer (肉肉的)》之铭言：
: 请问有作品主旨在讨论人类vsAI的吗
: 洽洽阿鲁？
1.目前还很难保证AI不出错
虽然让AI来弄excel 报表 数据分析等等又快又方便
但终究还是会有出错可能 所以还是要人去监督
HITL
你也不可能让AI自动发送报价单 还是要看要监督
但人们梦想总是全自动嘛...
2.AI理解超出人的界线
以前看呆伯特法则有一段话我很喜欢
你跟爱因斯坦聊天的时候 他被雷打到突然变成两倍聪明 你能发现吗?
答案是很难 因为我们跟他比都太笨了 所以当AI聪明到远超过我们的理解时
我们就不知道他做的是对是错了
这会加深人们对失去支配力的恐惧
只是想到以前的科幻电影中描述AI 或是小百科里面的预测未来
其实现在的AI 可能比那时候的想像都更进步...
: 请问有作品主旨在讨论人类vsAI的吗
: 洽洽阿鲁？
1.目前还很难保证AI不出错
虽然让AI来弄excel 报表 数据分析等等又快又方便
但终究还是会有出错可能 所以还是要人去监督
HITL
你也不可能让AI自动发送报价单 还是要看要监督
但人们梦想总是全自动嘛...
2.AI理解超出人的界线
以前看呆伯特法则有一段话我很喜欢
你跟爱因斯坦聊天的时候 他被雷打到突然变成两倍聪明 你能发现吗?
答案是很难 因为我们跟他比都太笨了 所以当AI聪明到远超过我们的理解时
我们就不知道他做的是对是错了
这会加深人们对失去支配力的恐惧
只是想到以前的科幻电影中描述AI 或是小百科里面的预测未来
其实现在的AI 可能比那时候的想像都更进步...
作者: error405 (流河=L) 2026-09-13 09:43:00
问题在不择手段阿 结果对了但过程全错
作者: kuninaka 2026-09-13 09:44:00
你会在乎员工执行过程吗AI的推理炼你都有仔细读吗
作者: LawLawDer (肉肉的) 2026-09-13 09:45:00
我希望我成为世界上最有钱的人 结果是把比我有钱的人都杀了 是这样但不是这样.jpg
作者: billy791122 (jj) 2026-09-13 09:53:00
AI又不是神灯圣杯，怎么把有钱人杀掉
作者: Bencrie 2026-09-13 10:40:00
我也希望上头不要在意执行过程 XDD
作者: tonyxfg (tonyxfg) 2026-09-13 10:55:00
连人类都一天到晚在出错了，要求ai完全不出错实在太不切实际
作者: syuu (syuu) 2026-09-13 10:56:00
最大问题不是AI出错，而是人类监督
作者: tonyxfg (tonyxfg) 2026-09-13 10:57:00
问：上级何时会在意执行过程？答：当事情出错要究责的时候。
作者: zeyoshi (日阳旭) 2026-09-13 11:02:00
难保ai不出错? ai出错还少吗
楼主: yokann (欧洲) 2026-09-13 11:15:00
所以还是要HITL阿
作者: kuninaka 2026-09-13 11:22:00
你要说human in the loop拉
作者: tonyxfg (tonyxfg) 2026-09-13 11:23:00
话说监督有时也会发生很有趣的情形，就是明明一开始员工做的是对的，但监督者可能因为专业度不足、私人恩怨或前一天没睡饱，反而要求将答案改成错的。
作者: zxcmoney (ä¿®å¸) 2026-09-13 11:42:00
我会读阿，但推理炼也能伪装不是?
作者: kuninaka 2026-09-13 12:04:00
是阿，可以伪装
