Re: [闲聊] AI设定上到底有没有办法说谎?

楼主: smart0eddie (smart0eddie)   2024-06-15 00:07:29
AI 基本上就是根据学过的资讯回答
假设塞了简中资料当然回答会跑出简体
你都喂假资料给他
他当然就会回答谎言
例如一个AI如果训练资料都是
马斯坦古要把国民练成贤者之石
你问他谁要把国民练成贤者之石
他就会回答马斯坦古
而能不能给他正确资料却要求他说谎
可以
训练的时候不准他回答正确答案就可以
例如训练资料虽然是正确的
瓶中小人要把国民练成贤者之石
可以训练时要求他不准回答瓶中小人
作者: shadow0326 (非议)   2024-06-15 00:11:00
就算是没学过的资料,生成式AI还是可以掰的头头是道
作者: chinnez (棱靘)   2024-06-15 00:12:00
干那不就是卡神在做的事吗XD
作者: shadow0326 (非议)   2024-06-15 00:12:00
AI幻觉的问题目前是无解的,但你不能说它在说谎,因为说谎的前提是AI有自我意识
作者: Bugquan (靠近边缘)   2024-06-15 00:13:00
主要还是看怎么训练,要是妄想用AI说他支持某某,那么肯定也能培养出说他不支持某某
作者: LittleJade (TKDS)   2024-06-15 00:13:00
讲错的事≠说谎
作者: linzero (【林】)   2024-06-15 00:22:00
AI是把原始资料经过参数分析整合后导出结果。参数、调教可以让结果有特定的倾向。而这倾向可以让它说出认为正确的结果,或者认为正确的不能说出但这正确、不正确,跟一般人认知的谎话不太一样
楼主: smart0eddie (smart0eddie)   2024-06-15 00:44:00
如果要用有没有意识来决定是不是说谎的话那在人类搞清楚意识是什么之前AI在设定上应该是不能说谎的
作者: yuizero (14)   2024-06-15 01:48:00
所以 ai是没有“说谎”这一个论点的。他只是执行你错误或是不能执行的言论。但是AI无法自己选择何时给出错误的言论。所以不算说谎
作者: Hosimati (星咏み)   2024-06-15 02:13:00
先定义说谎他给出所谓错误的答案,其实也只是照着你的训练方式得出来的答案你给一个人类输入错误的观念,导致他给出错误的答案,我们一般也不会说他说谎但是如果今天你灌输一个小孩正确观念,却要求他在知道答案的情况下宣称自己不知道答案,那算不算说谎?如果算的话,你把对象换成ai,训练完你就加一个程序让ai即使生成了答案,也会在你给出的条件下宣称不知道答案

Links booklink

Contact Us: admin [ a t ] ucptt.com