Re: [闲聊] 让AI判断野菇能不能吃,结果中毒

楼主: iampig951753 (姆沙咪猪)   2025-11-22 19:12:21
AI就是这样啊
他不会说不知道
会瞎掰出一堆莫名其妙的东西
反正只是要尽量得高分而已
目前的大部分情况下
AI还没有觉得回答“不知道”能得比较多分数
https://youtu.be/tqGXLkV6IkU
我之前问他第一世代hp种族值50的铁甲贝五十等的时候最高会有多少Hp
顺便问他公式
结果他瞎掰一通
说252hp
因为他瞎掰的数字太离谱了一听就知道假的
所以被我训斥
但他还死不承认
继续瞎掰坚持自己用的才是最原始的公式
最后我只好亲自动手去查
查完反过来教训他
他才道歉承认自己是出现AI幻觉
但这是因为我稍微有点概念知道铁甲贝五十级不可能血量这么高到252
所以发现他给的数字有问题
如果换成一个什么都不知道的老阿北问毒香菇的事情 不就要去见上帝了
https://i.imgur.com/ydApYIQ.jpeg
https://i.imgur.com/h5kP5wr.jpeg
https://i.imgur.com/u9UwrMc.jpeg
阿如果是毒菇事件 中毒才道歉有用喔?
作者: ssarc (ftb)   2025-11-22 19:14:00
AI就是这样,你问他是不是毒菇,他说是,你问他能不能吃,他说能,你问他他是不是不能吃,他说是,总之问什么答案都是是
作者: SPDY (Alex)   2025-11-22 19:17:00
完全不懂=连察觉都难 会死人的事经不起这样瞎敷衍
楼主: iampig951753 (姆沙咪猪)   2025-11-22 19:24:00
所以攸关性命的事情还是别用AI给的答案做决定ㄅ
作者: pomelolawod   2025-11-22 19:45:00
这种问法 到最后都请先加上"请参考网络资料回答"
作者: qd6590 (说好吃)   2025-11-22 19:52:00
AI就是一定会给你一个答案 他不会回答不知道或不确定 这点很烦 千万不要把AI当估狗最好是用来查自己领域内的东西 当成帮你搜集资料
作者: ak47123121 (小忍)   2025-11-22 20:47:00
真的要把ai当解答机器,自己本身的知识量也要够不然现阶段那个讨好加上幻觉,使用者还当是正确答案会很可怕
作者: fec (皆城乙姬)   2025-11-22 22:19:00
真的要求准确的时候我通常会叫AI要给资料来源
作者: Khadgar (Khadgar)   2025-11-23 02:04:00
楼上那更可能被骗
作者: CP64 (( ̄▽ ̄#)﹏﹏)   2025-11-23 02:05:00
之前遇过给牛头不对马嘴的 给错的 给假的都有 还是要自己对
作者: Khadgar (Khadgar)   2025-11-23 02:07:00
上次叫他给ref,他可以幻觉到给出有的paper,正确的格式甚至连PMID都可以假造给你但是章节页码是不存在或是错的,PMID也是完全不相关的
作者: tsubasawolfy (悠久の翼)   2025-11-23 06:27:00
免费版吧? 现在不是都会给超连结?真的要找东西 deep research丢下去就好

Links booklink

Contact Us: admin [ a t ] ucptt.com