Re: [闲聊] 让AI判断野菇能不能吃,结果中毒

楼主: Rimowa (德国品质)   2025-11-22 23:24:06
我想现在AI遇到最大的问题有两个
一个是很多人提的 AI讲错也不用扛责 所以讲错也不会怎样
另一个是因为AI怎么样都会掰出一套说法给你
如果相信了就可能有这次的吃毒菇案件
但如果还是怀疑坚持不信要自己求证 那又何必问AI?
也就是AI普遍就是大家希望懒人 当伸手牌就可以得到答案
结果得到答案以后又没有把握
最后只好问AI一些无关紧要 无伤大雅的问题
那可就糟了
就好像AI在医学影像判读上面强到不行 人眼力再强也没AI精细
可是在综整结论上面却常常胡说八道
所以绝对还是要跟专业医师搭配 变成一个强力的协助工具
可是很多场景 是没有专业人士的 或是说 若有专业人士 又何必问AI?
结果一堆门外汉去问AI 不是被AI误导 就是问完还是没把握
真的是一个新课题...
作者: x2159679 ((● ω ●))   2025-11-22 23:27:00
这让我想到有名的台湾独立游戏去年七月三十一号在STEAM上由BearBoneStudio推出的沉没意志所说的对人类对AI的最终追求
作者: h60414 (h60414)   2025-11-22 23:38:00
问AI的人自己还是要有些判读能力吧 医生配AI就能彼此互补
作者: billy791122 (jj)   2025-11-22 23:40:00
起码写简单程式或投资问题还满有用的
作者: tank44444 (tank)   2025-11-22 23:40:00
我叫AI帮我写一段code也不会全部照抄啊
作者: dieorrun (Tide)   2025-11-22 23:50:00
整理资料给你是好用 但一堆人拿来问答案有些AI模型还会倾向变成回答你想要听的答案
作者: excercang (啦啦啦)   2025-11-23 00:20:00
最怕的是问AI要吃什么药,就自已去药局乱买
作者: carllace (柚子)   2025-11-23 00:21:00
AI会把类似的混在一起说
作者: aegius1r (SC)   2025-11-23 00:26:00
问AI可以拿到一些 你不见得知道要查的关键字但是把他的说法全盘接受就...吃毒菇吧
作者: Mareeta (寻找新乐章)   2025-11-23 00:33:00
查证啊 你把AI当成流言参考就好AI只是给你一个方向 你还是要看前面有没有墙壁吧
作者: mana1993 (默莫)   2025-11-23 01:59:00
其实之前在ai刚推出时,相关人士就有提过,所谓的ai只是一个人云亦云的程式引擎。如果是有正确解答的问题还无所谓,但如果是一些模棱两可或需要大量经验判断的事物,那ai的效果就很有限。可是不知道为什么,很多人直接把ai的答复当成了正确解答,甚至认为可以取代专家
作者: Orangekun (harima kenji)   2025-11-23 02:38:00
其实还是有些方法可以避免吧,例如多问问他看到的菇是什么特征,如果跟你看到的不一样就别参考,如果一样再进一步问菇的名字,在请他附上资料来源,现在很多AI都会附资料来源再进一步也可以提供采集地点,你线索越多准确度也会上升
作者: t13243334 (虎标万金油)   2025-11-23 08:01:00
这哪是什么大问题 属下台大实习生主管也不会照单全收还不是要慢慢调教 通用AI就是通才要查菇有没有毒这种高风险 至少下个谨慎保守的prompt这就跟以前google刚出一样 大幅降低知识门槛但知其然不知其所以然就会背知识债 迟早得还你查资料查到假资料会靠杯google 吗 以前人真会
作者: kskg   2025-11-23 08:20:00
问她是什么品种在自己比对也是能节省时间啦,但以吃菇来说直接放弃还是最省事
作者: stkissstone (浅涧远秋)   2025-11-23 12:35:00
专业人士本身也可以靠ai协助

Links booklink

Contact Us: admin [ a t ] ucptt.com