[闲聊] 这就是为什么生成AI不是很可靠

楼主: Senkanseiki (戦舰栖姫)   2025-05-19 15:40:04
https://i.meee.com.tw/YnWs8lY.jpg
自之前煤炭产业的官方报告提到击杀凋零骷髅可以获得煤炭
以及可以跟村民交换绿宝石之后
https://i.meee.com.tw/9BRWBZP.jpg
现在则是有钢铁产业发表利用铁巨人来生产铁锭的新自动化生产方式
中国的产业真是日益进步啊(远目)
你各位在AI生产论文的时候记得审一下稿阿
作者: bamama56 (bamama)   2025-05-19 15:41:00
有没有可能中国是认真的
作者: a12073311 (没有)   2025-05-19 15:41:00
中国村民那么多 应该达成铁块自由了
作者: linzero (【林】)   2025-05-19 15:41:00
这个学术用语好像叫 AI幻觉
作者: error405 (流河=L)   2025-05-19 15:41:00
哼啊~
作者: aya16810 (深红眼镜)   2025-05-19 15:41:00
这个要卖钱有够狠ww
作者: sunrise2003 (侠气与狂醉)   2025-05-19 15:42:00
你怎么知道这不是某种对未来的隐喻
作者: adgbw8728 (ass)   2025-05-19 15:42:00
吼嗯~
作者: NoLimination (啊啊啊啊)   2025-05-19 15:42:00
游戏攻略可以卖这么贵
作者: WLR (WLR™)   2025-05-19 15:43:00
这什么鬼售价
作者: lightdogs   2025-05-19 15:43:00
笑死
作者: jojojen (JJJ)   2025-05-19 15:44:00
怎么不直接开创造模式
作者: madaoraifu (没有反应,就是个Madao。)   2025-05-19 15:44:00
这已经不是幻觉了,是AI吃到脏东西
作者: fenix220 (菲)   2025-05-19 15:46:00
前几个礼拜看一部分解秘银龙原来是不是乱画的
作者: serding (累紧地们)   2025-05-19 15:47:00
这报告很混
作者: chrisjeremy (Yomi)   2025-05-19 15:49:00
笑死
作者: weltschmerz (威尔特斯克˙闷死)   2025-05-19 15:49:00
作者: dinel7821967   2025-05-19 15:50:00
笑死
作者: moonlind (又多了敷脸卡跟觅食卡了~)   2025-05-19 15:50:00
这本攻略卖好贵啊!?
作者: tim1112 (絕代當世劍巔)   2025-05-19 15:50:00
中国的工人还要兼具战斗力才能生产
作者: laugh8562 (laugh8562)   2025-05-19 15:50:00
超好笑
作者: HJC6666 (帕修)   2025-05-19 15:50:00
连官方报告也有系统了
作者: a43164910 (寺杉伊六)   2025-05-19 15:50:00
你怎么知道他们没有铁巨人
作者: laugh8562 (laugh8562)   2025-05-19 15:51:00
连看都不看的吗
作者: usoko (time to face reality)   2025-05-19 15:51:00
这真的是AI吗....
作者: played (player-)   2025-05-19 15:51:00
我记得有研究指出DeepSeek幻觉率很高的样子
楼主: Senkanseiki (戦舰栖姫)   2025-05-19 15:52:00
如果是人写出来的我觉得更恐怖就是了
作者: CactusFlower (仙人掌花)   2025-05-19 15:52:00
你484在找:文革大跃进
作者: linzero (【林】)   2025-05-19 15:53:00
有人说文章是在AI兴起前发表的,可能是爬虫弄的
作者: uclala (Noon.F.F.)   2025-05-19 15:54:00
Deepseek开始吃墙内的资讯后就坏的差不多了
作者: Haruna1998 (无声雨)   2025-05-19 15:55:00
2020那篇应该是人写的吧…?
作者: syk1104 (ONENO)   2025-05-19 15:55:00
DS有教授查资料给错资讯,这错资讯还生成一份假论文佐证
作者: WLR (WLR™)   2025-05-19 15:55:00
一套攻略被内容农场复制个几十遍,就成了common sense
作者: miyazakisun2 (hidetaka)   2025-05-19 15:55:00
当然我们说的是麦块
作者: Muilie (木籁)   2025-05-19 15:55:00
deepseek原本很正常的,是乱喂东西后开始上吐下泻
作者: LouisLEE (屏东尼大木)   2025-05-19 15:57:00
60年代的土法炼钢诚不欺我
作者: aa1477888 (Mika)   2025-05-19 15:57:00
你怎么不反过来想想 现实世界其实是个巨大的MC地图
作者: hoshitani (ホシタニ)   2025-05-19 15:59:00
Deepseek给文件叫他翻译翻得还蛮准确的 比ChatGPT好用
作者: RevanHsu (The Aquanaut)   2025-05-19 15:59:00
你怎么觉得对面是写假的
作者: linzero (【林】)   2025-05-19 15:59:00
MC世界的圆周率是多少?
作者: a43164910 (寺杉伊六)   2025-05-19 16:00:00
以前也是有遇过同学做报告都在GOOGLE随便剪贴不看内容上台报告的时候才在读稿 越念越心虚 大概就这种情况==
作者: DON3000 (><b)   2025-05-19 16:00:00
难怪中国之前要限制国外ip看B站的minecraft实况...
作者: kirimaru73 (雾丸)   2025-05-19 16:00:00
Deepseek的文采好到太过头了,特别容易创作这种东西
作者: Jerrybow (芝心披萨)   2025-05-19 16:01:00
其实现实已经被麦块逐渐侵蚀了
作者: a25785885 (SuperbbMan)   2025-05-19 16:01:00
天堂处女 应许的别人之地 虚空面包 做功德 台籍妈祖我觉得ai还是略逊一筹 工程师还有很大的进步空间
作者: kirimaru73 (雾丸)   2025-05-19 16:01:00
脏东西可能是吃到或是聪明到可以生成 两种来源都有但是现在的AI聪明程度已经危险到唬烂能力有点太强有时候它生成的唬烂内容你瞇着眼睛看还不太好看出来
作者: kinuhata (kinuhata)   2025-05-19 16:02:00
生出来的文章自己都不审一遍也是很勇 我学生时期写报告都要自己反复读个5 6遍以上确定没有错字或语病
作者: kirimaru73 (雾丸)   2025-05-19 16:03:00
https://www.bilibili.com/video/BV1GFQAYwEyV这篇讲得很好 他举的哪吒制作团队送房子事件就是一个完全由AI产出 但已经实际被传成“真消息”的经典案例
作者: goodjop11 (芒果好吃)   2025-05-19 16:04:00
他们的铁傀儡不会直接掉铁锭哦?
作者: kinghtt (万年潜水伕)   2025-05-19 16:07:00
AI即便会出错还是一堆企业在用...资料多了自然会完善内容
作者: morphyster ( ̄ ^  ̄)   2025-05-19 16:07:00
DS一开始没有吃屎的时候还满正常的,但是开放连网吃屎之后,根本就完全不能用
作者: kirimaru73 (雾丸)   2025-05-19 16:11:00
目前还不能太有信心 资料多了幻觉反而越来越多确实是
作者: NekomataOkay (u)   2025-05-19 16:11:00
好烂喔哈哈
作者: diablohinet   2025-05-19 16:14:00
原来是麦块世界啊
作者: gifdvdoesa (Clefable)   2025-05-19 16:15:00
中国原来已经在玩真人麦块 怕.jpg
作者: ex990000 (Seymour)   2025-05-19 16:22:00
??我以为现在门只开在韩国
作者: dnek (哪啊哪啊的合气道)   2025-05-19 16:22:00
一下子曝露了中国报告混习惯了
作者: Shichimiya (便当)   2025-05-19 16:23:00
哼~~
作者: kirimaru73 (雾丸)   2025-05-19 16:24:00
DeepSeek少数吃了诚实豆沙包的合理言论https://i.meee.com.tw/1Rbz57F.jpg
作者: CombatWombat (战斗袋熊)   2025-05-19 16:24:00
笑死
作者: n3688 (none)   2025-05-19 16:26:00
原来是MC,还以为是DS
作者: necrophagist (Hogong-Yeah)   2025-05-19 16:26:00
Ds就很会喇赛 但专业度远输gpt
作者: ex990000 (Seymour)   2025-05-19 16:27:00
中国也有猎人跟地下城对吧
作者: Ardve (Penguin)   2025-05-19 16:27:00
DS就中文对口特化,非专业知识挺好用的
作者: efkfkp (Heroprove)   2025-05-19 16:27:00
deepseek你跟他聊一些文艺作品的阅读理解还不错,相较于gpt的优势是他可以直接阅读许多含版权的资料,比如聊轻小说很多时候gpt会直接跟你说他无法阅读版权相关资料请你主动提供,deepseek就可以直接聊。但问一些宏观社会问题,他只会给你胡说八道,估计吃太多营销号垃圾资料跟游戏攻略了w
作者: kirimaru73 (雾丸)   2025-05-19 16:28:00
中国有些单位的这种案例是上面部署下来 要求下面的人学习并使用以提升工作效率的 例如提升铁厂产生报告文件的效率 你不学着用可能还不行效率是提升了 但没有保证不会产生铁傀儡
作者: linzero (【林】)   2025-05-19 16:29:00
有人是说deepseek是语意理解比较强,但逻辑推导之类较差
作者: Marle (虎斑猫)   2025-05-19 16:37:00
干妈的笑死
作者: oyaji5566 (大叔56)   2025-05-19 16:39:00
网络上内容农场太多了 被AI判断有效资料引用了吧
作者: CCNK   2025-05-19 16:40:00
AI还是去生成色漫好了
作者: Strasburg (我很低调)   2025-05-19 16:43:00
那就观知海内股份有限公司是卖产业分析服务的 感觉是刻意炒作知名度
作者: Pochafun (波加风)   2025-05-19 16:43:00
我大学时看中国的期刊论文就常看到乱写的 还有一堆抄袭现在有AI可用 一定会用
作者: kirimaru73 (雾丸)   2025-05-19 16:46:00
AI的天性一定会唬烂 因为它的训练要求之一就是一定要
作者: asdfg0612 (青蛙)   2025-05-19 16:46:00
以前做生物相关的 meeting报中国人写的paper会被骂 XD
作者: acs81046 (Banana King)   2025-05-19 16:46:00
hmmmmm
作者: Muilie (木籁)   2025-05-19 16:49:00
可以看看以前中国游戏攻略网的情况就是DS现在的情况,一个人在论坛写了结果成功但是过程有误的,农场开始疯狂转载,版本更新后也没改,因为出产早又被农场的多,到后来中文能找到的都是被污染的错误资料
作者: suanruei (suanruei)   2025-05-19 16:51:00
不是,大陆到底都喂ai吃什么资料啊
作者: sunwit (..)   2025-05-19 16:55:00
中国人自己都说DS越用越智障.只会抄网络却不分辨真伪
作者: L1ON (Fake)   2025-05-19 16:55:00
现在的AI就很会一本正经讲干话
作者: a22122212 (阿公)   2025-05-19 16:59:00
这售价是怎样
作者: newtypeL9 (まあいいや)   2025-05-19 17:02:00
笑死哈哈哈
作者: smart0eddie (smart0eddie)   2025-05-19 17:03:00
吃到什么东西
作者: tf010714 (美味蟹堡一份)   2025-05-19 17:04:00
查法条判决书 请它汇整 gpt居然还会生成不存在的法条不然就是请它依照刑法三段论讨论某事实结果乱唬烂把主观混成客观 不然就法条罚未遂它居然无视
作者: nalthax (书虫一枚)   2025-05-19 17:09:00
哈哈哈哈哈哈
作者: justdoit (宅身贵族)   2025-05-19 17:11:00
四边包绳不打洞
作者: nalthax (书虫一枚)   2025-05-19 17:12:00
用ChatGPT读判决书一点用都没有,说查不到判决;拿案源的判决喂它,结果说不相干,还是拿去生一些无伤大雅的娱乐内容就好了
作者: bladesinger   2025-05-19 17:15:00
垃圾进垃圾出就是这样,你扔给粪坑给AI还期望他出奇蹟?
作者: felaray (傲娇鱼)   2025-05-19 17:16:00
铁巨人农场是一个专业的课题..
作者: SunnyBrian (人気薄二冠马)   2025-05-19 17:24:00
当你以为是乱写的时候……
作者: zeon19841102 (雅言堂主人)   2025-05-19 17:25:00
魔导学XD
作者: Tsucomi69 (N9SU3XL3AJ4)   2025-05-19 17:26:00
麦块论文吧
作者: kirimaru73 (雾丸)   2025-05-19 17:29:00
这个状况需要仔细审视的就是AI插入这些内容的能力一般人如果写报告到一半游戏瘾上身,或是故意想恶搞,插入的内容也没办法太过自然,很容易被看穿但是AI(尤其是中文特化的DeepSeek)把这些异物自然混入的能力是非常强的
作者: rogerlarger (宅)   2025-05-19 17:32:00
需要RAG啦,把真正的煤炭业资料嵌入到向量数据库,再跟模型串接起来
作者: DARUGU (用刀叉吃人肉)   2025-05-19 17:42:00
好奇这种还有办法修正回来吗?还是只能拿大量正确的资料洗回来?
作者: kirimaru73 (雾丸)   2025-05-19 17:44:00
可以再训练惩罚他 但训练模型本身是高风险的困难行为可以参考李宏毅老师2025年的年番 YT上有 现正连载中要逼模型学一件事并不算太困难要逼模型学一件事“且不产生副作用” 极度困难
作者: Kururu8079 (本益比不如本梦比)   2025-05-19 17:47:00
大炼钢铁!!!
作者: kirimaru73 (雾丸)   2025-05-19 17:48:00
机器学习永远有一种无限循环 你应该用正确的资料然后网络上有巨量的资料 没人保证什么是正确的你要怎么挑出大量正确的资料呢?再训练一个会胡说八道的模型负责判断什么是正确的吗?
作者: probsk (红墨水)   2025-05-19 17:49:00
是这样没错但不是这样
作者: jay920314 (Jay_9696)   2025-05-19 17:59:00
干超好笑 这阶段真信了AI还不矫正or没能力判断内容是这样的
作者: chy19890517 (mocat)   2025-05-19 18:01:00
如果人类可以一比一换铁,你信不信中国明天铁价直接崩盘?
作者: necrophagist (Hogong-Yeah)   2025-05-19 18:02:00
所以训练ai时资料的tagging分类很重要
作者: scott032 (yoyoyo)   2025-05-19 18:05:00
需要一个有专业的ai或人类来监督这些ai
作者: asdfadsl (苏姐姐)   2025-05-19 18:05:00
看别人说发布时间比较像是爬虫爬出来的
作者: kirimaru73 (雾丸)   2025-05-19 18:06:00
这也是一个比较困难的问题 如果是向人脸辨识那种资料你确实可能拿到一堆大便tagging 但你还是有比较有效率的方法来修正 让那些资料变成有效的人脸辨识资料不过语言就难了 我们现在要判断的是这一段内容的语言是否会损害您的大脑 而资料量又多到爆炸
作者: aaronpwyu (chocoboチョコボ)   2025-05-19 18:08:00
你不要这么说 墙内养好的蛙蛙可不会怀疑 是就是质疑就是未受教育 去新疆先
作者: zxcasd328 (Parhelion)   2025-05-19 18:35:00
这是直接复制贴上百度百科 不是AI吧
作者: xBox1Pro (神鬼微软)   2025-05-19 18:49:00
这是用的人自己笨的问题啊,以前很多人也是直接贴农场
作者: tim19131 (业子)   2025-05-19 18:51:00
食物近,垃圾出
作者: Dayton (今夜如此,夜夜皆然。)   2025-05-19 19:00:00
这就麦块无限收成铁块的方式…
作者: kirimaru73 (雾丸)   2025-05-19 19:08:00
现在的AI有搜寻资料的能力啊 也有明确的方式来要求AI“去网络上找资料”“确认正确性”“要附上来源”问题就是他真的找了有来源的资料 也觉得那是正确的那接下来出事了要怎么办呢?网络上的资料有可能是其他AI唬烂的幻觉内容,这已经不只是一个戏谑的讲法,而是持续不断在发生的事实为什么使用者不验证内容就把资料丢出来 这可能还要看使用者所在的机构是怎么制定政策的如果政策是“学习使用AI工具来提升工作效率”那我为什么还要验证呢 花时间验证要怎么提升工作效率
作者: lolicon (三次元滚开啦)   2025-05-19 19:19:00
什么时候可以附魔 我等不及翱翔天际了
作者: bnn (前途无亮回头是暗)   2025-05-19 19:44:00
自信点 人脑从网络上学习也学坏了很多个人你连人都没法分辨了你要怎么教AI分辨
作者: linzero (【林】)   2025-05-19 20:00:00
有说要附来源,但也是弄个假的
作者: ksng1092 (ron)   2025-05-19 21:18:00
我非常肯定chatgpt超会唬烂,还能生出根本不会有作用的"底层逻辑修正方法"跟"禁制清单",一直试图让我相信只要我指正过的事情他就不会再犯
作者: hollen9 (好冷酒)   2025-05-19 21:36:00
deepseek是拿chatgpt蒸馏幻觉率更高 不是从零训练

Links booklink

Contact Us: admin [ a t ] ucptt.com