Re: [闲聊] 生成式AI是不是有点像说谎镜

楼主: yokann (欧洲)   2025-11-15 21:37:40
※ 引述《ll6a (老成a~)》之铭言:
: 越来越不想跟真人对话了
: 有时光是要让一个无知的人有基础认知,进而能了解一件事的表面就很麻烦了
: 感觉跟人类沟通好浪费时间啊
: 大家有这种感觉吗
我有订GPT plus
也用它不少功能 查一些新技术 翻译整理paper专利 统整资料等等
也常常问它一些医疗问题
个人觉得AI还是太正面 所以很容易被诱导式问话
反而给人安慰剂的正增强效果 不是很好
例如说你是癌症 想要尝试OO疗法
AI可能还是会跟你说成功率不高 但是基本上它不会完全否定你
不会跟你说这个疗法很盘浪费钱又没用
就算拿出数据来打脸 基本上它也会用很委婉的方式 而且告诉你不是不可能
也许程式设定它会揣摩用户的心思 所以给予正向的回应
但对于只是单纯想知道yes or no 可以或不可以 的人来说
AI这种暧昧不清的两可态度 反而会让人难以笃定
例如说你做OO开发 想要做一些大胆的XX尝试 去问AI意见
AI大部分也会跟你说可以 可行 不太会直接说不行 或是 "你怎么会有这种想法"
所以反而引你在错误的路上 走得更远
感觉GPT可以更冷漠一点 更直接且理性一点
说不定大家会更爱它
毕竟就算很直白 光有无限的耐心跟不厌其烦这点就够正面了
真的不需要在回应里先称赞你一番
作者: sokayha (sokayha)   2025-11-15 21:39:00
所以到底为什么会问AI意见
作者: error405 (流河=L)   2025-11-15 21:39:00
问grok他都跟我说 会被警察抓 会死
作者: sokayha (sokayha)   2025-11-15 21:42:00
acg作品里真的有智慧的ai就算了 明知道现在我们有的ai只是个用大量数据评分算加成的机制凑出回答的
作者: Hitagi (黑仪小姐的脚下埋著提姆)   2025-11-15 21:42:00
之前5刚出时不就曾经变得很冷漠然后被一些用户抗议后面才又重放4版本的给大家切换所以实际上需要正向情绪价值的用户本来就不少
作者: Hitagi (黑仪小姐的脚下埋著提姆)   2025-11-15 21:43:00
有些人真正想听的也不是那些所谓的正确建议 只是想要寻求多一份赞同自己的意见而已但想要精准回答的需求也在 所以应该是要做成可以随用户希望自由切换模式
作者: sokayha (sokayha)   2025-11-15 21:44:00
不知道原理的人可能会因为对ai的错误想像而误用 啊知道原理的还这样用是完全放弃治疗了?
作者: andy0481 (想吃比叡的咖哩)   2025-11-15 21:46:00
很多人只是要正向回馈而已 训练出来的就这样
作者: ak47123121 (小忍)   2025-11-15 21:48:00
问题是这个AI还有拿来写程式,还很有用欸也太否定LLM了吧
作者: sokayha (sokayha)   2025-11-15 21:49:00
问它程式的api常常给我幻想出不存在的参数 这玩意真的是只能当个辅助寻路器 偶尔搜寻引擎埋很深的资讯它有机会翻的到
作者: probsk (红墨水)   2025-11-15 21:49:00
单纯是人类无法下结论的东西AI也无能为力
作者: Merrill   2025-11-15 21:50:00
写程式你让他抓一个逻辑错误的看他会怎么唬你
作者: probsk (红墨水)   2025-11-15 21:51:00
不然你问医生安慰剂有没有用 医生也不会全盘肯定或否定
作者: ghost9911 (ghost3191)   2025-11-15 21:51:00
gemini pro 我个人感觉蛮理性跟无情的撇开正确性不谈 感觉gemini的意见会比较果断一点之前把成发的海报丢给gemini 被揪了几个小错误 然后因为这些小错误跟我说完全不到可以发表的水准XD
作者: dephille (一鍼同体!全力全快!)   2025-11-15 22:02:00
gemini我觉得他也很喜欢乱捧,但的确常会抓一些小错不放有时不一定是错而是他自己的问题但他会很坚持自己是对的然后如果想要听正确意见的话感觉可以用prompt试试
作者: Ayukawayen (亚布里艾尔发芽>//<)   2025-11-15 22:05:00
gemini flash满坚持的常常会一条路走到底,而且似乎比较读不懂人话所以不太会转弯
作者: Nonegrame (程式写得好,好人做到老)   2025-11-15 22:25:00
instructions 叫他直白点阿

Links booklink

Contact Us: admin [ a t ] ucptt.com