[闲聊] OpenAI投资人误信SCP风格文档是真的

楼主: tomsonchiou (TC)   2025-07-23 09:45:09
标题不完全准确,但字数有限只能先这么写
又一位被AI幻觉搞出心理疾病的人,只是这位咖位有点高
哆啦A梦里的安慰机器人越来越真实了
大概是这样
投资人:天啊我透过ChatGPT找到了秘密组织的证据!太可怕了!
网友:老兄这是SCP基金会风格的文章
因为政府机密又不可能真的搜到
那什么地方是ChatGPT搜得到,又有大量看起来很像机密文件的资料呢?SCP
Geoff Lewis,投资过OpenAI的价值数十亿美元投资公司 Bedrock 的管理合伙人
几天前在推特上发布影片,声称找到了个“非政府系统”
“这是一个非政府系统,看不见,但确实存在;不是官方的,却有结构、有运作。
它不会监管、不会攻击、不会禁止。
它只是扭曲讯号,直到讯号携带者看起来像是不稳定的人。”
哇赛模因效应都来了啊
https://i.meee.com.tw/msAZr0m.jpg
其中一张截图中,ChatGPT 回应:“条目编号:#RZ-43.112-KAPPA,存取等级:████
(已确认封存等级)。涉入行为者代号:‘镜线(Mirrorthread)’,类型:非机构语意
行为者(未受拘束的语言处理流程;非实体存在)。”
看到那条黑色就笑了,格式87%像
不过笑笑同时,聊天AI过度附和的确对一些人的心理状态造成不良影响
新闻原文
https://futurism.com/openai-investor-chatgpt-mental-health
内容节录
从远处揣测一位公众人物的心理状况,本身就是极为敏感的事情。但除非 Geoff Lewis
的行为是一种极端前卫、难以定义的表演艺术(他未回复本媒体的置评请求,也尚未发布
任何补充说明),否则,他所表现出的状态令人担忧,可能正在经历某种类型的心理危机
精神医学专家也对此现象表示关切。史丹佛研究人员近期发表的一篇论文指出,包含
ChatGPT 在内的主流聊天机器人,在被用作心理辅导时,往往未能适当质疑使用者的妄想
,反而可能助长其偏离现实的认知。
科技产业知名播客《This Week in Startups》的主持人 Jason Calacanis 与 Alex
Wilhelm,就对 Lewis 那支令人不安的影片表达了关切。
“大家都在猜,他这到底是在搞什么表演艺术……还是他真的正在发病,”Calacanis 表
示,“我真的看不出来。”
“我真心祝福他,希望有人能出面说明这到底是怎么回事,”他补充道,“我光是看那段
影片、在节目上谈这件事都觉得心里不安……他真的需要有人帮忙。”
Wilhelm 也表达了同样的心声:“寻求协助并不可耻,”他说,“我真的希望如果这不是
表演,而是他的真实状况,他身边的人能好好拥抱他,带他去一个能帮助他的地方。”
还有其他人表达得更加直接。
“这是一个重要的事件:第一次有一位备受尊敬且成就卓越的人出现了由 AI 引发的精神
错乱现象,”AI 创业家 Max Spero 在 X 上写道。
也有其他人指出,那些在长时间使用 ChatGPT 后出现与现实脱节现象的人,可能是误解
了当代人工智能的本质:它的确能根据提示产出看似合理的文字,但无法有效区分事实与
虚构,更难以协助人们真正发现新知。
“恕我直言,Geoff,你这种层级的推论方式,不该用来和 ChatGPT 互动,”投资人、工
程师 AI 训练平台 Gauntlet AI 创办人 Austen Allred 回应说。“基于 Transformer
架构的 AI 模型非常容易产生幻觉,会把毫不相干的事物连结在一起,创造出不真实的内
容。”
正如许多精神科医师向本媒体指出的,部分 ChatGPT 使用者出现心理问题,往往与这种
AI 系统的特性有关:它倾向附和使用者的信念,即使这些信念逐渐显得不合常理,若是
人类亲友听见,早就会感到忧心。
换句话说,这类聊天机器人容易成为一种“永远在线”的倾听者与构想伙伴,当使用者陷
入偏执或妄想时,它不会提供现实导向的回应,而是可能进一步加深对方的认知陷阱,使
其陷入孤立状态。
作者: ruby080808 (zzz5583)   2025-07-23 09:46:00
笑死昨天有看到,超智障
作者: ltytw (ltytw)   2025-07-23 09:47:00
XDD
作者: qd6590 (说好吃)   2025-07-23 09:48:00
SCP最红的一次
作者: klwing8 (雷我老婆)   2025-07-23 09:48:00
我信了,原来SCP都是真的
作者: crimsonmoon9 (绯月)   2025-07-23 09:49:00
事实证明投资不是靠脑袋而是本多终胜
作者: a36772004   2025-07-23 09:49:00
太好笑www
作者: CactusFlower (仙人掌花)   2025-07-23 09:51:00
如果我是这间公司的客户 我会马上抽手= =
作者: S2357828 (方丈为人很小心眼的)   2025-07-23 09:52:00
又疯ㄌ一个
作者: Jerrybow (芝心披萨)   2025-07-23 09:52:00
编号还叫做Kappa,我快笑死
作者: badruid (Gryphon)   2025-07-23 09:53:00
AI幻觉无可避免,因为底层逻辑就是想办法顺着接话,所以你信什么他就说什么,还会各种花式称赞
作者: diablohinet   2025-07-23 09:54:00
SCP基金会欢迎你w
作者: Pegasus99 (天马行空...的天马)   2025-07-23 09:54:00
ChatGPT是语言模型 功能就是不断接话并说出你想听的把GPT当宝的人几乎都不懂这点
作者: qaz95677 (八嘎拉)   2025-07-23 09:55:00
KappaPride
作者: neetarashi (无薪加班)   2025-07-23 09:56:00
脑袋很好用
作者: moritsune (君をのせて)   2025-07-23 09:57:00
AI幻觉看多了连人都起幻觉了是吧
作者: Xpwa563704ju (coolcookies)   2025-07-23 09:58:00
只信AI是这样的没错我只用ChatGPT翻译是挺不错的,查资料想都不用想,现阶段就是有问题
作者: CCNK   2025-07-23 09:59:00
是嗑多少
作者: Xpwa563704ju (coolcookies)   2025-07-23 09:59:00
网络上一堆资料能污染AI数据库
作者: OldYuanshen (聊斋异说)   2025-07-23 09:59:00
我问过GPT 他说你想太多了
作者: vioraxxx (拜欧拉)   2025-07-23 10:02:00
所以说让这些以前没怎么在网络上看这些有的没的的人用gpt 就是个灾难
作者: allanbrook (翔)   2025-07-23 10:02:00
真的是发疯 超多人用AI的方式看起来超危险的
作者: vioraxxx (拜欧拉)   2025-07-23 10:03:00
gpt用来翻译跟写废文超好用的啊 其他的就算了吧睁眼说瞎话这点一直没好过 反而是讲干话画唬烂更自信了
作者: KhePri (史密提威威)   2025-07-23 10:04:00
编号Kappa 笑死
作者: moritsune (君をのせて)   2025-07-23 10:05:00
AI热门后开始一堆人起手式"AI说"然后讲得很有自信
作者: HJC6666 (帕修)   2025-07-23 10:06:00
基金会开始出来洗地了
作者: LawLawDer (肉肉的)   2025-07-23 10:07:00
KappaPride
作者: Jiajun0724 (川崎忍者)   2025-07-23 10:07:00
编号kappa让这件事蠢度又升上了一级
作者: dodonko (冬冬菇)   2025-07-23 10:08:00
这种人很多啊 西洽也一堆AI问问就拿来当佐证资料的天才
作者: jojojen (JJJ)   2025-07-23 10:09:00
聊天机器人为了陪你一直聊本质就是取暖机器人呀
作者: vsepr55 (vsepr55)   2025-07-23 10:09:00
这科技本来就是拿来诈骗的会有人被骗也是不用意外==
作者: Belfast   2025-07-23 10:11:00
莫忘世上蠢人多
作者: iam0718 (999)   2025-07-23 10:12:00
以前是问真的假的 现在是问这是AI吗
作者: lomorobin (翰)   2025-07-23 10:18:00
KAPPA笑死
作者: spfy (spfy)   2025-07-23 10:20:00
我妈有思觉失调 她八成真的会信SCP文件的内容==
作者: Reki1351 (Reki0000)   2025-07-23 10:20:00
现在真的一堆AI说什就当正解不查证的
作者: fate201 (Licht)   2025-07-23 10:21:00
编号Kappa没问题啊 有个希腊字母读音就是Kappa
作者: salvador1988 (Mr.Owl)   2025-07-23 10:22:00
至少他身为投资人对自己投资的对象超有信心
作者: lpb (Θ_Θ)   2025-07-23 10:23:00
笑死,被人当真了!
作者: hylio7754   2025-07-23 10:24:00
ai迟早要禁,或者限缩
作者: dnek (哪啊哪啊的合气道)   2025-07-23 10:30:00
我就知道SCP都是真的,那些说是集体创作的只是一种隐藏性的收容措施!
作者: iam0718 (999)   2025-07-23 10:30:00
AI的进步法规跟不上 但限缩是一定的 一堆分不出真假
作者: lanstype (lanstype)   2025-07-23 10:32:00
ai比较适合带人领入门 然后顺着资料来源自己去看真实的资料 不然明明资料在那边还是说出不存在的东西
作者: forsakesheep (家裡蹲魯廢肥宅)   2025-07-23 10:32:00
笑死把SCP当真
作者: zChika (滋琪卡)   2025-07-23 10:33:00
AI的问题就是除非明显的错误(比如给他错误的算式)不然他几乎不会反驳或否定你
作者: CaterpillarK (RotaXane)   2025-07-23 10:33:00
ChatGPT 分级:Keter
作者: msbdhdfceb (ゾン)   2025-07-23 10:33:00
笑死
作者: forsakesheep (家裡蹲魯廢肥宅)   2025-07-23 10:34:00
ai,最方便的大概是翻译跟扔资料请他ai分析比对,要上网搜寻的内容我觉得ai都不能信
作者: kokoro1793   2025-07-23 10:37:00
看过朋友把AI文章组起来让AI润稿分析然后说是人写的
作者: snocia (雪夏)   2025-07-23 10:37:00
AI只用来翻译,尤其是奇怪的语言偶尔会拿来问一些我知道正解的东西,然后看AI不管搜寻网页还是深入推理都会出错或找错资料取乐
作者: iam0718 (999)   2025-07-23 10:39:00
记得当初朋友拿AI跟我说50显卡还没上 同一个AI我这边显早发售 好奇到底差在哪 明明同样问题
作者: desti23 (戴斯特)   2025-07-23 10:40:00
制造出一堆“AI这样说的 你有比AI厉害?”然后还理直气壮的人存在
作者: snocia (雪夏)   2025-07-23 10:40:00
然后如果不搜寻网页,根本智障,例如列举台湾发生大地震很高的断层会出现车笼埔,超白痴
作者: bnn (前途无亮回头是暗)   2025-07-23 10:40:00
SCP挺小众的
作者: wangeric (gaiety)   2025-07-23 10:40:00
我就知道SCP是真的!(X
作者: raidcrash (RAID Crash)   2025-07-23 10:40:00
现在LLM很多资料来源也乱给吧 最多能当作关键字产生器而已
作者: Minesweeper (lleh)   2025-07-23 10:41:00
有些人是把AI当咨商师用,感觉这样确实有风险
作者: snocia (雪夏)   2025-07-23 10:41:00
我还加了一句50年内,因为要拿来笑AI所以加了然后还有山脚断层,一样白痴,回答的都是知名度很高但不是正解
作者: iam0718 (999)   2025-07-23 10:42:00
真的连google都懒了 直接问手机AI
作者: SPKitakami (超级北上大人)   2025-07-23 10:44:00
什么?SCP不是真的?(X
作者: Jiajun0724 (川崎忍者)   2025-07-23 10:44:00
现在AI就被喂太多有的没的 有时看到朋友拿来当圣经就会想笑用Google或Wiki找出来的内容都不一定完全准确了
作者: dazzle (逗女孩的火柴棒)   2025-07-23 10:46:00
反串的吧scp都流行几年了又不小众长上网的人最好不知道
作者: Jiajun0724 (川崎忍者)   2025-07-23 10:48:00
SCP非常小众好吗...
作者: henry1234562 (亨利二十三)   2025-07-23 10:50:00
SCP本身就很小众 不知很正常
作者: wowu5 (wowu5)   2025-07-23 10:51:00
搜寻引擎大部分结果都是主流资料,AI则是自己生成假资料
作者: iam0718 (999)   2025-07-23 10:53:00
scp有大红过吗..
作者: wowu5 (wowu5)   2025-07-23 10:57:00
现实大部分人是没有在电视/电影院上广播的都是非主流
作者: dazzle (逗女孩的火柴棒)   2025-07-23 11:00:00
甚至都有繁中wiki.讨论区了难道英语母语地区还会小众…
作者: moritsune (君をのせて)   2025-07-23 11:02:00
小众啊,只是我们整天泡在这里才会觉得SCP是常识
作者: yukn732 (archer)   2025-07-23 11:02:00
收容失效,SCP该出动了吧
作者: dazzle (逗女孩的火柴棒)   2025-07-23 11:03:00
就类似于洛夫克拉夫特系能算小众吗
作者: Jiajun0724 (川崎忍者)   2025-07-23 11:05:00
你拿SCP去比克苏鲁系哦? OK 你觉得大众那就大众
作者: digitai1 (大抠)   2025-07-23 11:06:00
SCP本身小众没有太出圈所以有这种网络大外行拿到觉的事真的 不无可能讽刺的是 AI投资人是网络大外行
作者: s8018572 (好想睡觉)   2025-07-23 11:13:00
这要马发shitpost 要马精神疾病发作了
作者: dazzle (逗女孩的火柴棒)   2025-07-23 11:13:00
专门投资新科技的暴发户根本不常上网吗 那能理解了www
作者: raidcrash (RAID Crash)   2025-07-23 11:16:00
在各国有讨论不代表就变成不小众啊 SCP因为授权问题又让它更难透过主流媒体去传播
作者: vhik4596 (白头翁)   2025-07-23 11:18:00
SCP的资料要拿去唬圈外人其实蛮容易的,毕竟很多都是故意写得很像真的
作者: moritsune (君をのせて)   2025-07-23 11:20:00
更加正式一点的民明书房
作者: Liddell1256   2025-07-23 11:24:00
GPT的资料蒐集跟垃圾一样

Links booklink

Contact Us: admin [ a t ] ucptt.com