原文标题:
技术专家:ChatGPT的“幻觉”根本无法解决
原文连结:
https://reurl.cc/N0KRy6
发布时间:
2023/08/09 15:58
记者署名:
钜亨网新闻中心
原文内容:
掀起 AI 浪潮的 ChatGPT 尽管可以协助解决很多事情,但也因为会产生虚假的讯息,或
误导性的内容,产生“人工智能幻觉”(hallucinations) 而饱受批评,专家认为这种“
幻觉”受到技术与需求之间的限制,根本无法被解决。
财富网中文网报导,与 ChatGPT 或其他 AI 聊天机器人相处足够长的时间,很快就会发
现它们有时会“编造答案”,这种现象被称为“幻觉”,即机器人做出的捏造或纯粹的编
造,对于那些试图让 AI 系统编写文档并完成工作的企业、组织甚至学生,这是一个致命
的问题。
聊天机器人 Claude 2 的制造商 Anthropic 共同创始人 Daniela Amodei 认为,现在没
有任何一种模型能够完全避免产生幻觉,因为它们的设计初衷只是用来预测下一个单词,
因此模型肯定会有一定的错误率。
包括 ChatGPT 的制造商 OpenAI、Anthropic 及其他大型语言模型的 AI 系统主要开发者
都表示,他们正努力让这些系统变得更准确,但目前尚不清楚需要多长时间才能达到足够
的可靠性。
不过,华盛顿大学计算语言学实验室的主任、语言学教授 Emily Bender 认为,“这个问
题无法完全解决,因为技术与实际需求之间存在固有的不匹配。”
Google 已向新闻机构推销一款新闻写作 AI 产品,而作为与 OpenAI 合作的一部分,美
联社也在探索使用这项技术,而 OpenAI 正在付费使用美联社的部分存盘文本来改进其 A
I 系统。因此,生成式 AI 的可靠性至关重要,麦肯锡全球研究院(McKinsey)预计,这
将为全球经济带来相当于 2.6 兆至 4.4 兆美元的收入。
心得/评论:
chatGPT访问量一再下滑
一窝蜂投资ai服务器去训练语言模型的
越来越有元宇宙的fu糗了
散户:这次不一样!!