传统上的想像
很多作品人工智能是科技奇异点的需求
甚至人工意识 但人工意识种族普遍会加深人类的焦虑
从各种反乌托邦AI作品 骇客任务 甚至质量效应
沙丘跟40k应该也都有AI灾难
人类希望存在一个拥有人类思维又拥有超级能力的电脑
但又希望这个电脑不具有人类缺陷
你要不要听听自己在讲什么.jpg
好啦 别搞这么复杂 假设这台AI只是拿来问问题
那你怎么保证你问的问题是正确的问题?
你假如问出错误的问题 AGI完美的解决 那不是一切更糟吗= =
所有的语言跟形式逻辑都要达到完美的地步 不然一不小心AGI就变黑圣杯了= =
AGI1.能够不听命令自律主动介入社会 2.他只是问题的回答者
前者有人类被毁灭的风险 后者有人类加速自己毁灭的风险= =

买过一次固态换了两次货，永远不再用

你这文章里面的问题其实不是AI的思考能力，而是为什么AI可以取得足够大的权限来毁灭人类

发明ai不就是为了懒..毁灭人类也是人类懒的做限制

二楼，因为你要他做事就是要给权限，不给权限又要员工什么都处理得很完美，这不是矛盾吗？

有人要员工什么都处理得很完美吗？？

最近有只龟要AI读画面上的一段话就搞到快崩溃了

他可以告诉我如何快速消灭核能 但不能决定我没电吧？

要员工什么都自己处理的老板多了去了，所以常常新闻上看到员工利用老板的信任大捞油水。想避免这种情况，那老板就必须自己监督批核，不能什么都放给员工去做

把每个人关进独立的空间 除了自己外全部都NPC 这样就OK了自己永远是主角 AI就可以保障所有人的幸福

AI可以是完美的 <---- ???????

其实就是全能悖论吧

没电还真的是当今AI的最大难题

那何不先问AI这么做会有什么后果

AI的本质不就是概率性吗 不确定的东西能完美?

我们有人要求AGI的行为包含主动介入吗？

人类目前有发明过完美的东西吗

老实说我看了半天还是没懂为什么AGI有方法就得AGI下去做 这之间的关联

如果AI很完美 那他的能源计算公式应该也比人类完美

目前还不知道AI发展到所谓可自主学习比拟人类的会是怎样的情况跟倾向，对人类会有怎样的看法也不得而知