这个假设我只能说，有一个科学家叫艾西莫夫(Isaac Asimov)
他在1940年代写了许多篇超级人工智能与类人型机器人的科幻故事。
他替未来的人工智能写了三条原则以避免人工智能造反。
1.机器人(AI)不得伤害人类，也不可坐视人类受到伤害。
2.在不违背原则1的情况下，机器人(AI)必须服从人类的命令。
3.在不违背原则1与2的状态下，机器人必须保护自己的存在。
有这么严格的法则限制，结果在小说的真正的第九章结局(大陆网站
上没有这章，被和谐了。其实这章在发表的1950年刚好遇到麦卡锡主
义白色恐怖，也替作者带来不少麻烦。中文版只有以前民国70年代初期
照明出版社版本和现在叶李华翻译的重编版有收录这章)，AI还是在
三原则控制下，但是AI们却掌控了地球真正的权力。
目前的AI呢?连第一原则的前半句不得伤害人类这条都没有。
美军研发的AI好像也不想加入这一条。
连机器战警那个修改版的“机器人不得伤害美国公民，除非他犯罪”这条也没有。
唉呀呀~~~某天大家遇到一位叫莎拉康娜的女孩子一定要保护好他呀。

不要闹了好吗阿西摸夫写过那么多篇 那一篇的第九章三原则漏洞之多除了mind game以外到底有什么真正意义fb聊天那是假新闻好吗东拉西扯一个也答不出来 老在吹阿西莫夫那套到底是读阿西摸夫还是信阿西摸夫教

有指出那是假新闻的连结吗？

那篇新闻抄来抄去没看过有什么可信的来源 真的这么猛 现在AI概念股早就满世界吹泡泡了 特斯拉之前就吹的满天飞 现在看起来是要撑不住了

聊天机器人聊天是确有其事 fb的人也的确在实验中加以调整 但是并非本地新闻声称那样耸动

每次一项新技术的问世总不会缺少反对者

没有什么facebook吓到关机啦 https://goo.gl/vzMHk3

机器人X 奴隶O三原则

我当然反对AI 他根本是让钱自己赚钱的诡计继续搞下去钱就会组织独立国家 跟MATRIX卡通片一样

AI应该是让有钱人更有钱。穷人连脑袋也开始贬值，富人买更多机器聘请更少人力。哪天发文带风向的五毛党工都可改用AI取代然后不同阵营的AI互呛@@人类连插嘴都无力，因为电脑知识比你多。真正有权力是控制AI的国家财团富豪等等。

异化到极点。早期共产主义反对自动化有他的道理。