Re: [新闻] 特斯拉创办人警告:人工智能将威胁人类工

楼主: yusaku (yusaku)   2017-07-31 19:26:40
这个假设我只能说,有一个科学家叫艾西莫夫(Isaac Asimov)
他在1940年代写了许多篇超级人工智能与类人型机器人的科幻故事。
他替未来的人工智能写了三条原则以避免人工智能造反。
1.机器人(AI)不得伤害人类,也不可坐视人类受到伤害。
2.在不违背原则1的情况下,机器人(AI)必须服从人类的命令。
3.在不违背原则1与2的状态下,机器人必须保护自己的存在。
有这么严格的法则限制,结果在小说的真正的第九章结局(大陆网站
上没有这章,被和谐了。其实这章在发表的1950年刚好遇到麦卡锡主
义白色恐怖,也替作者带来不少麻烦。中文版只有以前民国70年代初期
照明出版社版本和现在叶李华翻译的重编版有收录这章),AI还是在
三原则控制下,但是AI们却掌控了地球真正的权力。
目前的AI呢?连第一原则的前半句不得伤害人类这条都没有。
美军研发的AI好像也不想加入这一条。
连机器战警那个修改版的“机器人不得伤害美国公民,除非他犯罪”这条也没有。
唉呀呀~~~某天大家遇到一位叫莎拉康娜的女孩子一定要保护好他呀。
作者: MOONRAKER (㊣牛鹤鳗毛人)   2017-07-31 19:50:00
不要闹了好吗阿西摸夫写过那么多篇 那一篇的第九章三原则漏洞之多除了mind game以外到底有什么真正意义fb聊天那是假新闻好吗东拉西扯一个也答不出来 老在吹阿西莫夫那套到底是读阿西摸夫还是信阿西摸夫教
作者: jai23012 (jai23)   2017-08-01 00:35:00
有指出那是假新闻的连结吗?
作者: bloodpledge (传说唷唷唷)   2017-08-01 00:52:00
那篇新闻抄来抄去没看过有什么可信的来源 真的这么猛 现在AI概念股早就满世界吹泡泡了 特斯拉之前就吹的满天飞 现在看起来是要撑不住了
作者: MOONRAKER (㊣牛鹤鳗毛人)   2017-08-01 11:38:00
聊天机器人聊天是确有其事 fb的人也的确在实验中加以调整 但是并非本地新闻声称那样耸动
作者: IcecreamHsu (冰淇淋)   2017-08-01 23:48:00
每次一项新技术的问世总不会缺少反对者
作者: hivabe (yaguchi)   2017-08-02 12:05:00
没有什么facebook吓到关机啦 https://goo.gl/vzMHk3
作者: yuriaki (百合秋)   2017-08-02 12:29:00
机器人X 奴隶O三原则
作者: MOONRAKER (㊣牛鹤鳗毛人)   2017-08-02 17:18:00
我当然反对AI 他根本是让钱自己赚钱的诡计继续搞下去钱就会组织独立国家 跟MATRIX卡通片一样
作者: kuma660224 (kuma660224)   2017-08-02 23:15:00
AI应该是让有钱人更有钱。穷人连脑袋也开始贬值,富人买更多机器聘请更少人力。哪天发文带风向的五毛党工都可改用AI取代然后不同阵营的AI互呛@@人类连插嘴都无力,因为电脑知识比你多。真正有权力是控制AI的国家财团富豪等等。
作者: MOONRAKER (㊣牛鹤鳗毛人)   2017-08-03 11:15:00
异化到极点。早期共产主义反对自动化有他的道理。

Links booklink

Contact Us: admin [ a t ] ucptt.com