楼主:
bitcch (必可取)
2014-10-31 03:20:09特斯拉CEO：人工智能将召唤出恶魔
电影机械公敌（I, Robot）当中，中央控制系统VIKI以人类正在危害己身安全的判断，控
制了NS-5机器人来执行“人类保护计画”的情节，或许你还记忆犹新。影片中企图控制世
界的VIKI正是一款人工智能系统。为了不在现实中重演这样的情节，特斯拉的CEO Elon M
usk再一次发出警告表示“人工智能将会召唤出恶魔！”
对于人工智能，近期科技界的相关研究方兴未艾。然而Elon Musk继先前曾表达“人工智
慧比核能更危险”宣言后，再度在麻省理工学院航空系百年论坛中表示，他对于计算机产
业未来的发展，也就是人工智能被恶意使用的情况感到担忧。
Elon Musk表示，“透过人工智能，我们将会召唤出恶魔。大家都知道这样的故事，有人
拿着五芒星和圣水，肯定自己能够控制恶魔，但事实上却是不能”。
Elon Musk的发言听起来十分骇人，但其实他指的是人工智能发展领域，正无限制的被研
究、应用。他表示为了预防人类不会为了研究或其他理由，做出一些危险的事情，在人工
智慧领域的研究会需要监管机制，可能是国际间共同提出，或是由单一国家来提出。
他已不只一次表达过对于人工智能前景的担忧。他之前曾开玩笑的表示，为了消除垃圾邮
件而开发的机器人，可能会自行做出决定，要毁灭人类。这仿佛又重复了电影机械公敌中
，男主角与一位小女孩同时遭遇重大车祸时，机器人因为生存机率的判断，而放弃拯救小
女孩一样。如同电影男主角所言，对于人类而言符合情理的判断，机器人并不一定能懂。
相对的，采用人工智能系统来进行判断的机器人，也有可能像电影中的VIKI一样，夺取控
制权企图凌驾于人类之上，而可能为人类带来超乎预期的灾难。
http://ppt.cc/bD5P
作者:
lzyx (鬼岛认证地沟油)
2014-10-31 03:23:00他说的是电影魔鬼终结者吧 =.=|||
作者:
samtony (kane)
2014-10-31 03:25:00目前电脑连翻译都做不好了 想太多
很多科技业的感觉都会担心这个，奇点来临不是没可能的Elon Musk就是号称现实钢铁人那位啊，南非出身的美国创业者
作者: lolix (toy) 2014-10-31 03:28:00
ULTRON
作者:
TSbb (贷款三十年债开始)
2014-10-31 03:28:00有什么好灾难的? 人类现在就是对大自然的最大浩劫了
作者:
NuCat (骑乌龟去爬山)
2014-10-31 03:29:00明年的复仇者联盟2也是这块主题，奥创时代来临
作者: chaunen 2014-10-31 03:43:00
万磁王吗?
作者:
KJK5566 (士林金钟国)
2014-10-31 03:45:00先把伊波拉病毒搞定再来讨论人工智能危不危险
作者:
dderfken (托雷迪亞(é¬é¬šå¼µ))
2014-10-31 03:45:00贾维斯表示
作者:
idunhav1 (你知道天空为什么是蓝的?)
2014-10-31 04:02:00现在都是弱AI居多吧，车子电池烧起来该不会是强AI造成的
ai强的很强好不好傻傻的只是一直以来都在探索一个问题到底过度使用ai会不会让人类产生浩劫?
作者:
alog (A肉哥)
2014-10-31 04:09:00ㄏㄏ把dns跟ip给切了看你怎么连 只要机器人还需要连网络 人类winwin
作者:
alog (A肉哥)
2014-10-31 04:10:00ai要足够的空间放置样本跟数据库
作者:
alog (A肉哥)
2014-10-31 04:11:00ai太强 肯定昂是人类给他权限太大 真的会被毁灭那太智障
作者:
alog (A肉哥)
2014-10-31 04:12:00ㄏㄏ不然你做一个给我看好吗根本就无稽之谈
他们还可以运算出最短的搜寻路径只要能想的到就有被实践的可能
这东西其实已经不是会不会出现 而是何时出现的问题了
只要理论上可行只是要花多少力量写出来的问题光是我想就有办法想的到何况美国那些鬼才
作者:
alog (A肉哥)
2014-10-31 04:14:00人是善用物器跟利用人的生物 AI这东西没有你想象中的夸张你想的到的 电影都演过了
想想看google bot是怎么突破一般网站的目录结构让他们泄光光 他们可以说你自己开的怪我囉?只是你不知道而已
作者:
alog (A肉哥)
2014-10-31 04:17:00呵呵 网站目录这不需要ai啊
作者:
alog (A肉哥)
2014-10-31 04:18:00那我还在等
一个国家的领导者就有那种高度到底要不要发展可能是数百年前就决定好的不用全ai 就算是有人用某种超强的工具也够猛的也不是你切ip就能解决的讲太多我怕会把某些技术提前曝光
作者:
peng1016 (新竹5566)
2014-10-31 04:23:00目前ai盲点很多 但很多应用确实不错 但都偏辅助比较多
作者:
alog (A肉哥)
2014-10-31 04:25:00目前人工智能的应用还是要依赖网络人工智能的决策 运算 拟出来的策略要放的资料是非常庞大的人类很怪 明明自己才最恐怖 竟然要惧怕ㄧ个自己家做出来的东
作者:
tinghsi (识时务者)
2014-10-31 04:28:00你以为人类科技一直进步不断让电脑效能变好
作者:
alog (A肉哥)
2014-10-31 04:28:00西 等到真的如你所说的灾难前 恐怕人类延伸出来的问题先自己给灭了
作者:
tinghsi (识时务者)
2014-10-31 04:29:00实际上电脑是藉着人类的手不费吹灰之力拼命进化
从他打倒棋王那刻起世界就已经变的不一样了就说了不用全自动ai 超强工具落在你的敌人手里也够让你寝食难安了
作者:
alog (A肉哥)
2014-10-31 04:31:00事实上你还是该担心的是社会上产生的问题 而不是这个ai只有社会阶级地位高的人才能决定跟整合这些资源美国以前发展核武差点把自己给灭了
作者:
alog (A肉哥)
2014-10-31 04:33:00那ISIS是人还是AI?你应该还是要惧怕的是人
作者:
alog (A肉哥)
2014-10-31 04:39:00那到底是人为还是ai为呢 你离清楚
作者:
alog (A肉哥)
2014-10-31 04:40:00这篇人新闻重点还是在于要怎么防堵人类滥用ai 做事而至于那种电影般的ai夺权什么的让他在电影演就好了该担心的还是人
作者:
alog (A肉哥)
2014-10-31 04:42:00那我还真佩服你愿意跟我这个土包子讲这么多@@
我不想再想下去了太可怕了你可以试着从防御者的角度换成攻击者的角度你就会看到无限可能
作者:
alog (A肉哥)
2014-10-31 04:47:00平常心看待就好了啦
作者:
tps6115 (林比尔小批发)
2014-10-31 04:49:00资工毕业讲真的100年内AI你还是吃土去吧。
作者:
arrenwu (键盘的战鬼)
2014-10-31 04:49:00他讲的恶魔应该不是Skynet这种吧
作者:
arrenwu (键盘的战鬼)
2014-10-31 04:52:00为了消除垃圾邮件开发的机器人要毁灭人类这更奇怪了这机器人的action space根本就没有毁灭人类这一项啊
没有没有明确的选项不代表示情不会发生这才是他担心的地方
作者:
tps6115 (林比尔小批发)
2014-10-31 04:55:00没你好笑吧？一整个电影看太多...
作者:
arrenwu (键盘的战鬼)
2014-10-31 04:57:00你可以教我一个只能选择要不要删除邮件的机器人要怎么毁灭世界吗？
作者:
arrenwu (键盘的战鬼)
2014-10-31 04:58:00夺取控制权这讲法也一样，action space 根本没有这一项是要怎么夺取？
作者:
arrenwu (键盘的战鬼)
2014-10-31 05:00:00会去设计一个ai还允许他更改权限，这设计者是白吃吗？
你的电脑没中过毒吗?非体制内的行为又不是只有真实世界才会发生
作者:
tps6115 (林比尔小批发)
2014-10-31 05:02:00电脑中毒是有人设计病毒让电脑中毒阿
作者:
tps6115 (林比尔小批发)
2014-10-31 05:03:00我都快笑死了，去学点基本知识再来好嘛!还电脑中毒勒
作者:
arrenwu (键盘的战鬼)
2014-10-31 05:04:00所以是有人设计AI搞破坏，不是AI本身危险啊
里面的mathod太多他只是有一项叫做求最有效率光是那条就有可能让AI产生越狱的行为
作者:
arrenwu (键盘的战鬼)
2014-10-31 05:06:00...你不给AI超过某个门的选项他是要怎么越域你进行optimization不表示你不能放constraint吧
但最速解的结果可能就是进行某些非体制内的行为他进化了你们懂吗?
作者:
tps6115 (林比尔小批发)
2014-10-31 05:08:00我只能说现阶段强AI领域停滞不前很久了，没有天元突破你应该不用替未来人担这个心。
作者:
arrenwu (键盘的战鬼)
2014-10-31 05:09:00所以要ai找一个x<1的最佳解，结果他给出了x=2?
作者:
tps6115 (林比尔小批发)
2014-10-31 05:10:00你的AI知识是来自哪里阿?电影?小说?还是自己幻想？
作者:
nk (除了累还剩下啥...)
2014-10-31 05:13:00他说的不是没道理 AI需要庞大的数据库 这东西不可能放在机器人身上 但目前已经有这个数据库技术了 那就是云端运算系统
作者:
nk (除了累还剩下啥...)
2014-10-31 05:15:00机器人只要投过条件式的搜索就可以从云端资料内找到行动模式
作者:
tps6115 (林比尔小批发)
2014-10-31 05:18:00这啥，猜谜机器人？
作者:
nk (除了累还剩下啥...)
2014-10-31 05:21:00好吧 我想说的很简单 从云端系统内构筑机器人的行动模式AI的难度其实远不如现在大家想的困难 只是现在刚起步而已
作者:
tps6115 (林比尔小批发)
2014-10-31 05:22:00这技术有可能啊，但和AI会失控有什么关联?
作者:
nk (除了累还剩下啥...)
2014-10-31 05:23:00所以这两个实际的结合非常少 往往都是人有目的性的目标性事物问题在要给与行动限制这点会比较困难 因为他是蒐所出来的
作者:
tps6115 (林比尔小批发)
2014-10-31 05:24:00而且云端运算根本不是什么新颖的技术，以往是被基础建设的不足才侷限了功能。
作者:
nk (除了累还剩下啥...)
2014-10-31 05:24:00所以他可能会跳过你的限制(因为限制条件本身可能不完美有漏洞)
作者:
tps6115 (林比尔小批发)
2014-10-31 05:26:00云端运算也是把他该做的事情转移到server上去做处理，该限制的不会不同...
作者:
nk (除了累还剩下啥...)
2014-10-31 05:26:00所以给予限制这点会随着数据库的增加反而有更大的缺陷存在
作者:
tps6115 (林比尔小批发)
2014-10-31 05:27:00况且切断连线就gg惹...
作者:
tps6115 (林比尔小批发)
2014-10-31 05:28:00这都是弱AI的特点，没有符合的行为模式就失去了智慧的外表
作者:
tps6115 (林比尔小批发)
2014-10-31 05:30:00你们害怕的是强AI的出现，但就现阶段而言就让它留在电影里吧。要怎么取得一个封闭网络核能电厂的主控权?若有能够自己设计且制造机器人武力攻占厂区的AI存在再来担心吧。
作者:
arrenwu (键盘的战鬼)
2014-10-31 05:40:00你倒是说说你到底在担心什么吧 哈哈
作者:
arrenwu (键盘的战鬼)
2014-10-31 05:41:00如果我只让一个ai下棋 他要怎么威胁人类xD
作者:
arrenwu (键盘的战鬼)
2014-10-31 05:42:00tps6115讲的能自己设计和制造机器人武力的ai确实危险
作者:
tps6115 (林比尔小批发)
2014-10-31 05:44:00AI原理没你想的复杂，要创造出符合强AI定义的AI就现阶段而言还太早
作者:
arrenwu (键盘的战鬼)
2014-10-31 05:44:00听过啊，然后？
作者:
tps6115 (林比尔小批发)
2014-10-31 05:46:00人类连本身智慧是如何存在都不能掌握了，更别说复制出来
作者:
arrenwu (键盘的战鬼)
2014-10-31 05:47:00魏徵斩龙王跟AI危险的关联是？
作者:
tps6115 (林比尔小批发)
2014-10-31 05:48:00云端技术也不是今年才出现的...
去睡吧连最基本的语句判断能力都失去了CAPTCHA 技术也不断的在改进因为就是有人会破而且还开放让大家一起玩
作者:
tps6115 (林比尔小批发)
2014-10-31 05:57:00会被破解不意外啊，那种图灵测试只是廉价的解决方案
作者:
Pietro (☞金肃πετροσ)
2014-10-31 06:05:00买下残障车的人
作者:
WLR (WLR™)
2014-10-31 06:35:00等进步到会上八卦版发废文再来担心
作者:
ccucwc (123)
2014-10-31 07:10:00明年风见就要开着恶魔阿斯拉出来拿冠军了 ~@@!!!