※ [本文转录自 movie 看板 #1MuiDInx ]
作者: zkow (逍遥山水忆秋年) 看板: movie
标题: [新闻] 谷歌专家：不排除出现天网的可能性
时间: Fri Mar 11 21:08:31 2016
谷歌人工智能专家：不排除出现天网的可能性
北京新浪网 (2016-03-11 07:28)
　新浪科技 郑峻 发自美国硅谷
　　李世石又输了。在这场万众瞩目的人机对战中，谷歌旗下DeepMind团队开发的人工智
慧AlphaGo围棋程序又一次击败了这位韩国的围棋世界冠军，在五局三胜的比赛中连下两
城。看起来继国际象棋之后，人类智能在棋牌游戏的最后一块优势阵地也已经不复存在。
　　就在第二局比赛之前，谷歌一位资深人工智能工程师接受了新浪科技驻美记者的独家
专访，就此次比赛以及人工智能的前景发表了他的看法。由于未获允许接受采访，他不便
透露具体身份。需要再次强调的是，此次采访是在旧金山时间周三傍晚进行的，当时他还
不知道比赛进程，更不知道李世石会再度告负。
　　问：此次比赛是人工智能的里程碑吗？
　　答：这次比赛是人工智能领域的一个重要里程碑事件，因为研究人员已经从事围棋计
算机程序研究数十年了。20年前，计算机在国际象棋领域击败了人类(注：1997年IBM的深
蓝击败世界冠军卡斯帕罗夫)。20年后，电脑程序在围棋上也超越了人类。而此前很多研
究人员还认为这至少还需要十年时间。围棋是此前仅存的人类能够击败电脑的完全信息博
弈游戏(Perfect Information Game)。
　　问：谷歌人工智能团队有多少人？
　　答：实际上，谷歌并没有一个叫做人工智能团队的部门。谷歌目前有两个主要团队负
责深度学习的研究工作，包括谷歌大脑(Google Brain)以及这次参赛的DeepMind。
AlphaGo项目是主要由伦敦的DeepMind团队负责的。我不能透露具体信息。Facebook现在
也有一些研究人员在从事同样的项目。
　　问：我们是否可以说李世石的对手不只是AlphaGo，而是整个谷歌人工智能的实力？
　　答：不是这样，此次李世石的对手是DeepMind的AlphaGo团队。AlphaGo是为围棋比赛
开发的，而谷歌的其他机器学习团队都在使用不同的技术，从事不同的项目。
　　问：此次比赛过程中，谷歌总部团队为AlphaGo提供了怎样的支持？
　　答：只是确保AlphaGo与谷歌的服务器连接顺利。前方也担心比赛过程中互联网连接
出现问题，所以准备了备选方案。
　　问：那你们怎么看待第一场比赛的胜利？这是意料之中还是意料之外的？
　　答：自从去年12月比赛以来，AlphaGo的能力已经得到了明显的提升，我们对此次比
赛的胜利是基本预料之内的。我们很多人都认为AlphaGo会赢得比赛，很高兴看到这一切
正在变成现实。
　　问：你们预计未来几局战局如何？
　　答：AlphaGo很大可能会五局全胜。
　　问：中国世界冠军柯洁表示，即便AlphaGo可以战胜李世石，也无法战胜他。
　　答：我不懂围棋，不知道他是谁。即便他是当今围棋的第一人，即便现在AlphaGo不
是柯洁的对手，也只需要三个月时间就完全可以击败他。
　　问：那么人工智能何时可以达到撰写小说的程度？
　　答：这很难说，我估计10年之内可以实现。
　　问：围棋被认为是人类棋牌游戏的智能巅峰。这次AlphaGo取胜是否意味着人工智能
已经超越人类智能？
　　答：不是这样，人类智能包括很多方面。棋牌游戏只是其中很小的一部分能力。举例
来说，目前人工智能依然无法在多玩家同时对战的德州扑克游戏中稳操胜券，也无法在股
市这样的无法获知玩家信息的游戏中取胜。他们也无法做到品尝食物这样的人类基本能力
。
　　问：那么人工智能还需要多久才能对人类智能占据明显优势？
　　答：在ImageNet计算机视觉识别挑战赛，人工智能已经在图像分类(物体识别)上接近
了人类，这其中的挑战只是从一张图像中分析1000种可能性来判断物体。我觉得未来10到
15年，人工智能可以接近人类级别的一般智能水平。要实现这个目标，自然语言是需要克
服的一大障碍。
　　问：那么人工智能的下一个里程碑是什么？
　　答：正如我此前所说，下一个里程碑就是自然语言理解，包括更好的理解书写文字以
及搜索查询的问题。
　　问：伊隆·马斯克(Elon Musk)担忧未来人工智能可能会无意被用于邪恶，甚至毁灭
人类。你怎么看待这种天网存在的可能性？
　　答：我认为随着强人工智能(AGI)时代的到来，这是可能的。但目前人工智能的能力
还太有限，距离这个可能性还太远。我估计，再过10年这个问题会成为可能。(注：天网
Skynet是电影《终结者》中的人工智能系统，拥有自我意识之后开始毁灭人类)
　　问：机器到时候会拥有自我意识吗？
　　答：目前人工智能依然处在非常早期的阶段，没人知道未来某天机器是否会具备自我
意识的能力，乃至更加不可预测的后果。从理论上来说，马斯克的担忧是完全可能的。而
这就是马斯克做OpenAI的目的，制定人工智能的道德准则，确保未来人工智能不会被误用
于邪恶的目的。
　　问：那你怎么看待马斯克创办的OpenAI机构？
　　答：我认为保持人工智能研究的开放性和向大众开放是有意义的。他们拥有很多非常
杰出的研究人员，包括此前谷歌大脑的一些成员。我很期待看到他们在未来会有怎样研究
的成果。
　　问：如果有一天真的出现可怕的后果怎么办？
　　答：我希望到时候自己的大脑已经融入电脑，人和电脑合为一体。
　　问：你的身体呢？
　　答：(笑)储存起来，需要的时候再用好了。开个玩笑。
http://news.sina.com.tw/article/20160311/16351717.html

转过来做啥...

天网也没差啊 它又没性欲 不会去kobe 它也不会痛 没求欲没求生欲 它要去斗争什么 除非给它5感 不然就只是很聪明的工具

只能说电脑运算是会随科技一直超越性进步(几何吧)人在这方面确实没办法跟得上这种进步所以输给电脑早晚的...比只是比好玩的

@chaoliu “除非给他五感”，图片辨识就是五感的视觉啦XD听觉就如同语音辨识 + 自然语言处理算是其中的一部分，所以确实是有在研究尝试让电脑取得五感没错XD另外并不是没有欲望就完全没有危险，举例来说机器人被设定成保护主人，结果因为判断的错误对于正常接触主人的人做出过当的保护行动，这就是一种危险性科幻小说常见的题材就是电脑自主运算后认为需要让自身／特定人物或族群存活的最佳手段是毁灭其他所有人而导致，这在过去纯运算工具化的电脑确实不会发生，但在自行发展判断思维的电脑来说，并非完全不可能发生的方向

不过没差啦 电脑跟机器始终只吃一种能源(电)相比之下人存活可仰赖的东西多太多 切断机器的能源就足以大量灭绝机器电脑

其实每次这种切断电源的说法都有个问题人类还不是一样，被刺到心脏也会死

这就是大自然决定论

只是人类在文明发展前已经学会如何自保现在的问题应该是“如果电脑也获得了自保、生存权”那电脑会不会变成另一个“羽蛇神”

Ai写小说，太酷啦

反正人类也是经由斗争 最后还是要和平才能人人自保机器如果有自主力 最后为求安定也会发展出道德跟平和只是会部会先干掉人类全部 那就步知道XD但是人一向没有对威胁自我我的种族采取灭绝手段机器人可能也未必会

那柯洁是不是要趁现在赶快比阿 拖越久越容易输

这不是围棋版吗?

这比赛让大家关心围棋了，对围棋算是好处吧

Q:请问如何解决地球暖化问题??A:当然是消灭人类 BOOM BOOM ~~ O ya~~~~~

zkow事蹟 https://goo.gl/jblHTo