会不会被“天网”奴役，答案在我们自己
北京新浪网 (2016-03-21 02:21)
博闻强识
包括人工智能在内，人类的创造物是否会和我们站在同一边？是否会成为奴役我们的
力量？这些问题的答案不在工具，而在人类自身。
“阿尔法围棋”和韩国棋手李世石的世纪大战，终于以“阿尔法狗”4:1获胜而宣告
落幕。如果从科学发展角度来看，这不仅是一次人类和人工智能的大对决，而是人类对未
知领域的又一次科学实验，也必将从此掀开人工智能科学研发的新序幕。
今天的人工智能，已经成为涉及哲学、计算机、心理学、博弈论等领域的交叉学科，
“阿尔法狗”的算法技术和数据处理能力已经远超“深蓝”。在新一轮科技和产业革命
中，人工智能的产业化应用是一大动力源。无论是德国的工业4.0，还是美国的“再工业
化”，抑或是中国的“互联网+”，人工智能的研发都是重点，被视为经济社会发展的动
力源。
但对人工智能，除了欢迎，也有警惕。其发展的每一步，都与英国数学家图灵“机器
能思考吗”的诘问相伴。以机器人为代表的人工智能是否会取代人类、站到人类对立面？
这早已成为诸多科幻电影的题材，由施瓦辛格主演的《终结者》中的天网Skynet成为了最
可怕的人工智能的代名词，理论物理学家霍金也忧虑：“人工智能的完全发展会导致人类
的终结。”
人工智能会发展到什么程度？作为普通人，我们无法准确预测，因为目前的人工智能
尚处于“有智能没智慧、有智商没情商、会计算不会‘算计’、有专能无全能”的阶段。
然而就在“阿尔法狗”与李世石大赛期间，谷歌一位资深人工智能工程师接受专访，认为
在10年内，有知觉和自我意识的强人工智能可以实现，那时人工智能可以写小说，而且有
发展到天网水平的可能。
如果这真是10年内的结果，那么人类真的需要赶紧思考人工智能与人的关系了。对人
工智慧可能带来的安全与伦理问题，欧盟、日本、韩国等已经着手开展政策研究与立法实
践。事实上，谷歌在收购“阿尔法围棋”的研发者——“深度思维”公司的条款中有一项
，就是必须成立人工智能道德委员会，由来自科学、哲学多领域的人员监督通用人工智能
技术的未来应用。
世界上最强大的力量应当是人类本身，而不是一把铁锹或者核潜艇。人类制造的产物
不讲道德和感情，但它们拥有力量，这种力量的快速增长往往让人类感到恐惧。包括人工
智慧在内，人类的创造物是否会和我们站在同一边？是否会成为奴役我们的力量？这些问
题的答案不在工具，而在人类自身。
笔者想到了法国思想家帕斯卡尔的名言：“人是一棵有思想的芦苇。”面对人工智能
以及一个个可能带来异化的事物，我们需要的正是“思想”，也只有“思想”才能解决这
些难题。
□殷红博（科学教育学者）
http://news.sina.com.tw/article/20160321/16485041.html
今天的新闻有提到，日本的人工智能已经可以写小说，还通过文学奖的初审
这进展实在太快太可怕了，不知何时人工智能也能拍电影当导演就太酷了