https://www.bnext.com.tw/index.php/article/42907/ai-can-code
工程师注意!“会写AI程式的AI”来了
数位时代
认图片、辨声音、下围棋、玩德州扑克、开卡车……似乎越来越多人能玩的事情AI也能玩
而且玩得比人还溜。但暂时有一部分人还是自我感觉安全的——工程师的工作AI还是很难
胜任的对吧?毕竟这个东西需要逻辑思考,需要框架和流程设计,哪里是AI能一下子胜任
的事情。但Google等公司认为,AI现在可以开始学习一些AI专家做的事情了,那就是写AI
程式。
Google Brain人工智能研究小组的研究人员最近就进行了这样的尝试。他们在一次试验中
让软件设计了一套机器学习系统,然后对这套系统进行测试语言处理方面的测试。结果发
现该系统的表示超过了人类设计的软件。
Google Brain团队首先用递归神经网络(RNN)生成神经网络的描述,然后利用强化学习
对该RNN进行训练。其方法可以让AI从零开始设计出一个新颖的神经网络架构,在利用
CIFAR-10数据集(含6万张32x32的彩图,涉及10类对象,每一类各6,000张。其中5万张为
训练图像,1万张为测试图像)进行图像识别测试时,其识别的精度甚至比人类设计的最
好架构还要高,错误率仅为3.84%,与目前最先进的神经网络模型相比,其错误率仅低0.1
个百分点,但速度快了1.2倍。而在用于自然语言处理的Penn Treebank数据集上,其模型
构造出来的一种递归神经单元也超越了被广泛使用的LSTM神经单元等最新基准指标,在复
杂度方面比后者好3.6倍。
类似地,Google的另一个AI团队DeepMind最近也发表了一篇名为《学会强化学习》的论文
。其研究同样针对的是深度学习所需的训练数据量大且获取成本高的缺点。他们提出了一
种名为deep meta-reinforcement learning的强化学习方法,利用递归神经网络可在完全
有监督的背景下支援学习的特点,把它应用到了强化学习上面。从而将用一个强化学习算
法训练出来的神经网络部署到任意环境上,使得AI在训练数据量很少的情况下具备了应用
于多种场景的学习能力。或者用DeepMind团队的话来说,叫做“学会学习”的能力,或者
叫做能解决类似相关问题的归纳能力。
Google Brain团队的负责人Jeff Dean最近在回顾AI进展情况时,就曾经表态说机器学习
专家的部分工作其实应该由软件来负责。他把这种技术叫做“自动化机器学习”,并认为
这是最有前途的AI研究方向之一,因为这将大大降低AI应用的门槛。
当然,创建“学会学习”的软件这个想法由来已久,蒙特利尔大学的Yoshua Bengio早在
1990年代就提出了这个想法。但之前的试验结果并不理想,因为AI做出来的东西还是比不
上人类想出来的模型。但近年来随着运算能力的不断增强,以及深度学习的出现,AI学会
学习的能力终于取得了突破。
尽管AI的自学能力取得了突破,但是在近期内还不能大面积推广。因为事先这种能力需要
庞大的计算资源。比方说Google Brain那个设计出识别率超过人类所开发系统的图像识别
系统的AI就需要800个GPU。
但这种情况将来可能会发生变化。最近MIT Media Lab也开发出了设计深度学习系统的学
习软件,其所开发出来的深度学习系统的对象识别率也超过了人类设计的系统。 MIT
Media Lab计划将来把它的这套AI开源出来,让大家继续这方面的探索。
除了Google和MIT以外,据报导最近几个月有好几个小组也在让AI软件学习编写AI软件方
面取得了进展。其中包括了非盈利的AI研究组织OpenAI (其他的非盈利AI组织可参见这
里)、MIT、加州大学、柏克莱分校等。
一旦这类自启动式的AI技术具备实用性,机器学习软件在各行业应用的节奏无疑将大大
加快。因为目前机器学习专家极为短缺,各家企业组织都需要高薪供养这批人。