【安静】围棋AI竟有盲点，深度学习的弱点是何处？
野狐围棋
作者：找借口安静点击：40322023-06-01 13:22
原址：https://www.nikkei.com/article/DGXZQOUD1580R0V10C23A5000000/
原题：囲碁AI、“论理的思考”に盲点 深层学习の弱点示す
摘自：日本经济新闻
作者：北村光
翻译和整理：找借口安静 感谢余正麒点我名
我们终于找到了围棋AI的盲点，虽然围棋AI具备远超人类棋手的实力，但是在一个特别的
棋型中，它却没法识别。据说这也是各领域的AI共同存在的一个弱点。
“啊，这个白棋全死里面了”，对AI颇有研究的大桥拓文七段，通过某种策略战胜了具备
最强水平的围棋AI“KataGo”。执黑的大桥拓文在最后吃掉了左上角到中腹的一团白棋，
实空大幅领先并获得了胜利。
大桥拓文将其称为“甜甜圈下法”，正是下面这个图的下法。首先让自己的黑棋被AI的白
棋包围，让AI的白棋像甜甜圈一样围成一个圆圈。然后黑棋在这个白棋周围行棋，而AI却
感觉不到自己的“甜甜圈”已经处于生死的边缘了。
这个下法是美国的一家研究团队，和KataGo下了100多万盘对局之后发现的漏洞。将另一
个AI设定为“敌对的AI”，另一个软件则参考计算的这些手段来反复进行对局，此后发现
“敌对的AI”胜率超过了97%。此后到了2月，一名美国的业余棋手通过这个方法战胜了AI
。
相信很多人都对AI为什么不能正确识别特定局面感到怀疑，但是大桥拓文表示，在很早以
前，包括手数很长的对杀在内，AI其实也经常下不出正确的下法。
虽说AI的实力已经远超很多顶尖围棋棋手，不过AI棋手并没有完全理解“围棋是什么”。
比如说两眼做活这样的概念，围棋的话只要被围住对手就能吃掉，不过有黑白交替落子和
不能在禁入点落子，这两个规则融合在一起的话，就是“只要制造两个不能让对手行棋的
空间，这块棋就是活棋”。这也是刚刚学棋的人最先学到的内容。
围棋AI是通过模仿人脑的深度学习技术，通过自我对局来提升实力，但是AI并没有理解“
两眼做活”这样的理论性知识，AI只不过是通过自己的经验选择胜率最高的手段然后一步
步积累起来。而针对蔓延到全盘的死活，或者是不是有两只眼的情况，对AI来说它就需要
在庞大的数据中一个个进行反复验证。
大桥拓文用的KataGo，在发现弱点之后又重新发布了新的版本，而在新的版本中就很难使
用“甜甜圈战术”了。但是KataGo的对策是“避免自己的棋子变成一圈”。在特定的情况
下，AI还是没法正确识别局部的死活问题，而这个问题在利用深度学习技术的AI中也同样
存在。
“甜甜圈战术”是人类棋手之间不可能采用的特殊手段，所以说很难断言人类棋手再一次
超越了机器。大桥拓文以及战胜了中国围棋AI的芝野龙之介二段也说：“这么下和正常的
围棋不一样”。
和围棋AI面临同样课题的深度学习型AI也有很多，比如说“ChatGPT”的文章生成功能，
也会说一些明显是错误的内容。AI虽然可以通过庞大的数据然后写出一篇像样的文章，但
是AI并不明白这些词的意思以及逻辑性。现在社会上各个领域都有AI的存在，但是我们还
是有必要区分其擅长和不擅长的地方。
https://www.foxwq.com/news/listid/id/14370.html