柯洁说故意装弱智就能赢围棋AI，原理是什么？
导读柯洁说，他找到破解围棋AI的方法：故意下"弱智"招，哪怕让AI九子，AI也赢不了。
柯洁说，他找到破解围棋AI的方法：故意下"弱智"招，哪怕让AI九子，AI也赢不了。
很多人觉得这是嘴硬，其实不是。他说中了所有AI——从棋AI到现在的大语言模型——共同的致命弱点。
这个方法的原理，十年前就验证过
2016年李世石和AlphaGo对战，第四手下出那手著名的"神之一挖"，直接把AlphaGo打崩盘。
那手棋为什么厉害？它根本不是什么千古名局，就是一步AI训练数据里很少见、不符合正常棋理的走法。
AlphaGo的工作方式很简单：给每个可能的走法打分，概率低的直接剪掉，不浪费算力搜索。
正常对局里，几乎所有走法都符合概率分布，AI算得比人类快一万倍。但你故意一直下低概率走法，会发生什么？
AI的搜索树直接垮了。每个走法都被它自己剪掉，根本找不到正确应对方向，计算优势完全发挥不出来。
不止围棋AI，所有大模型都有这个问题
柯洁这个思路，放在现在的大模型上，完全适用。
大模型也是统计出来的：它见过的训练数据里，什么词后面接什么词，概率高就选什么。
你给它满是套话的问题，它答得比人类还顺；但你给它一个稍微有点奇怪、训练数据里少见的问题，它立刻开始胡说八道。
现在对抗AI生成内容检测，最有效的方法之一，就是加几个AI根本不会用的词语顺序。AI红队找大模型漏洞，也都是故意给它分布外输入，就能把它绕进去。
AI越强，越依赖训练数据的分布，对分布之外的东西就越脆弱。
这就是它最大的软肋：它的优势，恰恰就是它的盲区。
最后想说
正常对局，人类现在肯定下不过AI。但这不代表AI就是无敌的。
你换个思路，不按它熟悉的规则玩，它不一定能接住。
这个道理放在围棋上是这样，放在AI对行业的冲击上，其实也是这样。
