模型考古 · 20

KataGo 的答案有保质期吗

同一局面换网络、引擎、搜索量或对称方向,第一候选可能改变。把完整分析条件放回结论旁边,旧答案会落入三种状态:仍然稳定、需要加注,或已经不能引用。

  1. 答案不是一个坐标,而是一组运行条件

    KataGo 的输出由网络、引擎版本、规则、贴目、搜索预算、对称方向与随机设置共同产生。只保存“推荐 Q10”会丢掉复现实验所需的大部分条件。

    同一棋盘并排显示两次分析条件,改变的不只是候选坐标。
  2. 原始策略和搜索第一候选,本来就不是同一答案

    官方说明指出 raw policy 不会被搜索改写,而 analysis 的 order=0 是搜索排序结果。二者可能指向不同区域;读旧结论时,要分清变的是网络第一感还是搜索后的排序。

    A 线显示神经网络第一直觉,B 线显示搜索后的 order=0;两者回答不同问题。
  3. 架构升级会改变单位访问的含义

    KataGo 1.17 引入的 Transformer 网络被官方描述为每次访问更强,并常比旧卷积网络更快。跨架构只对齐 visits,不能保证对齐计算量或判断质量。

    相同 visits 不等于相同计算;对比需同时记录网络架构与实耗时。
  4. 网络档案的 Elo 只能在训练运行内理解

    公开网络页保留历史检查点,但明确提醒不同训练运行的近似 Elo 不可直接横比,且误差约有两个标准差。文章因此用日期与网络身份定位历史,不拼接一条虚假的统一棋力线。

    历史检查点按训练运行分栏,不把不可比的 Elo 连成一条精确曲线。
  5. 对称与随机性是最低成本的压力测试

    固定 nnRandomize、根对称和搜索量后再做八种棋盘对称,可检查标签是否依赖偶然方向。若第一候选频繁分裂,应把它标为搜索不稳,而不是宣布旧模型错误。

    八种等价方向若不能回到同一候选簇,答案尚不适合写成定论。
  6. 旧答案至少有三种不同的过期状态

    旧答案可以是坐标仍稳、理由已变;坐标改变但价值近似;或局部结论真正翻转。三种状态对应继续引用、加注条件与撤回重写,不必把每次升级都包装成革命。

    保留、加注、退役三种状态比“新模型更强”提供更多编辑信息。
  7. 没有分析条件,旧截图就只剩一个坐标

    完整记录包括 engine、network、rules、komi、maxVisits、nnRandomize、rootSymmetry、分析日期,以及 raw policy 与 order=0。模型升级后按同样条件重跑,才看得出答案是真的改变,还是软件默认不同。

    完整分析记录让旧截图变成可以重新核对的结果。

官方资料

  1. KataGo Training History
  2. KataGo public networks
  3. KataGo 1.17 Transformer release
  4. Analysis Engine documentation
  5. Policy and search clarification

旧 AI 结论的引用条件

  • 网络和引擎版本可定位
  • 规则与贴目已保存
  • raw policy 与 order=0 已分开
  • 随机性与对称设置已冻结
  • 漂移状态不是只写新或旧
打开搜索稳定性研究