탐색 안정성 연구 브리프 · 15

KataGo visits를 수천 늘리면 답은 정말 더 믿을 만할까

프로 500국면, 강한 model 둘과 판 대칭 여덟 개는 탐색 증가가 보통 중앙 흔들림을 줄이지만 먼저 분열을 드러낼 수도 있음을 보여 줍니다. 좌표, 가치와 교육 label 안정성은 서로 다릅니다.

1. visits는 탐색 budget이지 답의 신뢰도가 아닙니다

   visits는 트리 탐색 배분 수를 기록하지만 첫 후보가 수렴했는지는 말하지 않습니다. 국면 복잡도, 후보 가치 margin, thread scheduling과 network prior가 같은 budget의 의미를 바꿉니다. 따라서 512 visits를 하나의 신뢰율로 번역할 수 없고 방문 수도 confidence interval이 아닙니다.

2. 128에서 512 visits로 가도 4분의 1은 첫 수가 바뀝니다

   동결된 프로 500국면에서 b11 Transformer의 128/512 visits 첫 후보 일치율은 74.8%입니다. root 집 차이 변화 중앙값은 0.131집이지만 90 percentile은 0.600집입니다. 보통 국면은 안정돼 보여도 tail은 교육 문장을 뒤집을 수 있어 중앙값만 보고하면 가장 위험한 label을 숨깁니다.

3. 다른 강한 model도 후보 순서를 바꿉니다

   100국면 cross-teacher 표본에서 b11과 별도 b10 Transformer는 같은 512 visits에서 첫 후보가 78.0% 일치했습니다. 일치가 진실을 증명하지는 않지만 불일치는 architecture, training이나 search 상호작용 의존을 보여 줍니다. 큰 손실과 낮은 인간 확률을 가진 극적인 사례부터 교차 확인해야 합니다.

4. 회전과 반사는 한 방향에 숨은 오류를 드러냅니다

   이상이 많은 10국면을 D4 여덟 대칭으로 바꾼 뒤 결과를 원래 좌표로 돌렸습니다. 512 visits에서 여덟 방향 첫 후보 완전 일치는 60%, 2,048 visits에서는 80%였습니다. 변환은 독립 표본 여덟 개가 아니라 한 국면의 반복 측정으로 학습된 근사 불변성이 유일 label을 지지하는지 검사합니다.

5. 탐색을 늘리면 수렴 전에 분열이 먼저 보일 수 있습니다

   하네 나오키 감사 국면은 512 visits에서 여덟 방향 모두 B17이었습니다. 2,048에서는 네 회전이 B17, 네 반사가 B7로 나뉘었고 8,192에서야 모두 B7로 수렴했습니다. 깊은 탐색은 원래 답을 단조롭게 강화하지 않고 얕은 만장일치가 우연임을 먼저 드러낸 뒤 새 안정 후보를 찾기도 합니다.

6. 좌표가 안정돼도 가치는 불안정할 수 있습니다

   budget과 방향이 달라도 한 좌표를 고르면서 root 집 차이 범위가 1집을 넘는 국면이 있습니다. 교육에서 ‘어디’가 안정됐다고 ‘얼마나’도 안정된 것은 아니며 후자가 ‘분명히’나 ‘반드시’라는 말을 쓸 수 있는지 결정합니다. bestMove 하나 대신 후보 집합, 첫 좌표, 가치 범위와 주 변화를 저장해야 합니다.

7. 중지 규칙은 고정 숫자가 아니라 결과 위험을 따라야 합니다

   일반 복기는 후보 집합, 좌표와 집 차이가 안정되면 멈출 수 있습니다. 집중 훈련, 공개 비평이나 역사 해석에 쓰는 label은 budget을 올리고 model 또는 대칭 검사를 더합니다. 깊은 탐색도 계속 갈리면 불확실성을 보이거나 철회합니다. 계산은 모든 수에 똑같이 쓰지 말고 교육 행동을 바꿀 경계 국면에 집중해야 합니다.