바둑룰의 이해

김재업 저 / 2017 초판, 2026 제2판 — 물리학자의 눈으로 분석한 바둑 규칙의 수학적·알고리즘적 한계와 대안 제시

핵심 주장

바둑 규칙은 단순하지 않으며, 기존의 관습적 규칙(한국·일본·중국 등)은 논리적 모순과 이상현상을 완벽하게 해결하지 못한다.
이상적인 바둑룰은 사람의 직관뿐 아니라 기계적(알고리즘적)으로도 판정 가능해야 하며(Algorithmic Decidability), 대국자 간 분쟁을 자력으로 해결할 수 있는 설계여야 한다.
바둑 AI의 급격한 발전에도 불구하고, 인공지능 개발자들조차 기존 바둑룰의 복잡한 예외 조항(특히 동형반복 금지 규정 등)을 완벽하게 코딩해 넣지 못해 기형적인 오작동(예: 젠/딥젠고의 긴주기패 회피)을 일으킨다.
저자가 제안하는 'JK 바둑룰'은 점을 세는 계가법(중국식/AGA식)을 기반으로, 착수 유형(N, C, E, P)의 분류와 조건부 순서넘김 제한을 통해 모든 트롤링과 사활 분쟁을 수학적으로 해결한다.

좋은 바둑룰의 5가지 조건 (제5장)

저자는 바둑룰을 객관적으로 평가하고 설계하기 위한 다섯 가지 프레임워크를 제시한다:

조건	의미	설명
1. 규정명확성 (Rule Clarity)	개념과 용어의 명료함	착수, 순서넘김, 동형반복, 빅 등의 핵심 개념이 관습에 의존하지 않고 룰 자체에서 정의되어야 함.
2. 종국완결성 (Termination Completeness)	유한한 절차 내 종료 보장	정상적인 대국이 무한 반복 없이 유한한 수순 내에 흑승, 백승, 무승부 등의 결론으로 수렴해야 함.
3. 자력해결성 (Autonomous Resolvability)	심판 없는 분쟁 해결 능력	한쪽 대국자가 악의적으로 버티는 트롤링(Trolling)을 하더라도, 반상 위의 착수 규정만으로 대국자 스스로 분쟁을 끝낼 수 있어야 함.
4. 기계판정성 (Algorithmic Decidability)	알고리즘 구현 가능성	현 반상 상태와 수순 기록을 입력받아 합법적 착수 여부, 종료 여부, 계가 결과를 컴퓨터 코드로 구현하는 데 원리적 어려움이 없어야 함.
5. 바둑정합성 (Go Coherence)	바둑인의 직관과의 조화	수학적으로 완벽하더라도 기존 바둑의 직관과 전통적 판정(사활, 빅)을 심각하게 훼손하지 않아야 함.

기존 바둑룰의 한계와 이상현상 (제3장, 제10장)

기존 규칙들은 바둑 정합성(직관)을 맞추려다 보니 기계판정성과 규정명확성을 심각하게 해쳤다.

1. 일본룰 (일본바둑규약)

한계: 사활 판정을 위해 '가상의 플레이'와 '대국 정지 상태에서의 권리' 같은 추상적인 개념을 사용함. 이로 인해 컴퓨터 알고리즘으로 코딩하는 것이 사실상 불가능하다.
모순: 귀곡사(귀에서 흑이 백을 잡지 않고도 국종 후 사석으로 인정)를 직관적으로 죽은 돌로 처리하기 위해 룰에 억지 예외 규정을 두었으나, 이것이 복잡한 패 모양과 엮이면 수학적 모순을 유발함.

2. 한국룰

과거 1992년 룰은 "수가 있어 양쪽에 권리가 있는 자리는 실전에서 해결하라"는 자력해결적 성격을 가졌으나, 이 역시 악의적인 버티기(트롤링)에 취약함. 현재 룰도 일본룰의 사활 판정 애매함을 완전히 탈피하지 못함.

3. 동형반복 금지 규정(PSK, SSK)의 맹점

순간적 상태 반복 금지(PSK/SSK)는 삼패, 사패, 장생(長生) 등에서 무승부(판빅)를 막고 승부를 가리기 위해 도입됨.
그러나 이는 대국자에게 매 수마다 전체 수순 기록을 조회하도록 강제하므로 현실적으로 인간이 적용하기 매우 어려우며, 오히려 상대방을 동형반복 금지 상태에 빠뜨려 기권승을 유도하는 '동형반복 금지 룰을 악용한 트롤링'이 가능하다.

4. 긴주기/기괴한 패의 존재

Moonshine Life: 양패죽음의 사석이 외국의 반집패와 얽혀 무한 팻감 역할을 하여 죽은 돌이 살아나는 현상.
Molasses 패: 착수 주기 중간에 2점을 따내는 과정에 보통 착점(N)이 끼어들어, 주기적인 동형반복이 발생하지만 판정하기 극히 모호한 패.

새로운 대안: JK 바둑룰 (제12장)

저자가 고안한 JK 바둑룰(JK Rule)은 "규칙이 복잡할 때 대국자가 이를 외울 필요는 없고, 오직 트롤링을 하려는 대국자만 룰의 허점을 찾다가 파국을 맞이하도록" 설계된 시스템이다.

1. 핵심 개념

착수 유형의 세분화: 착수를 보통 착점(N), 패따냄 착점(C), 보통 순서넘김(P), 종료 순서넘김(E)으로 명확히 구분.
순서넘김돌 (Pass Stone): 순서넘김을 할 때 상대방에게 포로(1집 가치)를 제공하도록 하여 집을 세는 룰(한국·일본)과 돌을 세는 룰(중국·AGA) 사이의 점수 괴리를 일치시킴.
D (Double captures/ko sequence) 정의: 짝수 개의 패따냄이 연속되고 마지막 패따냄이 첫 패따냄의 돌을 제거하는 특수 패턴.

2. 순서넘김 및 종료 알고리즘

N, P, E, ECC 직후에는 보통 순서넘김(P) 금지.
DP, DPCC, DPCCCC 직후에는 모든 순서넘김(P와 E) 금지 (착점 의무화).
사활 합의가 안 될 경우, 실제 대국 재개로 돌을 따내어 증명해야 함.
서로 EE, ECCE, ECCCCE를 연속 제시하면 게임 종료. 이때 바둑판 위의 모든 남은 돌은 살아 있는 돌로 간주함.

3. 동형반복 해결책

착점에 의한 동일 바둑판 상태가 2회 반복될 시, 그 반복 주기 동안 상대 포로를 더 많이 따낸 플레이어가 승리하고, 같으면 무승부(판빅)로 처리. 이 비대칭적 포로 세기 방식을 통해 비정상적인 버티기성 순환을 수학적으로 처단함.

인공지능과 바둑룰의 충돌 (제13장)

저자는 2017년 딥젠고의 종반 오작동 사건을 바탕으로 AI의 규칙 처리 한계를 꼬집는다.

딥젠고의 종반 버그: 2017년 월드바둑챔피언십에서 딥젠고가 미위팅, 박정환 9단과의 바둑에서 반집을 다투는 끝내기 시 이상한 의문수를 연발함. 공동 개발자 가토 히데키는 "딥젠고 내부 계가는 중국룰(7.5집 덤)로 되어 있었는데, 일본룰(6.5집 덤) 대회 환경과 마찰을 빚어 형세 판단에 혼선이 왔다"고 고백.
동형반복 처리의 하드코딩 오류:
젠 6.0(Zen)의 경우, 프로그램 내부에서 동형반복을 일으키는 착점을 탐색 트리에서 아예 배제하도록 단편적으로 설정됨.
이로 인해 삼패(Three-fold Ko) 대국 시, 인간은 정상적으로 되따내어 판빅 무승부를 유도할 수 있으나, AI는 자신이 동형반복을 유발하지 않으려고 팻감이 없는데도 억지로 손해 패를 쓰거나 손을 빼 스스로 자멸함 (그림 13.5).
이는 인공지능 개발자들이 한/중/일 바둑룰을 완벽하게 코딩해 넣는 데 실패했음을 명백히 보여주는 증거다.
결론: 인공지능의 안정적 훈련과 대국을 위해서는, Tromp-Taylor 룰이나 저자의 JK 바둑룰과 같이 기계판정성(Algorithmic Decidability)이 100% 보장되는 엄밀한 룰 체계를 공식 채택하는 것이 적합하다.

위키 소유자 관점: 트레이딩 & AI 에이전트 교차점

1. 규칙 체계의 논리적 무결성 (Systemic Coherence)

바둑의 사활 규칙이 극단적 케이스(Molasses 패, Moonshine Life)에서 붕괴하는 것은 트레이딩 시스템의 백테스팅 오차나 엣지 케이스에서의 알고리즘 오작동과 흡사하다.
시장이 극단적인 꼬리 위험(Tail Risk)이나 동형 순환 구조(예: 레버리지 청산 루프)에 빠졌을 때, 룰 기반 시스템이 작동하지 않으면 시장 자체가 마비(판빅/무한 대기)되거나 엉뚱한 결론(AI의 하드코딩 기권패)으로 치닫는다.
JK 바둑룰이 추구한 "정상적 대국자는 룰을 외울 필요 없이 원래대로 행동하고, 트롤링하려는 자만 룰의 제약에 걸리도록 설계"하는 메커니즘은 금융 규제나 트레이딩 프로토콜 설계 시 이상적인 악성 유저 차단(Antifragile) 구조와 닿아 있다.

2. AI 에이전트의 규칙 해석 한계 (Algorithmic vs. Symbolic)

알파고나 딥젠고가 강력한 인공신경망으로 인간 최고수를 꺾었지만, 정작 반상 규칙이라는 기호적 경계 조건(Symbolic Boundary Conditions)을 완벽히 이해하지 못했다는 점은 큰 시사점을 준다.
초일류 신경망 AI라도 기호적 규칙(Symbolic Rules)과의 접점(Interface)에서 미세한 덤 설정의 차이(6.5 vs 7.5)나 예외 조항으로 인해 전체 성능이 완전히 무너질 수 있다.
이는 미래의 AI 에이전트 시스템이 현실 세계의 법률, 계약 조건, 금융 룰 등의 하드 콘스트레인트(Hard Constraints)와 결합할 때 동일하게 겪을 '접점의 취약성'을 미리 보여준다.

3. 모순/불확실성

귀곡사의 사석 인정과 같은 관습적 룰(바둑정합성)을 지키기 위해 알고리즘 무결성(기계판정성)을 희생하는 현상: 금융 시장에서도 '역사적 관행'을 지키기 위해 시스템 효율성과 자동화를 늦추는 타협이 빈번히 발생한다. 과연 어느 쪽이 궁극적으로 생존할 것인가?