신진서 9단이 이긴 AI 카타고, 알파고와 어떻게 다른가?

2026년 7월 21일, 신진서 9단이 바둑 AI 카타고(KataGo)와의 3번기에서 2승 1패로 역전 우승했습니다. 이 소식이 특별한 이유는 지난 10년 동안 당연하게 여겨져 온 생각 때문입니다. 2016년 이세돌 9단이 알파고에 1승 4패로 진 뒤, 바둑에서 인간은 더 이상 AI를 이길 수 없다는 것이 정설이 됐습니다. 실제로 그 후 AI는 더 강해졌으면 좋아졌지 약해지지 않았습니다. 그렇다면 궁금해집니다. 이길 수 없다던 상대를, 인간은 어떻게 다시 이긴 걸까요? 이 글은 카타고가 알파고보다 얼마나 발전한 AI인지 먼저 확인하고, 그런데도 인간의 승리가 가능했던 이유를 정리합니다.

신진서 9단은 어떤 조건에서 이겼을까요?

먼저 사실 관계입니다. 위 도판처럼 이번 대국(쎈수학 한경 기신전)은 이세돌-알파고 10주년을 기념한 3번기로, 1국(7/17)은 신진서 9단이 AI의 변칙적인 수에 흔들리며 불계패했고, 2국(7/19)은 4시간 50분 접전 끝에 4집반승, 최종 3국(7/21)은 221수 만에 11집반승이었습니다.

여기서 조건 하나를 정확히 봐야 합니다. 접바둑이라는 용어가 낯설 수 있는데, 쉽게 말하면 실력 차이가 나는 두 사람이 둘 때 약한 쪽이 미리 돌을 몇 개 놓고 시작하는 핸디캡 방식입니다. 이번 대국은 신진서 9단이 돌 2개를 미리 놓는 2점 접바둑이었습니다. 10년 전 이세돌 9단은 알파고와 호선(핸디캡 없는 대등한 조건)으로 겨뤘는데, 지금은 세계 랭킹 1위가 2점을 깔고 시작합니다. 이 조건 변화가 바로 지난 10년 사이 AI가 얼마나 강해졌는지를 보여주는 지표입니다.

카타고는 알파고보다 얼마나 발전한 AI일까요?

카타고라는 이름이 알파고보다 상대적으로 낯설 수 있지만, 카타고는 알파고의 아류가 아니라 그 이후의 발전을 이어받은 AI입니다. 계보를 짧게 정리하면 이렇습니다. 알파고(2016) 이후 딥마인드는 인간 기보 없이 스스로 학습하는 알파고 제로와 알파제로로 방법을 완성했고, 2017년 커제 9단과의 대국을 끝으로 바둑에서 은퇴했습니다. 그 방법론을 이어받아 2019년 미국 개발자 데이비드 우(David Wu)가 오픈소스로 공개한 것이 카타고입니다. 발전의 폭은 공개된 논문 기준으로 이렇게 정리됩니다.

• 학습 효율 약 50배: 알파제로 계열이 수천 개의 전용 칩(TPU)으로 학습한 반면, 카타고는 GPU 30개 미만으로 기존 최상위 공개 모델을 넘어섰습니다.
• 멈추지 않는 학습: 알파고는 은퇴로 발전이 멈췄지만, 카타고는 공개 이후에도 전 세계 커뮤니티가 참여하는 분산 학습으로 계속 강해지고 있습니다.
• 더 정밀한 판단: 승리 확률만 보던 알파고와 달리, 카타고는 지금 형세가 몇 집 차이인지까지 함께 예측합니다.
• 유연한 대국 조건: 나라별 룰, 덤 조정, 접바둑, 다양한 판 크기를 지원합니다.

요약하면 카타고는 알파고보다 효율적으로 배우고, 지금도 계속 강해지고 있으며, 더 정밀하게 판단하는 AI입니다. 호선으로는 세계 1위 기사도 이기기 어렵다는 것이 바둑계의 일반적인 평가입니다. 즉 "인간이 이길 수 없다"는 10년 전의 명제는 지금도 호선 기준으로는 유효합니다.

이길 수 없다던 AI를 인간은 어떻게 다시 이겼을까요?

그래서 이번 승리는 AI가 약해져서 나온 결과가 아닙니다. 세 가지가 겹친 결과로 보는 것이 정확합니다.

첫째, 승부가 성립하는 조건을 설계할 수 있게 됐습니다. 역설적으로 이것은 카타고가 발전했기 때문에 가능했습니다. 카타고는 접바둑 조건과 집 차이 계산을 지원하기 때문에, 인간과 AI의 실력 차이를 2점이라는 핸디캡으로 정확히 조정한 승부를 만들 수 있습니다. 승률만 계산하던 알파고 시절에는 이런 정밀한 조건 설계 자체가 어려웠습니다.

둘째, 인간이 AI로 훈련하는 10년이 있었습니다. 10년 전 이세돌 9단에게 알파고는 처음 만나는 미지의 상대였습니다. 지금은 반대입니다. 프로 기사들은 매일 카타고로 복기하며 어느 수에서 형세가 기울었는지 확인하고 새로운 포석을 검증합니다. 신진서 9단을 포함한 현역 최상위 기사들의 바둑이 AI 분석의 영향을 받았다는 것은 바둑계에서 널리 받아들여지는 이야기입니다. 이번 대국은 매일 함께 훈련하던 파트너와 공개 무대에서 겨룬 승부였고, 인간 쪽이 상대의 스타일을 잘 아는 상태였습니다.

위 이미지가 그 훈련 환경입니다. 카타고를 쓰는 오픈소스 분석 프로그램(KaTrain)의 실제 화면으로, 승리 확률과 예상 집 차이가 실시간으로 표시됩니다. 오픈소스라서 프로 기사든 아마추어든 같은 도구로 연구할 수 있고, 이 접근성이 지난 10년간 인간 바둑 전체의 수준을 끌어올렸다는 평가가 있습니다.

셋째, 패배에서 배우는 인간의 적응이 있었습니다. 1국에서 신진서 9단은 AI의 변칙적인 수에 흔들리며 불계패했습니다. 그런데 이틀 뒤 2국에서 전략을 수정해 4집반승을 거뒀고, 3국은 11집반이라는 더 큰 차이로 이겼습니다. 대국이 거듭될수록 점수 차가 벌어진 흐름은, 정해진 상대의 패턴에 인간이 빠르게 적응해 갔다는 해석을 가능하게 합니다. AI의 약점을 파고드는 전략이 학술 연구로 보고된 적도 있는 만큼, 초인적인 AI에게도 파고들 틈이 존재할 수 있습니다.

이번 승리는 어떤 의미로 볼 수 있을까요?

정리하면 이렇게 볼 수 있습니다. AI는 10년 동안 더 강해졌고, 호선 기준으로 인간이 이길 수 없다는 사실은 달라지지 않았습니다. 달라진 것은 인간 쪽입니다. AI를 미지의 상대가 아니라 매일 쓰는 훈련 도구로 삼았고, 그 도구 덕분에 정밀한 핸디캡 승부를 설계할 수 있었으며, 그 조건 안에서 패배를 학습으로 바꿔 승리를 만들었습니다.

10년 전 대국이 "AI가 인간을 넘어서는 순간"이었다면, 이번 대국은 "AI와 함께 훈련한 인간이 어디까지 갈 수 있는지"를 보여준 무대에 가깝습니다. 바둑 밖의 일에도 겹쳐 보이는 구도라서, AI를 이길 수 없는 상대로 두고 물러서는 것보다 매일 쓰는 훈련 파트너로 두는 접근은 참고할 만합니다.

3줄 요약:

• 신진서 9단은 2026년 7월 기신전 3번기에서 카타고에 2승 1패로 역전 우승했으며, 카타고는 알파고보다 학습 효율(약 50배), 지속 학습, 집 차이 예측에서 더 발전한 AI입니다.
• 호선으로 인간이 AI를 이길 수 없다는 사실은 여전하며, 이번 승리는 2점 접바둑 조건 설계, AI를 활용한 10년의 훈련, 1국 패배 후의 전략 수정이 겹친 결과입니다.
• 달라진 것은 AI가 아니라 인간 쪽으로, AI를 미지의 상대가 아니라 매일 쓰는 훈련 파트너로 삼은 접근이 이번 승리의 바탕이 됐습니다.

Sources

• KataGo 공식 GitHub 저장소
• Accelerating Self-Play Learning in Go (카타고 공식 논문, arXiv)
• 한국기원 보도자료: 쎈수학 한경 기신전
• 뉴시스: 바둑AI 카타고, 알파고와 어떻게 달라?