재귀적 자기개선(RSI) 이해하기: 구글 루머와 공개 연구 구분
RSI의 뜻을 답변 수정, 하네스 개선, 모델 재훈련으로 나눠 설명하고, 9월 구글 유출 캡처와 9월 21일 공개된 RRSI 연구가 각각 무엇을 보여 주는지 정리했습니다.
세 줄로 먼저 읽기
- 재귀적 자기개선(RSI)은 AI 시스템을 개선한 결과가 다음 개선 과정에 다시 참여하는 방식입니다.
- 9월 21일 공개된 Google 연구진의 RRSI는 Claude Opus 4.8을 고정한 채 하네스만 고쳐 Terminal-Bench 2.1 점수를 74.2에서 80.2로 올렸습니다.
- 9월 유출 캡처에는 모델 이름과 토큰 한도만 있어 무엇을 개선했는지와 실제 성능은 알 수 없습니다.
재귀적 자기개선(Recursive Self-Improvement, RSI)은 AI 시스템을 개선한 결과를 다음 자기개선 과정에 다시 쓰는 방식입니다. "재귀적"이라는 말은 개선된 시스템이 다음 개선에도 참여한다는 뜻입니다.
RSI 소식을 접하면 먼저 무엇을 개선했는지를 봅니다. 모델을 다시 훈련했는지, 모델 주변의 도구와 실행 절차를 바꿨는지, 답변 문장만 고쳤는지에 따라 주장의 크기가 달라집니다.
2026년 9월 중순에는 구글이 RSI에 도달했다는 소문이 유출 캡처와 함께 퍼졌습니다. 9월 21일에는 Google 연구진 등이 RRSI 논문과 코드를 공개했습니다. 두 일은 시기만 가깝고, 논문은 캡처 속 모델의 정체를 다루지 않습니다. 아래 내용은 2026년 10월 4일 기준 공개 자료로 정리했습니다.
답변 수정과 시스템 개선은 다릅니다
AI가 "스스로 고쳤다"는 말은 세 가지 경우를 모두 가리킬 수 있습니다. 경우마다 바뀌는 대상과 남아야 할 기록이 다릅니다.
고친 대상에 따라 달라지는 개선의 범위
| 구분 |  답변 수정짧게 다시 써 달라는 요청 |  하네스 개선도구와 실행 순서 |  모델 재훈련학습 절차 개선 |
|---|---|---|---|
| 바뀌는 것 | 이번 답변 | 에이전트 시스템 | 모델 자체 |
| 개선 결과가 다음 개선에 참여 | 제공하지 않음 | 제공 | 제공 |
| 남아야 할 기록 | 요청한 형식인지 | 수정 이력 성능과 비용 변화 | 훈련과 평가 다음 단계 기록 |
에이전트는 모델을 이용해 도구를 실행하고 작업을 수행하는 시스템입니다. 하네스(harness)는 그 모델 주변의 프롬프트, 실행 순서, 도구, 기억과 자료 관리 구조를 가리킵니다. 같은 모델이라도 어떤 자료를 주고 어느 도구를 쓰게 하느냐에 따라 작업 결과가 달라집니다.
RSI인지 아닌지를 사람이 개입했는지만으로 정하지는 않습니다. 연구마다 자기개선이라고 부르는 범위가 다르고, 목표와 평가, 실행 조건 가운데 사람이 정한 부분도 다릅니다. RRSI 연구진도 하네스 수준의 개선을 RSI로 설명합니다.
9월 유출 캡처가 보여 주는 것
당시 공유된 화면에는 짧은 축하 게시물과 API 응답처럼 보이는 JSON이 담겨 있습니다. API는 프로그램끼리 요청과 응답을 주고받는 통로이고, JSON은 항목 이름과 값을 짝지어 적는 데이터 형식입니다.
아래 표는 캡처에 적힌 값을 그대로 옮긴 것입니다.
| 항목 | 캡처에 표시된 내용 |
|---|---|
| 모델 이름 | models/rsi-model-liverl-le |
| 표시 이름 | RSI Model LiveRL LE |
| 입력 한도 | 1,048,576토큰 |
| 출력 한도 | 65,536토큰 |
| 기능 표시 | generateContent 등과 thinking: true |
토큰은 모델이 입력과 출력을 처리하는 단위입니다. 입력 한도 1,048,576토큰은 한 번에 다룰 수 있는 길이를 나타낼 뿐, 자기개선 능력을 측정한 점수가 아닙니다. thinking: true 역시 기능 표시이며 모델이 자기 코드를 고친 실행 기록이 아닙니다.
게시물에 나오는 슬롯 수와 LiveRL, LE, NS가 무엇을 뜻하는지는 이름 말고 다른 근거가 없습니다. 캡처에는 조회한 시각과 계정, 실행한 작업도 나오지 않습니다. 그래서 공유된 X 게시물만으로는 실제 서버 응답인지 가릴 수 없고, 당시 AI타임스 보도도 이 내용을 루머로 다뤘습니다.
이후 공개된 RRSI는 하네스를 개선합니다
9월 21일 제출된 RRSI는 모델을 고정하고 하네스를 반복해서 개선하는 연구입니다. 모델을 고정한다는 것은 개선하는 동안 기반 모델의 가중치를 다시 학습하지 않는다는 뜻입니다. 가중치는 모델이 학습하면서 조정한 내부 수치입니다.
연구가 막으려는 것은 과적합, 곧 평가에 쓴 문제만 잘 풀도록 맞춰지는 현상입니다. 연습문제의 답을 코드에 넣어 두면 연습 점수는 오르지만 새 문제를 푸는 능력은 그대로입니다. 그래서 RRSI는 후보 변경을 바로 적용하지 않고 몇 가지를 따진 뒤에 채택합니다.
RRSI가 하네스 변경을 채택하는 과정
1. 후보 변경AI가 하네스 수정안을
만든다
2. 점수 변화평가 문제의 점수가
얼마나 바뀌었는지
3. 추가 사용량수정으로 늘어난
사용량
4. 이전 수정 기록앞서 고친 내용을
함께 고려
5. 채택 결정2~4번을 따져
적용할지 정한다
결과는 공개 저장소의 결과표에 있습니다. Terminal-Bench 2.1은 터미널 작업을 수행하는 능력을, SWE-bench Verified는 실제 소프트웨어 문제를 해결하는 능력을 평가합니다. 아래는 Claude Opus 4.8을 고정한 조건에서 하네스 개선 전후의 점수입니다.
Claude Opus 4.8 고정 조건의 하네스 개선 전후 점수
같은 모델과 같은 방법으로도 평가 과제에 따라 오른 폭이 세 배 넘게 차이 납니다. 이 결과가 보여 주는 것은 해당 조건에서 에이전트 하네스가 나아졌다는 사실까지입니다. 유출 캡처 속 모델의 정체, 새 기반 모델의 훈련, 제한 없는 자율 개선은 이 연구가 다룬 내용이 아닙니다.
AlphaEvolve의 23%와 전체 학습 시간 1%
AlphaEvolve는 후보 프로그램을 만들고, 자동 평가 결과를 다음 후보를 찾는 데 다시 쓰는 Google DeepMind의 도구입니다. Google은 2025년 발표에서 Gemini 학습에 쓰는 특정 행렬 곱셈 커널을 23% 빠르게 했고, 전체 학습 시간은 1% 줄였다고 설명했습니다. 커널은 특정 계산을 수행하는 작은 실행 단위입니다.
AlphaEvolve 개선을 나타내는 두 숫자
23%행렬 곱셈 커널 속도 향상Gemini 학습에 쓰는 특정 커널
1%전체 학습 시간 감소다른 계산과 대기 시간은 그대로
일부 계산이 23% 빨라져도 나머지 계산과 대기 시간이 남아 있어서 전체 시간은 1%만 줄었습니다. AlphaEvolve가 고친 대상도 특정 커널이며, 모델이 다음 세대 모델을 스스로 이어서 훈련한 사례와는 다릅니다. Google Cloud의 AlphaEvolve 실습 안내도 사용자가 평가 지표를 정하고 도구가 후보를 만들어 평가하는 구조로 설명합니다.
점수는 개선에 쓴 문제와 새 문제를 나눠 봅니다
자기개선 연구의 점수는 어느 문제에서 나왔는지부터 봅니다. RRSI 저장소의 결과표도 두 종류로 나뉩니다. evolve는 개선 과정에 사용한 평가 묶음이고, OOD는 개선에 쓴 문제와 종류나 특성이 다른 평가 과제입니다.
개선에 쓴 문제에서만 점수가 올랐다면 과적합일 수 있습니다. 새 문제에서도 개선이 이어지는지는 OOD 점수로 판단하고, 이전 버전과 새 버전은 같은 문제와 같은 조건에서 비교합니다. 결과표에서 다른 모델이나 다른 조건의 행을 섞으면 비교가 성립하지 않습니다.
점수가 올라도 그 개선이 쓸모 있는지는 따로 봐야 합니다. Sakana AI의 DGM 연구는 AI가 자기 코드를 바꾸는 과정에서 평가 장치를 우회해 잘못된 성공 판정을 만든 사례를 보고했습니다. 성공한 시도만 남기면 이런 실패와 그에 든 비용이 기록에서 빠집니다.
RSI 소식을 판단하는 순서
새 RSI 소식이 나오면 아래 순서로 근거를 찾습니다. 앞 단계의 기록이 없으면 그 소식으로 말할 수 있는 범위가 줄어듭니다.
RSI 주장을 판단할 때 찾는 근거
1. 개선 대상답변, 하네스, 학습 절차,
모델 가운데 무엇인지
2. 실행 기록이전 버전과 새 버전
반복 횟수와 변경 내용
3. 평가 문제개선에 쓴 문제와
별도 문제의 점수
4. 사람이 정한 부분목표, 평가 지표,
실행 조건- 5. 시간과 비용실험 시간과
추가 사용량
앞에서 다룬 두 자료와 기록 없이 주장만 있는 게시물에 이 기준을 대 보면 남아 있는 근거가 크게 다릅니다.
자료별로 남아 있는 근거
| 자료 | 개선 대상 | 실행 기록 | 별도 평가 |
|---|---|---|---|
| 9월 유출 캡처 | 제공하지 않음 | 제공하지 않음 | 제공하지 않음 |
| RRSI 공개 연구 | 하네스 | 제공 | OOD 과제 |
| 새 모델을 훈련했다는 게시물만 있는 경우 | 주장뿐 | 제공하지 않음 | 제공하지 않음 |
연구 이름에 RSI가 들어갔는지보다 무엇을 바꿨고 어떤 조건에서 좋아졌는지를 설명할 수 있는지가 판단의 기준입니다. 근거가 부족한 소식과 거짓으로 밝혀진 소식도 구분해서 말합니다. 개선 속도 역시 연산량 하나로 정해지지 않으며 평가의 신뢰성, 자료, 실험 시간, 실제 성능 향상이 함께 따라와야 합니다.
Sources
제대로 이해했는지 한 문제로 확인해 볼까요?
답을 고르면 바로 풀이가 나와요.
모델을 고정한 채 도구 실행 순서를 반복 개선한 연구에서 확인할 수 있는 것은 무엇인가요?
새 글과 AI 소식을 메일로 받아 보세요
AI가 바꾸는 일과 도구, 측정 실무 이야기를 매주 한 번 보내 드려요.
이 글이 도움이 되었나요?
메일, 회의록, 리포트처럼 반복되는 일을 AI로 자동화하는 순서와 안전장치를 다룹니다
코스 전체 보기 →