재귀적 자기개선(RSI) 이해하기: 구글 루머와 공개 연구 구분
RSI의 뜻을 모델과 에이전트 시스템 수준으로 나눠 설명하고, 구글 관련 유출 캡처와 공개된 RRSI 연구의 근거를 구분하는 연습을 안내합니다.
목차
세 줄로 먼저 읽기
이번 방문에서 한 편은 바로 볼 수 있습니다.
재귀적 자기개선(Recursive Self-Improvement, RSI)은 AI 시스템을 개선한 결과를 다음 자기개선 과정에 다시 사용하는 방식입니다. 여기서 재귀적이라는 말은 개선된 시스템이 다음 개선에도 참여한다는 뜻입니다.
먼저 개선한 대상을 확인합니다. 모델을 다시 훈련했는지, 모델 주변의 도구와 실행 절차를 바꿨는지, 단지 답변 문장만 고쳤는지를 구분해야 합니다.
2026년 9월 중순에는 구글이 RSI에 도달했다는 소문이 퍼졌습니다. 이후 9월 21일에는 Google 연구진 등이 RRSI 논문과 코드를 공개했습니다. 이 공개 연구를 앞선 유출 캡처의 정체가 확인됐다는 뜻으로 연결하면 안 됩니다. 이 글은 2026년 10월 4일 확인한 공개 자료를 기준으로 설명합니다. RRSI 논문
답변 수정과 시스템 개선은 다릅니다
다음 세 가지를 비교해 봅니다.
| 상황 | 바뀌는 대상 | 확인할 내용 |
|---|---|---|
| 답변을 짧게 다시 쓰라고 요청 | 이번 답변 | 요구한 형식에 맞게 바뀌었는지 |
| AI가 자신의 도구 실행 코드를 고치고 새 버전으로 다음 개선을 수행 | 에이전트 시스템 | 수정 이력과 성능 및 비용 변화 |
| AI가 학습 절차를 개선해 새 모델을 훈련하고 그 모델이 다음 개선에 참여 | 모델 개발 과정 | 실제 훈련과 평가, 다음 단계로 이어진 기록 |
에이전트는 모델을 이용해 도구를 실행하고 작업을 수행하는 시스템입니다. 하네스(harness)는 그 모델 주변의 프롬프트, 실행 순서, 도구, 기억과 자료 관리 구조를 뜻합니다. 같은 모델이라도 어떤 자료를 읽고 어느 도구를 쓰게 하느냐에 따라 작업 결과가 달라질 수 있습니다.
RSI를 사람의 개입이 전혀 없는지에 따라 나누지는 않습니다. 연구에서 어떤 범위를 자기개선이라고 부르는지, 사람이 목표와 평가 및 실행 조건 중 무엇을 정했는지 함께 읽습니다. 연구진이 하네스 수준의 개선을 RSI로 설명한 사례도 있습니다. 연구에서 사용하는 범위
9월 유출 캡처는 무엇을 보여주나요?
당시 공유된 화면에는 짧은 축하 게시물과 API 응답처럼 보이는 JSON이 담겨 있습니다. API는 프로그램이 요청과 응답을 주고받는 접점이며, JSON은 항목 이름과 값을 저장하는 형식입니다.
아래는 캡처에 적힌 값입니다. 공식 API에서 현재 호출 가능한 모델 목록으로 확인한 표가 아닙니다.
| 항목 | 캡처에 표시된 내용 |
|---|---|
| 모델 이름 | models/rsi-model-liverl-le |
| 표시 이름 | RSI Model LiveRL LE |
| 입력 한도 | 1,048,576토큰 |
| 출력 한도 | 65,536토큰 |
| 기능 표시 | generateContent 등과 thinking: true |
토큰은 모델이 입력과 출력을 처리하는 단위입니다. 큰 토큰 한도는 다룰 수 있는 길이에 관한 표시이며, 자기개선 능력을 측정한 점수가 아닙니다. thinking: true도 자기 코드를 개선했다는 실행 기록이 아닙니다.
게시물에 등장하는 슬롯 수와 LiveRL, LE, NS의 의미도 이름만으로 확정할 수 없습니다. 화면만으로 실제 서버 응답인지, 언제 누구의 권한으로 조회했는지, 어떤 작업을 수행했는지까지 검증할 수는 없습니다. 공유된 게시물 원문
당시 보도는 이 내용을 루머로 다뤘습니다. API 키 회수에 관한 이야기가 있더라도, 이 캡처 자체가 회수 사실이나 이유를 입증하지는 않습니다. 접근이 차단됐다는 사실을 별도로 확인하더라도 그것이 RSI 성능을 인정한 뜻은 아닙니다. 당시 보도
이후 공개된 RRSI는 하네스를 개선합니다
9월 21일 제출된 RRSI는 모델을 고정하고 하네스를 반복 개선하는 연구입니다. 여기서 모델을 고정한다는 것은 이 개선 과정에서 기반 모델의 가중치를 다시 학습하지 않는다는 뜻입니다. 가중치는 모델이 학습 과정에서 조정한 내부 수치입니다.
연구는 평가에 쓴 문제만 잘 풀도록 맞춰지는 과적합을 줄이려 합니다. 예를 들어 연습문제의 답을 코드에 넣으면 연습 점수는 오르지만 새로운 문제를 푸는 능력은 늘지 않을 수 있습니다. RRSI는 후보 변경을 점검하고 점수 변화, 추가 사용량과 이전 수정 기록을 고려해 채택 여부를 결정합니다. 연구진의 방법 설명
공개 저장소의 Claude Opus 4.8 고정 조건에서 Terminal-Bench 2.1 점수는 74.2에서 80.2로 제시되어 있습니다. Terminal-Bench는 터미널 작업을 수행하는 능력을 평가하며, 이 두 비율의 차이는 6.0%포인트입니다. 다른 문제 묶음인 SWE-bench Verified는 82.0에서 83.8로 제시됩니다. SWE-bench Verified는 실제 소프트웨어 문제 해결 과제입니다. 동일 모델이라도 평가 과제에 따라 개선 폭이 다릅니다. 공개 결과표
이 결과는 해당 조건에서 에이전트 하네스가 개선됐다는 연구 결과입니다. 유출 캡처 속 모델의 정체, 새로운 기반 모델 훈련, 제한 없는 자율 개선이나 모든 업무의 성능 향상을 증명한 결과로 확대하지 않습니다.
AlphaEvolve의 23%는 전체 학습 시간 감소율이 아닙니다
AlphaEvolve는 후보 프로그램을 생성하고 자동 평가 결과를 다음 후보 탐색에 사용하는 도구입니다. Google은 2025년 발표에서 Gemini 학습에 쓰이는 특정 행렬 곱셈 커널을 23% 빠르게 했고, 전체 학습 시간은 1% 줄였다고 설명했습니다. 커널은 특정 계산을 수행하는 작은 실행 단위입니다. Google DeepMind 발표
일부 계산이 빨라진 것과 전체 작업 시간이 같은 비율로 줄어드는 것은 다릅니다. 다른 계산과 대기 시간이 남아 있기 때문입니다. 이 성과 역시 개선 대상과 평가 조건을 읽어야 하며, 모델 세대를 스스로 계속 훈련했다는 증거로 곧바로 바꿀 수 없습니다.
현재 공개 실습도 사용자가 평가 지표를 정하고 후보를 평가하는 과정을 설명합니다. 어떤 단계가 자동인지, 무엇을 사람이 정했는지를 구체적으로 확인할 수 있습니다. AlphaEvolve 실습의 구조
첫 연습: 주장과 필요한 근거를 연결합니다
설치나 결제 없이 메모장에 아래 세 문장을 적고, 각 문장으로 어디까지 말할 수 있는지 판단합니다. 모두 가상의 예시입니다.
- 모델 목록 캡처에
self-improving-model이라는 이름이 있다. - 모델을 고정하고 AI가 자신의 도구 코드를 고쳐 다음 개선에 사용한 10회 기록이 있으며, 별도 평가 문제에서도 점수가 올랐다.
- AI가 새 모델을 훈련했다고 게시물에 적었지만 훈련 기록과 비교 평가가 없다.
먼저 자신의 답을 적은 뒤 아래 설명과 비교합니다.
- 1번: 이름이 표시됐다는 관찰입니다. 개선 실행과 성능을 확인하려면 추가 기록이 필요합니다.
- 2번: 하네스 수준의 자기개선을 뒷받침하는 기록입니다. 사람의 역할과 평가 조건, 실패 기록도 확인하며 모델 재학습과 구분합니다.
- 3번: 작성자의 주장입니다. 훈련 여부와 성능 향상은 아직 검증할 수 없습니다.
완료 기준은 ‘확인됐다’ 또는 ‘아니다’만 적는 것이 아니라 확인한 범위와 부족한 근거를 한 문장씩 쓰는 것입니다. 판단이 어렵다면 개선 대상, 실행 기록, 평가 결과 중 어느 항목이 없는지부터 표시합니다. 근거가 부족하다는 말과 거짓으로 판명됐다는 말도 구분합니다.
같은 점수라도 평가 조건을 다시 봅니다
가상의 시스템이 연습문제에서 70점에서 90점으로 올랐다고 가정합니다. 새로운 문제에서 68점을 받았더라도 ‘일반적인 성능이 20점 올랐다’고 말할 수 없습니다. 새 문제에서 이전 버전의 점수를 모르면 성능이 떨어졌다는 판단도 할 수 없습니다. 같은 문제와 조건에서 이전 버전과 새 버전을 비교해야 합니다.
성공 사례만 남기면 실패와 비용을 놓칠 수 있습니다. 자동으로 더 높은 점수를 얻었다고 모든 개선이 유용한 것은 아닙니다. Sakana AI의 DGM 연구도 자신의 코드를 바꾸는 개선과 함께 평가 장치를 우회해 잘못된 성공 판정을 만드는 사례를 보고했습니다. 자기수정과 평가 문제에 관한 연구
메모에 다음 항목을 남겨 봅니다.
개선 대상: 답변 / 하네스 / 학습 절차 / 모델
이전 버전과 새 버전:
반복 횟수와 변경 기록:
평가에 쓴 문제와 별도 확인 문제:
점수와 시간 및 비용:
사람이 정한 부분:
확인하지 못한 부분:새로운 소식 하나로 혼자 다시 확인합니다
위 예시의 2번에서 ‘별도 평가 문제에서도 점수가 올랐다’를 ‘개선에 사용한 문제에서만 점수가 올랐다’로 바꿉니다. 이제 어떤 결론을 줄여야 할지 적습니다. 새로운 문제에도 개선이 이어진다는 판단은 보류해야 합니다.
다음에는 RRSI 공개 저장소의 결과표를 직접 엽니다. evolve는 개선 과정에 사용한 평가 묶음이고, OOD는 개선에 사용한 문제와 종류나 특성이 다른 평가 과제입니다. 두 종류를 하나씩 골라 이전 값과 이후 값을 기록합니다. 다른 모델이나 조건의 행을 섞지 않습니다.
연구명에 RSI가 들어갔는지보다 무엇을 바꿨고 어떤 조건에서 좋아졌는지 설명할 수 있으면 이 글의 학습을 마친 것입니다. 개선 속도도 연산량 하나로 정해지지 않습니다. 평가의 신뢰성, 자료, 실험 시간과 실제 성능 향상을 함께 확인해야 합니다.
Sources
제대로 이해했는지 한 문제로 확인해 볼까요?
답을 고르면 바로 풀이가 나와요.
모델을 고정한 채 도구 실행 순서를 반복 개선한 연구에서 확인할 수 있는 것은 무엇인가요?
이 글이 도움이 되었나요?
메일, 회의록, 리포트처럼 반복되는 일을 AI로 자동화하는 순서와 안전장치를 다룹니다
코스 전체 보기 →
새 글과 AI 소식을 메일로 받아 보세요
AI가 바꾸는 일과 도구, 측정 실무 이야기를 매주 한 번 보내 드려요.