클로드 코드와 코덱스 프롬프트 캐시 정리: 작업을 몰아서 해야 하는 이유
프롬프트 캐시는 AI에 이미 보낸 앞부분의 계산 결과를 서버가 보관했다가 다음 요청에서 재사용하는 기능입니다. 캐시가 유지되는 조건과 깨지는 조건, 실제 비용 차이를 계산으로 정리했습니다.
프롬프트 캐시는 AI에 이미 보낸 앞부분의 계산 결과를 서버가 보관했다가 다음 요청에서 재사용하는 기능입니다. 클로드 코드나 코덱스로 같은 작업을 해도 어떤 날은 싸고 빠르며 어떤 날은 비싸고 느린 이유가 대부분 여기에 있습니다.
앤트로픽은 공식 발표에서 캐시를 쓸 때 비용이 최대 90%, 지연 시간이 최대 85% 줄어든다고 설명합니다. 10만 토큰짜리 프롬프트로 대화할 때 첫 응답까지 11.5초 걸리던 것이 2.4초로 줄어든 사례를 함께 공개했습니다.
이 글에서는 그 절감이 언제 생기고 언제 사라지는지, 그리고 우리가 무엇을 지키면 되는지를 계산과 함께 정리합니다.
매 턴마다 대화 전체를 다시 보내는 구조
AI 모델에는 기억이 없습니다. 조금 전에 무슨 말을 주고받았는지 서버가 따로 들고 있지 않습니다. 그래서 클로드 코드는 우리가 메시지를 하나 보낼 때마다 아래를 통째로 다시 전송합니다.
- 도구 목록: Read, Write, Bash, 그리고 연결한 MCP 서버가 제공하는 도구 전부
- 시스템 프롬프트와 CLAUDE.md: 프로젝트 규칙과 기본 지침
- 지금까지의 대화 전체: 주고받은 메시지와 읽은 파일 내용, 명령 실행 결과 전부
- 방금 입력한 새 메시지: 우리가 방금 친 한 줄
대화가 길어질수록 세 번째 항목이 커집니다. 소스 파일을 열몇 개 읽고 명령을 몇십 번 돌린 세션이라면 여기가 10만 토큰을 넘기는 일이 흔합니다. 새 메시지 한 줄을 보낼 때마다 10만 토큰을 다시 계산하게 하는 셈입니다.
프롬프트 캐시는 이 반복 계산을 없애 줍니다. 앞부분이 지난번과 똑같으면 서버가 계산해 둔 결과를 꺼내 쓰고, 달라진 뒷부분만 새로 계산합니다.
캐시가 유지되는 조건과 무효가 되는 조건
프리픽스 매치라는 말은 일반적인 캐시 개념보다 상대적으로 낯설 수 있습니다. 쉽게 말하면 앞부분부터 순서대로 정확히 일치할 때만 캐시가 작동한다는 뜻입니다. 앞에서 1바이트만 달라져도 그 뒤는 전부 무효가 됩니다.
미리 손질해 둔 재료를 냉장고 칸에 순서대로 넣어 둔 상황과 비슷합니다. 담은 순서를 바꾸거나 맨 앞 칸을 건드리면 뒤쪽 칸까지 전부 다시 손질해야 합니다.
| 상황 | 캐시 상태 | 이유 |
|---|---|---|
| 같은 세션에서 바로 다음 질문 | 유지 | 앞부분이 그대로이고 새 메시지만 뒤에 붙음 |
| 30분 자리를 비웠다가 돌아옴 | 조건부 | 유효 시간이 지나면 사라짐 |
세션 중간에 /model로 모델 변경 | 전체 무효 | 캐시는 모델별로 따로 저장됨 |
| 작업 중 MCP 서버 추가나 제거 | 전체 무효 | 도구 목록이 맨 앞에 오므로 뒤가 전부 깨짐 |
| 작업 중 CLAUDE.md 수정 | 전체 무효 | 시스템 프롬프트가 도구 다음에 오므로 대화 전체가 깨짐 |
/clear 실행 | 전체 무효 | 대화를 비웠으니 다시 쌓아야 함 |
| 새 세션 시작 | 전체 무효 | 처음부터 다시 계산 |
/compact나 자동 압축 발생 | 부분 무효 | 기록이 요약으로 대체되면서 앞부분이 바뀜 |
유효 시간은 도구마다 다릅니다.
- 클로드 코드: 1시간짜리 캐시를 쓰고, 사용량이 한도를 넘어가면 5분짜리로 내려갑니다. 앤트로픽 API의 기본값은 5분이며 1시간 옵션을 따로 지정합니다.
- 코덱스: 오픈AI 문서 기준으로 GPT-5.6 계열부터 30분이 유일한 값이자 기본값입니다. 이전 모델에 있던 24시간 보존 옵션은 이 계열에서 쓸 수 없습니다.
코덱스 쪽 유효 시간이 더 짧다는 점은 실무에서 차이를 만듭니다. 클로드 코드에서라면 40분쯤 자리를 비워도 살아남았을 캐시가 코덱스에서는 이미 사라져 있습니다.
2026년 8월 기준으로 코덱스가 권장하는 모델은 GPT-5.6 계열 세 가지입니다. Sol이 가장 강한 모델이고, Terra가 일상 작업용이며, Luna가 가장 저렴합니다.
클로드 코드와 코덱스의 캐시 가격 비교
2026년 8월 기준 가격입니다. 토큰 100만 개당 달러입니다.
| 항목 | Claude Opus 5 | GPT-5.6 Sol | GPT-5.6 Terra |
|---|---|---|---|
| 입력 (캐시 없음) | 5.00 | 5.00 | 2.00 |
| 입력 (캐시 적중) | 0.50 | 0.50 | 0.20 |
| 캐시 쓰기 | 6.25 (5분) / 10.00 (1시간) | 6.25 | 2.50 |
| 출력 | 25.00 | 30.00 | 12.00 |
양쪽 모두 캐시가 적중하면 입력 단가가 정확히 10분의 1이 됩니다. 대신 캐시를 처음 만들 때는 1.25배 또는 2배를 냅니다. 앤트로픽은 5분 보관이 1.25배, 1시간 보관이 2배이고, 오픈AI는 GPT-5.6 계열에서 1.25배입니다.
여기서 손익분기점이 나옵니다. 5분짜리 캐시는 같은 앞부분을 2번만 재사용해도 이득이고, 1시간짜리는 3번은 써야 본전입니다. 한 번 물어보고 끝낼 작업이라면 캐시는 오히려 손해입니다.
가격표에서 하나 더 볼 것은 짧은 컨텍스트와 긴 컨텍스트 단가가 나뉘어 있다는 점입니다. 긴 쪽 입력 단가가 두 배입니다. 오픈AI는 GPT-5.5와 GPT-5.4 문서에서 입력이 27만 2천 토큰을 넘으면 그 세션 전체에 긴 컨텍스트 단가가 붙는다고 설명합니다. 대화를 무한정 이어 가면 캐시가 살아 있어도 단가 자체가 오릅니다.
로그인 버그 하나를 잡는 30턴 세션 비용 계산
가정을 이렇게 두겠습니다. 클로드 코드에서 Opus 5를 쓰고, 진행은 다음과 같습니다.
- 관련 소스 파일 8개를 읽고 테스트를 두 번 돌린 뒤 컨텍스트가 12만 토큰까지 자랐습니다.
- 그 상태에서 수정과 확인을 30번 주고받아 버그를 잡았습니다.
12만 토큰을 한 번 처리하는 데 드는 돈은 이렇습니다.
| 처리 방식 | 계산식 | 금액 |
|---|---|---|
| 캐시에서 읽기 | 12만 ÷ 100만 × 0.50달러 | 0.06달러 |
| 캐시가 없어 새로 계산 (1시간 캐시로 저장) | 12만 ÷ 100만 × 10.00달러 | 1.20달러 |
턴 하나를 처리하는 값이 6센트와 1.2달러로 20배 벌어집니다. 이제 30턴을 어떻게 배치하느냐로 총액을 비교해 보겠습니다.
A. 두 시간 동안 한 번에 끝낸 경우
첫 요청에서만 12만 토큰을 새로 계산하고, 나머지 29번은 캐시에서 읽습니다.
1.20달러 + (29 × 0.06달러) = 2.94달러
B. 5턴씩 여섯 번에 나눠서 한 경우
한 번 붙을 때마다 5턴씩 하고 자리를 비웁니다. 다음에 돌아오면 캐시가 만료되어 있으므로, 여섯 번 모두 첫 요청에서 12만 토큰을 새로 계산합니다.
(1.20달러 + 4 × 0.06달러) × 6회 = 1.44달러 × 6 = 8.64달러
C. 생각날 때마다 한 턴씩 던진 경우
매번 캐시가 만료된 상태에서 시작합니다.
30 × 1.20달러 = 36달러
| 방식 | 총액 | A 대비 |
|---|---|---|
| A. 한 번에 몰아서 | 2.94달러 | 1배 |
| B. 여섯 번에 나눠서 | 8.64달러 | 약 2.9배 |
| C. 매번 끊어서 | 36달러 | 약 12배 |
위 계산에는 두 가지가 빠져 있습니다.
첫째는 출력 토큰 값입니다. 출력에는 캐시가 적용되지 않으므로 세 방식 모두 같은 돈이 나갑니다. 그래서 총액 비율은 조금 완만해집니다.
둘째, 세션을 새로 열 때마다 AI가 코드 구조를 다시 파악해야 합니다. 파일을 다시 읽고 명령을 다시 돌리는 데 드는 토큰이 B와 C에만 추가로 붙습니다. 이쪽이 출력 토큰 값보다 훨씬 큽니다. 실제 청구서의 격차는 위 표보다 벌어지는 쪽이 보통입니다.
구독 요금제 사용자에게 나타나는 차이
Max나 Pro 같은 구독을 쓰고 있다면 청구서에 달러가 찍히지는 않습니다. 대신 주간 사용 한도가 그만큼 빨리 닳습니다. 위 계산에서 달러를 한도로 바꿔 읽으면 됩니다. 같은 버그 하나를 잡는 데 A는 한도의 1인분을 쓰고, C는 12인분을 씁니다.
많이 쓰지 않았는데 한도가 벌써 찼다고 느끼는 상황은 대개 여기서 생깁니다. 작업량이 아니라 작업을 끊어서 한 횟수가 원인일 수 있습니다.
작업을 두 시간째 이어 가던 중에 CLAUDE.md에 규칙 한 줄을 추가했다고 하겠습니다. CLAUDE.md는 대화보다 앞에 놓이므로, 그 순간 뒤에 쌓아 둔 12만 토큰이 전부 무효가 됩니다. 다음 질문 한 번에 1.2달러가 다시 나갑니다. 규칙 한 줄을 추가한 값입니다.
띄엄띄엄 일을 시킬 때 생기는 일
오전에 30분 작업하고, 점심을 먹고, 오후에 다시 붙는 방식을 생각해 보겠습니다. 점심시간 동안 캐시는 만료됩니다. 오후 첫 질문은 오전에 쌓아 둔 12만 토큰을 처음부터 다시 계산하면서 시작합니다. 비용은 20배이고 응답은 몇 배 느립니다. 그 뒤로 또 자리를 비우면 같은 일이 반복됩니다.
반대로 두 시간을 한 번에 붙어 있으면 첫 요청에서만 전체를 계산하고, 나머지 수십 번은 계산해 둔 결과를 꺼내 씁니다.
속도 쪽도 같이 봐야 합니다. 캐시를 읽으면 프리필 단계, 즉 입력 전체를 모델이 훑는 과정을 건너뜁니다. 컨텍스트가 큰 세션일수록 이 단계가 대기 시간의 대부분을 차지합니다. 같은 질문인데 어떤 때는 답이 바로 나오고 어떤 때는 한참 멈춰 있다면, 대개 캐시가 깨졌기 때문입니다. 작업 자체가 어려워진 것이 아닙니다.
캐시를 살리는 7가지 규칙
1. 한 주제는 한 세션에서 끝냅니다
작업을 시작하기 전에 오늘 이 세션에서 어디까지 갈지 정해 둡니다. 중간에 멈출 자리가 아니라 끝낼 자리를 정하는 편이 낫습니다.
2. 세션 중간에 설정을 건드리지 않습니다
모델 변경, MCP 서버 추가와 제거, CLAUDE.md 수정, 스킬 설치는 전부 캐시를 통째로 날립니다. 이런 작업은 세션을 시작하기 전에 몰아서 처리합니다.
3. 질문을 잘게 쪼개 보내지 않습니다
파일을 읽어 달라고 하고, 그다음에 이건 어떠냐고 묻고, 또 저것도 봐 달라고 나눠 보내면 매번 전체 컨텍스트를 다시 읽습니다. 캐시가 살아 있으면 부담이 덜하지만, 맥락을 한 번에 주는 편이 훨씬 낫습니다. 요구사항과 제약을 첫 메시지에 몰아서 적습니다.
4. 빌드나 테스트를 기다리는 동안 세션을 닫지 않습니다
기다리는 시간은 캐시가 살아 있는 시간입니다. 창을 닫거나 다른 프로젝트로 옮겨 다니면 그 시간이 낭비됩니다.
5. 여러 프로젝트를 번갈아 오가지 않습니다
프로젝트가 다르면 CLAUDE.md도 대화 내용도 다르므로 캐시가 공유되지 않습니다. A 프로젝트와 B 프로젝트를 15분씩 번갈아 가며 작업하면 양쪽 다 캐시 혜택을 거의 못 받습니다.
6. 코덱스에서는 클로드 코드보다 더 촘촘하게 붙어 있어야 합니다
코덱스의 캐시 유지 시간은 30분입니다. 클로드 코드 기준으로 잡은 감각을 그대로 가져오면 캐시를 자주 놓칩니다. 자리를 비울 일이 있으면 30분 안에 돌아오는 편이 낫습니다.
7. 무관한 작업으로 넘어갈 때는 /clear를 씁니다
이 항목만 방향이 반대입니다. 캐시를 아끼겠다고 관계없는 대화를 계속 끌고 가면, 매 턴 읽어야 할 토큰이 계속 커집니다. 캐시 읽기가 10분의 1 가격이어도 공짜는 아니고, 오픈AI 쪽은 컨텍스트가 길어지면 단가 자체가 두 배로 오릅니다. 주제가 완전히 바뀌면 비우는 편이 낫습니다.
판단 기준은 하나입니다. 앞의 대화를 AI가 참고해야 하면 이어서 쓰고, 참고할 필요가 없으면 비웁니다.
지금 상태를 확인하는 명령
| 도구 | 명령 | 보여 주는 것 |
|---|---|---|
| 클로드 코드 | /context | 지금 컨텍스트를 무엇이 얼마나 차지하는지 |
| 클로드 코드 | /cost (/usage와 같음) | 사용량과 비용 |
| 코덱스 | /status | 모델, 토큰 사용량, 남은 컨텍스트 |
컨텍스트가 몇만 토큰인지 눈으로 확인해 두면, 세션을 끊었을 때 무엇을 다시 계산하게 되는지 감이 잡힙니다.
정리
| 항목 | 캐시가 살아 있을 때 | 캐시가 깨졌을 때 |
|---|---|---|
| 입력 토큰 단가 | 원가의 10분의 1 | 원가 전액, 캐시 저장 시 1.25배에서 2배 |
| 첫 응답 대기 | 프리필 생략 | 컨텍스트 전체를 다시 훑음 |
| 12만 토큰 세션 30턴 | 약 2.9달러 | 약 36달러 |
| 캐시 유지 시간 | 클로드 코드 1시간, 코덱스 30분 |
작업 시간을 늘리라는 이야기가 아닙니다. 같은 두 시간을 20분씩 여섯 번으로 나누는 대신 한 번에 붙어서 쓰면, 같은 결과물을 더 싸고 빠르게 얻습니다.
3줄 요약:
- 프롬프트 캐시가 적중하면 입력 단가가 10분의 1이 되고, 앞부분이 1바이트만 바뀌어도 그 뒤는 전부 무효가 됩니다.
- 12만 토큰 세션에서 30턴을 한 번에 끝내면 약 2.9달러, 매번 끊어서 하면 약 36달러로 12배 차이가 납니다.
- 한 주제는 한 세션에서 끝내고, 설정 변경은 세션 시작 전에 몰아서 하고, 주제가 바뀌면
/clear로 비웁니다.
Sources
이 글이 도움이 되셨다면 공유해 주세요
메신저로 바로 보내거나 링크를 복사할 수 있습니다.
디지털마케터 뉴스레터
GA4, SEO, AI 마케팅 실무 인사이트를 월 1~2회 이메일로 보내드립니다.
다음으로 읽어볼 글
Solar Open 2는 업스테이지가 2026년 7월 22일 가중치까지 공개한 250B 규모의 오픈웨이트 언어 모델입니다. 공식 벤치마크에서 이긴 항목과 뒤진 항목, 클로드 코드에 연결하는 공식 방법, 8월 6일 공개된 상용 모델 Solar Pro 4와의 역할 차이를 정리했습니다.
2026. 8. 6.
Qwen3.8-Max는 알리바바 Qwen 팀이 2026년 8월 3일 공개한 2조 4천억 파라미터 규모의 MoE 모델입니다. 공개 자료에 적힌 사양과 가격, 16일 자율 코딩을 포함한 장기 작업 실험 결과, 벤치마크를 읽을 때 주의할 점을 정리했습니다.
2026. 8. 4.
화면 없이 백그라운드에서 실행되는 헤드리스 AI의 개념과 채팅형 AI와의 차이를 정리했습니다. 이벤트 기반 동작 구조, 이메일 자동 분류와 주간 리포트 자동화 같은 실무 사례, 클로드 코드로 직접 실행하는 방법까지 다룹니다.
2026. 7. 29.
2026년 7월에 출시된 Kimi K3와 Claude Fable 5, GPT-5.6 Sol의 스펙, 벤치마크, 가격, 커뮤니티 반응을 비교하고 작업 성격별 선택 기준을 정리합니다.
2026. 7. 20.클로드 코드로 두 시간째 작업하던 중에 CLAUDE.md에 규칙 한 줄을 추가하면 프롬프트 캐시에 어떤 일이 생길까요?
