컨텍스트 윈도우 뜻: AI가 한 번에 읽는 양

두꺼운 PDF를 올렸더니 "너무 길다"는 안내가 나오거나, 긴 대화 끝에 AI가 처음 알려 준 조건을 잊은 듯이 답하는 일이 있습니다. 두 일 모두 AI가 한 번에 읽을 수 있는 양과 관련이 있습니다.

AI 모델이 답 한 번을 만들 때 함께 읽고 쓸 수 있는 토큰의 한도를 컨텍스트 윈도우(Context Window)라고 합니다. 토큰은 AI가 글을 읽고 쓰는 조각이며, 앞 수업에서 다뤘습니다. 지금부터 이 창에 무엇이 들어가는지, 서비스마다 얼마나 큰지, 왜 넉넉해도 조건을 놓치는지를 화이트보드로 먼저 보고 이어서 자세히 설명합니다.

컨텍스트 윈도우는 답 한 번에 함께 읽는 토큰의 한도입니다

컨텍스트 윈도우(Context Window)는 AI 모델이 답 한 번을 만들 때 함께 읽고 쓸 수 있는 토큰의 한도입니다. 앤트로픽 공식 문서는 이 창을 모델의 "작업 기억(working memory)"이라고 설명합니다. 창은 모델이 학습한 지식 전체가 아니라, 지금 이 답을 만들기 위해 펼쳐 놓는 글의 양입니다.

앤트로픽 문서의 원문은 "The "context window" refers to all the text a language model can reference when generating a response, including the response itself."입니다. 답을 만들 때 참고하는 모든 글에 그 답까지 포함한 양이라는 뜻입니다.

창 안에는 네 가지가 함께 들어갑니다. 서비스가 넣는 기본 지시와 내가 정한 맞춤 지침, 지금까지 주고받은 대화, 첨부하거나 붙여 넣은 자료, 그리고 지금 쓰고 있는 답입니다. 화면에 보이는 것은 내 질문 한 줄이어도 모델은 매번 이 네 가지를 합쳐서 읽습니다.

창이 차는 계산

창 크기가 3만 2천 토큰이라면, 지침 1,200, 지금까지의 대화 1만 8천, 첨부한 보고서 1만 1천 토큰을 넣었을 때 새 답에 쓸 수 있는 공간은 1,800 토큰만 남습니다(가상 예시). 남은 공간보다 긴 답이 필요하면 답이 중간에 끊기거나, 서비스가 앞 대화를 줄여서 공간을 만듭니다.

모델 안내에 나오는 K는 천, M은 백만입니다. 128K는 12만 8천 토큰, 1M은 100만 토큰입니다. 같은 쪽수의 문서라도 내용과 언어, 모델의 토크나이저에 따라 토큰 수가 달라서, 쪽수만으로 창에 들어가는지 판단하기는 어렵습니다.

서비스와 요금제마다 창 크기가 다릅니다

2026년 10월 21일 각 회사 공식 문서에서 확인한 창 크기는 다음과 같습니다.

창이 100만 토큰이어도 답 하나의 길이는 따로 정한 최대 출력(위 표에서는 12만 8천 토큰)까지입니다. 창 크기와 답의 최대 길이는 다른 숫자입니다. GPT 모델은 GPT 모델 라인업에서 이어서 볼 수 있습니다.

클로드 컨텍스트 윈도우는 모델 세대마다 다릅니다

클로드(Claude) 유료 플랜 채팅에서는 고른 모델에 따라 창 크기가 달라집니다. 클로드 고객센터가 2026년 10월 7일 수정한 안내 기준입니다.

모델 선택기에서 이전 모델을 고르면 같은 자료가 창에 들어가지 않을 수 있습니다. 긴 자료를 넣을 때는 5.1, 5.5 세대 모델을 고릅니다. 모델별 성격과 가격은 클로드 모델 패밀리에서 다룹니다.

클로드 코드에서 컨텍스트 윈도우 확인하기

클로드 코드(Claude Code)는 터미널에서 코드를 읽고 고치는 클로드의 코딩 도구입니다. 여기서는 명령어로 창이 얼마나 찼는지 직접 볼 수 있습니다.

• /context: 지금 창을 무엇이 얼마나 차지하는지 색 격자로 보여 주고, 무거운 도구나 커진 메모리 파일처럼 줄일 곳을 알려 줍니다.
• /compact: 지금까지의 대화를 요약해 창을 비웁니다. 요약할 때 남길 내용을 덧붙여 지시할 수 있습니다.
• /clear: 빈 창으로 새 대화를 시작합니다. 공식 비용 문서는 /clear에는 비용이 들지 않는다고 안내합니다.

대화가 자동 압축 기준에 가까워지면 경고가 뜹니다. 이 경고는 사용량 한도가 아니라 창이 거의 찼다는 뜻입니다. Usage credits required for 1M context라는 메시지는 100만 토큰 창([1m]이 붙은 모델)을 쓸 권한이 없다는 뜻이므로, /model에서 표준 컨텍스트 모델을 고르면 이어서 쓸 수 있습니다.

창이 넉넉해도 조건을 놓치는 이유

창이 크다고 넣은 내용을 모두 똑같이 잘 쓰는 것은 아닙니다. 앤트로픽 문서는 "더 많은 컨텍스트가 자동으로 더 좋은 것은 아니며, 토큰이 늘수록 정확도와 기억이 떨어진다"고 설명하고, 이 현상을 컨텍스트 로트(context rot)라고 부릅니다. 그래서 창에 무엇을 넣을지 고르는 일이 창의 크기만큼 중요합니다.

대화가 아주 길어지면 서비스가 앞부분을 정리하기도 합니다. 클로드 고객센터는 코드 실행을 켠 유료 플랜에서 대화가 창의 한도에 가까워지면 앞부분을 자동으로 요약해 이어 가고, 이렇게 자동 정리가 일어난 긴 대화는 사용량을 더 쓴다고 안내합니다. 요약 과정에서 처음 알려 준 세부 조건이 빠질 수 있으므로, 긴 대화 끝에 받은 답은 처음 조건과 대조합니다.

컨텍스트 윈도우는 대화 하나의 길이 한도이고, 일정 시간 동안 쓸 수 있는 총량인 사용량 한도와는 다른 숫자입니다. 사용량 한도는 AI 사용 한도와 새 대화에서 다룹니다.

정리하면, 자료를 많이 넣을수록 AI가 조건을 놓치기 쉬운 현상은 컨텍스트 로트이고, 사실이 아닌 내용을 사실처럼 말하는 할루시네이션과는 다릅니다. 일정 시간 동안 쓸 수 있는 총량인 사용량 한도와도 다른 개념입니다.

컨텍스트 윈도우를 잘 쓰는 네 가지 방법

1. 작업이 바뀌면 새 대화를 엽니다. 관계없는 대화가 쌓여 있으면 필요한 조건을 찾기 어려워지고 창도 그만큼 찹니다.
2. 필요한 부분만 붙입니다. 100쪽 PDF에서 필요한 내용이 5쪽이라면 그 5쪽만 붙입니다.
3. 조건은 새 대화에 다시 적습니다. 날짜, 장소, 금액, 넣지 말아야 할 내용처럼 결과를 바꾸는 조건은 앞 대화에 있었어도 다시 붙입니다.
4. 요약은 원문과 대조합니다. 긴 자료를 장별로 나눠 요약했다면, 다음 작업에 쓰기 전에 요약에서 빠진 조건이나 숫자가 없는지 원문과 비교합니다.

직접 해 보기: 새 대화로 옮길 때 조건 다시 붙이기

계정이 있다면 사용 중인 AI 채팅의 새 대화에서 직접 해 보고, 계정이 없다면 다음 예시를 읽는 것만으로도 순서를 따라갈 수 있습니다.

답에서 행사명, 날짜와 시간, 장소, 준비물을 원문과 대조합니다. 그다음 장소를 5층 회의실로 바꿔 새 대화에서 다시 요청합니다. 새 답에 5층이 반영되고, 원문에 없는 참가비나 마감일이 들어가지 않았다면 연습은 끝입니다.

자료를 "10월 15일 직원 교육, 노트북 준비"처럼 줄여서 넘기면 오후 2시와 3층 회의실이 빠집니다. 이렇게 줄인 요약만으로는 시간과 장소를 정확히 쓸 수 없다는 것도 함께 확인해 봅니다.

자주 묻는 질문

컨텍스트 윈도우가 크면 무조건 좋은가요?

긴 자료를 한 번에 넣을 수 있다는 점에서는 유리하지만, 많이 넣을수록 정확도와 기억이 떨어질 수 있습니다. 앤트로픽은 이 현상을 컨텍스트 로트라고 부르며, 창에 무엇을 넣을지 고르는 일이 창의 크기만큼 중요하다고 설명합니다.

컨텍스트 윈도우와 사용량 한도는 같은 것인가요?

다릅니다. 컨텍스트 윈도우는 답 한 번에 함께 읽고 쓰는 토큰의 한도이고, 사용량 한도는 5시간이나 한 주처럼 일정 기간 동안 쓸 수 있는 총량입니다. 창이 넉넉해도 사용량 한도가 차면 기다리거나 요금제를 바꿔야 합니다.

대화가 길어지면 AI가 앞 내용을 잊나요?

대화가 창의 한도에 가까워지면 서비스가 앞부분을 요약해 이어 가기도 하고, 창 안에 있어도 많은 내용 사이에서 조건을 놓칠 수 있습니다. 중요한 조건은 새 대화를 열 때 다시 붙이는 편이 안전합니다.

클로드 컨텍스트 윈도우는 얼마인가요?

2026년 10월 기준 클로드 유료 플랜 채팅에서 Fable 5.1, Opus 5.5, Sonnet 5.5, Haiku 5.5는 100만 토큰입니다. Fable 5와 Opus 4.8 이하의 4.x 모델은 50만 토큰, 그 밖의 이전 모델은 20만 토큰입니다. 클로드 API에서도 최신 네 모델은 100만 토큰입니다.

무료 요금제의 컨텍스트 윈도우는 얼마인가요?

서비스마다 다릅니다. 제미나이 앱은 2026년 10월 21일 기준 무료 3만 2천 토큰, Plus 12만 8천 토큰, Pro와 Ultra 100만 토큰입니다. 클로드는 유료 플랜 채팅에서 100만 토큰입니다.

마무리: 긴 자료를 넣기 전에 볼 것

• 창 크기: 내가 쓰는 서비스와 요금제의 컨텍스트 윈도우를 확인합니다.
• 넣을 것: 필요한 부분만 골라 붙이고, 관계없는 대화는 새 대화로 끊습니다.
• 조건: 결과를 바꾸는 날짜, 장소, 금액은 새 대화에 다시 적고 답과 대조합니다.

지금 해 볼 수 있는 일은 세 가지입니다.

• 가상 행사 자료로 안내문을 받아 네 가지 조건을 원문과 대조합니다.
• 장소를 5층으로 바꿔 새 대화에서 다시 요청하고 반영됐는지 확인합니다.
• 줄인 요약에서 빠진 조건(시간, 장소)을 찾아봅니다.

참고 자료

• Anthropic 컨텍스트 윈도우 문서
• Anthropic 모델 개요
• claude.ai의 컨텍스트 창 안내(Claude 고객센터)
• Gemini 앱 컨텍스트 윈도우 안내(구글 고객센터)
• OpenAI API 모델 문서