무료 LLM API 라우터: 한도와 데이터 조건부터 확인하기
여러 AI API를 연결하는 라우터가 요청을 어디로 보내는지 설명합니다. OpenRouter와 Groq의 무료 한도, Gemini의 결제 연결 조건, 입력과 출력의 학습 및 보관 조건, 폴백 후보를 거르는 순서를 정리했습니다.

세 줄로 먼저 읽기
이번 방문에서 한 편은 바로 볼 수 있습니다.
무료 LLM API를 여러 개 연결해 두면 한 곳의 한도가 끝났을 때 다른 곳으로 요청을 넘길 수 있습니다. 그런데 요청을 받는 곳이 바뀌면 비용과 데이터 처리 조건도 함께 바뀝니다.
이 글은 라우터가 요청을 어디로 보내는지, 무료 한도와 데이터 조건을 어떻게 읽는지, 어떤 경우에 다른 곳으로 넘기지 말고 멈춰야 하는지를 다룹니다. 각 서비스의 조건은 2026년 10월 4일 공식 문서 기준입니다.
API와 라우터는 무엇인가요?
LLM은 글을 이해하고 만들어 내는 대규모 언어 모델입니다. API는 프로그램이 다른 서비스에 요청을 보내고 결과를 받는 연결 방식입니다. 웹 채팅창에 직접 질문하는 대신, 앱이나 프로그램 안에서 AI를 부를 때 API를 씁니다.
라우터는 정해 둔 규칙에 따라 요청을 처리할 곳을 고르는 중계 프로그램이나 서비스입니다. 요청 하나는 아래 순서로 지나갑니다.
요청 하나가 지나가는 경로
1. 내 프로그램API 키로 계정을 밝히고
엔드포인트로 요청
2. 라우터규칙에 따라
보낼 제공사를 고름
3. 모델 제공사모델을 실행해
답을 만듦
4. 폴백실패하면
다른 대상에 다시 요청
API 키는 어떤 계정의 요청인지 밝히는 비밀값이고, 엔드포인트는 요청을 받는 주소입니다. 제공사는 모델을 실제로 실행하는 업체이고, 폴백은 첫 대상이 실패했을 때 다른 대상으로 다시 보내는 전환입니다. 라우터는 직접 키를 등록해 운영하는 프로그램일 수도 있고, OpenRouter처럼 여러 제공사 연결을 서비스로 제공하는 곳일 수도 있습니다. 가입 방식과 무료 한도는 라우터마다 다릅니다.
라우터는 각 서비스가 허용한 한도 안에서 요청을 나눠 보낼 뿐이며 한도를 늘려 주지 않습니다. 중계 서비스나 서버를 운영하는 비용이 따로 들 수도 있습니다.
호환 API라도 연결 조건은 따로 맞춰야 합니다
OpenAI 호환 API는 OpenAI API의 요청과 응답 형식을 따라 만든 API입니다. 형식만 같고, 운영하는 회사와 제공하는 모델은 OpenAI와 다릅니다. 그래서 주소와 모델 이름만 바꿔서는 모든 코딩 도구에 연결되지 않습니다. 연결하려는 도구와 라우터 양쪽 문서에서 아래 네 가지를 차례로 맞춥니다.
호환 API를 도구에 연결하는 순서
1. API 형식도구가 지원하는
형식인지
2. 인증 방식키를 넣는 방법이
양쪽에서 같은지
3. 텍스트 한 건짧은 요청에 답이 오면
기본 연결 성공
4. 추가 기능도구 호출, 스트리밍을
하나씩 시험
스트리밍은 답변이 다 만들어지기를 기다리지 않고 생성되는 부분부터 받는 방식입니다. 텍스트 한 건이 오가도 도구 호출과 스트리밍은 지원 여부가 따로 정해지므로, 필요한 기능은 하나씩 시험합니다. 채팅 서비스의 구독료와 API 사용 요금이 따로 청구되는 경우도 있습니다.
무료 한도는 요청 수와 토큰 수에 따로 걸립니다
토큰은 모델이 입력과 출력을 처리하는 글 조각 단위입니다. 무료 한도는 요청 횟수와 토큰 양을 따로 제한하므로, 어떻게 쓰느냐에 따라 먼저 걸리는 한도가 다릅니다.
사용 방식마다 먼저 걸리는 한도
| 이런 사용 | |||
|---|---|---|---|
| 짧은 요청을 1분에 여러 번 보냄 | 제공 | – | – |
| 다른 작업과 하루 한도를 나눠 씀 | – | 제공 | – |
| 긴 문서를 넣거나 긴 답을 받음 | – | – | 제공 |
컨텍스트 길이는 이 한도들과 다른 개념입니다. 요청 한 번에 담을 수 있는 대화 이력과 입력, 출력의 크기를 말합니다. 컨텍스트 길이가 100만 토큰인 모델이라도 무료 등급에서는 분당 토큰 한도가 따로 적용됩니다.
OpenRouter 무료 한도 읽기
OpenRouter에서 이름이 :free로 끝나는 무료 모델 변형은 누적 구매 크레딧에 따라 하루 요청 한도가 달라집니다. 크레딧은 OpenRouter에 결제해 충전하는 사용 금액 단위입니다. OpenRouter 한도 문서의 기준을 막대로 놓으면 차이가 스무 배입니다.
무료 모델의 하루 요청 한도
UTC는 세계 공통 시간 기준이고, UTC 자정은 한국 시간 오전 9시입니다. 그래서 하루 한도는 한국 자정이 아니라 오전 9시에 새로 시작합니다. 문서에는 반올림과 충전 수수료 때문에 지금은 9크레딧부터 높은 하루 한도를 적용한다는 예외도 적혀 있습니다.
내 계정에 남은 하루 요청 수는 GET /api/v1/key 응답의 free_model_daily_requests 값에 나옵니다. 이 값에는 하루 한도만 나오고 분당 한도는 나오지 않습니다. 하루 요청이 남아 있어도 제공사 용량이 모자라거나 분당 한도를 넘으면 요청은 실패합니다. 하루 50회는 무료 모델마다 새로 생기는 한도가 아니고, 무료 모델의 수와 목록도 계속 바뀝니다.
Groq는 조직 전체가 한도를 나눠 씁니다
Groq의 한도는 API 키 하나가 아니라 조직 단위로 걸립니다. 같은 조직에서 키를 더 만들어도 전체 한도는 늘지 않습니다. 모델별 요약 값은 Groq 한도 문서에 있고, 내 조직의 정확한 값과 예외는 계정의 Limits 화면에 나옵니다.
같은 조직의 키가 한도를 나눠 쓰는 흐름
1. 조직 한도Limits 화면의
값 하나
2. 키 여러 개키마다 한도가
새로 생기지 않음
3. 동료 프로그램내 요청이 적어도
남은 양이 줄어듦
4. 429 오류넘은 제한을 보고
Retry-After만큼 대기
429는 한도를 넘었을 때 돌아오는 오류 코드입니다. 이 오류가 나면 바로 다시 보내지 말고 어떤 제한을 넘었는지부터 봅니다. 응답에 Retry-After가 있으면 적힌 시간만큼 기다린 뒤 보내고, 그래도 계속 걸리면 한 번에 보내는 양을 줄입니다.
무료 서비스의 데이터 조건은 서비스마다 다릅니다
무료라는 사실만으로는 데이터가 어떻게 쓰이는지 알 수 없습니다. 학습에 쓰는지, 입력과 출력을 보관하는지, 어느 지역에서 처리하는지, 사람이 볼 수 있는지를 나눠서 봐야 합니다. 이름이나 연락처처럼 개인정보가 든 자료는 이 네 가지가 업무 기준에 맞는 서비스에만 넣습니다.
Gemini API 추가 약관과 Groq 데이터 안내를 나란히 놓으면 같은 무료라도 조건이 다르다는 점이 드러납니다.
서비스별 입력과 출력 처리 조건
| 조건 | |||
|---|---|---|---|
| 제품 개선에 사용 | 제공 | 제공하지 않음 | – |
| 사람 검토자가 처리 | 제공 | – | – |
| 입력과 출력 보관 | – | 안전, 법적 목적의 한시 기록 | 기본은 안 함 배치, 장애 조사 때 보관 |
| 민감 정보 제출 금지 조건 | 제공 | – | – |
Gemini의 일반 무료 서비스는 제출한 내용과 생성 결과를 제품 개선에 쓸 수 있고, 사람 검토자가 이를 처리할 수 있습니다. 그래서 민감하거나 기밀인 정보와 개인정보를 제출하지 말라는 조건이 붙습니다. 유료 서비스는 제품 개선에 쓰지 않지만, 안전과 법적 목적의 기록은 한동안 남깁니다.
Groq는 일반 추론 요청의 입력과 출력을 기본으로 보관하지 않습니다. 다만 배치 처리 같은 일부 기능을 쓰거나 장애와 남용을 조사할 때는 보관할 수 있습니다. 정리하면 무료 서비스 가운데도 학습에 쓰지 않는 곳이 있고, 기본 보관을 하지 않는 곳도 상황에 따라 기록을 남깁니다.
Gemini는 결제 연결과 무료 사용이 따로 움직입니다
Cloud 프로젝트는 Google Cloud에서 API 키와 사용량, 결제를 묶어 관리하는 단위입니다. Gemini API 약관의 Paid Services 조항은 호출에 쓰는 Cloud 프로젝트가 활성 결제 계정에 연결돼 있을 때 유료 서비스 조건을 적용합니다. API 키는 자기가 속한 프로젝트의 상태를 따르므로, 다른 프로젝트 하나에 결제를 연결해도 나머지 무료 키의 조건은 그대로입니다.
유료 데이터 조건이 붙는 경우와 요금
| 경우 | ||
|---|---|---|
| 호출하는 프로젝트에 활성 결제 연결 | 제공 | 모델 가격대로 |
| 다른 프로젝트에만 결제 연결 | 제공하지 않음 | 무료 등급 |
| 결제 프로젝트에 접근하는 계정으로 AI Studio 사용 | 적용될 수 있음 | – |
| EEA, 스위스, 영국의 무료 서비스 | 제공 | 무료 |
| 한국의 무료 서비스 | 제공하지 않음 | 무료 |
AI Studio 웹 화면은 API와 조건이 다릅니다. 활성 결제가 연결된 프로젝트에 접근할 수 있는 계정이나 Workspace 기업 계정으로 쓰면 약관상 유료 서비스로 취급될 수 있습니다. 유럽경제지역(EEA), 스위스, 영국은 무료 서비스에도 유료 데이터 조항을 적용하는 지역 예외가 있고, 한국은 이 예외에 들어가지 않습니다.
Gemini 결제 안내에서 유료로 바꾸는 과정에는 결제 연결과 선불 크레딧 설정이 들어갑니다. 업무에 쓰려면 데이터 조건과 함께 모델별 가격, 선불과 후불 중 어느 방식인지, 자동 충전과 사용 제한 설정을 정합니다. AI Studio에서도 유료 API 키로 쓰는 유료 기능은 무료 사용과 구분됩니다. 회사 자료를 넣어도 되는지는 결제 연결과 별개로 회사 기준에 따라 정합니다.
라우터와 최종 제공사의 설정은 따로 있습니다
라우터를 쓰면 자료가 중계 서비스를 거쳐 최종 제공사로 갑니다. 같은 모델 이름이어도 실제로 처리하는 업체가 다를 수 있고, 오류 때 다른 모델로 넘어가면 결과의 형식과 품질도 달라집니다. OpenRouter에서는 데이터 설정이 OpenRouter 자체와 최종 제공사 쪽에 각각 있습니다.
OpenRouter 데이터 설정이 미치는 범위
| 설정 | ||
|---|---|---|
| 제공사 학습 허용 여부 | 제공하지 않음 | 제공 |
| 입력과 출력 기록, 제품 개선 참여 | 제공 | 제공하지 않음 |
| ZDR 경로 제한 | – | 제공 |
OpenRouter 제공사 데이터 정책에서 제공사 학습 허용 여부는 무료 모델과 유료 모델에 따로 설정합니다. 학습을 거부하면 학습에 쓰는 제공사로는 요청을 보내지 않습니다. OpenRouter 자체의 입력과 출력 기록, 제품 개선 참여는 OpenRouter 데이터 수집 안내에 있는 별도 설정입니다. 요청 수나 토큰 수 같은 사용 기록은 입력과 출력 본문을 저장하는 것과 다른 기록입니다.
학습하지 않는 제공사도 안전 점검 같은 목적으로 자료를 보관할 수 있습니다. 입력과 출력을 보관하지 않는 조건을 ZDR(Zero Data Retention)이라고 하며, 이 조건이 필요하면 ZDR 설정으로 해당 경로만 쓰도록 제한합니다.
폴백 후보는 모든 조건을 맞춘 곳만 고릅니다
한도가 끝났을 때 "무료이고 요청이 남은 곳"으로 넘기도록만 정해 두면, 데이터 조건이 맞지 않는 곳으로 자료가 갈 수 있습니다. 작업 조건이 비용 0원, 학습 사용 금지, 입력과 출력 보관 금지라면 후보는 아래 네 단계를 모두 통과해야 합니다.
폴백 후보를 거르는 순서
1. 남은 한도남은 요청이 0회면
제외
2. 요금유료 모델은
비용 승인 전까지 제외
3. 학습 사용입력을 학습에 쓰는 곳은
제외
4. 보관 조건보관하거나 조건을 모르는 곳은
제외
5. 남은 후보 없음유료로 넘기지 않고
요청을 멈춤
조건이 문서로 확인되지 않은 후보는 조건이 맞지 않는 후보와 똑같이 뺍니다. 요청문에 "학습에 쓰지 마세요"라고 적어도 서비스 약관은 바뀌지 않습니다. 네 단계를 통과한 후보가 하나도 없으면 요청을 멈추고, 허용된 후보의 한도가 다시 열리기를 기다리거나 비용과 업무 승인을 받아 작업 조건을 바꿉니다.
처음 연결할 때의 순서
연결할 도구와 API를 정했다면 아래 순서로 작은 시험부터 합니다.
첫 연결을 시험하는 순서
1. 대상 정하기모델과 실제 제공사
비용, 데이터 조건 기록
2. 키 보관서버나 로컬 도구의
비밀값 설정에만
3. 짧은 요청사과 두 개와 배 한 개를
품목과 수량으로 정리
4. 결과 대조사과 2, 배 1이 그대로인지
어느 모델이 처리했는지
5. 사용량예상 밖 유료 모델이나
부가 기능 호출이 없는지
6. 전환 시험허용된 후보로만
넘어가는지
2번에서 API 키는 공개 코드나 웹페이지 코드, 화면 캡처, 채팅에 넣지 않습니다. 3번 요청은 답이 정해져 있어서 4번에서 결과를 바로 맞춰 볼 수 있습니다. 6번은 키나 한도를 일부러 다 쓰지 말고, 실제 호출 없이 한도 오류를 가정하는 테스트 기능이 있으면 그 기능으로 시험합니다. 그런 기능이 없으면 자동 전환은 켜지 않고 앞 절의 순서로 후보 조건부터 정리합니다.
다른 모델로 넘어간 뒤에도 같은 답과 출력 형식이 나오는지 다시 봅니다. 무료 모델이 쓴 코드도 테스트와 검수를 거치고, 유료 모델의 결과도 검토 없이 내보내지 않습니다.
오류가 나면 어디부터 보나요?
오류별로 먼저 볼 곳과 다음 행동
| 상황 | ||
|---|---|---|
| 인증 실패 | 키의 대상 서비스 권한과 만료 여부 | 키를 드러내지 않고 설정 수정 |
| 429 한도 초과 | 분당, 하루 제한 제공사 용량 | 대기 안내대로 기다리고 요청량 줄이기 |
| 402 비용 제한 | 잔액, 키별 비용 제한 동시 요청의 예산 | 원인을 읽고 요청 축소나 대기 |
| 답이 중간에 끊김 | 스트리밍 오류 완료 상태 | 끊긴 답을 완료 결과로 저장하지 않기 |
| 전환 뒤 형식이 바뀜 | 실제 모델과 제공사 지원 기능 | 검수 뒤 후보에서 빼거나 형식 처리 보완 |
OpenRouter의 402는 잔액 부족만 가리키지 않습니다. OpenRouter 오류 안내에는 진행 중인 유료 요청의 예상 비용이 제한을 넘는 경우도 원인으로 나옵니다. 402가 나왔다고 바로 충전하지 말고 오류 원인부터 읽습니다.
무료 API를 실제 서비스에 써도 되나요?
무료 API라고 모두 상용 이용을 금지하지는 않습니다. 서비스 약관과 모델 이용 조건, 사용 지역, 재배포와 재판매 조건이 서비스마다 다릅니다. 약관이 허용해도 무료 한도에 기대 서비스를 운영할 만큼 안정적인지는 따로 판단할 문제입니다.
무료 API를 업무에 쓰기 전에 정할 것
1. 약관상용 이용, 사용 지역
재배포와 재판매
2. 안정성무료 한도에 기대도
되는 업무인지
3. 회사 허용 도구회사가 쓰도록 허용한
서비스인지
4. 자료 권한넣을 자료의 권한과
학습, 보관 조건
허용된 여러 제공사를 함께 쓰는 것과 한도를 피하려고 계정이나 키를 늘리는 것은 다른 일입니다. 한도를 넘으면 기다리거나 공식 상향 절차를 밟고, 키를 다른 사람에게 공개해 나눠 쓰지 않습니다. 업무 자료를 넣을지는 무료냐 유료냐가 아니라 회사가 허용한 도구인지, 자료를 쓸 권한이 있는지, 학습과 보관 조건이 맞는지로 정합니다.
3줄 요약
-
LLM API 라우터는 정해 둔 규칙으로 요청을 여러 모델 제공사에 넘기는 중계 프로그램이며 각 서비스의 한도와 데이터 조건은 그대로 따릅니다.
-
OpenRouter 무료 모델은 분당 20회와 하루 50회까지 요청할 수 있고 누적 구매 크레딧이 10 이상이면 하루 한도가 1000회로 늘어납니다.
-
폴백 후보는 남은 한도와 요금, 학습과 보관 조건을 모두 맞춰야 하며 맞는 곳이 없으면 유료로 넘기지 않고 요청을 멈춥니다.

제대로 이해했는지 한 문제로 확인해 볼까요?
답을 고르면 바로 풀이가 나와요.
무료 후보 A는 한도가 끝났고, 후보 B는 입력을 학습에 사용할 수 있습니다. 이번 작업은 학습 사용을 허용하지 않았습니다. 어떻게 할까요?
이 글이 도움이 되었나요?
내 컴퓨터에서 AI를 돌릴 때 필요한 하드웨어, 모델 크기, 실행 도구를 순서대로
코스 전체 보기 →
새 글과 AI 소식을 메일로 받아 보세요
AI가 바꾸는 일과 도구, 측정 실무 이야기를 매주 한 번 보내 드려요.
