오픈AI Decisions API로 분류와 판단을 자동화합니다
오픈AI Decisions API는 텍스트와 이미지, JSON을 받아 조건 확률과 선택지, 점수를 반환합니다. 정식 출시로 달라진 기능과 호출 예제, 캐시를 포함한 요금, 실제 업무에 적용할 기준을 설명합니다.

세 줄로 먼저 읽기
- 오픈AI Decisions API는 2026년 10월 22일 정식 출시됐으며, gpt-6-luna로 조건 확률과 선택지 또는 단계 점수를 반환합니다.
- 한 요청에 질문을 최대 400개 넣으며, 캐시를 쓰지 않는 입력 요금은 100만 토큰당 0.10달러이고 출력 토큰 요금은 없습니다.
- 정해진 범주로 분류할 때는 Decisions API를 쓰고, 주문번호와 환불 사유를 원하는 JSON 형식으로 추출할 때는 Responses API의 Structured Outputs를 씁니다.
고객 문의를 결제팀에 보낼지 기술 지원팀에 보낼지만 정하면 되는 일이 있습니다. 이때 필요한 결과는 담당 부서 이름 하나이고, 답장 문장이나 처리 이유는 쓰지 않아도 됩니다.
오픈AI Decisions API는 이런 분류와 판단을 프로그램 안에서 처리하는 API입니다. API는 다른 프로그램의 기능을 호출하는 연결 방식입니다. 텍스트와 이미지, JSON 데이터를 보내면 조건이 맞을 확률이나 정해진 선택지, 단계별 점수를 받습니다. JSON은 항목 이름과 값을 짝지어 데이터를 주고받는 형식입니다.
Decisions API는 2026년 10월 6일 퍼블릭 베타로 공개됐고, 10월 22일 정식 출시됐습니다. 이 글의 사용법과 가격은 10월 23일 공식 문서 기준이고, 호출 예제의 문의는 예시 문장입니다.
정식 출시로 입력 방식과 질문 한도가 늘었습니다
정식 출시까지 가장 크게 바뀐 것은 한 요청에 넣는 질문 수입니다.
요청 한 번에 넣을 수 있는 질문 수
입력으로 넣을 수 있는 자료도 늘었습니다. 기능마다 업무에서 쓰는 예를 붙였습니다.
| 기능 | 현재 지원 범위 | 업무에서 쓰는 예 |
|---|---|---|
| 이미지 주소 | 공개 HTTP/HTTPS 주소와 base64 데이터 URL | 상품 사진 주소로 파손 여부 판정 |
| 질문별 이미지 | 각 질문의 지시문에 이미지 첨부 | 기준 이미지와 여러 후보 비교 |
| JSON 입력 | input_json으로 구조화된 데이터 전달 | 문의 내용과 주문 기록을 함께 검토 |
| 대화 이력 | 메시지와 도구 호출, 실행 결과를 입력으로 전달 | 이전 처리 내역을 참고해 다음 담당 부서 결정 |
| 프롬프트 캐시 | 반복되는 공통 입력 재사용 | 같은 참고 문서로 여러 요청 처리 |
대화 이력에 도구 실행 결과를 넣을 수는 있지만, Decisions API가 도구를 직접 실행하지는 않습니다. 담당 부서를 고른 뒤 문의를 실제로 해당 팀에 옮기는 일은 우리 쪽 코드가 맡습니다.
질문에 맞춰 확률과 선택지, 점수를 받습니다
호출 주소는 POST /v1/decisions이며 지원 모델은 gpt-6-luna입니다. input에 판단할 자료를 넣고, questions에서 질문 형식을 정합니다. 질문마다 name을 붙이면 응답에서도 같은 이름으로 결과를 찾습니다. 질문 형식은 세 가지입니다.
세 가지 질문 형식
| 항목 | |||
|---|---|---|---|
| 묻는 내용의 예 | 환불 요청인지 | 결제, 배송 기술 지원 중 어디인지 | 긴급도가 낮음, 보통, 높음 중 어디인지 |
| 주요 응답 필드 | probability | choice probabilities confidence | score probabilities confidence |
predicate의 probability는 조건이 참일 추정 확률이고, choice와 score는 선택지나 단계별 확률(probabilities)과 별도의 confidence를 함께 돌려줍니다. score는 단계 번호에 각 단계의 확률을 곱해 더한 값입니다. 예를 들어 긴급도를 낮음 0, 보통 1, 높음 2로 정했고 각 확률이 아래와 같다면 0×0.2 + 1×0.5 + 2×0.3 = 1.1입니다.
긴급도 단계별 확률과 score
담당 부서처럼 범주 하나를 골라야 한다면 score가 아니라 choice를 씁니다. 오픈AI는 Decisions API가 Responses API보다 약 10배 빠르다고 설명합니다.
고객 문의를 부서로 나누는 요청을 보냅니다
다음 예제는 중복 결제 문의를 미리 정한 네 가지 범주로 분류합니다. 서버나 로컬 터미널에 OPENAI_API_KEY 환경 변수가 설정돼 있어야 합니다. 환경 변수는 프로그램이 실행될 때 읽는 설정값이며, API 키는 브라우저에 공개되는 코드에 넣지 않습니다. 요청 필드는 API 명세에 맞췄습니다.
curl --fail-with-body https://api.openai.com/v1/decisions \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
--data-binary @- <<'JSON'
{
"model": "gpt-6-luna",
"input": "이번 달 이용료가 두 번 결제됐습니다. 중복 결제 취소를 요청합니다.",
"questions": [
{
"type": "choice",
"name": "department",
"instructions": "문의 내용을 처리할 담당 부서를 선택합니다.",
"choices": [
{"value": "billing", "description": "결제와 청구, 환불"},
{"value": "technical", "description": "제품 오류와 사용 문제"},
{"value": "shipping", "description": "배송 일정과 배송 조회"},
{"value": "other", "description": "담당 부서가 불명확한 요청"}
]
}
]
}
JSON응답의 answers 배열에서 name이 department인 답을 찾습니다. 답의 type이 choice이면 choice 값을 읽고, refusal이면 모델이 답변을 거부한 경우로 처리합니다. 여러 질문 중 하나가 거부돼도 다른 질문의 답은 올 수 있습니다.
이 예제에서 billing이 반환됐다는 것은 결제팀이 처리할 문의로 분류됐다는 뜻이고, 환불이 승인됐다는 뜻은 아닙니다. 분류 뒤에 앱이 할 일은 따로 정합니다.
분류 결과에 따라 앱이 할 일
| 결과 | |||
|---|---|---|---|
| billing | 제공 | – | – |
| technical 또는 shipping | 제공 | – | – |
| other 또는 refusal | – | 제공 | – |
| HTTP 오류나 응답 지연 | – | – | 제공 |
분류가 자주 틀리면 선택지 설명부터 구체적으로 고칩니다. 예를 들어 배송 중 파손과 제품 자체의 오류를 같은 팀이 처리하는지 먼저 정해야 선택지 설명에도 그 기준을 쓸 수 있습니다. Decisions 플레이그라운드에서는 코드 없이 질문과 입력을 바꿔 가며 결과를 비교할 수 있습니다.
비용은 캐시 사용 여부를 나눠 계산합니다
토큰은 모델이 입력을 나누어 처리하는 단위입니다. 2026년 10월 23일 기준 Decisions API의 일반 입력은 100만 토큰당 0.10달러이며 출력 토큰에는 요금이 없습니다. 캐시 요금은 같은 모델의 표준 단가를 따르고, 지역 처리 할증과 긴 입력에 붙는 배수는 따로 적용됩니다.
100만 토큰당 단가(미국 달러)
일반 모델 가격표에 있는 Luna의 출력 단가 0.50달러는 Decisions에 붙지 않습니다. Decisions 명세에서 지원하는 캐시 유지 시간 설정은 30m입니다.
캐시를 쓰지 않고 요청 한 건의 전체 입력이 300토큰이라면 비용은 이렇게 계산됩니다.
입력 300토큰 요청을 1만 건 보낼 때
300토큰요청 한 건의 입력
300만 토큰1만 건의 입력 합계
0.30달러기본 입력 비용300만 ÷ 100만 × 0.10
실제 비용은 질문 지시문을 포함한 요청의 토큰 수와 이미지 처리량에 따라 달라집니다.
JSON 결과를 직접 정하려면 Structured Outputs를 씁니다
Structured Outputs는 모델이 반환할 JSON의 항목과 자료형을 미리 정하는 기능입니다. JSON 스키마는 그 형식을 적은 규칙이며, 주문번호와 요청 내용을 각각 문자열로 받는 식으로 지정합니다. 이 기능은 형식만 맞춰 주므로, 추출한 값이 원문과 같은지는 따로 대조합니다.
필요한 결과에 맞는 API
| 필요한 결과 | ||
|---|---|---|
| 문의를 결제, 기술 지원, 배송으로 분류 | choice | 제공하지 않음 |
| 사진에 파손이 있을 추정 확률 | predicate | 제공하지 않음 |
| 주문번호와 환불 사유를 JSON으로 추출 | 제공하지 않음 | Structured Outputs |
| 처리 이유를 설명하는 문장 | 제공하지 않음 | 제공 |
정식 버전에서 JSON을 입력으로 받게 됐다고 JSON 결과를 만들어 주는 것은 아닙니다. 주문 기록을 input_json으로 보내도 Decisions가 돌려주는 답은 확률, 선택지, 점수 그대로입니다. 늘어난 것은 입력 자료의 형식이고, 출력 스키마를 정해 원하는 값을 추출하는 일은 Structured Outputs가 맡습니다.
자동 처리할 범위는 실제 문의로 정합니다
분류를 시작하기 전에 우리 업무의 정답 기준이 필요합니다. 예를 들어 "배송은 끝났지만 제품이 작동하지 않습니다"를 배송팀과 기술 지원팀 중 어디로 보낼지 합의하지 않았다면, 모델의 답이 맞았는지 틀렸는지 판단할 수 없습니다.
실제 문의로 자동 분류 범위를 정하는 순서
1. 정답 기준 합의겹치는 문의를
어느 팀이 맡을지
2. 문의에 부서 표시쉬운 문의, 겹치는 문의
범주 밖 요청까지
3. 자료 나누기질문 문구 조정용과
최종 평가용
4. 기존 방식과 비교정확도, 응답 시간
비용
5. 자동 분류 기준어떤 confidence부터
자동으로 보낼지
같은 평가 자료로 기존 방식과 Decisions를 비교하면 전환 여부를 판단할 근거가 생깁니다. confidence 값은 그대로 정답률로 쓰지 않고, 우리 문의로 시험해 어떤 값부터 자동 분류할지 정합니다. 잘못 보낸 문의를 되돌리는 비용과 사람이 검토하는 시간을 함께 계산하면 자동 분류를 적용할 범위가 정해집니다.
부서 배정은 잘못 보내도 다시 옮길 수 있지만, 환불 실행은 실제 금액이 바뀌는 일입니다. 같은 문의를 처리하더라도 두 작업에는 서로 다른 검토 기준이 필요합니다. 처음 적용할 업무로는 담당 부서 배정처럼 결과를 확인하고 되돌리기 쉬운 분류가 적합합니다.
Sources

제대로 이해했는지 한 문제로 확인해 볼까요?
답을 고르면 바로 풀이가 나와요.
고객 문의 자동 분류를 처음 도입할 때, 실제 문의로 평가하기 전에 무엇부터 정하는 편이 좋을까요?

새 글과 AI 소식을 메일로 받아 보세요
AI가 바꾸는 일과 도구, 측정 실무 이야기를 매주 한 번 보내 드려요.
이 글이 도움이 되었나요?
소식만 읽고 지나치기 쉬운 챗GPT와 아스트라를 처음부터 순서대로 익힙니다
- 1챗GPT(ChatGPT) 뜻: 서비스와 GPT 모델, OpenAI 구분
- 2GPT 모델 라인업 정리: GPT-5.6, GPT-6 아스트라, Sol과 Luna 구분
- 3챗GPT 요금제와 사용 한도: Free, Go, Plus, Pro 비교
