교육 문의커뮤니티 입장하기

오픈AI Decisions API로 분류와 판단을 자동화합니다

오픈AI Decisions API는 텍스트와 이미지, JSON을 받아 조건 확률과 선택지, 점수를 반환합니다. 정식 출시로 달라진 기능과 호출 예제, 캐시를 포함한 요금, 실제 업무에 적용할 기준을 설명합니다.

지금까지 100명 넘게 읽었어요, 76%가 끝까지 읽었어요
Share
오픈AI Decisions API로 분류와 판단을 자동화합니다 대표 이미지
목차
  1. 정식 출시로 입력 방식과 질문 한도가 늘었습니다
  2. 질문에 맞춰 확률과 선택지, 점수를 받습니다
  3. 고객 문의를 부서로 나누는 요청을 보냅니다
  4. 비용은 캐시 사용 여부를 나눠 계산합니다
  5. JSON 결과를 직접 정하려면 Structured Outputs를 씁니다
  6. 자동 처리할 범위는 실제 문의로 정합니다
  7. Sources

세 줄로 먼저 읽기

  1. 오픈AI Decisions API는 2026년 10월 22일 정식 출시됐으며, gpt-6-luna로 조건 확률과 선택지 또는 단계 점수를 반환합니다.
  2. 한 요청에 질문을 최대 400개 넣으며, 캐시를 쓰지 않는 입력 요금은 100만 토큰당 0.10달러이고 출력 토큰 요금은 없습니다.
  3. 정해진 범주로 분류할 때는 Decisions API를 쓰고, 주문번호와 환불 사유를 원하는 JSON 형식으로 추출할 때는 Responses API의 Structured Outputs를 씁니다.

고객 문의를 결제팀에 보낼지 기술 지원팀에 보낼지만 정하면 되는 일이 있습니다. 이때 필요한 결과는 담당 부서 이름 하나이고, 답장 문장이나 처리 이유는 쓰지 않아도 됩니다.

오픈AI Decisions API는 이런 분류와 판단을 프로그램 안에서 처리하는 API입니다. API는 다른 프로그램의 기능을 호출하는 연결 방식입니다. 텍스트와 이미지, JSON 데이터를 보내면 조건이 맞을 확률이나 정해진 선택지, 단계별 점수를 받습니다. JSON은 항목 이름과 값을 짝지어 데이터를 주고받는 형식입니다.

Decisions API는 2026년 10월 6일 퍼블릭 베타로 공개됐고, 10월 22일 정식 출시됐습니다. 이 글의 사용법과 가격은 10월 23일 공식 문서 기준이고, 호출 예제의 문의는 예시 문장입니다.

정식 출시로 입력 방식과 질문 한도가 늘었습니다

정식 출시까지 가장 크게 바뀐 것은 한 요청에 넣는 질문 수입니다.

요청 한 번에 넣을 수 있는 질문 수

  • 베타최대 200개
  • 정식 출시최대 400개한 문의의 담당 부서와 긴급도를 함께 판정
막대 길이는 400개를 100으로 둔 비율입니다.

입력으로 넣을 수 있는 자료도 늘었습니다. 기능마다 업무에서 쓰는 예를 붙였습니다.

기능현재 지원 범위업무에서 쓰는 예
이미지 주소공개 HTTP/HTTPS 주소와 base64 데이터 URL상품 사진 주소로 파손 여부 판정
질문별 이미지각 질문의 지시문에 이미지 첨부기준 이미지와 여러 후보 비교
JSON 입력input_json으로 구조화된 데이터 전달문의 내용과 주문 기록을 함께 검토
대화 이력메시지와 도구 호출, 실행 결과를 입력으로 전달이전 처리 내역을 참고해 다음 담당 부서 결정
프롬프트 캐시반복되는 공통 입력 재사용같은 참고 문서로 여러 요청 처리

대화 이력에 도구 실행 결과를 넣을 수는 있지만, Decisions API가 도구를 직접 실행하지는 않습니다. 담당 부서를 고른 뒤 문의를 실제로 해당 팀에 옮기는 일은 우리 쪽 코드가 맡습니다.

질문에 맞춰 확률과 선택지, 점수를 받습니다

호출 주소는 POST /v1/decisions이며 지원 모델은 gpt-6-luna입니다. input에 판단할 자료를 넣고, questions에서 질문 형식을 정합니다. 질문마다 name을 붙이면 응답에서도 같은 이름으로 결과를 찾습니다. 질문 형식은 세 가지입니다.

세 가지 질문 형식

항목predicate참과 거짓choice순서 없는 범주score순서 있는 단계
묻는 내용의 예환불 요청인지결제, 배송
기술 지원 중 어디인지
긴급도가
낮음, 보통, 높음 중 어디인지
주요 응답 필드probabilitychoice
probabilities
confidence
score
probabilities
confidence

predicate의 probability는 조건이 참일 추정 확률이고, choice와 score는 선택지나 단계별 확률(probabilities)과 별도의 confidence를 함께 돌려줍니다. score는 단계 번호에 각 단계의 확률을 곱해 더한 값입니다. 예를 들어 긴급도를 낮음 0, 보통 1, 높음 2로 정했고 각 확률이 아래와 같다면 0×0.2 + 1×0.5 + 2×0.3 = 1.1입니다.

긴급도 단계별 확률과 score

  • 0 낮음0.2
  • 1 보통0.5
  • 2 높음0.3
score는 1.1이며, 1.1이라는 단계가 따로 있는 것은 아닙니다.

담당 부서처럼 범주 하나를 골라야 한다면 score가 아니라 choice를 씁니다. 오픈AI는 Decisions API가 Responses API보다 약 10배 빠르다고 설명합니다.

고객 문의를 부서로 나누는 요청을 보냅니다

다음 예제는 중복 결제 문의를 미리 정한 네 가지 범주로 분류합니다. 서버나 로컬 터미널에 OPENAI_API_KEY 환경 변수가 설정돼 있어야 합니다. 환경 변수는 프로그램이 실행될 때 읽는 설정값이며, API 키는 브라우저에 공개되는 코드에 넣지 않습니다. 요청 필드는 API 명세에 맞췄습니다.

curl --fail-with-body https://api.openai.com/v1/decisions \ -H "Authorization: Bearer $OPENAI_API_KEY" \ -H "Content-Type: application/json" \ --data-binary @- <<'JSON' { "model": "gpt-6-luna", "input": "이번 달 이용료가 두 번 결제됐습니다. 중복 결제 취소를 요청합니다.", "questions": [ { "type": "choice", "name": "department", "instructions": "문의 내용을 처리할 담당 부서를 선택합니다.", "choices": [ {"value": "billing", "description": "결제와 청구, 환불"}, {"value": "technical", "description": "제품 오류와 사용 문제"}, {"value": "shipping", "description": "배송 일정과 배송 조회"}, {"value": "other", "description": "담당 부서가 불명확한 요청"} ] } ] } JSON

응답의 answers 배열에서 name이 department인 답을 찾습니다. 답의 type이 choice이면 choice 값을 읽고, refusal이면 모델이 답변을 거부한 경우로 처리합니다. 여러 질문 중 하나가 거부돼도 다른 질문의 답은 올 수 있습니다.

이 예제에서 billing이 반환됐다는 것은 결제팀이 처리할 문의로 분류됐다는 뜻이고, 환불이 승인됐다는 뜻은 아닙니다. 분류 뒤에 앱이 할 일은 따로 정합니다.

분류 결과에 따라 앱이 할 일

결과해당 팀 목록에 추가사람이 분류실패 기록 후 재시도
billing제공––
technical 또는 shipping제공––
other 또는 refusal–제공–
HTTP 오류나 응답 지연––제공
재시도해도 실패하면 수동 처리로 넘깁니다.

분류가 자주 틀리면 선택지 설명부터 구체적으로 고칩니다. 예를 들어 배송 중 파손과 제품 자체의 오류를 같은 팀이 처리하는지 먼저 정해야 선택지 설명에도 그 기준을 쓸 수 있습니다. Decisions 플레이그라운드에서는 코드 없이 질문과 입력을 바꿔 가며 결과를 비교할 수 있습니다.

비용은 캐시 사용 여부를 나눠 계산합니다

토큰은 모델이 입력을 나누어 처리하는 단위입니다. 2026년 10월 23일 기준 Decisions API의 일반 입력은 100만 토큰당 0.10달러이며 출력 토큰에는 요금이 없습니다. 캐시 요금은 같은 모델의 표준 단가를 따르고, 지역 처리 할증과 긴 입력에 붙는 배수는 따로 적용됩니다.

100만 토큰당 단가(미국 달러)

  • 30분 캐시에 기록하는 입력0.125달러
  • 캐시를 쓰지 않는 입력0.10달러
  • 캐시에서 읽은 입력0.01달러
  • Decisions 출력과금하지 않음
막대 길이는 0.125달러를 100으로 둔 비율입니다.

일반 모델 가격표에 있는 Luna의 출력 단가 0.50달러는 Decisions에 붙지 않습니다. Decisions 명세에서 지원하는 캐시 유지 시간 설정은 30m입니다.

캐시를 쓰지 않고 요청 한 건의 전체 입력이 300토큰이라면 비용은 이렇게 계산됩니다.

입력 300토큰 요청을 1만 건 보낼 때

  • 300토큰요청 한 건의 입력
  • 300만 토큰1만 건의 입력 합계
  • 0.30달러기본 입력 비용300만 ÷ 100만 × 0.10

실제 비용은 질문 지시문을 포함한 요청의 토큰 수와 이미지 처리량에 따라 달라집니다.

JSON 결과를 직접 정하려면 Structured Outputs를 씁니다

Structured Outputs는 모델이 반환할 JSON의 항목과 자료형을 미리 정하는 기능입니다. JSON 스키마는 그 형식을 적은 규칙이며, 주문번호와 요청 내용을 각각 문자열로 받는 식으로 지정합니다. 이 기능은 형식만 맞춰 주므로, 추출한 값이 원문과 같은지는 따로 대조합니다.

필요한 결과에 맞는 API

필요한 결과Decisions APIResponses APIStructured Outputs 포함
문의를 결제, 기술 지원, 배송으로 분류choice제공하지 않음
사진에 파손이 있을 추정 확률predicate제공하지 않음
주문번호와 환불 사유를 JSON으로 추출제공하지 않음Structured Outputs
처리 이유를 설명하는 문장제공하지 않음제공

정식 버전에서 JSON을 입력으로 받게 됐다고 JSON 결과를 만들어 주는 것은 아닙니다. 주문 기록을 input_json으로 보내도 Decisions가 돌려주는 답은 확률, 선택지, 점수 그대로입니다. 늘어난 것은 입력 자료의 형식이고, 출력 스키마를 정해 원하는 값을 추출하는 일은 Structured Outputs가 맡습니다.

자동 처리할 범위는 실제 문의로 정합니다

분류를 시작하기 전에 우리 업무의 정답 기준이 필요합니다. 예를 들어 "배송은 끝났지만 제품이 작동하지 않습니다"를 배송팀과 기술 지원팀 중 어디로 보낼지 합의하지 않았다면, 모델의 답이 맞았는지 틀렸는지 판단할 수 없습니다.

실제 문의로 자동 분류 범위를 정하는 순서

  1. 1. 정답 기준 합의겹치는 문의를
    어느 팀이 맡을지
  2. 2. 문의에 부서 표시쉬운 문의, 겹치는 문의
    범주 밖 요청까지
  3. 3. 자료 나누기질문 문구 조정용과
    최종 평가용
  4. 4. 기존 방식과 비교정확도, 응답 시간
    비용
  5. 5. 자동 분류 기준어떤 confidence부터
    자동으로 보낼지

같은 평가 자료로 기존 방식과 Decisions를 비교하면 전환 여부를 판단할 근거가 생깁니다. confidence 값은 그대로 정답률로 쓰지 않고, 우리 문의로 시험해 어떤 값부터 자동 분류할지 정합니다. 잘못 보낸 문의를 되돌리는 비용과 사람이 검토하는 시간을 함께 계산하면 자동 분류를 적용할 범위가 정해집니다.

부서 배정은 잘못 보내도 다시 옮길 수 있지만, 환불 실행은 실제 금액이 바뀌는 일입니다. 같은 문의를 처리하더라도 두 작업에는 서로 다른 검토 기준이 필요합니다. 처음 적용할 업무로는 담당 부서 배정처럼 결과를 확인하고 되돌리기 쉬운 분류가 적합합니다.

Sources

Share

제대로 이해했는지 한 문제로 확인해 볼까요?

답을 고르면 바로 풀이가 나와요.

고객 문의 자동 분류를 처음 도입할 때, 실제 문의로 평가하기 전에 무엇부터 정하는 편이 좋을까요?

이 글이 도움이 되었나요?

이 글 다음 배우기챗GPT와 GPT-6 아스트라 입문입문 코스 · 10편

소식만 읽고 지나치기 쉬운 챗GPT와 아스트라를 처음부터 순서대로 익힙니다

  1. 1챗GPT(ChatGPT) 뜻: 서비스와 GPT 모델, OpenAI 구분
  2. 2GPT 모델 라인업 정리: GPT-5.6, GPT-6 아스트라, Sol과 Luna 구분
  3. 3챗GPT 요금제와 사용 한도: Free, Go, Plus, Pro 비교
코스 전체 보기 →
이어서 읽기 좋은 글오픈AI 데브데이 2026 이해하기: dots, GPT-6.1 Sol과 요금 구분 →

데브데이 2026의 핵심 발표인 dots, GPT-6.1 Sol, Ultrafast, Pro 500이 각각 도구, 모델, 속도 등급, 요금제 가운데 무엇인지 나눠 설명합니다. Sol의 API 단가와 Pro 500의 사용량 조건은 2026년 10월 4일 공식 문서 기준입니다.