AI 속도 비교 읽는 법: Gemini 3.7 Flash와 GPT-5.6 Ultrafast 사례

"최대 14배 빠르다"는 발표가 나와도 14분 걸리던 업무가 꼭 1분에 끝나지는 않습니다. 답변 글자를 만들어 내는 속도와, 파일을 읽고 도구를 실행해 일을 끝내기까지의 시간은 서로 다르기 때문입니다.

2026년 8월에 소개된 GPT-5.6 Sol Ultrafast, Gemini 3.7 Flash, Claude Fast mode, Muse Glimmer를 예로 속도 발표를 어떻게 봐야 하는지 정리했습니다. 성능 수치는 발표 당시 자료이고, 이용 조건과 요금은 2026년 10월 4일 공식 문서 기준입니다.

먼저 시간과 속도 지표를 구분합니다

AI가 입력을 받아 답을 계산하는 과정을 추론이라고 합니다. 여기서는 긴 논리 풀이만이 아니라 답을 만드는 계산 전체를 가리킵니다. 토큰은 AI가 문장을 처리하는 단위이고, 한 토큰이 늘 한 글자나 한 단어와 같지는 않습니다.

요청 하나가 끝나기까지의 시간을 순서대로 나누면 속도 지표 세 가지가 각각 어느 구간을 가리키는지 보입니다.

요청 하나가 끝나기까지, 지표별로 보는 구간

1. 11. 요청 보내기지시와 자료 전송
2. 22. 첫 응답첫 글자가 나오기까지
   첫 응답까지의 시간
3. 33. 답 생성글자가 이어서 나오는 구간
   초당 출력 토큰
4. 44. 도구 실행파일 읽기, 검색,
   도구 실행과 대기
5. 55. 결과 완성요청부터 결과까지
   전체 완료 시간

고객 응대 화면에서는 2단계의 첫 반응이 빨라야 하고, 보고서 작성에서는 5단계까지 걸리는 전체 시간이 중요합니다. 서로 다른 지표의 배수를 한 순위표에 올리면 비교 기준이 어긋납니다.

네 사례는 무엇을 바꿨나요?

네 사례는 속도를 높이는 방법부터 다릅니다. 같은 모델을 더 빠른 장비나 설정으로 돌리는 경우, 성능을 높인 새 모델을 내놓은 경우, 보조 모델을 붙여 생성 속도를 높인 경우로 나뉩니다.

속도를 높인 방식

사례	같은 모델을 빠르게 실행	성능을 높인 새 모델	보조 모델로 생성 가속
GPT-5.6 Sol Ultrafast	Cerebras 하드웨어	–	–
Gemini 3.7 Flash	–	3.6 Flash의 후속	–
Claude Fast mode	빠른 실행 설정	–	–
Muse Glimmer	–	–	DFlash가 다음 토큰 제안

이용 조건도 다릅니다. Ultrafast는 OpenAI API의 제한 프리뷰이고, Gemini 3.7 Flash는 제공 서비스마다 API 가격이 정해져 있습니다. Claude Fast mode는 지원 모델이 정해져 있고 접근 신청과 별도 단가가 있으며, Muse Glimmer는 내 기기에 충분한 메모리와 실행 프로그램이 있어야 합니다.

API는 다른 프로그램이 AI에 요청을 보내고 결과를 받는 연결 방식입니다. API용으로 발표된 기능은 일반 채팅 앱의 모든 계정에 바로 열리지 않습니다. 프리뷰는 정식 제공 전에 대상을 제한하거나 조건을 바꿔 가며 시험하는 단계입니다.

Ultrafast의 최대 14배와 작업 평가의 5.6배

OpenAI는 2026년 8월 13일 발표에서 GPT-5.6 Sol의 Ultrafast 등급을 선별 고객 대상 API 프리뷰로 소개했습니다. 표준 처리보다 최대 14배, 초당 최대 750개 출력 토큰이라는 수치는 가장 좋은 조건에서의 최대값입니다.

위 그래프의 막대는 모두 Standard를 1배로 둔 배수입니다. 14배는 Standard와 비교한 값이고, Priority(2.5배)와 비교하면 차이가 그보다 작습니다. 이 최대 배수는 출력 속도를, 아래 작업 평가의 배수는 작업 전체 시간을 측정한 값이라 서로 다른 지표입니다.

Cerebras는 평가 글에서 지식 업무 평가인 GDP-Val 가운데 품질을 맞춘 6개 작업의 전체 시간이 5.6배 빨라졌다고 보고했습니다. 그래프의 시간을 구간별로 나누면 어느 부분이 줄었는지 보입니다.

GDP-Val 6개 작업의 평균 시간, 구간별

• Standard, 모델 요청 처리약 7.5분
• Standard, 모델 요청 외 처리14.2초
• Ultrafast, 모델 요청 처리68.1초
• Ultrafast, 모델 요청 외 처리14.9초Standard와 거의 같음

모델 요청 처리 시간은 크게 줄었지만, 모델 요청 밖에서 쓰는 약 15초는 거의 그대로입니다. 모델 요청 처리 시간은 입력 처리와 응답 대기의 영향도 받아서, 초당 출력 토큰만으로 계산한 값과 다릅니다. 분을 초로 바꿔 7.7×60÷83을 계산하면 약 5.57배로, 발표값 5.6배와 맞습니다.

빨라지는 구간만 빨라집니다

전체 시간 가운데 빨라지는 구간이 얼마나 되는지에 따라 체감 효과가 달라집니다. 계산 원리를 보기 위해 숫자를 단순하게 잡아 보겠습니다.

전체 작업이 100초이고 그중 AI 처리가 80초, 파일 읽기와 대기 같은 나머지가 20초라고 하겠습니다. AI 처리만 4배 빨라지면 80÷4=20초가 되고, 그대로인 20초를 더해 새 전체 시간은 40초입니다. 100초를 40초로 나누면 전체 속도 향상은 2.5배입니다. 100초 전체를 4로 나눠 25초로 계산하면 빨라지지 않는 20초까지 4로 나누게 됩니다.

AI 처리만 4배 빨라질 때 전체 완료 시간

• 지금100초
• AI 처리가 80초인 작업40초전체 2.5배 빨라짐
• AI 처리가 20초인 작업85초전체 약 1.18배 빨라짐

AI 처리가 20초이고 나머지가 80초인 작업이라면 20÷4+80=85초입니다. 빨라지는 구간의 비중이 작을수록 전체 효과도 작아집니다.

Gemini 3.7 Flash: 속도 배수보다 성능과 가격

구글은 8월 13일 발표에서 3.6 Flash보다 코딩과 업무 수행 능력이 나아졌다는 점과 도입 가격을 중심으로 3.7 Flash를 소개했습니다. 몇 배 빠르다는 수치를 내세운 발표가 아닙니다.

벤치마크는 정해진 문제와 조건으로 성능을 측정하는 시험입니다. 그림의 FrontierCode 점수 43.6%와 34.4%는 그 코딩 평가의 결과이고, 모든 업무의 성공률이 아닙니다. Elo는 모델끼리 겨룬 결과로 매기는 상대 점수라서 1588점은 백분율이 아닙니다.

발표 표에는 3.7과 3.6 모두 100만 토큰당 입력 0.75달러, 출력 3.75달러가 적혀 있습니다. 발표의 "절반 가격"은 3.6의 처음 가격과 비교한 표현입니다. 표의 각주에 따르면 이 도입가는 2026년 12월 31일에 끝나고, 그 뒤로는 두 배가 됩니다.

Gemini 3.7 Flash 100만 토큰당 가격(미국 달러)

• 입력, 도입가0.75달러
• 입력, 2027년부터1.50달러
• 출력, 도입가3.75달러
• 출력, 2027년부터7.50달러

입력 토큰은 AI에 보내는 지시와 자료, 출력 토큰은 AI가 만들어 내는 내용입니다. 단가가 100만 토큰 기준이라 1만 토큰에는 0.01을, 2천 토큰에는 0.002를 단가에 곱합니다. 입력 1만 토큰과 출력 2천 토큰을 도입가로 계산하면 0.01×0.75+0.002×3.75=0.015달러이고, 도구 요금과 세금은 별도입니다. 답이 빨리 나와도 토큰 수가 같으면 이 금액은 줄지 않습니다. 후속 모델은 Gemini 3.8 Flash 글에 정리했습니다.

Claude Fast mode: 모델마다 처리 방식과 단가가 다릅니다

Claude Fast mode는 같은 모델에서 초당 출력 토큰을 최대 2.5배 높이는 옵션입니다. 첫 토큰이 나오기까지의 대기 시간은 이 옵션의 개선 대상이 아닙니다. Claude API의 리서치 프리뷰라서 접근 신청이 필요합니다. 2026년 10월 4일 Fast mode 공식 문서 기준으로 모델별 동작과 단가는 이렇습니다.

모델별 Fast mode 동작과 단가

모델	빠른 모드 요청 결과	Fast mode 단가100만 토큰당
Opus 5.5	제공	입력 8달러 출력 40달러
Opus 5, Opus 4.8	제공	입력 10달러 출력 50달러
Opus 4.6	오류 없이 표준 속도 usage.speed가 standard	–
Opus 4.7	요청 오류	–

Opus 5.5와 Opus 5는 이름이 비슷해도 Fast mode 단가가 다르므로 모델별로 계산합니다. 개발자는 응답의 usage.speed 항목에서 실제로 어느 속도로 처리됐는지 봅니다. Opus 4.6처럼 오류 없이 표준 속도로 처리되는 경우는 이 항목을 보지 않으면 알아채기 어렵습니다.

빠른 모드와 표준 모드는 이전 입력을 재사용하는 프롬프트 캐시를 공유하지 않습니다. 모드를 바꾸면 앞서 쌓인 캐시를 쓸 수 없으므로 비용 계산도 다시 합니다.

Muse Glimmer: 내 컴퓨터에서 돌리려면 갖출 조건

Muse Glimmer는 메타가 공개한 약 296억 파라미터 모델입니다. 파라미터는 학습으로 정해지는 모델 내부의 수치이고, 그 수치를 저장한 파일을 가중치라고 합니다. 필요한 메모리 용량은 파라미터 개수만으로 정해지지 않습니다. 가중치는 Apache 2.0 라이선스로 공개돼 있습니다.

메타의 설명에 따르면 DFlash라는 보조 모델이 다음 토큰 묶음을 미리 제안하고 본 모델이 이를 검증하는 방식으로 생성 속도를 높입니다. 모델 카드의 기기별 측정표에 나온 향상 폭은 다음과 같습니다.

보조 모델을 쓰기 전 대비 생성 속도 향상

• RTX 50903.1배
• M5 Max1.8배
• M4 Max1.5배

공식 측정은 특정 압축본, 보조 모델, 실행 프로그램을 쓰고 한 번에 요청 하나만 보낸 조건입니다. 모델 카드가 정한 목표 하드웨어는 압축본 기준 VRAM 24GB 또는 32GB, 원래 정밀도 기준 VRAM 64GB입니다. VRAM은 그래픽 카드에 달린 메모리라서, PC의 일반 RAM이 32GB여도 VRAM 32GB 조건을 채우지 못합니다. Mac의 통합 메모리는 운영체제와 다른 앱이 함께 쓰므로 전체 용량을 모델에 다 줄 수 없습니다.

가중치는 무료로 받을 수 있어도 실행할 기기와 프로그램은 직접 갖춰야 하고, 장비와 전력 비용도 따로 듭니다.

내 작업으로 비교할 때 남길 기록

발표의 최대 배수보다 내가 실제로 하는 일에서 측정한 시간이 선택에 더 직접적인 근거가 됩니다. 지난주 회의록을 요약하는 일처럼 자주 하는 작업 하나를 고르고 아래 순서로 기록합니다.

같은 작업으로 속도를 비교하는 순서

1. 11. 작업과 기준회의록 요약 하나
   날짜, 담당자, 할 일 누락 없음
2. 22. 하나만 바꾸기모드를 비교하면 모델 고정
   모델을 비교하면 그 사실 기록
3. 33. 세 번 실행조건마다 새 대화에서
   세 번씩
4. 44. 시간 기록요청부터 결과 완성까지
   고친 시간은 따로
5. 55. 품질과 비용날짜 오류, 누락, 수정 요청
   사용량과 모델 단가

한 번의 빠른 응답보다 같은 조건으로 여러 번 돌린 결과가 비교에 쓸모 있습니다. 새 대화로 열어도 서버 쪽 캐시가 재사용될 수 있으니, 화면에서 볼 수 있는 캐시 사용량이나 네트워크 상태도 함께 적습니다. 유료로 시험한다면 시작 전에 허용할 실행 횟수와 비용을 정해 둡니다.

모델 메뉴가 없거나 접근이 거절되면 그 계정에 해당 모델이 제공되는지부터 봅니다. 비용이나 구간별 처리 시간이 화면에 나오지 않으면 그 칸은 비워 둡니다. 전체 완료 시간과 품질만 적어도 첫 비교는 충분히 됩니다.

3줄 요약

1. AI 속도는 첫 응답까지의 시간과 초당 출력 토큰, 전체 완료 시간으로 나뉘며 발표 배수가 어느 지표인지에 따라 업무 시간이 줄어드는 폭이 다릅니다.

2. Ultrafast와 Claude Fast mode는 같은 모델을 빠르게 실행하고 Gemini 3.7 Flash는 성능을 높인 새 모델이며 Muse Glimmer는 보조 모델로 내 컴퓨터의 생성 속도를 높입니다.

3. Ultrafast는 출력 속도가 최대 14배지만 Cerebras의 작업 시험에서 전체 시간은 약 7.7분에서 83초로 5.6배 빨라졌으므로 같은 작업의 완료 시간과 품질, 비용을 함께 기록해 비교합니다.