Muse Glimmer 로컬 실행 조건 읽기: 메모리와 모델 파일 선택

Muse Glimmer는 Meta가 2026년 8월 공개한 로컬 에이전트용 모델입니다. 로컬은 내 컴퓨터에서 계산한다는 뜻이고, 에이전트는 AI가 도구를 쓰며 여러 단계를 이어서 처리하도록 만든 시스템입니다. 모델 파일을 받았다고 파일 정리나 검색까지 하는 에이전트가 완성되지는 않습니다. 이 글은 2026년 10월 4일 공식 문서를 기준으로, 설치 전에 사양표를 읽고 내 장비에 맞는 파일을 고르는 순서를 다룹니다.

모델 파일과 실행 도구는 따로 준비합니다

모델의 가중치는 학습 결과를 담은 파일이고, 실행 도구는 그 파일을 읽어 질문에 답하도록 계산하는 프로그램입니다. 같은 모델이라도 실행 도구가 읽을 수 있는 파일 형식과 도구 버전이 맞아야 돌아갑니다.

Muse Glimmer는 텍스트와 이미지를 입력받아 텍스트로 답하며, 기본 컨텍스트는 128K 토큰입니다. 컨텍스트는 한 번에 다룰 수 있는 입력과 생성 내용의 범위이고, 토큰은 AI가 문장을 처리하는 단위입니다. 토큰은 한국어 글자 하나와 1대1로 맞지 않아서 128K 토큰을 글자 수로 바로 바꿀 수 없습니다.

가중치는 Apache 2.0 라이선스로 공개됐습니다. 이 라이선스는 가중치를 쓰고 고치고 배포하는 조건을 정한 것입니다. 장비와 전기료, 설치에 드는 시간은 쓰는 사람이 따로 부담합니다. 제품에 넣어 배포할 때는 라이선스 원문 조건을 따릅니다.

메모리 표의 24GB는 GPU 메모리입니다

모델 카드는 전체 정밀도판에 VRAM 64GB, K-Quant-Dynamic판에 32GB, K-Quant-17GB판에 24GB를 대상으로 적었습니다. 양자화는 가중치를 더 적은 용량으로 표현하는 방식이고, 압축판의 0.2%와 1.0% 저하는 15개 벤치마크 정확도 지표의 평균입니다.

여기서 VRAM은 그래픽카드가 계산할 때 쓰는 GPU 전용 메모리입니다. 컴퓨터에는 이름이 비슷한 용량이 여럿 있어서, 표의 숫자가 어느 메모리를 말하는지부터 맞춰 봅니다.

표의 대상 용량에 해당하는 메모리

용량 종류	모델 파일 보관	표의 대상 용량GPU가 계산에 씀
저장 공간	제공	제공하지 않음
시스템 RAM	제공하지 않음	제공하지 않음
GPU 전용 메모리, VRAM	제공하지 않음	제공
맥의 통합 메모리	제공하지 않음	CPU와 함께 씀

예를 들어 시스템 RAM 32GB에 VRAM 8GB인 PC의 GPU 메모리는 8GB이고, 24GB 대상에 들지 않습니다. 실행 중에는 모델 말고도 임시 자료와 다른 앱이 메모리를 쓰므로, 대상 용량과 딱 맞는 장비에서는 여유가 부족할 수 있습니다.

llama.cpp는 CPU만 쓰거나 CPU와 GPU에 나눠 올리는 실행도 지원합니다. 그래서 VRAM이 24GB보다 작은 장비에서도 돌릴 수는 있지만, 이때 속도는 공식 GPU 측정 결과와 다릅니다.

내 장비에 맞는 파일을 고르는 순서

현재 개발자 문서가 안내하는 배포본은 네 가지입니다. 어떤 실행 도구를 쓰느냐에 따라 받을 저장소가 정해집니다.

배포본과 그 파일을 읽는 실행 도구

배포본	vLLM, SGLang	llama.cpp	ExecuTorch
Muse-Glimmer-30B, BF16 원본	제공	–	–
Muse-Glimmer-30B-GGUF, 양자화 파일	–	제공	–
Muse-Glimmer-30B-ExecuTorch-PTE, 사전 변환 파일	–	–	제공

BF16은 가중치 숫자를 표현하는 정밀도이고, GGUF는 llama.cpp 같은 실행 도구가 읽는 모델 파일 형식입니다. 개인 PC나 맥에서 llama.cpp로 실행한다면 GGUF 저장소에서 아래 순서로 고릅니다.

1단계에서 Windows는 설정 > 시스템 > 정보에서 전체 사양을, 작업 관리자의 성능 화면에서 GPU 전용 메모리를 따로 봅니다. 맥은 시스템 설정 > 일반 > 정보에서 칩과 메모리를 봅니다. vision projector는 이미지 정보를 모델에 연결하는 파일이라, 텍스트만 다룰 때는 받지 않아도 됩니다. DFlash 보조 파일은 속도를 높일 때 쓰는 파일이고 본 모델을 대신하지 못합니다.

5단계에서 본 llama.cpp 버전이 b10353보다 낮으면 모델을 불러올 때 아래와 같은 오류가 납니다. 메모리 부족 오류와는 원인이 다르므로, 이 문구가 보이면 메모리가 아니라 llama.cpp 버전부터 올립니다.

터미널, b10353보다 오래된 llama.cpp

> llama-cli -m Muse-Glimmer-30B-KQuant-17GB-Q4_K_M.gguf

unknown model architecture: 'muse-glimmer'

메모리 문제가 아니라 도구 버전 문제입니다

속도 표는 측정 조건과 함께 봅니다

DFlash는 보조 모델이 다음 토큰 여러 개를 먼저 제안하고 본 모델이 검증하는 방식으로 생성 속도를 높입니다. 실행 도구에서 설정해야 쓸 수 있고, 도구마다 설정 방법과 지원 범위가 다릅니다.

이 표의 값은 요청을 하나씩 보내고 greedy decoding으로 생성해 측정한 평균입니다. greedy decoding은 매 단계에서 확률이 가장 높은 토큰을 고르는 방식입니다. 맥은 ExecuTorch, RTX는 llama.cpp로 측정했기 때문에, 같은 칩이라도 도구와 입력 길이, 설정이 바뀌면 속도가 달라집니다.

초당 토큰 수는 한국어 글자 수나 작업이 끝나는 시간과 같지 않습니다. 실제 작업 시간에는 모델을 불러오는 시간, 질문을 처리하는 시간, 추론하는 시간, 외부 도구를 기다리는 시간이 더해집니다.

점수는 업무별로 나눠 봅니다

공식 표에서 Muse Glimmer를 Qwen3.6-27B와 나란히 놓으면 평가마다 앞서는 모델이 다릅니다.

평가별로 점수가 더 높은 모델

평가	Muse Glimmer	Qwen3.6-27B
MCP Atlas, 도구 활용	제공	제공하지 않음
TerminalBench, 터미널 작업	제공하지 않음	제공
OSWorld, 화면 조작	제공하지 않음	제공

도구를 불러 쓰는 일에는 Glimmer가, 터미널 명령이나 화면 조작에는 Qwen3.6-27B가 공식 점수에서 앞섭니다. 위반율이나 공격 성공률처럼 표에 아래 화살표가 붙은 지표는 낮을수록 좋습니다. 회의 메모 요약에 쓰려면 이런 점수보다 날짜, 담당자, 할 일을 정확히 남기는지가 판단 기준입니다.

첫 실행은 실제 메모 한 건으로 대조합니다

설치는 운영체제와 GPU에 맞는 공식 llama.cpp 실행 안내를 따릅니다. 경로와 모델 파일, 도구 버전을 맞춘 뒤에는 결과를 원본과 바로 대조할 수 있는 짧은 업무 자료 하나로 텍스트 답변부터 시험합니다. 회의 메모라면 날짜, 담당자, 할 일을 뽑게 하고 원본에 없는 내용을 지어내지 않았는지 봅니다.

모델이 답을 만들어도 파일이 바뀌거나 메일이 나가지는 않습니다. 그런 동작은 검색이나 파일 정리 같은 도구를 연결한 뒤에야 일어납니다.

실행이 안 되면 오류 문구, 도구 버전, 파일 이름, 남은 메모리를 적어 두고 원인을 하나씩 좁힙니다. 답이 비어 있을 때는 서버 응답의 종료 사유를 봅니다. finish_reason: "length"가 있으면 모델이 추론하는 동안 허용한 생성 길이를 다 써 버린 경우일 수 있어서, 같은 명령을 반복하거나 더 큰 모델을 받기 전에 생성 길이와 추론 설정부터 살펴봅니다.

로컬 모델이라도 연결한 검색이나 외부 도구는 자료를 밖으로 보낼 수 있습니다. 오프라인으로 쓰는 것이 목적이라면 실행 도구와 연결 기능이 어디와 통신하는지까지 봅니다. 클라우드 이용료와 비교할 때는 장비 비용, 전기 사용, 설치와 유지에 드는 시간도 함께 계산합니다.

Sources

• Meta 발표
• 모델 카드와 평가
• 현재 모델 파일 안내
• 양자화와 메모리 안내
• llama.cpp 실행 안내
• DFlash 설정
• Mac 정보 확인
• Windows 장치 정보