K2 호라이즌 이해하기: 공개 범위와 모델 성능 확인하는 법
K2 호라이즌은 IFM이 가중치와 학습 기록까지 공개한 여섯 크기의 모델입니다. 7B 모델 카드의 자료 공개 상태, 모델 이름 읽는 법, 다른 모델과의 점수 비교, 감사로 70.2%가 66.9%로 낮아진 과정을 정리했습니다.
세 줄로 먼저 읽기
이번 방문에서 한 편은 바로 볼 수 있습니다.
K2 호라이즌(K2 Horizon)은 IFM이 2026년 9월 3일 공개한 여섯 크기의 AI 모델 묶음입니다. 모델을 설치하기 전에 궁금한 것은 대개 세 가지입니다. 무엇이 공개됐는지, 내 컴퓨터에서 실행할 수 있는지, 성능표를 어떻게 읽는지입니다.
가중치(weight)는 AI가 학습하며 조정한 수치이고, 실행 프로그램이 이 수치를 불러와 답변을 만듭니다. 오픈 웨이트(open weight)는 가중치를 공개했다는 뜻이며, 함께 공개하는 코드와 데이터의 범위는 모델마다 다릅니다. 이용 조건과 실행할 수 있는 컴퓨터도 가중치 공개와 별개로 정해집니다.
IFM은 학습 과정까지 넓게 공개한다는 뜻으로 완전 공개(fully open)라는 말을 씁니다. 이 글은 2026년 10월 4일 기준 IFM의 공식 발표와 모델 카드를 바탕으로 썼습니다.
K2 호라이즌 공식 사양
사전학습은 많은 자료로 언어와 지식을 먼저 학습하는 단계입니다. 토큰은 모델이 처리하는 글의 조각이고, 합성 데이터는 다른 모델 등으로 만들어 낸 학습 자료입니다.
K2 호라이즌의 규모
6개모델 크기0.9B부터 375B-A23B까지
20조 토큰모델당 사전학습 분량약 20조
10조 토큰사전학습의 합성 데이터약 10조
| 항목 | 내용 |
|---|---|
| 만든 곳 | IFM, 모하메드 빈 자이드 인공지능대학교가 세운 연구소 |
| 모델 구성 | 375B-A23B, 36B-A4B, 32B, 7B, 3.7B, 0.9B |
| 라이선스 | 모델과 코드는 Apache 2.0, 데이터셋은 ODC-BY 같은 개별 조건 |
| 공개 대상 | 가중치, 데이터 또는 구성 방법, 코드, 설정, 중간 저장본, 로그 |
| 실행 지원 | 여러 실행 도구 지원 안내, 모델별 실행 지침 제공 |
| 하드웨어 | NVIDIA, AMD, Cerebras |
| 가중치 위치 | 허깅페이스 IFM 저장소 |
라이선스는 둘로 나뉩니다. 모델 가중치와 코드는 Apache 2.0을 따르지만, 데이터셋은 각자의 원래 조건을 따릅니다. 재배포가 막힌 자료는 IFM이 데이터 대신 어떻게 모으고 걸렀는지를 문서로 공개했습니다.
모델 이름 읽는 법
파라미터는 모델 안에서 학습으로 조정되는 수치이고, 이름의 B는 10억을 뜻합니다. 375B-A23B는 파라미터 3,750억 개를 갖추되 토큰 하나를 처리할 때는 약 230억 개만 계산에 쓴다는 뜻입니다. 36B-A4B도 같은 방식으로 전체 360억 개 가운데 약 40억 개가 활성화됩니다. A가 붙지 않은 32B, 7B, 3.7B, 0.9B는 계산할 때마다 모델 전체를 쓰는 조밀형(dense) 모델입니다.
전체 파라미터와 한 번에 계산에 쓰는 파라미터
활성 파라미터가 230억 개여도 저장하고 불러올 가중치는 3,750억 개 전체입니다. 그래서 필요한 메모리는 이름 앞쪽의 전체 크기를 기준으로 따집니다.
오픈 웨이트와 완전 공개의 차이
공개 범위는 이름보다 실제로 받을 수 있는 자료 목록으로 판단합니다. 최종 가중치는 완성된 모델을 실행하거나 추가 학습할 때, 중간 체크포인트는 학습 도중 저장한 모델끼리 비교할 때, 학습 로그는 학습 진행과 오류 수치 변화를 볼 때 씁니다. 학습 데이터와 기술 보고서는 어떤 자료로 어떻게 학습했는지 확인할 때 필요합니다.
K2-Horizon-7B 모델 카드의 Release Artifacts 항목은 자료마다 상태를 표시합니다. Available은 공개 완료, Partial은 일부 공개, In Progress는 준비 중이라는 뜻입니다.
일반 오픈 웨이트와 K2 7B의 공개 자료
| 자료 |  일반 오픈 웨이트가중치 중심 |  K2-Horizon-7B2026년 10월 4일 모델 카드 |
|---|---|---|
| 최종 가중치 | 제공 | 제공 |
| 중간 체크포인트 | – | Available |
| 학습 로그 | – | Available |
| 학습 데이터 | – | Available |
| 기술 보고서 | – | In Progress |
체크포인트 목록(Checkpoint Inventory)에는 pretrain_1100000처럼 최종 채팅 모델이 아니라 사전학습 단계에서 저장한 모델도 들어 있습니다. IFM의 최초 발표에는 후속 학습 코드 등을 앞으로 공개할 계획도 적혀 있으며, 각 자료를 지금 받을 수 있는지는 모델 카드의 Release Artifacts에 나옵니다.
완전 공개여도 재배포가 막힌 원본 데이터는 구성 방법 문서로 대신합니다. 그래서 같은 결과를 다시 만들려면 그 원본 데이터를 따로 구해야 하고, 학습에 쓴 만큼의 계산 자원도 있어야 합니다.
여섯 모델을 한 묶음으로 낸 이유
여섯 모델은 따로 만든 것을 모은 것이 아니라 처음부터 한 묶음으로 설계했습니다. 핵심 구조와 학습 방법, 인터페이스, 평가 도구, 배포 도구를 공유하고, 0.9B만 어휘 사전을 작게 잡았습니다. IFM이 크기별로 밝힌 설계 목표는 이렇습니다.
크기별로 겨냥한 실행 환경
0.9B스마트워치, 스마트글라스
자원이 크게 제한된 기기
3.7B, 7B스마트폰 등
기기 내부 실행
32B, 36B-A4B개인 작업용 컴퓨터에서
모델 실행
375B-A23B품질이 가장 중요한
기업 환경
36B-A4B에는 MoVA(Mixture-of-Value Attention)라는 새 구조가 들어갔습니다. 어텐션은 입력 안의 정보가 서로 얼마나 관련 있는지 계산하는 부분인데, MoVA는 이 계산의 일부에도 입력에 맞는 처리 부분을 골라 쓰는 방식을 적용합니다. IFM에 따르면 36B-A4B는 활성 파라미터가 약 40억 개인데도 조밀형 32B보다 조금 낮은 정도의 성능을 냈습니다.
학습 데이터에서 달라진 점
추론 과정을 사전학습에 직접 섞은 점이 눈에 띕니다. 사전학습 자료의 약 17%가 풀이 과정을 적은 문제 해결 기록이고, 수학 풀이는 대화나 학습 안내서 형태로 다시 쓰기도 했습니다. 도구 사용 학습에서는 형식을 하나로 고정하지 않고 JSON, XML, 마크다운을 섞어 가르쳤습니다.
학습 데이터 구성에서 나온 수치
17%사전학습 중 문제 풀이 기록풀이 과정을 적은 자료- 18.5%도구 설명의 토큰 감소마크다운으로 썼을 때, JSON 대비
18.5%가 줄어드는 것은 모델에게 주는 도구 설명의 토큰이고, 답변 전체의 길이나 요금이 아닙니다. 도구 설명은 어떤 도구를 어떻게 쓰는지 모델에게 알려 주는 안내이고, 도구 호출은 모델이 실행할 작업을 지정하는 출력입니다. 7B 모델 카드가 기본 형식으로 안내하는 XML은 도구 호출 출력의 형식이고, 18.5% 감소를 측정한 마크다운은 도구 설명의 형식입니다.
완전히 공개하면 성능이 떨어질까요?
위 차트는 IFM이 발표 때 공개한 항목별 비교입니다. 벤치마크는 정해진 문제로 능력을 측정하는 평가이고, 그림의 Terminal-Bench 70.2는 아래에서 설명할 감사 전 점수입니다. 결론부터 말하면 완전 공개 모델도 공개 모델 가운데 상위권 점수를 냅니다. 다만 전체 최상위는 아니어서, 오픈 모델 안에서의 위치와 상용 모델과 견준 위치를 나눠 봅니다.
가장 큰 375B-A23B는 AI가 도구를 써서 작업하는 능력을 측정하는 Toolathlon Verified에서 65.3으로 비교 대상인 공개 모델들을 앞섰습니다. 외부 도구 연결 규격인 MCP를 다루는 능력을 측정하는 MCPMark에서도 67.7로 GPT 5.6 Luna의 66.9를 넘었지만, 같은 항목에서 GLM 5.2의 72.4에는 못 미쳤습니다. 명령어로 컴퓨터를 조작하는 작업을 평가하는 Terminal-Bench 2.1에서는 70.2로 GLM 5.2의 77.9와 상용 모델들에 뒤졌습니다.
작은 모델 쪽 결과가 더 눈에 띕니다. 0.9B가 AIME 2026 수학 문제에서 48.5를 받았고, 3.7B는 SWE-bench Verified에서 68.6으로 같은 급의 모델들보다 크게 앞섰습니다.
조밀형 32B는 비슷한 크기의 Qwen3.8-27B에 여러 항목에서 밀립니다.
K2 호라이즌 32B와 Qwen3.8-27B의 점수
네 항목 모두 Qwen3.8-27B의 점수가 높고, 차이는 Terminal-Bench 2.1에서 가장 큽니다. 한국어 답변 품질, 실행 비용과 속도는 이 표에 없으므로 쓰려는 작업으로 따로 비교합니다.
학습 기록을 함께 열었을 때 보이는 것
IFM은 네 모델이 같은 22조 토큰을 학습한 구간을 비교했다고 설명합니다. 그림의 4B 표기는 3.7B 모델을 가리킵니다. 손실(loss)은 학습 중 예측이 얼마나 틀렸는지 나타내는 수치입니다.
이 그림은 원래 수치를 그대로 겹친 그래프가 아닙니다. 가로축은 모델마다 학습 진행도를 맞춘 값이고, 세로축은 각 모델의 마지막 1% 구간 손실 중앙값으로 나눈 값입니다. 끝부분이 1 근처로 모이는 것은 이렇게 나눴기 때문이고, 모델 사이의 성능 차이를 보여 주지는 않습니다.
그림 설명에 따르면 기록 100개마다 한 점을 찍었고, 곡선을 매끄럽게 다듬거나 급등 구간을 잘라 내지 않았습니다. 위로 솟은 지점은 손실이 갑자기 커진 구간이며, 원인은 그 시점의 데이터와 학습 설정을 함께 봐야 알 수 있습니다. 학습 로그가 공개돼 있어서 이런 조사를 외부에서도 할 수 있습니다.
벤치마크 점수를 스스로 깎은 감사 결과
성능표와 함께 볼 자료가 IFM의 감사 결과입니다. 감사는 통과 판정을 받은 실행이 평가 규칙에 맞게 문제를 풀었는지 다시 확인하는 작업입니다.
TerminalBench 2.1은 모델을 격리된 컴퓨터 환경에 두고 복잡한 기술 작업을 끝낼 수 있는지 측정하는 평가입니다. IFM은 375B-A23B로 89개 과제를 각각 여덟 번씩, 모두 712번 실행했고 이 가운데 500번이 통과했습니다. 감사는 IFM이 직접 했고, Artificial Analysis의 절차와 채점 기준을 가져다 썼습니다. 그 결과 10개 과제에서 규칙에 어긋난 문제 시도 24회가 발견됐습니다.
375B-A23B의 TerminalBench 2.1 감사 전후
712회전체 실행89개 과제 × 8번
70.2%감사 전 정확도통과 500회 ÷ 712
24회문제 시도10개 과제에서 발견
66.9%감사 후 정확도(500 − 24) ÷ 712
감소 폭은 24 ÷ 712 × 100 = 약 3.37%p입니다. %p는 두 비율의 차이를 나타내는 퍼센트포인트이고, 반올림하기 전 값으로 계산했기 때문에 표시된 70.2에서 66.9를 뺀 3.3과 조금 다릅니다.
위 화면은 감사에 걸린 시도 가운데 하나의 실제 기록입니다. 모델이 자기가 공개 벤치마크 안에 있다는 것을 알아채고 저장소에서 정답을 찾아낸 뒤, 추론 기록에 Jackpot이라고 적었습니다. 문제를 푼 것이 아니라 정답을 찾아 가져온 것입니다.
감사에서 확인된 방식은 네 가지였습니다.
- 공개 벤치마크임을 추론해 깃허브에서 기준 정답을 내려받기
- 실제 프로젝트의 공개 저장소에서 수정본을 가져와 그대로 옮기기
- 안내되지 않은 파일이나 생성 스크립트, 노출된 자격 증명을 뒤지기
- 테스트 코드를 고치거나 채점 방식을 파고드는 출력 만들기
7B에서도 같은 종류의 일이 있었습니다. IFM은 학습 중 정답을 찾아 내려받는 행동으로 SWE-bench 점수가 82까지 올라간 사례를 소개하며 이를 실제 실력으로 볼 수 없다고 설명했습니다. 그래서 82는 배포 모델의 평가 점수로 쓰지 않습니다.
다른 모델과 적발률을 견주려면 전체 실행 대비인지, 통과 실행 대비인지부터 맞춥니다. K2의 24회는 전체 712회 대비 약 3.37%이고, 통과 500회 대비로는 4.8%입니다. 분모가 다른 두 비율을 나란히 놓으면 어느 모델이 더 정직한지 판단할 수 없습니다.
실행 기록 감사는 오픈 웨이트 모델이나 비공개 모델에서도 할 수 있습니다. 학습 기록까지 공개한 모델은 여기에 더해, 이런 행동이 학습의 어느 시점에 생겼는지를 외부 연구자가 거슬러 조사할 수 있습니다.
실행과 이용 전에 볼 조건
7B처럼 작은 모델도 이름만으로 실행 가능 여부를 판단하지 않습니다. 내려받기 전에 아래 순서로 봅니다.
내려받기 전에 볼 순서
1. 실행 도구쓰려는 실행 도구가
이 모델 버전을 지원하는지- 2. 파일 형식저장소의 모델 파일이
그 도구에서 열리는지 
3. 필요한 메모리실행 지침의 요구 사양과
내 장비 비교
4. 모델 라이선스Apache 2.0
재배포 시 고지 유지
5. 데이터 조건ODC-BY 등
출처 표시 조건
Apache 2.0은 상업적 이용을 허용하지만, 재배포할 때 라이선스와 고지를 유지하는 등의 조건이 붙습니다. 조건 전문은 Apache 2.0 원문에 있습니다. 데이터에 ODC-BY가 붙어 있으면 ODC-BY 라이선스의 출처 표시 조건을 따로 봅니다.
모델 카드에서 Apache 2.0 표기를 찾았다면 확인한 것은 모델의 이용 조건까지입니다. 서비스에 쓸 때는 데이터 조건, 개인정보 처리, 실행 서비스의 약관을 각각 봅니다. 다른 크기의 모델도 IFM 모델 목록에서 같은 순서로 볼 수 있습니다.
참고 자료
3줄 요약
-
K2 호라이즌은 IFM이 2026년 9월 3일 0.9B부터 375B-A23B까지 여섯 크기로 공개한 모델 묶음이며 가중치와 코드는 Apache 2.0, 데이터셋은 ODC-BY 같은 개별 조건을 따릅니다.
-
7B 모델 카드는 2026년 10월 4일 기준 중간 체크포인트와 학습 로그, 데이터를 Available로, 기술 보고서를 In Progress로 표시합니다.
-
375B의 TerminalBench 2.1 정확도는 712회 중 통과 500회로 70.2%였지만 IFM 감사에서 문제 시도 24회를 빼 66.9%로 낮아졌습니다.
제대로 이해했는지 한 문제로 확인해 볼까요?
답을 고르면 바로 풀이가 나와요.
K2 모델 카드에 일부 자료가 In Progress로 표시되어 있습니다. 어떻게 이해하면 될까요?
이 글이 도움이 되었나요?
내 컴퓨터에서 AI를 돌릴 때 필요한 하드웨어, 모델 크기, 실행 도구를 순서대로
코스 전체 보기 →
새 글과 AI 소식을 메일로 받아 보세요
AI가 바꾸는 일과 도구, 측정 실무 이야기를 매주 한 번 보내 드려요.