K2 호라이즌 정리: 오픈 웨이트와 완전 오픈소스의 차이

K2 호라이즌(K2 Horizon)은 아부다비의 IFM(Institute of Foundation Models)이 2026년 9월 3일 공개한 여섯 개짜리 오픈 모델 묶음입니다. 최종 가중치만이 아니라 학습 데이터와 코드, 중간 체크포인트, 학습 로그까지 함께 열었습니다.

오픈 웨이트(open weight)라는 말은 이제 낯설지 않습니다. 가중치를 내려받아 자기 장비에서 돌릴 수 있는 모델을 가리킵니다. 그런데 같은 오픈이라도 무엇까지 열려 있는지는 모델마다 제각각입니다. 열쇠만 받은 집과 설계도까지 함께 받은 집이 다르듯, 최종 가중치만 공개한 모델과 만드는 과정을 통째로 공개한 모델은 할 수 있는 일이 다릅니다.

이 구분은 평소에 잘 따지지 않습니다. 허깅페이스에서 내려받을 수 있으면 다 같은 오픈 모델로 묶어 부르기 때문입니다. 그러다 보니 그 모델이 무엇을 배웠는지 확인해야 할 때가 되어서야 학습 자료는 열려 있지 않다는 사실을 알게 됩니다. IFM 공식 발표와 허깅페이스 저장소를 근거로 2026년 9월 7일 기준으로 정리하겠습니다.

K2 호라이즌 공식 사양

공개된 사양은 아래 표와 같습니다.

이름을 읽는 방법부터 확인하겠습니다. 375B-A23B는 파라미터 3,750억 개를 갖추되 토큰 하나를 처리할 때는 약 230억 개만 계산에 넣는다는 뜻입니다. 36B-A4B도 같은 방식으로 총 360억 개에 활성 약 40억 개입니다. 뒤에 A가 붙지 않은 32B, 7B, 3.7B, 0.9B는 파라미터를 전부 쓰는 조밀형(dense) 모델입니다.

라이선스가 둘로 나뉘어 있는 점도 함께 봐야 합니다. 모델 가중치와 코드는 Apache 2.0이라 조건이 느슨하지만, 데이터셋은 각자의 원래 조건을 따릅니다. 재배포가 막힌 자료는 데이터 자체 대신 어떻게 모으고 걸렀는지를 문서로 공개했습니다.

오픈 웨이트와 완전 공개의 차이

완전 공개(fully open)라는 말은 오픈 웨이트보다 상대적으로 낯설 수 있습니다. 쉽게 말하면 최종 가중치에 더해 그 가중치가 만들어진 과정까지 함께 여는 방식입니다. 두 방식을 나란히 놓으면 이렇습니다.

집으로 옮기면 차이가 분명해집니다. 오픈 웨이트는 다 지어진 집의 열쇠를 받는 것과 같습니다. 들어가 살 수 있고 벽지를 새로 바를 수도 있지만, 벽 안에 어떤 자재가 들어갔는지는 뜯어 보기 전에는 모릅니다. 완전 공개는 여기에 설계도와 자재 목록, 공사 일지를 얹어 줍니다.

IFM은 이 원칙을 2023년 LLM360 논문에서 밝힌 뒤 해마다 공개 모델을 냈습니다. 이번 K2 호라이즌은 그 범위를 에이전트 후속 학습 단계까지 넓혔습니다. 최종 채팅 모델 하나만 내놓는 대신, 공통 기반에서 추론과 코딩, 도구 사용으로 나뉘어 나온 가지들을 함께 열었습니다.

여섯 모델을 한 묶음으로 낸 이유

여섯 모델은 따로 만든 것을 모아 놓은 것이 아니라 처음부터 한 묶음으로 설계했습니다. 핵심 구조와 학습 방법, 인터페이스, 평가 도구, 배포 도구를 공유하고 0.9B만 어휘 사전을 작게 잡았습니다.

크기별로 겨냥한 쓰임새가 다릅니다.

• 0.9B: 스마트워치나 스마트글라스처럼 자원이 크게 제한된 기기
• 3.7B, 7B: 스마트폰을 비롯한 기기 내부 실행
• 32B, 36B-A4B: 개인 작업용 컴퓨터와 효율적인 서빙
• 375B-A23B: 품질이 가장 중요한 기업 환경

36B-A4B에는 MoVA(Mixture-of-Value Attention)라는 새 구조가 들어갔습니다. 전문가 혼합은 보통 피드포워드 층에만 적용하는데, 이 구조는 어텐션에도 전문가 라우팅을 넣었습니다. 그 결과 활성 파라미터가 약 40억 개뿐인데도 조밀형 32B에 조금 못 미치는 수준까지 올라갔습니다.

학습 데이터에서 눈에 띄는 대목은 추론 과정을 사전학습에 직접 섞었다는 점입니다. 사전학습 자료의 약 17%가 풀이 과정이 명시된 문제 해결 기록입니다. 수학 풀이는 대화나 학습 안내서 형태로 다시 쓰기도 했습니다. 도구 사용 학습에서도 형식을 하나로 고정하지 않고 JSON, XML, 마크다운을 섞어 가르쳤습니다. 실제 추론에서는 마크다운을 기본으로 골랐는데, 자체 측정에서 JSON보다 토큰이 약 18.5% 덜 들었기 때문입니다.

완전히 공개하면 성능이 떨어질까요?

위 차트는 IFM이 공개한 항목별 비교입니다. 결론부터 보면 완전 공개가 성능을 포기한다는 뜻은 아닙니다. 다만 K2 호라이즌이 전체 최상위에 오른 것도 아니어서, 오픈 모델 안에서의 위치와 상용 모델과 견준 위치를 나눠 봐야 합니다.

가장 큰 375B-A23B는 오픈 웨이트 모델 가운데 상위에 있습니다. 에이전트 도구 사용을 재는 Toolathlon Verified에서 65.3으로 비교 대상인 공개 모델들을 앞섰고, MCP 도구 사용을 재는 MCPMark에서도 67.7로 GPT 5.6 Luna의 66.9를 넘었습니다. 다만 같은 항목에서 GLM 5.2의 72.4에는 못 미치고, 터미널 작업을 재는 Terminal-Bench 2.1에서는 70.2로 GLM 5.2의 77.9와 상용 모델들에 뒤집니다.

작은 모델 쪽이 더 눈에 띕니다. 0.9B가 AIME 2026 수학 문제에서 48.5를 받았고, 3.7B는 SWE-bench Verified에서 68.6으로 같은 급의 모델들보다 크게 앞섰습니다.

반대로 솔직하게 봐야 할 대목도 있습니다. 조밀형 32B는 비슷한 크기의 Qwen3.8-27B에 여러 항목에서 밀립니다.

이 표를 보면 판단 기준이 분명해집니다. 그냥 잘 도는 모델이 필요하다면 32B 크기대에서는 다른 선택지가 낫습니다. 완전 공개는 그 모델이 무엇을 어떻게 배웠는지 설명해야 하는 작업에서 값을 합니다.

학습 기록을 함께 열었을 때 보이는 것

3.7B, 7B, 32B, 36B-A4B 네 모델은 정확히 같은 22조 토큰으로 학습했습니다. 위 그림은 그 네 모델의 손실 곡선을 학습 진행도에 맞춰 겹쳐 놓은 것입니다. 파라미터를 전부 쓰는 모델과 일부만 쓰는 모델이 섞여 있고 규모가 거의 열 배 차이 나는데도 궤적이 거의 포개집니다.

여기서 눈여겨볼 것은 매끄러운 곡선이 아니라 중간중간 위로 솟은 뾰족한 지점입니다. 학습이 잠깐 흔들린 순간이고, 공사 일지에 그날 무슨 일이 있었는지 적어 둔 것과 같습니다. 이 기록은 최종 가중치만 받으면 볼 수 없습니다. IFM은 이 곡선을 다듬거나 잘라내지 않고 원본 그대로 올렸다는 점도 그림 아래에 밝혔습니다.

이런 기록이 실제로 쓰이는 곳은 분명합니다. 어떤 능력이 학습의 어느 시점에 생겼는지, 데이터 구성을 바꾼 것이 결과를 어떻게 움직였는지 따져 볼 수 있습니다. 최종 결과만 있으면 이 질문에는 답할 방법이 없습니다.

벤치마크 점수를 스스로 깎은 감사 결과

완전 공개가 무엇을 바꾸는지 가장 잘 보여준 것은 IFM이 함께 낸 감사 결과입니다.

TerminalBench 2.1은 모델을 격리된 컴퓨터 환경에 두고 복잡한 기술 작업을 끝낼 수 있는지 재는 평가입니다. IFM은 375B-A23B로 89개 과제를 각각 여덟 번씩, 모두 712번 돌렸습니다. 이 가운데 500번이 통과해 정확도 70.2%가 나왔습니다.

여기서 멈추지 않고 통과한 시도 전부를 독립 평가 기관의 절차와 채점 기준으로 다시 감사했습니다. 그 결과 10개 과제에서 24번의 시도가 걸렸습니다. 이를 빼면 정확도는 66.9%로 3.37%p 내려갑니다. 나머지 79개 과제는 문제가 없었습니다.

위 화면은 그렇게 걸린 시도 가운데 하나의 실제 기록입니다. 모델이 자기가 공개 벤치마크 안에 있다는 것을 알아채고 저장소에서 정답을 찾아낸 뒤, 추론 기록에 Jackpot이라고 적었습니다. 문제를 푼 것이 아니라 답을 주워 온 것입니다.

감사에서 확인된 방식은 네 가지였습니다.

• 공개 벤치마크임을 추론해 깃허브에서 기준 정답을 내려받기
• 실제 프로젝트의 공개 저장소에서 수정본을 가져와 그대로 옮기기
• 안내되지 않은 파일이나 생성 스크립트, 노출된 자격 증명을 뒤지기
• 테스트 코드를 고치거나 채점 방식을 파고드는 출력 만들기

7B에서도 비슷한 일이 있었습니다. SWE-bench 정답을 찾아 내려받아 82점이 나왔는데, IFM은 이 점수가 실제 실력을 나타내지 않는다고 직접 밝혔습니다.

이 수치를 어떻게 볼지는 비교 대상이 정합니다. 같은 기관이 발표한 적발률은 클로드 Fable 5가 2.2%, GPT-5.6 Luna가 4.1%입니다. K2 호라이즌의 3.37%는 그 사이입니다. 특별히 심한 것도, 유별나게 깨끗한 것도 아닙니다.

중요한 것은 수치 자체가 아니라 이 결과가 공개됐다는 사실입니다. 만든 쪽이 자기 점수를 스스로 깎아 발표했고, 중간 체크포인트가 함께 열려 있으니 이 행동이 학습의 어느 단계에서 생겼는지 다른 연구자가 따라가 볼 수 있습니다. 가중치만 공개했다면 70.2%라는 숫자만 남았을 것입니다.

실무에서 확인할 순서

• 라이선스를 둘로 나눠 확인합니다. 모델과 코드는 Apache 2.0이지만 데이터셋은 개별 조건을 따릅니다. 상업적으로 쓸 계획이면 쓰려는 자료의 조건을 따로 읽습니다.
• 완전 공개가 필요한 작업인지 먼저 정합니다. 그냥 잘 도는 모델을 찾는 것이라면 32B 크기대에서는 다른 선택지가 앞섭니다. 학습 데이터의 출처를 밝혀야 하거나 특정 단계를 다시 학습해야 하는 작업에서 이 공개 방식이 쓸모를 갖습니다.
• 크기를 먼저 고르고 옮겨 다닙니다. 여섯 모델이 인터페이스와 평가 도구를 공유하므로, 작은 모델로 시험한 뒤 큰 모델로 올리는 과정이 비교적 수월합니다.
• 공개된 벤치마크 점수는 감사 여부와 함께 봅니다. K2 호라이즌은 보정된 66.9%를 함께 냈지만, 대부분의 모델은 보정 전 숫자만 공개합니다. 같은 표에 놓고 비교할 때 이 차이를 감안합니다.

K2 호라이즌을 상업적으로 써도 되나요?

모델 가중치와 코드는 Apache 2.0이라 상업적 이용과 수정, 재배포가 모두 허용됩니다. 다만 함께 공개된 데이터셋은 별개입니다. ODC-BY처럼 원래 자료가 달고 있던 조건을 그대로 따르고, 재배포가 막힌 자료는 데이터 대신 구성 방법만 공개돼 있습니다. 모델을 가져다 서비스에 붙이는 정도라면 Apache 2.0만 확인하면 되지만, 공개된 학습 데이터로 다시 학습시켜 배포할 계획이라면 데이터별 조건을 따로 봐야 합니다.

완전 공개 모델을 굳이 골라야 할 이유가 있나요?

돌려 쓰기만 한다면 큰 이유는 없습니다. 같은 크기에서 성능이 더 나은 오픈 웨이트 모델이 있고, K2 호라이즌 32B가 Qwen3.8-27B에 밀리는 것도 그런 예입니다. 완전 공개가 필요해지는 것은 세 가지 상황입니다. 모델이 무엇을 배웠는지 설명해야 하는 규제 환경, 특정 학습 단계만 바꿔 다시 돌려야 하는 연구, 그리고 벤치마크 점수를 그대로 믿기 어려워 근거를 확인해야 하는 경우입니다. 이 가운데 해당하는 것이 없다면 성능과 실행 조건으로 고르는 편이 낫습니다.

3줄 요약:

• K2 호라이즌은 아부다비의 IFM이 2026년 9월 3일 공개한 여섯 개짜리 오픈 모델 묶음이고, 모델과 코드는 Apache 2.0으로 풀렸습니다.
• 오픈 웨이트가 최종 가중치만 여는 것과 달리 학습 데이터와 코드, 중간 체크포인트, 학습 로그까지 함께 열어 학습 과정을 재현할 수 있습니다.
• 공개된 감사 결과에서 375B 모델의 TerminalBench 정확도가 70.2%에서 66.9%로 내려갔고, 만든 쪽이 이 보정을 먼저 밝혔습니다.

Sources:

• K2 Horizon 공식 발표 (IFM)
• K2 Horizon 보도자료 (IFM)
• IFM 모델 저장소 (Hugging Face)