노트북에서 에이전트를 하나 돌리려 하면 금세 벽에 부딪힌다. 성능 좋은 모델은 대부분 외부 서버에 있다. 내 그래픽카드에서 돌아갈 만한 모델은 도구를 몇 번만 호출해도 흐트러지고 개인 파일과 일정을 다루려면 작업 내용을 클라우드로 보내야 한다.
2026년 8월 10일, 메타가 이런 빈틈을 겨냥한 모델을 내놨다. Muse Glimmer는 소비자용 그래픽카드 한 장에서 돌아가도록 만든 300억 파라미터 모델이고 가중치가 Apache 2.0 라이선스로 공개됐다. 같은 날 마크 저커버그도 글을 올려 왜 다시 가중치를 공개하는 쪽을 택했는지 설명했다. Hacker News에서는 추천을 1,100개 넘게 받은 토론이 이어졌다. 발표문과 반응을 함께 읽으면 인상이 조금 달라진다.
300억 파라미터를 24GB 카드에 밀어 넣기
300억 파라미터를 16비트 정밀도로 담으면 메모리가 55GB 넘게 필요하다. 일반적인 소비자용 그래픽카드 한 장에는 들어가지 않는 크기다. 메타는 가중치를 약 4비트로 압축해 언어 모델 부분을 20GB 아래로 줄였다.
남은 공간에는 다른 구성 요소가 들어간다. KV 캐시는 대화가 길어질수록 쌓이는 작업 기억이고 퍼셉션 인코더는 이미지를 읽는다. 여기에 생성 속도를 높이는 드래프터까지 얹어 전체를 24~32GB 안에 맞추는 것이 설계 목표였다. 메타는 이렇게 압축해도 에이전트 작업의 성능이 떨어지지 않았거나 하락 폭이 아주 작았다고 밝혔다.
언어 모델은 보통 토큰을 하나씩 만든다. 추론이 길거나 여러 단계에 걸쳐 도구를 호출할 때는 이 방식이 느리다. 그래서 Muse Glimmer에는 DFlash를 기반으로 한 가벼운 드래프터가 함께 들어간다. 작은 모델이 여러 토큰을 미리 제안하면 본 모델이 한꺼번에 검증해 맞는 부분만 받아들인다. 결과물의 품질은 유지하면서 생성 속도를 높이는 추측 디코딩 방식이다.
메타는 학습 과정도 함께 공개했다. 사전 학습에서는 더 큰 모델인 Muse Spark가 각 토큰에 매긴 점수를 따라 배우는 로짓 증류를 사용했다. 중간 학습에서는 맥락이 길고 도구를 많이 쓰는 데이터를 집중적으로 학습시켰다. 후학습 단계에서는 지도 미세조정에 온폴리시 증류와 강화학습을 섞었다. 큰 모델의 지식을 더 작은 모델로 옮기는 과정이라고 보면 된다.
메타는 에이전트가 긴 작업을 끝까지 수행하는 능력을 강조했다. 정해진 형식에 맞춰 도구를 호출하고 작업 내내 계획을 유지하며 도구가 실패하거나 이상한 값을 돌려주면 원인을 진단해 다시 시도하도록 학습시켰다고 한다. 글과 이미지를 함께 입력할 수 있어 스크린숏이나 문서를 보고 판단하는 작업도 가능하다. 추론 깊이를 조절하는 기능도 넣었다. 학습 데이터는 100개가 넘는 언어에서 모았다.
llama.cpp, MLX, ExecuTorch 같은 기기용 실행 도구부터 vLLM, SGLang 같은 서버용 도구까지 폭넓게 지원한다. Ollama와 LM Studio도 곧 여기에 포함될 예정이다. 다만 Gemma4-31B, Qwen3.6-27B와 비교한 벤치마크 표는 발표문에 이미지로만 실려 있어 항목별 수치를 확인하기 어렵다.
라이선스가 Llama 때와 달라졌다
이번 발표에서는 라이선스가 달라졌다. Llama 시절 메타는 여러 사용 조건이 붙은 자체 라이선스를 썼지만 이번에는 Apache 2.0을 택했다. 상업적 이용과 수정, 재배포가 훨씬 자유롭다.
Hacker News의 한 사용자는 이렇게 정리했다.
Muse Glimmer 하나로 메타의 과거가 용서되는 것은 아니지만, Apache 2.0은 Llama의 제약 많은 라이선스보다 낫다. 메타조차 Apache 2.0으로 가중치를 공개할 수 있다면 다른 회사라고 못 할 이유가 없다.
그렇다면 이 모델을 오픈소스라고 부를 수 있을까. 여기서 의견이 갈렸다. 가중치만 공개하는 것은 소스 코드가 아니라 실행 파일만 공개하는 것에 가깝다는 지적이 나왔다. 학습 데이터와 학습 코드 없이 숫자 덩어리만 받는 셈이라는 주장이다.
반론도 만만치 않았다. 일반 프로그램의 실행 파일은 고쳐서 다시 배포하기 어렵지만 가중치가 공개된 모델은 미세 조정 뒤 재배포가 가능하다. 일부 사용자는 애초에 언어 모델에는 사람이 읽을 수 있는 소스 코드가 없다고 반박했다. 모델을 직접 학습시킨 사람조차 내부 작동을 완전히 해석하지는 못한다. 가중치를 받은 사용자는 API만 쓰는 사람보다 훨씬 자유롭게 모델을 분석하고 수정한다.
저커버그는 개방이 곧 안전이라고 했다
저커버그는 같은 날 올린 글에서 개방이 개인의 통제권을 넓히고 AI 기술이 주는 힘의 집중을 막는다고 주장했다. 그는 구글과 앤트로픽, OpenAI 같은 회사가 기업과 정부를 위한 폐쇄형 모델에만 매달린다고 비판했다. 그렇게 되면 큰 조직과 개인의 힘 차이가 더 벌어진다는 이유였다.
보통은 강력한 모델을 아무나 쓰지 못하게 막는 것이 안전하다고 본다. 저커버그는 이 구도를 뒤집었다. 모두를 지켜주는 선의의 초지능 하나를 기대하기 어려우니 개인용 에이전트를 널리 보급해 힘을 분산하는 편이 낫다고 썼다. 사용자가 많은 시스템일수록 취약점을 찾아내는 사람도 많아진다는 근거도 들었다.
저커버그는 증류 방식도 옹호했다.
관찰할 수 있는 것에서 배울 수 있다는 원칙을 지키는 게 중요하다. 세상은 원래 그렇게 돌아간다.
중국 연구소들이 개방형 모델로 격차를 좁히는 상황에서 다른 모델의 출력을 학습에 활용하는 것까지 규제하면 미국이 앞서기 어렵다는 뜻이다. Muse Glimmer도 Muse Spark의 출력으로 증류한 모델인 만큼, 자신들이 택한 학습 방식을 정당화하는 주장이기도 하다.
파이낸셜타임스 보도에 따르면 메타는 AI 인프라 투자로 잉여현금흐름이 91% 줄었고 지난 1년 사이 주가도 약 20% 떨어졌다. 그런데도 투자는 계속하겠다고 했다. 더 큰 모델인 Muse Spark의 가중치도 몇 주 안에 공개하고 모델 안전성 검토는 독립 이사회에 맡기겠다고 밝혔다.
커뮤니티는 결과와 속내를 따로 봤다
Hacker News에는 반가워하는 반응과 냉소적인 반응이 함께 올라왔다.
반가워하는 쪽의 말은 단순했다. “메타가 돌아왔다”, “이 크기의 모델이 늘어나서 좋다”, “Apache 2.0이면 그냥 선물로 받으면 된다”는 반응이 나왔다. Llama 3 무렵에는 분위기가 지금보다 좋았지만 요즘은 어둡고 숨 가쁜 경주처럼 느껴진다는 댓글도 있었다. 다른 사용자는 그래서 ‘희미한 빛’이라는 뜻의 Glimmer를 이름으로 붙인 것 아니냐고 답했다.
회의적인 쪽은 회사의 속내를 따졌다. 연구자들은 좋은 일을 했지만 연구비를 대는 주체는 회사이며 사용자의 호의도 회사가 필요할 때 활용하는 자산이라고 봤다. 메타가 모델을 공개한 이유는 다른 방식으로 수익을 내지 못했기 때문이라고 잘라 말한 댓글도 있었다. 웹사이트의 크롤링 거부 규칙을 무시하고 데이터를 긁어간 일을 아직 기억한다는 사람도 있었다.
시장 구조를 짚은 분석도 있었다. 모델 성능이 서로 비슷해진 지금, 최상위권이 아니라면 코딩 시장에서 내세울 만한 차별점은 가중치 공개뿐이라는 진단이었다. 언어 모델이 흔한 상품이 되면서 이익률이 0에 가까워지고 조 단위 자금을 들여 새 모델을 만들 이유도 줄어든다는 이야기다. 중국 연구소들의 개방 전략을 두고는 미국의 선도 AI 연구소가 기대할 수 있는 수익을 낮춰 투자를 위축시키려는 전략이라는 해석까지 나왔다. 개방도 경쟁 수단이다.
그래서 진짜 로컬에서 돌아가나
실제로 필요한 하드웨어가 가장 큰 관심사였다. 로컬에서 돌리려면 어느 정도의 하드웨어가 필요할까.
한 사용자는 32~64GB 메모리는 있어야 한다고 지적했다. 독일에서 M5 칩과 64GB 메모리를 탑재한 맥북 프로는 4,000유로가 넘는다. 다른 사용자는 더 단순하게 물었다. 메모리의 90%를 모델 하나에 내줄 생각이 있느냐고. 저렴한 클라우드 모델은 10달러로도 한참 쓴다고 했다.
Muse Glimmer는 밀집 모델이라 토큰을 하나 만들 때마다 가중치 전체를 읽어야 한다. 한 사용자가 DGX Spark 기준으로 계산해 보니 토큰당 약 18.9GB를 읽어야 했고 대역폭 273GB/s로는 초당 14.5토큰이 이론상 한계였다. 그런데 같은 사용자가 나중에 DFlash를 켜고 다시 측정하니 초당 33토큰이 나왔고 순간적으로는 초당 60토큰까지 올라갔다. 실측에서도 추측 디코딩을 켰을 때 속도가 높아졌다.
같은 양자화 설정에서 Muse Glimmer는 15.9GB, Qwen3.6 27B는 17.6GB를 차지한다는 비교도 올라왔다. 그래픽카드의 남은 메모리가 넉넉하지 않은 사람에게는 이 1.7GB 차이가 결정적이다.
의심도 남았다. 허깅페이스 문서에는 17GB 양자화 버전의 성능 저하가 15개 벤치마크의 평균 1%라고만 적혀 있고 항목별 수치는 공개되지 않았다는 지적이 나왔다. 단답형 지식 문제는 양자화의 영향을 적게 받아도, 여러 단계를 이어가는 에이전트 작업에서는 성능이 더 많이 떨어질 수 있다. 같은 사용자는 TerminalBench Hard에서 Muse Glimmer가 Qwen3.6 27B에 크게 밀린다고도 적었다. 특정 벤치마크에 맞춰 학습됐을 가능성도 염두에 두자는 반응이 뒤따랐다.
디스크를 암호화하고 비밀번호도 모두 다르게 쓰면서 정작 작업 내용은 암호화되지 않은 상태로 클라우드에 보내고 있다는 자조도 나왔다. 로컬 모델의 진짜 매력은 성능보다 개인 정보 보호에 있다는 쪽과, 그 대가가 4,000유로라면 너무 비싸다는 쪽이 계속 맞섰다.
이유가 무엇이든 파일은 남는다
저커버그는 개방을 원칙에 따른 결정이라고 설명했다. 커뮤니티는 같은 발표를 메타의 경영 상황에서 나온 선택이라고 봤다. 두 설명은 함께 성립한다. 모델 성능이 비슷해지고 이익률이 낮아진 상황에서 개방은 원칙이면서 경쟁 전략이기도 하다. 잉여현금흐름이 91% 줄었다는 사실과 개방 선언을 나란히 놓으면 두 이유가 겹쳐 보인다.
그래도 남는 것이 있다. Apache 2.0으로 공개된 가중치는 회수되지 않는다. 회사 전략이 내년에 또 바뀌어도 이미 받아둔 파일은 계속 작동한다. 커뮤니티가 공개의 가치와 회사의 동기를 따로 본 것도 냉소라기보다 현실적인 태도에 가깝다.
판단하려면 결국 직접 측정해야 한다. 발표문에 등장한 비교 대상은 Gemma4-31B와 Qwen3.6-27B지만 커뮤니티의 측정 결과는 평가 항목에 따라 엇갈렸다. 내 그래픽카드에 모델을 올려 내가 실제로 시킬 작업을 수행하고 지금 쓰는 모델과 비교해 보는 수밖에 없다. 가중치를 직접 보유한다는 말의 실질적인 뜻도 여기에 있다.
원문: Introducing Muse Glimmer (Meta AI Research) / The Future is for Everyone (Mark Zuckerberg) / Muse Glimmer 토론 (Hacker News)