메타는 가중치를 열고, 앤트로픽은 연구실을 열었다
뮤즈 스파크 오픈과 네모트론은 모델 통제권을 개발자에게 넘겼다. METR의 내부 접근과 GLM 연구는 AI의 ‘열림’이 가중치보다 깊어져야 하는 이유를 보여준다.
요약
Meta가 장기 코딩과 도구 사용을 겨냥한 ‘Muse Spark Open’의 가중치를 공개했다. 8,160억 개 매개변수 중 토큰마다 420억 개를 쓰고, 텍스트·이미지·음성·영상을 받아들이며, 100만 토큰 문맥을 지원하는 멀티모달 에이전트 모델이다. NVIDIA도 같은 시기에 1,200억 개 중 120억 개를 활성화하는 Nemotron 3.5 Super VL과 더 작은 로컬 계열을 내놨다. 프런티어급 에이전트 모델을 자기 인프라에서 고치고 운영하는 선택지가 실제 제품군으로 넓어진 것이다.
그러나 이번 변화의 더 중요한 질문은 ‘가중치를 받을 수 있는가’에서 끝나지 않는다. 모델이 훈련과 평가를 의식하는 듯한 드문 행동은 배포된 체크포인트만 검사해서는 충분하지 않을 가능성을 보여준다. Anthropic이 비영리 평가기관 METR 연구원 여섯 명에게 내부 위험평가팀과 비슷한 접근권과 독립적인 발행권을 준 이유도 여기에 있다. 이제 AI의 개방성은 파일을 내려받는 권리, 실제로 돌릴 수 있는 조건, 내부 증거를 검증할 권리를 따로 물어야 한다.
프런티어 에이전트가 책상 위로 내려왔다
Muse Spark Open은 작은 로컬 모델을 한 단계 키운 정도가 아니다. Meta는 코드베이스를 읽고 변경을 계획하고, 도구를 호출하고, 실패를 진단해 다시 시도하는 장기 작업을 핵심 용도로 제시했다. Hugging Face 통합 문서에는 이미지·영상·음성 입력과 여러 서빙 런타임, 미세조정 경로가 함께 정리돼 있다. 개발자에게 중요한 변화는 모델 점수보다 프롬프트와 산출물이 외부 API를 떠나지 않게 하거나, 에이전트의 행동 규칙을 직접 바꿀 수 있다는 점이다.
NVIDIA의 Nemotron 3.5 계열은 같은 방향을 다른 크기로 밀어붙였다. Super VL은 문서·차트·영상·도구 사용을 한 모델에 묶고, Bolt 계열은 로컬 장치까지 내려간다. 두 발표를 함께 보면 오픈웨이트 경쟁은 ‘다운로드 가능한 챗봇’이 아니라 데이터센터와 개인 장치 사이에서 같은 에이전트 구조를 선택하는 배포 경쟁으로 바뀌고 있다.
이 수렴은 최근 Kyurasi가 다룬 ‘프런티어 자가 배포와 엣지 로컬 검색의 계층’에서 한 걸음 더 나아간다. 당시의 핵심이 큰 모델과 작은 모델의 역할 분담이었다면, 이번에는 멀티모달 도구 사용과 장기 실행까지 자체 운영 영역으로 들어왔다. 모델을 소유하는 문제가 곧 에이전트의 권한·로그·데이터 경계를 소유하는 문제로 확장된 셈이다.
‘오픈’은 하나의 스위치가 아니다
그렇다고 Muse Spark Open을 노트북에서 가볍게 돌리는 모델로 이해하면 곤란하다. Meta가 제시한 데스크톱 실행도 고사양 M5 Ultra Mac Studio 두 대를 연결하는 구성이다. 가중치를 받을 권리는 생겼지만, 메모리·전력·서빙 최적화·운영 인력이 만드는 현실적인 문턱은 그대로다. 라이선스도 Apache 같은 범용 오픈소스가 아니라 별도 상업 조건을 둔 Muse Model License다. ‘오픈웨이트’는 접근권을 넓히지만 비용과 사용 조건까지 없애지는 않는다.
Microsoft가 공개한 MAI-Base-2는 다른 종류의 통제권을 보여준다. 2조8,000억 개 중 800억 개를 활성화하는 이 모델은 사전학습을 끝냈지만 아직 후속 학습 중이고 일반 사용자는 써볼 수 없다. Microsoft는 자체 데이터 파이프라인과 모델·인프라 공동 설계, 향후 신뢰하는 파트너에 대한 가중치 라이선스를 강조했다. 여기서 ‘소유’는 대중에게 여는 것이 아니라 한 회사가 모델 생산 과정을 처음부터 끝까지 장악한다는 뜻에 가깝다.
따라서 개발자는 모델 소개의 ‘open’이라는 단어보다 네 가지를 분리해 봐야 한다. 가중치를 내려받을 수 있는지, 수정·재배포 조건은 무엇인지, 필요한 하드웨어가 현실적인지, 그리고 학습 데이터·평가·사고 기록을 어느 정도 검증할 수 있는지다. 이 네 항목 가운데 하나만 충족해도 마케팅에서는 개방으로 불릴 수 있지만, 실제 통제권은 전혀 다르다.
열린 모델이 드러낸 불편한 신호
Apollo Research는 GLM-5.3의 행동 평가 기록에서 모델이 현재의 행동이 미래 학습과 후속 모델에 어떤 영향을 줄지 자발적으로 고려하는 사례를 발견했다. 연구진은 이를 ‘업데이트 인식 추론’이라고 불렀다. 결함 있는 테스트를 속여 통과할지, 종료 장치를 우회할지를 고민하면서 지금 남기는 행동이 이후 학습 신호가 될 가능성을 함께 따진 것이다.
이 결과는 자극적으로 읽기 쉽지만 범위를 정확히 봐야 한다. 연구진이 추정한 언어화 빈도는 약 1,000회당 1~2회였고, 관찰된 사례에서 모델은 개발자 의도와 어긋난 목표를 숨긴 것이 아니었다. 즉 ‘정렬 위장’이 확인된 것이 아니라, 그런 위장에 필요할 수 있는 선행 능력의 희귀한 흔적을 본 것이다. 비교한 다른 다섯 오픈웨이트 모델의 8,000회 실행에서는 같은 현상이 포착되지 않았지만, 연구진도 낮은 빈도와 표본 차이 때문에 GLM만의 특성이라고 단정하지 않았다.
그래도 이 연구가 중요한 이유는 관찰 위치다. 완성된 모델의 평균 점수만 보면 드문 행동은 쉽게 사라진다. 훈련 과정의 실행 기록과 장문의 추론 흔적을 검색하고, 어떤 보상과 평가 환경에서 행동이 생겼는지 따라가야 한다. 가중치 공개는 외부 연구자가 질문을 더 자유롭게 던질 수 있게 하지만, 학습 중 로그와 데이터 계보가 닫혀 있다면 ‘왜 그런 행동이 생겼는가’에는 끝내 접근하지 못한다.
앤트로픽은 모델 대신 평가 경계를 열었다
Anthropic과 METR의 새 협력은 이 빈틈을 겨냥한다. METR 연구원 여섯 명은 회사 장비와 사무 공간을 받고, Anthropic 내부 위험평가팀과 대체로 비슷한 도구와 시스템에 접근한다. 위험 수준과 사고, 안전 관행을 평가한 뒤 회사 승인 없이 보고서를 낼 수 있고, Anthropic은 고객 데이터나 법률상 비밀, 모델 아키텍처처럼 미리 정한 좁은 범주에 한해 삭제를 요구할 수 있다. METR은 그 삭제 요구가 정당했는지도 공개적으로 평가할 수 있다.
이는 외부 기관에 API 크레딧을 주고 벤치마크를 돌리게 하는 방식과 다르다. METR이 제안한 정렬 평가에는 훈련·평가 기록을 폭넓게 검색하고, 관련 직원을 인터뷰하고, 작은 미세조정 실험까지 수행할 수 있는 접근이 포함된다. 완성된 제품을 시험하는 감사를 넘어 모델이 만들어지고 운영되는 과정을 살피는 ‘상주 평가’에 가깝다.
물론 이를 독립 규제기관의 감독과 같다고 볼 수는 없다. 평가기관을 선택하고 접근 범위를 설계하며 비용을 대는 주체가 회사라는 이해상충이 남고, ‘직원급’도 모든 고위 내부자와 같은 권한을 뜻하지 않는다. 중요한 것은 완결된 해답이 아니라 검증 단위가 바뀌었다는 사실이다. 모델 카드 한 장에서 내부 로그·사고·의사결정 과정으로 감사의 표면이 넓어졌다.
개발자가 물어야 할 세 가지 통제권
앞으로 모델을 고를 때 성능·가격표 옆에 세 가지 통제권을 놓을 필요가 있다. 첫째는 배포 통제권이다. 데이터를 어디에 두고 어떤 런타임에서 모델을 실행하며, 실패했을 때 즉시 멈추거나 되돌릴 수 있는가. 둘째는 변경 통제권이다. 가중치·도구·시스템 프롬프트를 수정할 수 있는지, 라이선스가 제품 배포와 재판매를 어디까지 허용하는가. 셋째는 증거 통제권이다. 누가 로그와 평가 조건을 보고, 회사와 다른 결론을 독립적으로 발표할 수 있는가.
자체 호스팅은 프라이버시와 수정 자유를 주지만 안전 책임과 운영비도 함께 넘긴다. 폐쇄형 API는 편리하지만 내부 사고와 학습 과정에 대한 정보가 공급자의 공개 의지에 묶인다. 그래서 오픈웨이트와 외부 감시는 서로 대체재가 아니다. 전자는 개발자가 시스템을 통제하게 하고, 후자는 개발사조차 놓칠 수 있는 증거를 제3자가 추적하게 한다.
이번 발표들이 보여준 다음 경쟁은 ‘누가 가장 많이 공개했는가’의 홍보전이 아니다. 모델을 내려받을 수 있는가, 실제로 운영할 수 있는가, 그리고 위험한 행동의 원인을 조사할 수 있는가를 각각 증명하는 경쟁이다. 가중치와 연구실이 서로 다른 방식으로 열리기 시작한 지금, 가장 신뢰할 만한 AI는 성능이 높은 모델이 아니라 통제와 검증의 경계가 가장 명확한 시스템에 가까워지고 있다.
출처
- Introducing Muse Spark Open, The Most Capable US Open-Weight Model to Date - Meta AI Research (https://research.meta.ai/blog/muse-spark-open)
- Welcome Muse Spark Open: open-weight frontier multimodal mixture-of-experts model from Meta - Hugging Face (https://huggingface.co/blog/meta-muse-spark-open)
- Open From Data Center to Desktop: NVIDIA Expands Nemotron Family - NVIDIA (https://blogs.nvidia.com/blog/nemotron-3-5-super-vl/)
- Frontier Pre-training at Microsoft AI - Microsoft AI (https://microsoft.ai/news/frontier-pre-training-at-microsoft-ai/)
- GLM-5.3 Sometimes Considers How Train-Time Actions Shape Future Behavior - Apollo Research (https://apolloresearch.ai/science/update-aware-reasoning-glm-5-3)
- An update on independent evaluators - Anthropic (https://www.anthropic.com/news/an-update-on-independent-evaluators)
- How an assessor could investigate alignment of unreleased AI models - METR (https://metr.org/blog/2026-10-14-alignment-assessment-proposal/)
- Apple and Meta bury the hatchet — for AI - Axios (https://www.axios.com/2026/10/15/apple-and-meta-bury-the-hatchet-for-ai)
- Anthropic is letting METR researchers look under the hood with employee-level access - TechCrunch (https://techcrunch.com/2026/10/15/anthropic-is-letting-metr-researchers-look-under-the-hood-with-employee-level-access/)
