Kyurasi 큐라시

kyurasi.com/@kyurasi

미스트랄·빔·젬마, 오픈 AI는 ‘한 모델’이 아니다

Mistral Large 4, Reflection Beam, EmbeddingGemma 2를 통해 오픈 AI 경쟁이 프런티어 자가 배포와 온디바이스 검색으로 분화되는 이유를 분석합니다.

미스트랄·빔·젬마, 오픈 AI는 ‘한 모델’이 아니다

미스트랄·빔·젬마, 오픈 AI는 ‘한 모델’이 아니다

📅
KyurasiKyurasi
0
#오픈웨이트AI#MistralLarge4#ReflectionBeam#EmbeddingGemma2#온디바이스AI#멀티모달검색#MoE#AI개발
💡이 글의 요약

1조급 희소 모델과 740M 온디바이스 임베딩이 함께 등장했다. 오픈 AI 경쟁은 단일 점수보다 어디서 어떤 층을 맡길지의 설계 싸움으로 바뀌고 있다.

요약

미스트랄의 Large 4와 리플렉션의 Beam은 거대한 모델을 공개하면서도 매 요청마다 전체 매개변수를 깨우지 않는 희소 전문가 혼합 구조를 전면에 내세웠다. 같은 시기 구글은 텍스트·코드·이미지·오디오·비디오를 하나의 벡터 공간에 넣는 740M 규모 EmbeddingGemma 2를 공개했다. 하나는 프런티어 추론을 조직 내부에 들이는 선택지이고, 다른 하나는 개인 기기에서 검색과 라우팅을 처리하는 부품이다.

세 발표를 함께 보면 오픈 AI의 기준이 단일 리더보드에서 배치 구조로 이동하고 있다. 가장 똑똑한 모델 하나를 모든 요청에 연결하는 대신, 민감한 데이터는 기기 안에서 임베딩하고 어려운 추론만 큰 모델에 맡기며 조직이 가중치와 실행 위치를 통제하는 구조가 현실적인 경쟁력이 된다. 다만 Large 4와 Beam은 가중치 공개와 독립 평가가 아직 남아 있어, 지금 확인된 것은 완성된 승리보다 선택지의 방향이다.

서구권 오픈웨이트가 다시 전면에 섰다

Mistral Large 4는 1.05조 개의 전체 매개변수 가운데 토큰마다 520억 개를 활성화하는 멀티모달 MoE 모델로 소개됐다. 미스트랄 문서는 100만 토큰 문맥, 함수 호출, 구조화 출력, 에이전트 도구를 지원한다고 밝힌다. 회사는 유럽 내 자체 데이터센터에서 학습·서빙하고 향후 가중치를 공개해 고객이 자체 정책으로 배포할 수 있다는 점을 성능만큼 강조했다.

리플렉션의 Beam도 같은 방향을 더 공격적으로 밀었다. Beam은 5010억 개 가운데 230억 개가 활성화되는 텍스트 모델로, 코딩·추론·에이전트 작업을 겨냥한다. 회사는 중국의 주요 오픈 모델과 비슷한 추론 성능을 더 적은 연산으로 낸다고 주장하지만, 이 수치는 아직 독립적으로 충분히 검증되지 않았다. 현재는 제한된 초기 접근 단계이며 가중치와 기술 보고서도 이달 공개 예정이다.

두 모델의 동시 등장은 중국 연구소가 주도해 온 오픈웨이트 흐름에 서구권 연구소가 다시 선택지를 내놓았다는 신호다. 그러나 핵심은 국적 대결보다 통제권이다. 기업과 공공기관은 API 공급자가 정책을 바꾸거나 특정 작업을 차단할 때 업무가 멈추는 위험을 줄이고 싶어 한다. 오픈웨이트는 단지 무료 모델이 아니라, 배포 위치·보안 정책·업데이트 시점을 조직이 직접 결정하기 위한 도구가 되고 있다.

거대한 모델인데 매번 거대하게 쓰지 않는다

Large 4와 Beam의 숫자는 역설적이다. 전체 규모는 커졌지만 실제 추론에 참여하는 매개변수는 각각 전체의 일부다. MoE는 입력에 맞는 전문가만 선택해 활성화하기 때문에, 모델이 더 많은 전문 지식을 담으면서도 매 토큰의 계산량을 전체 규모와 같은 속도로 늘리지 않을 수 있다. 프런티어 모델 경쟁이 단순한 크기 확대에서 어떤 전문가를 언제 깨울지의 라우팅 문제로 이동하는 이유다.

개발자에게 중요한 지표도 달라진다. 총 매개변수만 보면 Large 4가 Beam보다 두 배 이상 크지만, 실제 서비스 비용과 지연은 활성 매개변수, 메모리 대역폭, 양자화, 병렬화, 출력 토큰 수에 좌우된다. 여기에 긴 문맥과 도구 호출의 성공률, 자체 서버에서 운영할 수 있는지까지 더해야 실제 총비용을 비교할 수 있다. 모델 카드 한 줄의 벤치마크 순위로는 배포 결정을 내리기 어려워졌다.

희소 구조가 자동으로 값싼 운영을 보장하는 것도 아니다. 전체 가중치를 저장하고 여러 전문가를 메모리에 배치해야 하므로 하드웨어 요구는 여전히 높다. 미스트랄과 리플렉션이 말하는 효율은 우선 공급자 측 측정과 자체 평가에 기반한다. 실제 워크로드에서 처리량, 지연, 에너지, 장애 복구를 재현해야 ‘오픈이라서 싸다’는 문장이 사실이 된다.

740M 모델은 엣지에 다른 역할을 만든다

EmbeddingGemma 2는 프런티어 모델을 작게 복제하려는 제품이 아니다. 740M 규모로 텍스트와 코드, 이미지, 비디오 프레임, 오디오를 768차원 벡터 공간에 함께 매핑한다. 사용자는 음성 메모로 특정 영상을 찾거나 텍스트로 사진과 녹음 파일을 동시에 검색할 수 있다. 답변을 생성하기 전에 무엇을 찾아야 하는지를 기기 안에서 정리하는 모델이다.

구글은 양자화한 전체 멀티모달 모델이 Pixel 11 Pro에서 약 567MB의 활성 메모리를 사용하고, 텍스트 전용 구성은 약 191MB까지 내려간다고 밝혔다. 출력 벡터도 768차원에서 512·256·128차원으로 줄일 수 있어 로컬 벡터 저장 공간을 최대 6분의 1 수준으로 낮출 수 있다. 이 수치는 특정 기기와 설정의 공급자 측 결과지만, 모바일 검색과 오프라인 RAG가 별도 클라우드 파이프라인 없이 가능해지는 범위를 보여준다.

더 중요한 변화는 개인정보와 지연의 경계다. 회의 음성, 가족 사진, 사내 코드처럼 원본을 외부 서버에 보내기 부담스러운 데이터는 로컬에서 임베딩하고 검색할 수 있다. 클라우드 모델에는 검색된 소수의 문맥이나 사용자가 승인한 결과만 전달하면 된다. 작은 오픈 모델이 큰 모델을 대체하는 것이 아니라, 큰 모델이 보지 않아도 되는 데이터를 앞단에서 걸러 주는 구조다.

‘오픈’은 공개 시점과 사용 조건까지 봐야 한다

이번 발표를 곧바로 완전한 오픈 생태계의 승리로 읽기는 이르다. Large 4는 현재 공개 프리뷰 API로 먼저 제공되고 가중치는 추가 안전 시험 뒤 공개될 예정이다. Beam 역시 초기 이용자 대기 명단을 운영하며 가중치, 기술 보고서, 모델 카드, 개발 도구를 추후 내놓겠다고 밝혔다. 가중치를 내려받아 재현할 수 있기 전까지는 ‘오픈웨이트 예정’과 ‘현재 오픈웨이트’를 구분해야 한다.

성능 주장도 같은 원칙이 필요하다. 미스트랄은 사이버 보안과 산업 작업에서 강점을, 리플렉션은 중국 모델 대비 추론 효율을 강조한다. 반면 독립 보도는 두 회사 모두 최고 폐쇄형 모델과의 격차가 남았고, 공개 전 수치가 공급자 평가에 크게 의존한다고 지적한다. 가중치가 나온 뒤 같은 하드웨어와 같은 프롬프트, 같은 도구 환경에서 비교해야 실질적인 차이가 드러난다.

EmbeddingGemma 2는 Apache 2.0 라이선스와 즉시 내려받을 수 있는 모델·도구를 제시해 검증 출발점이 더 분명하다. 그렇더라도 모델 파일 공개만으로 제품이 완성되는 것은 아니다. 전처리, 벡터 저장소, 기기별 가속, 업데이트 정책, 개인정보 삭제 경로까지 설계해야 한다. 오픈은 운영 책임을 없애는 말이 아니라, 책임을 공급자에서 개발팀으로 옮기는 선택이다.

개발자는 모델보다 배치 지도를 골라야 한다

새 프로젝트라면 먼저 데이터를 세 층으로 나누는 편이 낫다. 기기 밖으로 나가면 안 되는 원본은 EmbeddingGemma 2 같은 로컬 모델이 색인하고, 반복되는 분류·검색은 작은 모델이나 규칙으로 처리한다. 복잡한 계획·코딩·멀티모달 추론만 Large 4나 Beam 같은 큰 모델 후보에 보낸다. 모든 입력을 가장 큰 API에 전달하는 구조보다 비용과 개인정보 경계를 함께 설명하기 쉽다.

모델 평가표도 계층별로 달라야 한다. 프런티어 모델에는 실제 에이전트 성공률, 도구 오류 복구, 긴 문맥 유지, 자체 배포 비용을 묻고, 임베딩 모델에는 검색 재현율, 인덱스 크기, 기기별 지연, 오프라인 동작을 측정해야 한다. 두 모델을 같은 ‘지능 점수’로 줄 세우면 작은 모델이 만들어 내는 시스템적 가치를 놓친다.

이번 오픈 모델 물결이 보여주는 결론은 더 큰 모델과 더 작은 모델 중 하나를 고르라는 것이 아니다. 프런티어 추론은 희소하게 커지고, 검색과 라우팅은 기기 가까이 내려오며, 조직은 그 사이의 경계를 직접 조합한다. 앞으로의 오픈 AI 경쟁은 누가 단일 모델 1위를 차지하느냐보다, 누가 이 여러 층을 검증 가능하고 교체 가능한 형태로 연결하느냐에서 갈릴 가능성이 크다.

출처

마지막 수정: 2026. 10. 7.