며칠 전 팀 슬랙에 링크 하나가 올라왔다. 중국 AI 스타트업 문샷이 3조 파라미터급 오픈 웨이트 모델을 냈다는 소식이었다. 처음엔 그냥 또 하나의 중국산 초거대 모델이겠거니 하고 넘겼다. 그런데 며칠 지나 알리바바가 이 모델을 만드는 데 엔비디아 칩 2만 개를 몰래 빌려줬다는 기사가 떴을 때는 조금 다른 눈으로 다시 보게 됐다. 나는 RAG 파이프라인을 매일 만지는 개발자다. 새로운 모델이 나오면 스펙표보다 먼저 보는 게 컨텍스트 윈도우 크기와 임베딩 호환성이다. 그런데 이번 건은 모델 자체보다 그 뒤에 있는 반도체 게임이 더 흥미로웠다.
키미 K3가 도대체 뭐길래
문샷 AI가 공개한 키미 K3는 2.8조 개의 파라미터를 가진 모델로, 세계 최초의 오픈 3조급 모델이라는 타이틀을 달았다. 이는 이전 세대 K2.6 대비 약 2.8배 규모이고, 딥시크의 V4 프로나 즈푸의 GLM-5 시리즈 같은 중국 경쟁 모델보다도 크다. 숫자만 보면 그냥 크기 자랑처럼 보이지만, 실제로 흥미로운 부분은 파라미터를 어떻게 쓰느냐다. Stable LatentMoE 구조에서 토큰당 896명의 전문가 중 16명만 활성화하는 방식으로, 이전 세대 대비 약 2.5배의 스케일링 효율을 달성했다고 밝혔다.
RAG 엔지니어 입장에서 가장 눈이 가는 스펙은 따로 있다. 100만 토큰 컨텍스트 윈도우와 네이티브 비전 능력을 갖췄고, 장시간 이어지는 엔지니어링 세션과 대규모 연구 코퍼스, 스크린샷과 이미지를 다루는 워크플로 전반에서 성능을 유지하도록 설계됐다. 나는 최근 Qwen2.5-VL 계열로 멀티모달 RAG를 구축하면서 컨텍스트 윈도우가 넉넉할수록 검색된 청크를 통째로 넣어도 손실이 줄어드는 걸 체감했다. 100만 토큰이면 문서를 잘게 쪼개서 리랭킹하는 수고를 상당 부분 덜 수 있다는 뜻이라, 이 스펙 하나만으로도 실무에서 써볼 이유가 생긴다.
다만 성능이 모든 면에서 앞선 건 아니다. 문샷 스스로도 발표문에서 전체 성능은 가장 강력한 독점 모델인 Claude Fable 5와 GPT 5.6 Sol에 아직 미치지 못한다고 인정했다. 이 정도로 솔직하게 자기 위치를 말하는 발표는 흔치 않은데, 오히려 이런 태도가 신뢰를 준다. 과장된 벤치마크 스크린샷보다는 이런 문장 하나가 실제 도입을 고민하는 개발자에게 훨씬 유용한 정보다.
문제는 모델이 아니라 반도체였다
여기까지는 흔한 오픈소스 모델 출시 뉴스처럼 보인다. 진짜 이야기는 이 모델이 무엇으로 학습됐는지에서 시작된다. 문샷 AI가 주요 투자자인 알리바바로부터 엔비디아 칩 약 2만 개 규모의 컴퓨팅 인프라를 제공받아 키미 K3를 개발했다는 사실이 블룸버그 보도로 확인됐다. 알리바바는 대규모 컴퓨팅 계약을 통해 문샷에게 약 2만 개의 고성능 엔비디아 칩 연산 자원 접근 권한을 확보해줬고, 이 하드웨어가 키미 모델 개발에 필요한 전체 컴퓨팅 역량의 상당 부분을 차지한다.
이 대목에서 흥미로운 건 알리바바와 문샷의 관계다. 알리바바는 문샷의 주요 투자자이자 클라우드 인프라 공급자이면서, 동시에 자체 AI 모델 개발팀을 운영하는 경쟁자이기도 하다. 그런데 알리바바가 제공한 바로 그 컴퓨팅 자원으로 훈련된 키미 K3가 정작 알리바바 자체 모델을 여러 성능 평가에서 앞질렀다. 투자자가 자기 발등을 찍은 셈이다. 이런 구조가 가능했던 이유는 알리바바가 전통적으로 투자한 기업들이 자사 클라우드 인프라를 쓰도록 유도하는 방식을 취해왔기 때문이다. 투자와 인프라 공급을 묶어서 락인하려던 전략이 오히려 자기 경쟁자를 키워버린 아이러니한 결과다.
더 예민한 부분은 미국의 반응이다. 마이클 크라시오스 미 백악관 과학기술정책실장은 문샷 AI가 태국에 위치한 제3자 업체를 통해 블랙웰 칩의 임대 연산 자원에 접근했고, 이를 키미 K3 학습에 활용했다고 비판했다. 수출 규제법상 중국 기업이라도 해외 서버에 탑재된 최첨단 반도체 연산 능력을 임대하는 방식은 일부 허용되고 있어, 중국 기업들이 이를 우회 통로로 활용하고 있다는 지적이 나온다. 규제는 물리적 칩의 국경 이동을 막고 있지만, 클라우드 임대라는 형태로 연산력 자체는 국경을 넘나들고 있다는 이야기다. 반도체 전쟁이 하드웨어 수출 통제에서 컴퓨팅 자원 접근권 통제로 무게 중심이 옮겨가고 있다는 걸 이번 사건이 잘 보여준다.
RAG 개발자로서 드는 생각
내가 이 뉴스를 보면서 가장 먼저 든 생각은 오픈 웨이트라는 말의 의미가 예전과 달라졌다는 점이다. 몇 년 전만 해도 오픈소스 모델은 개인 개발자가 노트북이나 소규모 GPU 서버에서 돌려볼 수 있는 걸 전제로 했다. 그런데 키미 K3는 최소 64개의 가속기를 갖춘 슈퍼노드에서 서비스할 것을 권장하는 모델이다. 가중치가 공개된다 해도 실제로 이걸 자체 호스팅할 수 있는 주체는 인프라를 갖춘 클라우드 기업이나 대형 조직뿐이다. 개인 개발자에게는 사실상 API로 접근하는 것과 큰 차이가 없다.
나는 평소 Azure에서 vLLM 서버를 운영하면서 GPU 몇 장 배정받는 것도 예산 승인 받느라 애를 먹는다. 그런데 2만 개 단위의 GPU가 투자 관계 안에서 사실상 무상으로 오가는 걸 보면, 이 게임의 판이 원래부터 개인 개발자의 체급과는 다른 곳에서 벌어지고 있다는 걸 새삼 느낀다. 오픈 웨이트라는 이름이 주는 접근성의 이미지와 실제 그 모델을 굴리는 데 필요한 인프라 사이의 간극이 점점 커지고 있다.
그래도 실무적으로는 이 모델을 주목할 이유가 충분하다. 100만 토큰 컨텍스트와 네이티브 비전 능력은 내가 지금 만들고 있는 멀티모달 RAG 파이프라인에 직접적으로 도움이 될 수 있는 스펙이다. 특히 PDF 문서에서 표와 이미지가 섞인 페이지를 통째로 넣고 처리해야 하는 상황에서, 청크 분할 로직을 단순화할 수 있는 여지가 생긴다. 다만 API로 접근하든 자체 호스팅을 시도하든, 이 모델이 어떤 정치적 경제적 배경 위에서 만들어졌는지는 알고 쓰는 편이 낫다고 생각한다. 기술은 중립적이지 않고, 그 기술을 가능하게 한 자원의 흐름은 더더욱 중립적이지 않다.
결론
키미 K3는 스펙만 놓고 보면 분명 인상적인 모델이다. 2.8조 파라미터, 100만 토큰 컨텍스트, 네이티브 비전 능력까지 오픈 웨이트 진영에서 이 정도 조합을 내놓은 건 처음이다. 하지만 이 모델을 가능하게 한 건 순수한 기술력만이 아니라 알리바바가 조용히 빌려준 엔비디아 칩 2만 개였다. 투자자가 자신의 클라우드 인프라를 무기로 스타트업을 키웠는데, 그 스타트업이 투자자의 본체 모델을 앞질러버린 이 아이러니한 구조가 이번 사건의 핵심이다.
동시에 이 사건은 반도체 규제의 허점을 정확히 짚는다. 칩 자체의 국경 이동은 막을 수 있어도, 클라우드를 통한 연산력 임대는 여전히 우회 통로로 열려 있다. 앞으로 중국 AI 기업들의 모델이 계속 나올 때마다, 그 뒤에 어떤 컴퓨팅 자원이 쓰였는지를 확인하는 게 모델 성능표를 보는 것만큼 중요한 일이 될 것 같다. RAG 개발자로서는 이 모델이 실무에 얼마나 쓸모 있을지 계속 지켜볼 생각이지만, 그 쓸모를 판단하기 전에 이런 배경을 아는 게 먼저라고 생각한다.