능력 격차는 4개월, 비용 격차는 뒤집혔습니다

이번 달 안에 모델을 골라야 하는 팀이라면, 오늘의 한 줄은 이것입니다. 능력 격차는 4개월이고 비용 격차는 뒤집혔습니다. 오늘 뉴스에는 두 개의 가격표가 붙어 있습니다. 하나는 단일 칩 시설을 위한 최대 210억 달러 채권이고, 다른 하나는 428B 파라미터 모델이 줄어든 143.9GB입니다. 두 가격표가 가격하는 것은 같은 산업의 다른 얼굴입니다. 한 얼굴은 ‘더 똑똑한 것을 산다’는 얼굴이고 다른 얼굴은 ‘더 싼 곳에서 돌린다’는 얼굴입니다.

글의 핵심 개념을 형상화했습니다.

첫 번째 가격표: 채권이 사는 것

Bank of America, Citigroup, Morgan Stanley가 최대 210억 달러 규모의 하이그레드(투자 등급) 채권 발행을 준비하고 있습니다. 이 돈은 앤스로픽의 630억 달러 규모 AI 칩 시설 관련 채무의 선순위(senior) 부분을 위한 자금입니다. 630억 달러 시설은 사상 최대 규모입니다.

이 문장에서 가장 눌러야 할 말은 ‘하이그레드’입니다. 채권 시장에서 하이그레드는 시장이 리스크가 충분히 낮다고 판단할 때 매겨지는 등급입니다. 벤처 캐피탈은 희망을 가격하고 주식 시장은 미래를 가격합니다. 채권은 현금 흐름과 디폴트 확률만 가격합니다. 세계에서 가장 보수적인 돈이 AI 칩 시설 하나를 유틸리티급 자산으로 취급하기 시작합니다.

규모도 가볍지 않습니다. 발행 한 번에 최대 210억 달러이고 그것은 더 큰 시설의 한 조각입니다. 자본은 여러 프로젝트에 나뉘지 않고 하나의 시설에 집중됩니다. 630억 달러가 ‘사상 최대’로 기록된다는 것은, 그 크기의 단일 시설이 이전에는 없었다는 뜻이기도 합니다. 채무 계약이 핵심입니다. 채권은 갚아야 합니다. 갚아야 한다면, 그 시설은 계속 현금을 만들어야 합니다. 능력 경쟁의 비용 구조가 상환 의무로 뒷받침되는 순간, 프런티어 모델의 가격과 가용성은 더 이상 제품 팀의 판단만은 아닙니다.

칩 시설에 기록이 찍혔다는 점도 메시지입니다. 자본이 사고 있는 것은 다음 추론 레이어입니다. 경쟁의 전제가 ‘어느 모델이 더 똑똑한가’에서 ‘어느 쪽이 더 많은 컴퓨트를 가질 수 있는가’로 이동하고 있는 것입니다. 사상 최대라는 수식어가 붙는 순간, 이 시설은 산업의 기준점이 됩니다. 이후 컴퓨트 확장의 비용, 리스크, 수익 구조는 이 시설과 비교되어 읽힐 것입니다.

이 구조에서 ‘하이그레드’는 가격 신호이기도 합니다. 시설이 안정적 수익을 낼 자산으로 가격받는 한, 비슷한 시설이 계속 채권으로 자금을 조달할 수 있습니다. 조달이 되면 칩이 늘어나고 칩이 늘어나면 추론 공급의 비용 곡선이 눌립니다. 오늘 뉴스의 두 번째 가격표, 곧 배포 축의 기록이 나오는 배경이 바로 여기에 있습니다.

두 번째 가격표: 배포가 돌려주는 것

두 번째 가격표는 장부의 반대편, 배포 축에서 나옵니다. 오늘의 다이제스트에는 같은 축의 수치가 세 개 함께 실립니다.

Unsloth가 MiniMax의 428B 파라미터 M3.1 Flash 모델의 2비트 동적 GGUF 양자화 버전을 공개합니다. 풋프린트는 45% 줄어든 143.9GB이고 모델은 RAM 150GB 환경에서 실행 가능해집니다. 4,280억 파라미터의 모델이 이제 단일 머신의 메모리 안에 들어갑니다. 배포의 임계점이 2비트 양자화의 포인트입니다. 4,280억 파라미터는 오픈웨이트 쪽에서 손꼽히는 스케일이고 이 스케일이 150GB RAM에 들어간다는 것은 온프렘 실행이 메모리 구성의 계산이 됐다는 뜻입니다. 양자화 버전의 가치는 번들에 있습니다. 143.9GB로 줄인 모델이 150GB RAM 머신에 올라가고, 그 위를 오픈 구성품으로 조립한 추론 스택이 실행합니다. 전체 사슬이 재현 가능하게 열린 것입니다.

SGLang도 같은 방향을 가리킵니다. 오픈소스 추론 프레임워크 SGLang이 Nvidia GB300 NVL72 시스템에서 DeepSeek-V4.1-Flash를 돌리자, 사용자당 초당 약 1,000 토큰에 근접합니다. 서빙 스택의 사용자당 처리량 상한이 올라가는 일은, 에이전트 워크플로의 지연 예산을 다시 계산하게 만듭니다. 호출 사이사이의 대기에서 경험이 망가지던 구간이, 처리량이 올라가면서 버틸 수 있는 구간으로 바뀌기 시작합니다. 이 수치는 모델을 여러 번 호출하는 에이전트에게 특히 의미가 있습니다. 수백 번의 호출 비용이 그림이기 때문입니다. 처리량이 오르면 그 계산의 분모가 바뀝니다.

Mistral Large 4는 또 다른 종류의 수치입니다. 코드네임 Le Chonk인 1.05조 파라미터 플래그십 모델의 가중치가 최근 공개되며 중국 외 지역에서 개발된 오픈웨이트 모델 가운데 1위에 랭킹됩니다. 플래그십급 스케일의 모델이 오픈웨이트로 공개됐다는 점 자체가 포트폴리오의 상단을 다시 정의합니다. 상단이 바뀌면, 그 아래로 내려가는 등급별 선택지 전체가 다시 놓입니다. 1.05조 파라미터는 상단입니다. 대안과 상단의 차이는 ‘임시 방편’과 ‘계획’의 차이입니다. ‘중국 외 개발’이라는 문구는 이 상단이 어떤 조건을 충족하는지를 명시한 것입니다. 주권을 모델 선택의 조건으로 두는 팀에게는, 이것이 계획의 상단이 됩니다.

세 숫자를 나란히 놓으면 공통점이 보입니다. ‘가장 똑똑한 것’이 아니라 ‘내 자리에서, 싼 가격에, 돌릴 수 있는 것’에 관한 수치라는 점입니다. 배포의 축은 가져와서 내 것으로 실행할 수 있는 모델들이 세우고 있고, 능력의 축은 단일 시설의 채권이 가격하고 있습니다. 같은 산업이 서로 다른 방향의 가격표를 내고 있습니다.

상수: 4개월

그 사이에는 조용히 놓인 숫자가 하나 있습니다. 새로 발표된 자료의 데이터에 따르면, 공개 가중치를 가진 모델 가운데 최고 점수를 받는 모델들은 폐쇄형 모델의 능력보다 중앙값으로 약 4개월 뒤처집니다. 능력 격차는 줄어든 것도, 벌어지는 것도 아닙니다. 상수입니다.

중앙값이라는 말도 짚어야 합니다. 4개월은 최선의 오픈웨이트가 폐쇄형에 뒤지는 거리입니다. 모델은 계속 나오고 순위도 계속 바뀝니다만, 이 거리 자체는 유지된다는 것이 오늘의 데이터가 말하는 바입니다. 거리가 유지되는 한, 두 축의 가격표는 붙지 않습니다.

이 한 줄이 오늘 뉴스 나머지 부분의 읽는 방식을 바꿉니다. 격차가 빠르게 줄어든다면 전략은 ‘조금 더 기다리기’였을 것입니다. 벌어지고 있다면 ‘프런티어만’이었을 것입니다. 그런데 4개월이라는 상수라면, 기다리는 것은 더 이상 전략이 아니라 비용입니다. 상수가 가진 의미는 그거 하나뿐입니다. 거리가 예측 가능해지면, 전략은 격차를 쓰는 것입니다. 프런티어에 올려야 할 작업에는 프리미엄을 내고 나머지는 4개월 뒤처지되 훨씬 싼 배포 스택으로 실행하면 됩니다. 상수가 유지되는 한, ‘기다림의 비용’과 ‘프리미엄의 가격’을 따로 계산할 수 있습니다. 두 계산의 차가 바로 이익입니다. 프리미엄도 이제 미스터리가 아닙니다. ‘폐쇄형의 최선’과 ‘오픈웨이트의 최선’ 사이의 4개월짜리 차액일 뿐입니다. 그 차액은 의미 있는 작업에서만 결제하면 됩니다.

갈라진 가격표가 기업에 뜻하는 것

예측 하나를 놓겠습니다. 모델 선택 문제가 ‘랭킹’에서 ‘제약 조건’으로 바뀝니다.

‘가장 좋은 모델은 뭐냐’는 질문은 더 이상 비용을 결정하는 질문이 아닙니다. 비용을 결정하는 질문은 네 개입니다. 어떤 작업에는 프리미엄을 내고 어떤 작업에는 오픈 스택으로 넘길 것인가. 데이터가 건물을 나가지 못하는 모델은 어디에서 돌릴 것인가. 428B급 모델을 어느 RAM에서, 어느 서빙 스택으로 실행할 것인가. 배포 축이 새 수치를 세울 때마다 라우팅 테이블을 어떻게 새롭게 할 것인가. 네 질문 모두 라우팅의 문제입니다.

과거에 모델을 사는 것은 일회성 조달 결정이었습니다. 공급자를 고르고 계약을 하고 단가를 고정합니다. 그런데 두 가격표가 서로 다른 방향으로 움직이면 그 구조가 흔들립니다. 단가 자체가 상수가 아니게 되기 때문입니다. 남은 것은 가격이 움직일 때마다 작업의 배치를 다시 쓰는 표, 곧 라우팅 테이블입니다. 라우팅 테이블이 자산이 되는 구조입니다. 모델 목록을 갖고 있는 팀은 많습니다. 가격의 방향이 바뀌는 순간, 그 목록을 다시 배치할 수 있는 팀은 적습니다.

구체적으로 그리면 이렇습니다. 어려운 작업의 목록을 먼저 쓰고 그 목록에만 프런티어를 앉힙니다. 나머지 대량의 반복 작업은 오픈 스택으로 넘깁니다. 민감한 데이터가 붙는 작업은 150GB RAM까지 실행 가능해진 모델을 온프렘으로 가져오고, 주권 조건이 붙는 작업은 ‘중국 외 개발’이라는 새 상단을 포트폴리오에 올립니다. 이 네 질문의 답은 정해져 있지 않습니다. 배포 축이 새 수치를 낼 때마다, 능력 층이 채권으로 확장될 때마다 답은 이동합니다.

시장은 두 층으로 갈라집니다. 한쪽은 채권 자금이 들어가는 능력 층이고 다른쪽은 많은 것 중에서 작업별로 가장 빠르고 싼 것을 고르는 라우팅 층입니다. 기업의 비용 선과 리스크 선은 두 번째 층에서 결정됩니다. 리스크도 층별로 나뉩니다. 능력 층의 리스크는 프런티어의 방향이고 그것은 살필 수 있을 뿐입니다. 라우팅 층의 리스크는 운영이고 그것은 준비할 수 있습니다. 라우팅 층의 규칙은 일회성 계약으로 쓰이지 않습니다. 운영 단위로 쓰입니다.

두 가격표의 실행 계층

라우팅 테이블이 실제로 돌리는 곳은 실행 플랫폼입니다. 가격표가 둘로 갈라진 시장에서, 실행 플랫폼의 역할은 커집니다. 모델 하나를 대하는 플랫폼이 아니라, 두 가격표를 모두 다루는 플랫폼이어야 합니다. ThakiCloud의 Paxis는 에이전트 네이티브 클라우드이고, 정식 제품으로 나온 버전 1.1 GA입니다.

두 가격표를 Paxis에 매핑하면 직접적입니다. 작업별 모델 선택은 CostRouter의 역할을 맡습니다. 프런티어에 올려야 할 작업과 오픈 스택으로 넘길 작업에, 정책 아래에서 매 작업마다 다른 모델을 배정합니다. Skills, Tools, Policies, Audit Logs가 일급 리소스이기 때문에 ‘어떤 모델, 어떤 에이전트, 어떤 범위’는 코드와 같은 평면에서 관리됩니다. 자율도(L0에서 L3) 거버넌스와 정책 게이트, 감사 로그가 에이전트를 실행에 돌리는 일을 뒤로 추적할 수 있는 과정으로 만듭니다. 어느 작업이 어느 모델로, 어느 정책 아래 처리됐는지 감사 로그에 남아 있으면, 가격표가 다시 움직이는 순간 비용과 책임을 온전히 재구성할 수 있습니다. 격리 샌드박스 실행과 MCP 커넥터, 스킬 마켓이 실행 쪽을 맡습니다. 그리고 소버린/온프렘 K8s(ai-platform) 형태가 150GB RAM에서 실행 가능해진 428B급 모델을, 내 울타리 안에 둘 자리를 줍니다.

능력 격차는 4개월입니다. 그 4개월에 얼마를 내고 안 내는 모델은 어디에서 돌리고 자율도는 얼마나 열어둘 것인가. 세 질문은 더 이상 모델 보유 여부의 문제가 아닙니다. 실행 계층의 질문입니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성했습니다.

• HuggingNews, Wall Street to Issue $21B in Bonds for Record $63B Anthropic AI Chip Facility
• HuggingNews, SGLang Nears 1,000 Tokens a Second per User on DeepSeek V4.1 Flash With Nvidia GB300
• HuggingNews, Unsloth Shrinks MiniMax’s 428B M3.1 Flash Model to Run Locally on 150GB RAM
• HuggingNews, Mistral Large 4 Ranks as Top Open Weight AI Model Developed Outside China
• HuggingNews, Open Weight AI Models Lag Proprietary Capability by 4 Month Median