능력 경쟁이 브레이크를 만든 날, OpenAI의 35초 비상 정지

AI 업계가 스스로에게 쓰는 서사가 달라지고 있습니다. 더 이상 ‘얼마나 강하게 만들 수 있나’만이 아니라, ‘얼마나 빨리 멈출 수 있나’가 함께 질문이 되고 있습니다. 이 변화를 가장 잘 보여주는 숫자는 35초입니다. OpenAI는 안전 또는 보안 위험이 감지되면 자사 최전선 모델의 출력을 35초 안에 정지시키는 시스템, 컨트롤 룸을 공개했습니다. 모델 하나를 파는 회사가 그 모델의 출력을 스스로 끊어내는 장치를 제품처럼 내놓은 셈입니다. 가장 지능적인 것을 파는 사람이 가장 먼저 브레이크를 만들었다는 점, 이것이 오늘 뉴스를 관통하는 핵심입니다. 능력 경쟁이 한계를 향해 달리는 동안, 통제 경쟁은 같은 트랙의 반대편에서 조용히 시작됐습니다. 이 글은 35초라는 숫자를 출발점으로, ‘멈춤’이 어떻게 산업 전체의 인프라가 되고 있는지를 따라갑니다. 그리고 그 끝에서, 기업 현장에 필요한 것이 무엇인지를 함께 살펴봅니다.

흐르는 데이터의 한 지점을 브레이크가 잡아 멈추는 장면을 형상화한 이미지입니다.

OpenAI가 만든 35초 버튼

컨트롤 룸은 중앙 집중식 감시, 중단 장치입니다. 연구 워크로드를 계속 지켜보다가 위험 신호가 보이면 그 출력을 35초 안에 멈춥니다. 여기서 중요한 것은 ‘중앙 집중식’이라는 단어입니다. 모델이 수백 개, 워크로드가 수천 개일 때, 그 전체를 한 곳에서 보고 한 번에 끄는 구조라는 뜻입니다. 개별 모델마다 버튼을 박아두는 것과는 차원이 다릅니다. 35초라는 속도도 의미 깊습니다. 예전에는 사고가 난 뒤 대응했습니다. 조사하고 사과하고 다음 버전에서 고치는 순서였습니다. 이제는 신호가 뜨는 순간 몇 초 안에 출력을 껐다 켤 수 있어야 합니다. 정지 결정이 ‘사고 이후의 사과’에서 ‘동행하는 장치’로 이동한 것입니다. 한 회사의 최전선 모델을 대상으로 해도, 이 구조를 운영하려면 감시, 판정, 정지, 재개, 그리고 그 이력의 기록까지 하나의 시스템으로 묶어야 합니다. 결국 안전은 기능 목록의 한 줄을 넘어, 아키텍처가 안전을 전제로 설계되는 지점입니다. ‘누가, 언제, 왜 멈췄는가’를 기록으로 남기는 순간, 안전은 운영 방식 자체가 됩니다. 브레이크를 밟는 행위 자체가 감사 이력이 되는 구조, 이것이 컨트롤 룸이 시사하는 점입니다. 35초라는 숫자는 그래서 안전 수준을 재는 새로운 단위처럼 읽힙니다. 내일의 모델은 얼마나 강하느냐와 함께, 얼마나 빨리 정지하느냐로 평가될 것입니다. 정지를 얼마나 빠르고 투명하게 할 수 있느냐, 이것이 새로운 경쟁력이 됩니다.

flowchart LR
    A[연구 워크로드<br>수백 개 모델 · 수천 개 작업] --> B[중앙 감시]
    B --> C{위험 신호 판정}
    C -- 없으면 --> A
    C -- 35초 이내 정지 --> D[출력 중단]
    D --> E[이력 기록<br>누가 · 언제 · 왜 멈췄는가]
    E --> F[재개 판정]
    F --> A

컨트롤 룸이 감시, 판정, 정지, 재개, 이력 기록을 하나의 시스템으로 묶는 구조입니다.

한 손에 가속페달과 브레이크를

이 역설은 오늘의 한 장에서 여러 번 다시 보입니다. 능력 쪽으로 시선을 돌리면, 프런티어는 계속 위로 올라가고 있습니다. Anthropic의 신규 모델 Claude Fable 5.2는 문단 하나짜리 프롬프트만으로 동작하는 전자기기 세 가지를 설계했습니다. 하루라는 시간 안에 세 가지를 끝냈다는 점이 눈에 띕니다. 그중 하나인 가정용 음성 어시스턴트 허브까지 포함됐고 주요 벤치마크에서는 GPT-6 Astra를 앞섰습니다. 모델이 텍스트를 넘어서 회로 보드 같은 물리적 설계까지 다루는 단계로 올라선 것입니다. 로보틱스 기업 Skild AI는 물리 솔버 Steel을 오픈소스로 풀었습니다. PhysX보다 13배 빠르다고 합니다. 가상 훈련 환경의 병목이 그만큼 풀린다는 뜻이며 에이전트와 로봇의 시뮬레이션 학습이 한층 빨라진다는 계산이 섭니다. 능력은 확실히 커지고 빨라지고 물리적 세계로 번지고 있습니다. 그런데 같은 시간대의 뉴스에는 반대 방향의 숫자도 함께 실려 있습니다. Anthropic에서 모델 능력을 키우는 데 드는 비용은 2년 새 8배로 뛰었고, 10억 달러당 얻는 능력 개선 폭은 오히려 줄었습니다. 2배 R&D 기준을 둘러싼 비판이 커진 것도 같은 맥락입니다. 능력 한 뼉을 얻는 데 드는 대가가 그만큼 커진 것입니다. 가속페달을 밟을수록 비용이 비싸지고, 그 비싼 능력일수록 멈출 수 있어야 가치가 됩니다. 브레이크가 부속품을 넘어 제품의 일부로 자리 잡는 순간입니다. 비싼 능력을 파는 사람일수록, 그것을 멈출 수 있는 사람이라는 신뢰를 함께 팔아야 합니다. 브레이크의 유무는, 차별화 기능을 넘어 기본 사양이 되어 가는 중입니다.

35초와 95%, 멈춤의 두 숫자

멈춤을 다스리는 숫자는 두 개가 나란히 보입니다. 하나는 35초, 다른 하나는 95%입니다. 35초는 한 회사가 자기 모델을 끊어내는 데 쓰는 시간입니다. 95%는 한 도시가 자기가 걸은 금지를 풀려면 유권자에게 요구하는 동의율입니다. 인디애나주 블루밍턴 시의회는 조례 2026-29를 통과시켜, 지역 안에서의 초지능 AI 사용과 배포를 금지했습니다. 이 금지를 해제하려면 유권자 95%의 승인이 필요합니다. 사실상 잠금의 문턱을 가능한 한 높게 찍어두겠다는 의도입니다. 기술 회사가 35초라는 ‘빨리 멈추는’ 장치를 만든다면, 지자체는 95%라는 ‘쉽게 풀 수 없는’ 장치를 만듭니다. 방향은 다릅니다. 하나는 속도, 다른 하나는 문턱입니다. 그러나 둘 다 같은 질문에 답하고 있습니다. 멈춤은 실행 전에 설계된 조건으로, 미리 마련돼야 한다는 것입니다. 35초와 95%, 이 두 숫자가 같은 아침의 뉴스에 함께 실린다는 사실 자체가, 멈춤이 이제는 산업의 공통어가 되고 있다는 신호입니다. 속도와 문턱, 이 두 방식이 함께 등장한 것입니다. 95%라는 숫자는 특히 주목할 만합니다. 보통의 결정이 50%를 넘어가기만 하면 되는 것과 달리, 95%는 사실상 만장일치를 요구하는 문턱입니다. 멈춤을 풀기는 멈춤을 거는 것보다 훨씬 어렵게 만든 셈입니다. 사고를 대비한 가장 보수적인 안전장치로 읽힙니다. 이 두 숫자는 결국 기업 현장에도 같은 질문을 던집니다.

브레이크가 향하는 곳, 돈과 하드웨어

멈춤의 필요는 돈이 오가는 곳과 하드웨어 층으로까지 번지고 있습니다. 전 골드만삭스 출신 창업진이 세운 Volaren은 개인용 AI 에이전트를 냈습니다. 이 에이전트는 리테일 증권 계좌에 직접 꽂혀 포트폴리오를 분석하고 거래를 자동화합니다. 실제 돈이 오가는 계좌를 에이전트가 만지는 순간, 질문은 달라집니다. ‘잘할 수 있는가’를 넘어, ‘중단할 수 있는가’와 ‘무엇을 했는지 증명할 수 있는가’가 하나의 문제가 됩니다. 거래를 자동화하는 에이전트에게 감사 이력은 곧 신뢰 그 자체입니다. 한 번의 오작동이 계좌의 돈을 움직일 수 있기 때문입니다. 그래서 증권 에이전트에게는, 행동의 속도보다 행동의 이력이 더 귀한 자산이 됩니다. 하드웨어 쪽에서도 같은 방향의 움직임이 보입니다. 구글은 8세대 AI 가속기 라인업을 네 종류로 넓혔습니다. 그중 두 가지 신규 변형은 보안 컴퓨팅과 대규모 데이터 처리를 겨냥했습니다. 엔비비다를 정면으로 겨냥하는 라인업 확장인 동시에, ‘안전하게 계산하는 칩’이라는 층을 스스로 추가하는 것입니다. 칩이 보안 컴퓨팅을 전제하면, 멈춤은 소프트웨어의 버튼을 넘어, 하드웨어의 성질에도 기대게 됩니다. 돈, 시뮬레이션, 칩은 멈춤이 필요한 층입니다. 멈춤이 필요한 곳은 산업의 각 층으로 넓어지고 있습니다. 각 층마다 브레이크의 모양은 다릅니다. 계좌 앞에서는 권한과 감사이고 칩 위에서는 격리된 보안 영역입니다. 그러나 공통점은 분명합니다. 움직이는 것을 멈출 수 있어야, 움직이는 것을 믿을 수 있다는 것입니다. 브레이크가 없을 때, 가속페달을 밟을 자격조차 주어지지 않는다는 뜻이기도 합니다.

기업이 필요한 것은 버튼 하나가 아니라 바닥입니다

이제 질문을 기업으로 가져와야 합니다. OpenAI의 35초 버튼은 ‘한 회사의 최전선 모델 출력’을 멈추는 것입니다. 기업의 상황은 그보다 큽니다. 에이전트가 여기저기서, 매일, 서로의 데이터와 시스템을 건드리며 움직이고 있습니다. 하나의 중앙 버튼으로 그 전체를 끊을 수는 없습니다. 그래서 기업이 물어야 하는 질문은 ‘가장 큰 모델을 못 박을 수 있는가’가 아니라, ‘각각의 에이전트가 무엇을, 누구의 권한으로, 했고 그것을 증명할 수 있는가’입니다. 이 질문에 답하는 것이 Paxis입니다. Paxis는 ThakiCloud의 Agent-Native Cloud, 이미 출하된 정식 제품(v1.1 GA)입니다. 일급 리소스로 Skills, Tools, Policies, Audit Logs를 다룹니다. 에이전트의 자율도(L0~L3)를 거버넌스로 관리하고 각 행동 앞에 정책 게이트를 두며 그 이력을 감사 로그로 남깁니다. 실행은 격리 샌드박스에서 일어나고 MCP 커넥터와 스킬 마켓으로 도구와 기능을 연결합니다. 소버린, 온프레미스 K8s(ai-platform) 환경이면 회사 내부 네트워크 안에서도 돌릴 수 있습니다. 작업별 모델 선택(CostRouter)으로 어떤 작업엔 어떤 모델을 쓸지도 정해집니다. 35초 버튼이 ‘한 출력을 끊는’ 장치라면, 이 바닥은 ‘매 순간의 행동을 정책과 감사로 감싸는’ 구조입니다. ‘얼마나 빨리 멈출 수 있는가’가 업계의 화두가 되는 시점, 버튼 하나로는 채워지지 않는 것이 바로 이 바닥입니다. 자율도가 높은 에이전트일수록, 그 행동을 감싸는 정책과 감사의 해상도도 높아져야 합니다. Volaren의 증권 에이전트를 예로 들어 보면 명확합니다. 계좌에서 돈을 움직이는 행동은 자율도의 최상단에 가깝지만 그 앞에 정책 게이트가 서야 합니다. 이체 한도, 허용 계좌, 시간대, 승인자가 바로 그 조건들입니다. 이 조건들이 정책을 이루고 에이전트는 각 행동을 할 때마다 그 게이트를 통과해야 합니다. 통과하지 못하면 실행은 격리 샌드박스 안에서 멈추고, 그 시도조차 감사 로그에 남습니다. 35초 버튼이 ‘모델 출력을 끄는’ 일이라면, 이 구조는 ‘에이전트의 각 행동을 조건에 맞추는’ 일입니다. 훨씬 가깝고, 훨씬 잦은 통제인 셈입니다. 이 바닥은 동시에 오늘 뉴스가 드러낸 업계의 통증, 에이전트의 안전 실행, 주권, 비용에 대한 답이기도 합니다.

닫으며

35초는 숫자일 뿐입니다. 하지만 그 숫자가 헤드라인에 오르고 한 도시에 95%라는 잠금까지 걸린다는 사실은, 업계가 ‘강함’과 ‘멈춤’을 함께 팔기 시작했다는 뜻입니다. 능력이 계속 커질수록, 그 능력을 감싸는 구조도 같은 속도로 커져야 합니다. 능력 경쟁의 다음 단계를 가르는 것은 더 큰 모델이 아니라, 어떤 바닥 위에서 그 모델들이 움직이게 하느냐일 것입니다. 브레이크를 먼저 만든 쪽이, 결국 더 멀리 가는 쪽이 되는 계절이기도 합니다. 오늘 아침의 뉴스가 함께 말한 것은, 달리는 속도와 멈출 수 있는 자신감이 처음으로 같은 무게로 경쟁하게 됐다는 것입니다. 다음 벤치마크에는 ‘정지까지의 시간’ 같은 항목이 들어올 것입니다. 그리고 그 항목을 채우기 위해, 기업은 오늘의 35초를 내일의 표준으로 번역해 나가야 합니다. 브레이크는 더 이상 선택이 아니라, 진입 조건입니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성했습니다.