일하기 전에 멈춘 에이전트

글의 핵심 개념을 형상화했습니다.

먼저, 내부 테스트 자료에서

이야기는 출시 행사에서가 아니라 테스트 기록에서 시작하는 것입니다. 로이터가 확인한 메타 내부 테스트 자료에는 개인 AI 에이전트 뮤즈가 일부 시험에서 작업 중간에 멈춘 기록이 있습니다. 민감정보가 노출된 기록도 있습니다. 메타는 출시 과정에서 보완책을 적용했다고 하지만 실환경 안정성과 개인정보 보호는 지금도 “미검증 과제”입니다.

가상의 위험이 아닙니다. 출시 전 테스트에서 실제로 나온 기록입니다.

이 한 줄은 발표 행사 자체보다 많은 정보를 담고 있습니다. 왜 그런지 알기 위해서는, 먼저 뮤즈가 무엇인지 봐야 합니다.

NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.

앱을 껐어도 일하는 AI

메타는 9월 8일(미국 현지시간) 뮤즈를 공개했습니다. 사용자가 앱을 닫은 뒤에도 백그라운드에서 일을 이어가는 개인 AI 에이전트. 이메일 발송, 여행 예약, 웹 양식 작성, 온라인 구매. 다단계 업무를 혼자 처리하고 사람의 판단이 필요한 순간에만 사용자에게 다시 찾아가는 구조라는 뜻입니다. 이코노미사이언스 등 매체가 “상주형 AI”라고 부르는 것은 바로 이것입니까. 거처를 둔 AI, 그런 셈입니다.

의미는 앱 순위보다 큽니다. 그간 AI는 채팅창이라는 형태로 사용자에게 들어왔습니다. 질문하면 답을 하고 거기서 끝이었습니다. 이번에는 앱이 꺼져도 일이 진행한다는 것입니다. 질문에 답하는 도우미와 과업을 넘겨받는 일꾼의 차이입니다.

그리고 시점이 중요합니다. 이번 주 뉴스 필드는 다른 축으로 달리고 있는 셈입니다. AI 개발의 속도 조절 논란, 초대형 데이터센터의 로드맵, 메모리 칩을 둘러싼 공방. 그 한가운데서 메타의 소비자 에이전트는 일상에 가장 가까운 신호이자, 다음 질문을 가장 직접적으로 가리키는 사례입니다.

가격은 무료입니다. 그 위에 유료 구독 두 단계가 있습니다. 파워가 월 20달러, 매็กซимум이 월 100달러. 결제는 쇼핑과 결제 보호 기능을 갖춘 스트라이프의 “링크”를 타고 쇼피파이 쇼페이와 원패스워드 연동도 예정되어 있습니다. 결제가 설계의 중심에 있다는 점은, 이 에이전트가 처음부터 사소한 행동을 하는 것이 아님을 보여줍니다.

시장 반응은 즉각적이었습니다. 센서타워 기준 미국 iOS 다운로드가 8만 3천 회를 넘어, 앱스토어 종합 2위에 올랐습니다. 발표 다음 날 4위에서 올라온 셈입니다. 안드로이드는 생산성 카테고리 338위. 같은 날 메타 주가는 6% 상승했고 알파벳은 2% 하락했습니다. 자본시장도 이번 에이전트 공세를 AI 경쟁 재편의 변수로 읽은 것입니다.

여기서 하나 더 짚어야 할 사실이 있습니다. 이번 발표는 메타가 소셜미디어 소비자 피해 관련 180억달러 규모의 미국 다수 주 합의금 지불을 결정한 지 2주가 채 안 된 시점입니다. 그래서 업계는 이 승부의 최대 변수로 소비자의 “신뢰”를 꼽습니다.

사람마다 PC 한 대, 수호자도 한 명

뮤즈의 핵심은 모델이 아니라 실행 환경입니다. 메타는 이 환경을 “뮤즈 시큐어 VM”이라고 부릅니다. 브라우저와 저장공간을 갖춘 전용 가상 컴퓨터가 사용자별로 배정됩니다. 가장 쉬운 비유를 들면, 클라우드에 사람마다 AI 비서용 PC 한 대씩을 둔 셈입니다. AI가 그 안에서 다단계 업무를 처리합니다.

보안은 따로 둔 에이전트가 맡습니다. 이름이 “센티넬”입니다. 시스템 레벨에서 뮤즈와 분리되어 있으며 외부 서비스 접근과 민감 행동을 통제합니다. 이메일 발송과 구매 같은 중요 행동은 사용자의 승인을 거치도록 설계되어 있습니다. 비밀번호와 결제정보는 뮤즈 자체가 직접 볼 수 없도록 분리되어 있습니다.

한 줄로 정리하면, 일하는 에이전트 하나, 그 옆의 수호자 하나, 그리고 그 사이를 가로지르는 승인 라인입니다.

경쟁사들도 같은 전선으로 움직이고 있습니다. 오픈AI의 챗GPT 에이전트는 자체 가상 컴퓨터에서 웹 탐색과 코드 실행을 하고, 구글 제미나이는 클라우드에서 장시간 에이전트 작업을, 앤트로픽 클로드는 코딩과 전문업무 에이전트를 강화하고 있습니다. 세일즈포스의 선택은 한 수 더 과감합니다. 9월 15일 샌프란시스코 드림포스에서 공개한 “AI포스”는 사용자가 CRM 화면을 열지 않아도, 사용 중인 에이전트가 화면 없이 플랫폼 전체 기능을 직접 호출하게 만든 것입니다. 사람이 클릭하던 시스템이 에이전트가 부르는 대상이 되는 순간입니다. AI 경쟁의 축은 “누가 더 정확하게 답하는가”에서, “누가 사용자의 일을 더 오래, 더 많이, 더 안전하게 대신하는가”로 이동하고 있습니다.

규제 산업에선 승인 라인이 이미 표준이다

실수 한 번의 대가가 큰 곳에서는 이 구조가 이미 상품입니다. 앤트로픽은 9월 14일 금융 자문가용 “클로드 포 파이낸셜 어드바이저스”를 공개하고 세계 최대 자산운용사 블랙록의 포트폴리오 분석 기능 등 자산관리 스택을 클로드에 연결했습니다. 고객 미팅 준비, 포트폴리오 검토, 컴플라이언스 체크, 후속 문서 작성은 에이전트가 하는 일입니다. 그러나 투자 추천, 고객 커뮤니케이션, 규제 대상 업무는 언제나 자문가의 검토와 승인을 거치도록 설계되어 있습니다. 기반이 된 키치세스 조사는 자문가의 시간 중 고객 미팅에 쓰는 비중이 6분의 1에 불과하다는 내용입니다. 준비와 문서라는 반복 작업을 에이전트가 먹고, 사람은 승인 라인에 선다는 방향입니다.

한국 기업의 간극은 여기서 더 큽니다. 국내에서는 커스터디안, CRM, 포트폴리오 분석이 여러 벤더로 쫙게 나뉘어 있어 커넥터 계층에 대한 수요가 더 클 수밖에 없습니다. 여기에 금융 데이터의 국외 이전 제한과 환각, 책임 소재 문제는 해외 모델의 직접 도입을 어렵게 만듭니다. 온프레미스 배포와 감사 트레일이 도입의 전제조건이 되는 것입니다. 클로드와 GPT, 엑사원 등 멀티모델을 병행 운용하는 대기업의 표준 전략이 굳어진 지금, 특정 벤더에 묶이지 않고 여러 모델에 유연하게 연결되는 인프라는 선택이 아니라 필수입니다.

메시지는 동일합니다. 에이전트에게 일하게 하고 사람은 승인 라인에 섭니다. 소비자 제품도 이제 이 설계로 수렴하고 있는데, 그 이유는 정서가 아니라 실패의 비용 때문입니다.

소비자 버전에는 없는 24시간 시계

문제는 출시 열기가 식은 뒤에 옵니다. 상주형이라는 말은 백그라운드에서 오래 일한다는 뜻입니다. 이메일 한 통만이라면 별일 아닙니다. 구매, 예약, 문서 작성 같은 작업이 동시에 도는 순간, 실패의 모양도 함께 늘어납니다. 그리고 모든 행동에는 감사가 따릅니다. 수호자가 한 행동을 놓치거나, 에이전트가 작업 중간에 멈추면 누가 그 일을 잡아내고 어떻게 증명할 수 있습니까.

백그라운드에서 계속 쌓이는 또 다른 계산이 있습니다. 장시간 실행은 결국 토큰 비용의 문제인 셈입니다. 에이전트가 하루 몇 시간씩 일한다면, 추론 비용은 매일 복리로 불어납니다. 개인 수준에서 실수 한 번의 대가는 몇 달러. 기업 수준에서는 승인 없는 구매 한 건, 고객 정보 유출 한 건, 놓친 작업 한 건이 곧 컴플라이언스 사건이며 비용은 경영의 문제입니다. 수호자 에이전트가 경계를 지키지만 그 수호자 자체의 판단이 틀렸다면 누구에게 리뷰됩니까. 기업에서 이 질문은 기술이 아니라 법적 성격입니다.

메타의 답은 개인에게는 “사람마다 전용 PC 하나”였습니다. 기업의 답은 애드온이 아니라, 거버넌스가 실행 환경 자체로 들어간 시스템이어야 하는 것입니다. 정확히 이 지점이 기업들이 미뤄둔 질문인 셈입니다. 메타는 개인에게 전용 PC 하나, 수호자 하나, 중요 동작 승인이라는 묶음을 상품으로 내밀었고 기업 안에는 같은 질문이 이미 대기하고 있습니다. 달라진 것은 규모와 주체, 그리고 책임의 무게일 뿐입니다.

기업 버전으로 만들려면

이 아키텍처를 기업으로 옮긴다면, 목록은 길지 않습니다. 네 가지. 첫째, 격리. 에이전트 하나하나의 실행이 남의 데이터나 세션에 닿지 않아야 합니다. 사람마다 전용 PC 한 대는 소비자의 답이고 기업에서는 같은 보장을 테넌트 단위로 요구하게 됩니다. 둘째, 승인. 중요 행동은 사람이 보는 라인을 거쳐야 하며 무엇을 승인으로 둘지는 워크플로마다 다르게 정할 수 있어야 합니다. 셋째, 감사. 모든 행동은 꺼내 보여줄 수 있는 기록을 갖춰야 합니다. 남기는 기록이 아니라, 언제든 꺼내어 대조할 수 있는 기록입니다. 넷째, 비용. 상주형 일은 백그라운드에서 길게 도므로, 추론 청구서가 예측 가능해야 합니다.

여기서 눈에 띄는 것은, 네 가지 모두 모델 바깥에 놓인 항목이라는 뜻입니다. 모델이 아무리 능력이 있어도, 이 네 가지가 갖춰지지 않으면 기업의 운영 환경에 넣을 수 없습니다. 이것이 문제의 구조이고 메타의 소비자 제품과 기업의 플랫폼이 경쟁 관계가 아니라 다른 층에 서 있는 이유이기도 합니다.

기업 버전의 렌즈

이 지점에서 ThakiCloud의 Paxis를 렌즈로 삼을 수 있습니다. Paxis는 ThakiCloud의 Agent-Native Cloud이며 정식 제품(v1.1 GA)입니다. 메타가 소비자 제품으로 보여준 구성을 Paxis는 기업에게 일급 리소스로 제공합니다. Skills, Tools, Policies, Audit Logs가 부가 기능이 아니라 플랫폼의 시민인 셈입니다. 자율도 L0에서 L3가 에이전트가 혼자 할 수 있는 범위를 정하고 그 경계마다 정책 게이트가 서 있으며 모든 행동은 감사 로그에 기록됩니다. 실행은 격리 샌드박스에서 벌어지고, 시스템은 MCP 커넥터와 스킬 마켓을 통해 호출 가능한 대상이 됩니다. 데이터 주권을 요구하는 기업에는 소버린, 온프렘 K8s(ai-platform) 배포가 있고, 작업별로 모델을 골라내는 CostRouter가 장시간 백그라운드 실행의 비용을 좌우합니다.

네 가지 통증으로 다시 읽으면 더 분명합니다. 감사. 감사 로그와 승인 라인이 기록을 보여달라는 질문에 답합니다. 주권. 온프렘, 소버린 배포가 데이터와 실행이 어디에 머무느냐는 질문에 답합니다. 안전한 실행. 샌드박스와 정책 게이트가 무엇을 터치할 수 있는가라는 질문에 답합니다. 비용. 작업별 모델 선택이 얼마나 오래 일하게 할 것인가라는 질문에 답하는 것입니다. 뮤즈의 내부 테스트가 가리킨 통증, 멈춤과 유출과 미검증 안정성은, 이 네 가지가 겨냥하는 지점과 정확히 겹칩니다.

메타가 개인에게 준 것은 형태였습니다. 기업이 필요한 것은 그 형태를 증명하는 장치라는 뜻입니다.

앱을 껐는데 AI는 일하고 있었습니다. 이번 주의 이야기였습니다. 같은 주, AI 업계 수장들 사이에서는 개발 속도를 늦출 것인가를 놓고 논쟁이 붙었고 국내에서는 초대형 데이터센터의 로드맵이 그려지고 있습니다. 이 모든 논쟁은 결국 같은 질문을 향해 있습니다. 기업이 묻는 이야기는 다르지 않은 셈입니다. 그 에이전트가 어디서, 무엇을, 얼마만큼 터치할 수 있으며, 실패했을 때 그 기록을 꺼내 보일 수 있습니까. 상주형 AI는 이미 형태를 증명했습니다. 남은 것은 혁신이 아니라 공학입니다.

참고 자료

이 글은 아래 뉴스를 종합해 작성했습니다.

• SBS Biz, KT클라우드, AIDC 2031년까지 1GW 이상 공급 목표
• 이코노미사이언스, 메타 ‘뮤즈’, 앱 꺼도 일한다…챗GPT·제미나이와 다른 ‘상주형 AI’ 승부수
• 디지털투데이, 세일즈포스, AI포스 공개…“AI는 소프트웨어 인터페이스 혁명”
• 비즈트리뷴, 삼성SDS, 앤트로픽 ‘셀렉트 티어’ 파트너로… 클로드 도입 전 과정 맡는 역할
• 디지털타임스, 아모데이·젠슨황, AI안전 놓고 충돌…“표준 세워야” vs “규제 불필요”
• 토큰포스트, 앤트로픽, 블랙록 포트폴리오 분석 클로드 연동

NotebookLM이 소스를 종합해 생성한 인포그래픽입니다.