AI 추론 비용

중국이 세계 AI 지형의 중심으로 진입한다. 지난 주말 AI 생태계가 중국발 충격으로 두 번이나 흔들렸다.먼저 베이징의 문샷AI가 무려 2조 8000억 개 파라미터 규모의 키미 K3를 공개하며 역대 최대 규모의 오픈웨이트(open-weight) 모델을 내세운 것. 여기에 19일(현지시각) 알리바바가 상하이 세계인공지능대회(WAIC) 무대에서 2조 4000억 파라미터의 Qwen 3.8-맥스를 "앤트로픽 페이블 5 다음가는 모델"이라 주장하며 프리뷰를 공개, 시장에 충격파를 선사했다.실제 알리바바의 주가는 애플의 온디바이스 AI 중국 승인까지 겹치며 5%이상 급등했다. 이를 단순히 "중국 AI 모델이 또 좋아졌다" 수준의 뉴스로 받아들여도 될까? 하지만 이는 단순히 미국과 중국의 AI 모델 성능 경쟁이 아니다. 핵심은 성능이 아니라 가격이다. 더 정확히는 AI 시장의 시장가격이 통제 불가능한 속도로 하락하고 있다는 사실이다. 앤트로픽이 9월 클로드 오푸스 4.8 가격을 100만 토큰당 입력 3달러, 출력 15달러로 올리겠다고 예고한 바로 그 주에 문샷의 모델은 그 3분의 1 수준 가격을, 그것도 오픈웨이트로 제시했다.AI 모델에서 오픈웨이트란 학습이 완료된 인공지능의 핵심 매개변수(가중치)를 외부에 공개해 누구나 다운로드하여 자신의 컴퓨터나 서버에서 실행할 수 있게 한 모델을 의미한다. 결국 이번 사태의 핵심은 프런티어 기업이 가격을 올리는 국면에서 추격자는 가격을 내리고 퍼블릭에 공개한다. 이 비대칭이 "AI 생태계에 어떤 파급효과를 줄 것인가"가 이 국면의 핵심이다.

AI 내러티브가 다음 국면으로 넘어가고 있는 것일까? 댄 스켈리, 모건스탠리 웰스 매니지먼트의 시장 리서치 및 전략 책임자는 "구형 GPU 임대 가격이 하락하고 AI 시장을 선도했던 마이크로소프트의 태도 변화도 목격되고 있다"며 AI 인프라 부문에 대한 펀더멘털 리스크가 나타나고 있을 가능성을 제시했다.지난 18개월간 AI 인프라를 둘러싼 논쟁은 '공급'과 '병목'의 문제였다. GPU는 얼마나 확보할 수 있는가, 메모리는 충분한가, 전력망은 버티는가와 같은 문제였다. 하지만 AI 인프라가 에이전트 경제로 전환하고 있는 지금, 시장의 질문은 미묘하게 바뀌고 있다. 공급이 아닌 수요에 대한 본질적인 의문이 생기고 있는 것이다. AI발 자본지출 광풍은 이전부터 '통신 버블과 닮았다'고 평가를 받은 바 있다. 1990년대 인터넷 혁명으로 통신기업들이 막대한 자본을 지출해 통신망을 깔던 당시와 현재 하이퍼스케일러들이 AI 인프라 구축을 위해 올해에만 7000억 달러를 쏟아붓는 상황이 '평행이론'이라고 할 정도로 비슷하다는 것이다. 문제는 규모가 비슷하다는 것 뿐 아니라 시간의 비대칭성이다. 1990년대의 광섬유는 20년 이상의 수명을 가졌지만 현재 AI 인프라를 구성하는 핵심 부품인 GPU는 빠르면 2~3년이면 감가될 수 있다는 점이다. 이 시간 내에 시장이 기대하는 수요가 현실화되지 않으면 자본 파괴의 시계가 훨씬 빠르게 돌아갈 수 있다는 것이다. 모건스탠리가 경고한 것은 AI 인프라의 병목이 메모리와 전력으로 옮겨갔다는 '지나간 내러티브'가 아닌 하드웨어 수요의 지속성이라는 진짜 펀더멘털 리스크라는 점이다.