NYT, "기업들 오픈 모델로의 대전환"...연산과 라우팅의 시대가 온다
NYT, "미 기업들 오픈 모델로 급격히 전환"...오픈 모델 사용 58%
“AI 비용 최대 80% 절감”…대기업들이 유료 AI를 떠나는 이유
스트라이프는 AI의 ‘통로’를, 엔비디아는 ‘출발점’을 산 이유
모든 일에 최고급 AI는 필요 없다…기업들이 찾은 ‘80대20’ 공식
더밀크의 시각: 단가가 무너질수록 연산 수요는 폭발한다
AI 시장에 걸린 두 개의 가격.
무료 모델이 시장의 절반을 차지할만큼 급속도로 성장하고 있지만 최상위 모델의 가격은 두 배 수준으로 오르고 있다. AI 모델 시장의 가격이 극단적인 괴리를 연출하고 있는 것이다.
뉴욕타임스(NYT)에 따르면 지난달 미국 기업들이 쓴 AI 사용량의 58%가 사용료를 내지 않는 이른바 '오픈 모델'이었던 것으로 나타났다.
최근 스트라이프와의 합병으로 AI 생태계의 금융화를 이끌고 있다고 평가되는 AI 모델 중개 플랫폼, 오픈라우터의 데이터에 따르면 오픈 모델의 사용 비율은 불과 1년 전만 해도 10%에 불과했다.
그런데 여기서 흥미로운 괴리가 포착됐다. 기업들이 급속도로 무료 모델로 향하고 있는 지금, 반대로 앤트로픽과 오픈AI가 파는 최상위 폐쇄형 모델의 가격은 올해 1월 이후에만 오히려 100%가 오른 것이다. 실제 오픈AI의 현행 최상위 모델은 100만 토큰당 입력 5달러, 출력 30달러 수준이다.
현재 이들 성능의 80~90%를 내는 대체재가 사실상 원가 수준에 풀렸고 그 모델들이 시장 전체 사용량의 절반을 넘겼다면 원래 제품의 가격은 무너지는 것이 일반적인 시장의 반작용이다. 하지만 현실은 정반대로 가고 있는 것이다.
아래층은 원가로 내려앉는데 위층은 값을 올리고 있는 괴리. 이것이 의미하는 것이 무엇일까? 두 개의 전혀 다른 숫자가 동시에 존재할 수 있는 이유는 하나뿐이다. 이들이 더 이상 하나의 시장을 공유하고 있는 것이 아닐 수 있다는 것이다.