생성AI는 왜 이렇게 비싼 것일까?

생성AI는 인터넷 발명이후 가장 큰 혁신적 변화를 일으킬 것이라 하죠. 미중영불 등 제국주의 국가들과 기업들이 앞다퉈 투자하고 있어서 '군비 전쟁'이라는 말이 있습니다. AI 개발로 수익 보다 투자 비용이 훨씬 더 크고 소진이 빠르기 때문에 기술과 사업모델이 고도화 될 때까지 결국 자본 싸움이 될 가능성이 크다는 의미입니다.

생성AI의 기반이 되는 대형언어모델(LLM)을 운영하는 데 들어가는 비용은 천문학적입니다. LLM 연산에 필수적인 GPU로 꼽히는 엔비디아의 H100칩은 개당 4000만 원에 달합니다. 초거대 LLM 구동을 위해선 수천 개가 필요합니다. 또한 챗GPT를 구동하는 LLM GPT-4의 경우 하루 9억원 가량이 들어가는 것으로 알려졌습니다.

학습용 데이터셋을 구축하는 데도 많은 비용이 들어갑니다. 생성AI의 단점 중 하나는 엉뚱한 답변을 제공하는 '할루시네이션(환각 현상)'인데요. 이를 극복하려면 출처가 분명한 양질의 최신 데이터를 학습한 AI 모델을 지속적으로 개발해야 합니다. 결국 '돈' 입니다.

때문에 샘 알트만 오픈AI CEO는 "오픈AI는 실리콘밸리 역사상 가장 자본 집약적인 스타트업이 될 것"이라고 말하기도 했습니다.

국가와 기업이 '군비경쟁'을 하는 이유는 '생산성' 때문입니다. 멈춰버린 경제 성장을 끌어 올리려면 생산성을 높여야 하는데 고물가와 지정학적 불확실성 시대엔 생산성 향상은 국가와 기업 생존에 사활이 걸린 문제입니다.

기업들이 생성AI에 큰 배팅을 하는 이유는 비용 절감 효과가 있는 것으로 나타났기 때문입니다. 맥킨지의 설문조사에 따르면 AI 통합으로 응답자의 42%는 비용이 절감됐고, 59%는 매출이 증가했습니다.

생성AI 기술이 보편화되고 안정적인 사업모델이 자리잡기까지 기업들의 투자와 경쟁은 지속될 전망입니다. 이는 생성AI의 발전이 단순한 기술적 진보를 넘어 사업 전략과 자본 구조의 변화를 수반할 것임을 시사합니다.

지금 생성AI 시장은 어디로 향하고 있으며 기업들은 어떤 전략을 세워야 할까요?

<CEO 포커스> 22호에서는 2024 생성AI 핵심 트렌드 7가지, 생성AI 뒤흔든 천재 소녀, 피카 CEO 데미 구오, a16z 마크 안드리센을 만든 4권의 책을 소개합니다.

2024년 현재 인공 지능 시장은 어디로 가고 있을까요? 생성 AI는 이미 '취미용' 단계에 진입했으며 컴퓨터와 마찬가지로 더 작은 패키지로 더 큰 성능을 달성하는 것을 목표로 발전하고 있다고 합니다. 

스탠포드 인간 중심 인공지능 연구소에서 발간한 <2024 AI 인덱스 리포트>는 오늘날 생성AI 비즈니스의 현재를 그대로 보여줍니다. 투자가 급증하고 있는 생성AI 시장, 대형 LLM 모델들이 뿌리는 탄소 발자국에 대한 상세한 이야기가 담겨 있습니다. 

👉 숫자로 보는 생성AI 혁명

실리콘밸리의 투자 주제는 생성AI 입니다. AI로 동영상을 생성하는 피카는 창업 7개월만인 2023년 12월, 약 716억원의 투자금을 유치하며 뜨거운 관심을 받고 있습니다. 

피카는 스탠퍼드 컴퓨터 공학 박사과정을 중퇴한 데미 구오와 첸린 멩이 창업한 회사로, 약 50만 명이 피카 소프트웨어를 사용하고 있습니다. 투자사인 라이트스피드 벤처 파트너의 마이클 미냐노는 피카를 두고 '가장 빠르게 움직이는 팀'이라고 했는데요.

하버드대와 스탠퍼드대 출신, 95년생 중국계 천재 소녀로 불리는 데미 구오 피카의 CEO는 어떤 인물일까요? 

👉 피카 CEO 데미 구오

실리콘밸리 최고의 VC 중 하나인 앤드리센 호로위츠(a16z)의 공동 창립자인 마크 앤드리센은 이미 성공적으로 스타트업을 창업했던 경험이 있습니다. 그는 1993년 인터넷 웹브라우저 모자이크를 개발해 히트시켰던 넷스케이프를 공동 창업했고, 이후 라우드 클라우드와 옵스웨어를 차례로 창업한 바 있는데요.

현존하는 세계에서 가장 큰 VC 중 하나인 a16z는 지금까지 680개가 넘는 회사에 투자하며 스타트업들을 유니콘의 반열에 올려 놓았습니다. 실리콘밸리 스타트업들의 명과 암을 가장 가까이서 지켜본 인물, 마크 앤드리센은 어떤 도서들에 매료됐을까요?

👉 마크 앤드리센을 만든 4권의 책