뷰스레터 구독자 여러분 안녕하세요, 박원익입니다. 오늘은 미국 캘리포니아주 산호세에서 열린 엔비디아의 연례 기술 콘퍼런스 ‘GTC 2024’ 소식 2탄으로 전해드립니다. 3월 18일부터 나흘간 열린 GTC 2024는 온오프라인으로 약 30만 명이 등록, 역대 최대 규모로 진행됐습니다. 900개 세션, 300여 개 기업이 참여한 전시, 20개 넘는 기술 워크숍과 다양한 네트워킹 이벤트로 현장 열기가 뜨거웠습니다. 개인적으로도 매우 보람 있고 뜻깊었던 일정이었습니다. GTC 2024에 참석한 분들의 생각과 경험을 공유한 ‘K-나이트’ 행사를 개최했고, 젠슨 황 CEO 기자간담회 현장에 참여, 엔비디아의 방향성도 확인할 수 있었습니다. 이번 GTC 2024를 관통한 핵심 화두는 ‘챗GPT 이후 무엇이 등장할까(what’s next)’였습니다. 앞으로 떠오를 생성 AI 기술·산업 트렌드에 따라 삶의 풍경이 빠르게 바뀔 것이기 때문입니다. AI 반도체 등 핵심 산업도 크게 요동칠 수 있습니다.AI 최전선에 있는 과학자, 전문가들의 머릿속엔 무엇이 있을까요?
브래드 라이트캡 오픈AI 최고운영책임자(COO)는 19일(현지시각) 미국 캘리포니아주 산호세 컨벤션 센터에서 열린 엔비디아의 연례 기술 컨퍼런스 GTC 2024 ‘생성 AI의 미래’ 세션에서 “AI 시스템 확장으로 여러 기능이 놀랍게 발전할 것”이라며 이같이 말했다. 생성 AI 기술의 발전 속도, 고객의 반응에 미뤄볼 때 앞으로 더 큰 혁신이 이어질 것이란 관측이다. 오픈AI가 2022년 11월 30일 선보인 AI 챗봇 ‘챗GPT’는 기업 고객용 제품이 아니었으나 많은 기업의 관심으로 2023년 8월 기업 버전(ChatGPT Enterprise)이 출시됐다. 최근에는 더 적극적으로 기업용 제품을 지원하고 있다는 게 라이트캡 COO의 설명이다.그는 “포춘지 선정 500대 기업 중 90% 이상이 챗GPT를 사용하고 있다”며 “실제 고객 대상 설문조사를 통해 기업용 제품이 기업 고객에 매우 적합하다는 것을 확인했다”고 말했다. 라이트캡 COO는 이어 “더 놀라운 건 수직적인 사용 사례(use case) 혹은 애플리케이션을 구축할 필요가 없었다는 점”이라며 “(직무에 관계없이) 챗GPT는 재무팀 직원, HR 담당자 등을 데이터 과학자로 변신시킬 수 있다”고 강조했다. 그는 “오픈AI는 현재 AI 모델에 여전히 존재하는 결함을 해결하는 일, AI 모델이 일을 잘할 수 있도록 맥락(context) 조정하는 일을 하고 있다”며 “AI 모델 성능 개선에 따라 결함은 점차 사라질 것”이라고 했다. JP모건, 드롭박스를 거쳐 와이콤비네이터에서 투자자로 활동했던 브래드 라이트캡은 샘 알트만 오픈AI CEO의 최측근 중 하나로 평가받는다. 블룸버그는 최근 그를 오픈AI의 ‘비밀병기(secret weapon)’라고 묘사하기도 했다. 라이트캡 COO와 마누비르 다스 엔비디아 엔터프라이즈 컴퓨팅 부문 VP의 대담을 통해 오픈AI가 바라보는 생성 AI 산업의 미래, 오픈AI의 미래 전략을 살펴봤다.
오픈AI의 챗GPT가 발표된 이후 대다수 비즈니스가 일제히 생성AI를 자사의 제품과 서비스에 접목하면서 인공지능(AI) 모델 훈련의 핵심 재료인 엔비디아(NVIDIA)의 그래픽처리장치(GPU) 등 AI 반도체칩 수요가 급증하고 있다. 이에 엔비디아는 반도체 기업 사상 처음으로 시가총액 2조달러를 넘어섰다. 아마존과 구글 모회사 알파벳을 제치고 애플과 마이크로소프트에 이어 세 번째로 큰 회사다. 업계 전문가들은 엔비디아가 AI 기술, 산업 분야에서 독보적인 지위를 갖고 있다고 입을 모은다. 게임용 그래픽칩 제조 업체였던 엔비디아는 어떻게 AI 산업에 없어선 안될 기업이 됐을까? 엔비디아의 시작은 약 14년전 게이머를 위한 그래픽카드였다. 당시 프로세서는 일종의 부업이었다. 이제 이들의 AI 프로세서는 산업 자체를 움직인다.그 비결은 쿠다(CUDA)라는 인프라를 제공한 대신 신기술 흐름이라는 정보를 얻은 데 있다. 엔비디아는 당초 과학자들이 천문학적인 숫자의 과학 연산을 할 수 있도록 자사 병렬프로그래밍 모델 쿠다를 제공했는데, 이때 대부분 과학자들이 엔비디아 GPU를 사용해 연구한 덕분에 엔비디아는 AI 기술의 변화를 가장 빠르게 알 수 있었다.엔비디아는 당초 게이머를 위해 GPU를 설계했으나 매우 많은 픽셀에 단순한 연산을 동시에 대량으로 하는 연산 구조가 인공지능의 대량 정보 학습에 좋은 구조를 가지고 있다는 것을 깨달았다. 당시 주류던 중앙처리장치(CPU)는 메모리로부터 전송받은 데이터를 한 번에 하나씩 처리할 수 있는 구조다. AI와 딥러닝으로 처리해야 할 데이터의 양이 기하급수적으로 늘어나자 CPU 병목현상이 생겼다. 이에 엔비디아가 AI가속기, 즉 AI반도체 수요가 생기자 엔비디아가 그래픽처리장치(GPU)로 파고든 것. 회사는 2016년경부터 게임 그래픽카드 사업에서 인공지능 GPU로 전환했다. 이후 주요 사업을 게임용콘솔, PC, 노트북용 GPU 디자인에서 인공지능 컴퓨팅을 위한 디자인으로 바꿨다. GPU는 한 번에 다량의 데이터를 처리하는 병렬 처리 구조다. 한 번에 많은 양의 데이터를 학습하고 처리해야 하는 AI를 구현하기에 적합하다. 과거에는 그저 단순히 실감나는 게임에 대용량의 그래픽 처리를 수월하게 하기 위한 목적으로 GPU가 사용됐지만 AI가 발전하면서 새로운 사용처를 찾게 된 것이다. GPU는 트랜스포머에 좀 더 최적화되기도 했다. 트랜스포머는 문장 속 단어와 어순 간 관계를 추적해 맥락과 의미를 학습하는 신경 모델로, 오픈AI의 챗GPT의 근간이 된 모델이다. 이 트랜스포머 알고리듬은 대부분 대용량 메모리 및 GPU가 한 패키지(단위)에 들어가는 AI 반도체를 사용한다. 엔비디아의 GPU H100을 8개 붙인 엔터프라이즈용 가속기 DGX H100은 초거대 AI를 뒷받침하는 서버, 데이터센터에 잘 맞는다. 이미 유연성이 있는 GPU에 새로운 알고리듬을 누구보다 먼저 적용, 이를 지원하는 AI 반도체 설계 역시 경쟁사보다 수년 이상 먼저 시작할 수 있었던 셈이다. 회사 초창기였던 2016년 젠슨 황 엔비디아 CEO는 AI 전용 슈퍼컴퓨터 ‘DGX-1’을 오픈AI에 기증, 손수 전달하기도 했다. 당시 오픈AI는 ‘일반인공지능(AGI)’라는 업계에서 인정받지 못하던 목표를 추구하는 회사였다. 챗GPT가 나오기 몇 달 전인 2년 전부터는 벤처투자조직을 만들어 유망한 AI 스타트업들에 본격적으로 투자해 왔다. 그때 투자한 기업들이 유니콘 스타트업인 코히어(Cohere), 허깅페이스(Huging Face), 인플렉션(Inflection) 등이다.인공지능 산업이 획기적인 도약을 보인 시기는 2012년이 꼽힌다. 당시 이미지넷(ImageNet)이 주최한 인공지능 대회에서 알렉스넷(AlexNet)은 사진 인식 성능으로 시장을 놀라게 했고, AI 연구에 불을 붙였다. 알렉스넷은 엔비디아의 그래픽처리장치(GPU) 칩을 이용해 합성곱신경망(Convolutional Neural Network, CNN) 아키텍처로 개발됐다.반면 알렉스넷이 나왔을 당시 새 알고리듬인 CNN이 제공하는 화상 인식 기술에 매료된 다른 기업들은 당시 GPU 같은 범용 AI 반도체보다 전력효율이 뛰어나고, 성능도 뛰어난 CNN 전용 AI 반도체에 뛰어들었다. 대형 클라우드 기업을 비롯해 영국의 그래프코어, 미국 실리콘밸리의 삼바노바 시스템, 세레브라스 등 스타트업들이 수천억원이 넘는 투자를 받고 자체 개발에 나섰다. 그러나 기존 엔비디아를 제외한 AI 반도체들은 전력효율, 가격에 큰 장점이 있는 반면 이런 거대한 알고리듬의 변화에 대응하기에는 유연성이 떨어진 것으로 보인다.
“클로드3(Claude 3)가 챗GPT(ChatGPT)를 오징어로 만들었다.”정말 하루아침에 생긴 일이다. 오픈AI(OpenAI)에서 퇴직해 창업한 팀이 만든 앤트로픽(Anthropic)이 클로드3 서비스를 전격 출시했다. 디자인도 좋고, 속도도 빠르고, 응답의 품질도 챗GPT를 넘어섰다는 평가가 줄을 잇고 있다. 클로드3는 기본 모델(소네트, Sonnet)과 더 좋은 모델인 오푸스(Opus), 하위 모델인 하이쿠(Haiku)로 나뉘는데, 경험적으로는 품질의 차이를 알기 힘들 정도라 유료인 오푸스 모델(월 20달러)를 내고 써야 할 지 의문일 수준이다. 소네트(Sonnet)만 해도 챗GPT 유료 모델인 챗GPT 플러스에 적용되는 GPT-4에 필적하는 수준이고, 오푸스는 GPT-4를 넘어섰다.
오픈AI가 앞으로 GPT-5 등 진화된 버전이 계속 나와도 챗GPT 무료 정책은 계속 유지할 방침이라고 밝혔다. 또 AI가 '조수' 역할을 넘어서 '파트너' 역할을 할 수 있다는 시나리오도 제시했다. 챗GPT 제품 개발을 총괄하는 피터 덩(Peter Deng) 오픈AI 소비자제품부사장(VP)은 지난 11일(현지시각) 사우스바이사우스웨스트(SXSW)2024에서 “우리의 사명은 인류 모두에게 혜택을 주는 것이다” “항상 무료 버전이 있어야 한다. 더 높은 구매력을 가진 서구 사용자와 기업에 의해 보조를 받기 때문에 가능하다”고 말했다. 덩 부사장은 구글 제품개발 담당, 페이스북, 오큘러스 등에서 제품총괄을 거쳐 우버에서는 라이더 총괄로 회사 기업공개(IPO)를, 에어테이블에서 최고제품책임자로 100억달러 자금 조달을 지원한 ‘사업통’이다. 오픈AI 이사회가 샘 알트만 공동창업자를 급작스레 해임하며 회사가 혼란에 빠졌을 당시 직원들에게 개발에 집중할 것을 주문하기도 했다.
김성훈 업스테이지 대표는 12일(현지시각) 미국 산호세 KIC 실리콘밸리에서 열린 ‘2024 L-Camp(엘캠프) 실리콘밸리’ 프로그램의 연사로 나서 “생성 AI 분야에 여전히 기회가 많다”며 이같이 말했다. 이번 세션은 창업자 후배와의 대화 형식으로 진행됐다. 김 대표는 전 세계에서 수많은 LLM이 쏟아져 나오고 있지만, 오픈AI의 GPT-4, 구글의 제미나이, 앤트로픽 클로드, 메타 라마 등 성능이 좋은 상위 10개 모델은 앞으로도 계속해서 사용자의 선택을 받을 것이란 예측이다. 김 대표는 특히 LLM이 향후 데이터베이스 관리를 돕는 소프트웨어 ‘DBMS(데이터베이스 관리 시스템)’와 비슷한 지위를 차지할 것으로 봤다. 오라클 데이터베이스, MySQL 등이 대표적 DBMS다. DBMS를 바탕으로 다양한 응용 프로그램이 작동한다. 김 대표는 “오라클 외에도 DBMS 회사가 꽤 많고, 잘 운영되고 있다”며 “LLM 분야 역시 톱5 안에 들면 안정적으로 비즈니스를 할 수 있을 것”이라고 했다. AI 기술 스타트업 업스테이지는 홍콩과기대 컴퓨터공학과 부교수, 네이버 클로바 AI 총괄을 거친 김 대표가 2020년 설립했다. 2023년 12월 자체 개발 LLM ‘솔라(Solar)’를 공개, 오픈소스 AI 모델 순위 게시판인 ‘허깅페이스 오픈 LLM 리더보드’ 1위에 오르며 주목을 받았다. 한국에서 창업했지만 현재는 실리콘밸리에 상주하면서 글로벌 AI 사업 및 확장 기회를 찾고 있다. 한편, 김성훈 대표가 연사로 참여한 엘켐프 실리콘밸리는 롯데벤처스와 더밀크가 한국 스타트업의 글로벌 진출을 지원하기 위해 마련한 액셀러레이팅 프로그램이다. 미국 실리콘밸리 현지 한인 창업가 및 VC들과의 순도 높은 네트워킹 및 IR(투자설명회) 기회를 제공한다. 2022년에 시작해 올해로 3회를 맞았다.다음은 김 대표와 창업가들이 나눈 대화의 주요 내용이다.
서성훈 KDB실리콘밸리 법인장은 11일(현지시각) 미국 열린 ‘2024 L-Camp(엘캠프) 실리콘밸리’ 프로그램에서 “지금은 AI 시대다. 2023년 스타트업 투자(funding)가 둔화했음에도 생성 AI 쪽으로는 훨씬 더 많은 규모의 돈이 들어가고 있다”며 이같이 말했다. 오픈AI, 앤트로픽 등 이 분야를 이끄는 AI 스타트업이 샌프란시스코에 있고, 구글, 아마존, 마이크로소프트, 엔비디아 같은 실리콘밸리 빅테크 기업들이 이런 AI 스타트업에 전략적으로 대규모 자금을 투자, 생성 AI 기술 및 산업 헤게모니를 장악하고 있다는 설명이다. 엘켐프 실리콘밸리는 롯데벤처스가 크로스보더 미디어 더밀크와 함께 국내 스타트업들의 글로벌 사업 진출을 지원하기 위해 마련한 글로벌 액셀러레이팅 프로그램이다. KDB실리콘밸리는 KDB산업은행의 벤처캐피털(VC) 자회사로 미국 실리콘밸리에서 활동한다.KDB산업은행은 펀드에 자금에 대는 LP(출자자)와 직접 스타트업에 투자하는 GP(펀드 운용) 역할을 모두 한다. 2022년, 2023년 진행한 직접 투자금액만 6600억원, 4600억원에 달한다. KDB실리콘밸리는 지난해 한인 창업가가 이끄는 실리콘밸리 유전자 치료 스타트업 ‘진에딧’, 보스턴과 뉴욕에서 활동하는 로봇 기반 농업 스타트업 ‘조르디’에 직접 투자하기도 했다. 두 회사 모두 AI 기술을 적극 활용하고 있다.
오픈AI의 라이벌로 불리는 AI 스타트업 앤트로픽이 강력한 성능의 새로운 AI 모델 ‘클로드3(Claude 3)’를 공개했다. 오픈AI의 GPT-4를 능가한다는 게 앤트로픽의 주장이다. 클로드3는 지난 2월 8일 공식 출시된 ‘구글 제미나이 울트라’에 이어 GPT-4의 성능을 뛰어넘었다고 밝힌 두 번째 AI 모델이다. GPT-4, 제미나이처럼 글(text)뿐 아니라 이미지도 인식·이해할 수 있는 앤트로픽의 첫 번째 ‘멀티모달(multimodal, 다중모드) 모델이라는 점도 주목을 끈다.