뷰스레터 구독자 여러분 안녕하세요, 박원익입니다. 오늘은 미국 캘리포니아주 산호세에서 열린 엔비디아의 연례 기술 콘퍼런스 ‘GTC 2024’ 소식 2탄으로 전해드립니다. 3월 18일부터 나흘간 열린 GTC 2024는 온오프라인으로 약 30만 명이 등록, 역대 최대 규모로 진행됐습니다. 900개 세션, 300여 개 기업이 참여한 전시, 20개 넘는 기술 워크숍과 다양한 네트워킹 이벤트로 현장 열기가 뜨거웠습니다. 개인적으로도 매우 보람 있고 뜻깊었던 일정이었습니다. GTC 2024에 참석한 분들의 생각과 경험을 공유한 ‘K-나이트’ 행사를 개최했고, 젠슨 황 CEO 기자간담회 현장에 참여, 엔비디아의 방향성도 확인할 수 있었습니다. 이번 GTC 2024를 관통한 핵심 화두는 ‘챗GPT 이후 무엇이 등장할까(what’s next)’였습니다. 앞으로 떠오를 생성 AI 기술·산업 트렌드에 따라 삶의 풍경이 빠르게 바뀔 것이기 때문입니다. AI 반도체 등 핵심 산업도 크게 요동칠 수 있습니다.AI 최전선에 있는 과학자, 전문가들의 머릿속엔 무엇이 있을까요?
오픈AI의 챗GPT가 발표된 이후 대다수 비즈니스가 일제히 생성AI를 자사의 제품과 서비스에 접목하면서 인공지능(AI) 모델 훈련의 핵심 재료인 엔비디아(NVIDIA)의 그래픽처리장치(GPU) 등 AI 반도체칩 수요가 급증하고 있다. 이에 엔비디아는 반도체 기업 사상 처음으로 시가총액 2조달러를 넘어섰다. 아마존과 구글 모회사 알파벳을 제치고 애플과 마이크로소프트에 이어 세 번째로 큰 회사다. 업계 전문가들은 엔비디아가 AI 기술, 산업 분야에서 독보적인 지위를 갖고 있다고 입을 모은다. 게임용 그래픽칩 제조 업체였던 엔비디아는 어떻게 AI 산업에 없어선 안될 기업이 됐을까? 엔비디아의 시작은 약 14년전 게이머를 위한 그래픽카드였다. 당시 프로세서는 일종의 부업이었다. 이제 이들의 AI 프로세서는 산업 자체를 움직인다.그 비결은 쿠다(CUDA)라는 인프라를 제공한 대신 신기술 흐름이라는 정보를 얻은 데 있다. 엔비디아는 당초 과학자들이 천문학적인 숫자의 과학 연산을 할 수 있도록 자사 병렬프로그래밍 모델 쿠다를 제공했는데, 이때 대부분 과학자들이 엔비디아 GPU를 사용해 연구한 덕분에 엔비디아는 AI 기술의 변화를 가장 빠르게 알 수 있었다.엔비디아는 당초 게이머를 위해 GPU를 설계했으나 매우 많은 픽셀에 단순한 연산을 동시에 대량으로 하는 연산 구조가 인공지능의 대량 정보 학습에 좋은 구조를 가지고 있다는 것을 깨달았다. 당시 주류던 중앙처리장치(CPU)는 메모리로부터 전송받은 데이터를 한 번에 하나씩 처리할 수 있는 구조다. AI와 딥러닝으로 처리해야 할 데이터의 양이 기하급수적으로 늘어나자 CPU 병목현상이 생겼다. 이에 엔비디아가 AI가속기, 즉 AI반도체 수요가 생기자 엔비디아가 그래픽처리장치(GPU)로 파고든 것. 회사는 2016년경부터 게임 그래픽카드 사업에서 인공지능 GPU로 전환했다. 이후 주요 사업을 게임용콘솔, PC, 노트북용 GPU 디자인에서 인공지능 컴퓨팅을 위한 디자인으로 바꿨다. GPU는 한 번에 다량의 데이터를 처리하는 병렬 처리 구조다. 한 번에 많은 양의 데이터를 학습하고 처리해야 하는 AI를 구현하기에 적합하다. 과거에는 그저 단순히 실감나는 게임에 대용량의 그래픽 처리를 수월하게 하기 위한 목적으로 GPU가 사용됐지만 AI가 발전하면서 새로운 사용처를 찾게 된 것이다. GPU는 트랜스포머에 좀 더 최적화되기도 했다. 트랜스포머는 문장 속 단어와 어순 간 관계를 추적해 맥락과 의미를 학습하는 신경 모델로, 오픈AI의 챗GPT의 근간이 된 모델이다. 이 트랜스포머 알고리듬은 대부분 대용량 메모리 및 GPU가 한 패키지(단위)에 들어가는 AI 반도체를 사용한다. 엔비디아의 GPU H100을 8개 붙인 엔터프라이즈용 가속기 DGX H100은 초거대 AI를 뒷받침하는 서버, 데이터센터에 잘 맞는다. 이미 유연성이 있는 GPU에 새로운 알고리듬을 누구보다 먼저 적용, 이를 지원하는 AI 반도체 설계 역시 경쟁사보다 수년 이상 먼저 시작할 수 있었던 셈이다. 회사 초창기였던 2016년 젠슨 황 엔비디아 CEO는 AI 전용 슈퍼컴퓨터 ‘DGX-1’을 오픈AI에 기증, 손수 전달하기도 했다. 당시 오픈AI는 ‘일반인공지능(AGI)’라는 업계에서 인정받지 못하던 목표를 추구하는 회사였다. 챗GPT가 나오기 몇 달 전인 2년 전부터는 벤처투자조직을 만들어 유망한 AI 스타트업들에 본격적으로 투자해 왔다. 그때 투자한 기업들이 유니콘 스타트업인 코히어(Cohere), 허깅페이스(Huging Face), 인플렉션(Inflection) 등이다.인공지능 산업이 획기적인 도약을 보인 시기는 2012년이 꼽힌다. 당시 이미지넷(ImageNet)이 주최한 인공지능 대회에서 알렉스넷(AlexNet)은 사진 인식 성능으로 시장을 놀라게 했고, AI 연구에 불을 붙였다. 알렉스넷은 엔비디아의 그래픽처리장치(GPU) 칩을 이용해 합성곱신경망(Convolutional Neural Network, CNN) 아키텍처로 개발됐다.반면 알렉스넷이 나왔을 당시 새 알고리듬인 CNN이 제공하는 화상 인식 기술에 매료된 다른 기업들은 당시 GPU 같은 범용 AI 반도체보다 전력효율이 뛰어나고, 성능도 뛰어난 CNN 전용 AI 반도체에 뛰어들었다. 대형 클라우드 기업을 비롯해 영국의 그래프코어, 미국 실리콘밸리의 삼바노바 시스템, 세레브라스 등 스타트업들이 수천억원이 넘는 투자를 받고 자체 개발에 나섰다. 그러나 기존 엔비디아를 제외한 AI 반도체들은 전력효율, 가격에 큰 장점이 있는 반면 이런 거대한 알고리듬의 변화에 대응하기에는 유연성이 떨어진 것으로 보인다.
젠슨 황 엔비디아 CEO는 19일(현지시각) 미국 캘리포니아주 산호세 시그니아 호텔에서 열린 엔비디아 연례 컨퍼런스 ‘GTC 2024’ 기자간담회에서 “GPU는 생성 컴퓨터(generative computer)”라며 이같이 말했다. 고성능 AI 칩 ‘H100’, ‘H200’, 이번에 새롭게 발표한 차세대 칩 ‘B100’, ‘B200’ 같은 GPU가 생성 AI 시대를 가능케 하는 핵심 프로세서라는 주장이다. 디지털 정보를 영상 등 시각적 데이터로 처리(픽셀 정보 계산), 게임용으로만 사용됐던 GPU의 의미와 개념을 완전히 새롭게 정의했다.
젠슨 황 엔비디아 최고경영자(CEO)는 19일(현지 시간) 미국 캘리포니아주 산호세 시그니아 호텔에서 열린 엔비디아 연례 컨퍼런스 ‘GTC 2024’ 기자간담회에서 “한국 반도체 기업들의 기술력은 매우 뛰어나다. 엔비디아는 HBM에 엄청나게 많은 돈을 쓰고 있다”며 이같이 말했다. SK하이닉스, 삼성전자가 생산하는 HBM 제품을 높이 치켜세운 것이다. 시장조사업체 트렌드포스에 따르면 SK하이닉스와 삼성전자는 2023년 기준 HBM 시장 점유율 53%, 38%를 차지하며 시장을 주도하고 있다. SK하이닉스는 엔비디아의 고성능 AI 반도체인 ‘H100’에 HBM을 공급, 주목을 받았다.젠슨 황 CEO는 이날 삼성전자의 HBM을 사용하고 있느냐는 질문에 “아직 사용하고 있지 않다”고 답하면서 “현재 테스트(qualifying)하고 있다. 기대가 크다”고 언급했다.그는 이어 “생성 AI 때문에 데이터센터에 더 많은 고성능 메모리가 필요해지고 있다. HBM은 메모리 반도체의 미래”라며 “SK하이닉스와 삼성전자의 제품 업그레이드 주기는 믿을 수 없을 만큼(incredible) 빠르다”고 했다.
엔비디아(Nvidia)가 인공지능(AI) 반도체 플랫폼 분야에서 후발 사업자들의 추격이 '불가능'할 정도의 천상계로 갔다. 압도적 기술력으로 AI 기초모델을 구동하는 데 필수재인 AI 반도체칩(AI 하드웨어 가속기) 시장을 80%가량 점유한데 그치지 않고 GPU 플랫폼 ‘블랙웰(Blackwell)’을 제시한 것. 젠슨 황 엔비디아 최고경영자(CEO)는 18일(현지시각) 미국 산호세에서 열린 엔비디아의 AI 개발자 컨퍼런스 GPU테크놀로지컨퍼런스(GTC)2024기조연설에서 새로운 GPU 플랫폼인 '블랙웰'을 공개했다. 단순 개별 GPU 판매를 넘어서 이 GPU를 조합한 슈퍼칩으로 성능을 극대화, 다른 기업이 참여할 수 있는 플랫폼 기업으로 거듭나겠다는 포부다. 젠슨 황 CEO는 기조연설에서 "엔비디아는 지난 30년 동안 딥 러닝, AI와 같은 혁신을 실현하기 위해 가속 컴퓨팅을 추구해 왔다"고 역사를 언급하며 "생성AI는 우리 시대를 정의하는 기술이다. 블랙웰 GPU는 이 새로운 산업 혁명을 구동하는 엔진이다. 세계에서 가장 역동적인 기업들과 협력해 모든 산업에서 AI의 가능성을 실현할 것이다"고 말했다.엔비디아는 첫번째 블랙웰 칩으로 새로운 그래픽처리장치(GPU) B200과 GPU를 하나로 모은 슈퍼칩 컨셉의 GB200, 이 슈퍼칩을 다시 조합한 엔비링크(NVLink) 72’ 등을 공개하며 'GPU' 중심의 게임을 또 한번 바꿨다. 엔비디아는 게임 이론과 통계학을 전공한 수학자이자 흑인으로는 최초로 미국국립과학원에 입회한 데이비드 헤롤드 블랙웰(David Harold Blackwell)을 기리기 위해 '블랙웰'을 붙여 이 산업에 대한 진정성을 보여줬다.
"지금 버블 아닌가요? 너무 가파르게 올랐어요. 특히 엔비디아 사야 하나요?"요새 주식 한다는 분들이 공통적으로 하는 말입니다. "엔비디아 사야 하나? 엔비디아처럼 상승할만한 제 2의 엔비디아는 어디인가?" 란 물음이죠. 미국 시티그룹이 이에 대해 답을 내놨습니다. "밸류에이션은 2000년 당시를 훨씬 밑돌고 있다"며 1999년 닷컴버블과 비교가 안된다는 것이죠. 오히려 "랠리가 다른 섹터로 확산될 수 있다"고 전망하며 광범위한 주식시장의 상승세를 예고했습니다. 엔비디아가 더 상승 여력이 있다구요? 아무도 장담할 수 없을 것입니다. 이 회사는 올해에만 63.63% 더 상승, 기업가치는 2조 달러를 달성, 시가총액 3위 기업에 이름을 올렸습니다. 엔비디아, 그리고 "AI 붐의 시대"...연이은 사상최고가 그 다음은?회사의 주가만 보고 있으면 안됩니다. 그 회사의 문화, 그리고 리더십을 파악해야 미래를 내다볼 수 있을 것입니다. 그런 의미에서 젠슨 황 엔비디아 CEO의 리더십이 빛납니다.젠슨 황 CEO의 리더십으로 엔비디아는 누구보다 빠르게 새로운 AI 기술 흐름을 포착해 그에 맞는 반도체를 먼저 개발했고, 결과적으로 과학자들이 엔비디아에 더 의존하게 만드는 선순환 구조를 완성했습니다.젠슨 황 CEO는 "회사의 '장기적인 계획'은 없다"고 말합니다. 대신 3만 명의 직원들에게 폐업이 눈 앞에 있는 것처럼 행동하는 '스타트업 문화'를 장려합니다. 여기서 질문. AI 시대의 '야후'나 '구글'은 과연 '엔비디아' 일까요? 아니면 지금 실리콘밸리 어딘가에서 탄생하고 있는 것일까요? 아니면 한국에서 "AI 시대의 야후, 구글은 나다"며 서비스를 개발 중일까요? <CEO 포커스> 16호에서는 대규모 언어 모델, 진정한 빅 비즈니스 되려면?, 엔비디아 젠슨 황을 키운 팔할은 '진정성'과 '정직함', 테일러 스위프트를 엔터테이너 넘어 '뮤즈'로 만든 책 5권을 소개합니다.
2022년 11월 30일 챗GPT 출시 후 AI 반도체 분야 선두 주자인 엔비디아가 무서운 속도로 성장하고 있다. 챗GPT 출시 하루 전 515조원이었던 시가총액이 13개월이 흐른 2023년 말 3배가 넘는 1616조원으로 뛰었다. 여기에서 그치지 않고 올해에만 추가로 63.63% 더 상승, 2월 23일(현지시각) 종가 기준 1조9700억달러(약 2625조원) 가치를 지닌 회사가 됐다. 엔비디아의 시가총액은 마이크로소프트, 애플에 이은 미국 3위에 해당한다. 2만6000명의 직원으로 직원 수 7배의 구글(18만 명)을 당당히 뛰어넘었다. 정말 미친 것 같은 속도로 수직 상승했다. 상승 배경은 AI에 있다. 엔비디아의 AI 반도체 점유율은 80~90%로서 사실상 AI 반도체 시장에서는 독점 업체에 가깝기 때문이다. 4년 전 엔비디아는 스마트폰용 저전력 칩에 강점을 지닌 IP(설계자산) 회사 Arm을 53조원에 인수(M&A)한다는 계획을 발표하고, 1년 반 동안 추진하기도 했었다. 당시 중국의 반대로 인수가 좌절됐는데, 큰 기회인 Arm 인수에 실패하면 어려움이 있을 것이라는 여론이 지배적이었다. 하지만 그로부터 2년이 지난 지금, 누구도 이 사건을 실패로 기억하지 않는다. 오히려 ARM을 인수하지 않음으로써 핵심 사업에 더 집중, 지금과 같은 거대한 성과를 만들 수 있지 않았을까 하는 생각이 들 정도다. 현재 전 세계 AI의 엔진은 엔비디아라고 말해도 무리는 아닐 것이다. 어떤 이는 이런 성과가 게임용 GPU(그래픽처리장치)를 개발하던 회사에 우연히 찾아온 행운이라고 생각할 수도 있다. 그러나 이는 절반의 진실만 담은 시각이다. 실제로 2012년 침체기를 끝내고, AI 전성기를 시작한 알고리듬 ‘알렉스넷(AlexNet)’은 엔비디아가 자사의 게임용 GPU를 과학기술 연산에 사용할 수 있게 소프트웨어를 제공했기에 가능했다. AI의 새 전성기를 이끄는 오픈AI도 마찬가지다. 회사 초창기였던 2016년 젠슨 황 엔비디아 CEO는 AI 전용 슈퍼컴퓨터 ‘DGX-1’을 오픈AI에 기증, 손수 전달했다. 당시 오픈AI은 ‘AGI(범용인공지능)’라는 업계에서 인정받지 못하던 목표를 추구하는 회사였다. 오래전 작은 신생 스타트업의 가능성을 알아보고, 지속해서 지원한 것이 결실을 맺은 것이다. 대부분의 AI 연구자들은 이런 지원에 힘입어 엔비디아 플랫폼(GPU, CUDA·병렬 프로그래밍 모델)에서 첨단 연구를 수행한다. 엔비디아는 어느 누구보다 빠르게 새로운 AI 기술 흐름을 포착하고, 그에 맞는 반도체를 먼저 개발하고, 결과적으로 과학자들이 엔비디아에 더 의존하게 만드는 선순환 구조를 완성한 셈이다.
"컴퓨터 공학은 배울 필요가 없다. 다시 태어나면 생명학을 공부할 것이다." 샘 알트만 오픈AI 최고경영자(CEO)와 함께 전세계 AI 혁명을 선도하고 있는 젠슨 황 엔비디아 CEO의 말입니다. 엔비디아는 13일(현지시간) 미 증시에서 AI 붐을 타고 아마존을 제치고 시가총액 4위로 올라섰습니다. 애플, 마이크로소프트(MS), 알파벳(구글)에 이어 4대 빅테크 회사가 된 것입니다. 장중에는 알파벳을 넘어서기도 했습니다. 올해에만 주가가 45% 이상 올랐고, 1년간 주가 상승률은 무려 220%나 됩니다. 대나무를 단 한번에 두동강 낸다는 뜻의 '파죽지세' 는 엔비디아를 보고 하는 말일 것입니다. AI 때문에 크게 뛴 주가를 보고 기뻐해야할 젠슨 황 CEO가 이제 AI 공부가 필요없다니요. 그는 지난 12일 UAE 두바이에서 열린 세계정부정상회의((World Governments Summit)에서 "지난 10~15년 동안 많은 전문가들은 컴퓨터 공학을 배우는 것이 중요하다고 말했지만, 나는 그 반대다. 그 누구도 컴퓨터 프로그래밍을 배울 필요가 없도록 하는 것이 목표다"라고 말했습니다.그러면서 '생명학'을 공부할 것을 추천했습니다. 아래 기사에서 젠슨 황 CEO 발언의 본 뜻을 살펴보세요. 👉 젠슨 황 CEO "나는 다시 태어나면 생명학을 공부할 것"AI의 황금기는 아직 오지 않았습니다. 전문가들은 현재의 기술 상태를 유용하지만 초기 단계인 '1990년대의 휴대폰'에 비유합니다. 그럼에도 AI는 이미 사람들의 삶에 다양한 영향을 미치고 있습니다.특히, 팬데믹을 거치면서 사람들은 이전보다 더 개인적이고 사적인 시간과 공간을 선호하는 경향을 보이며, 이는 Z세대를 중심으로 더욱 두드러지고 있습니다.이번 호에서는 변화하는 트렌드와 AI의 발전이 개인과 사회에 미치는 영향, 앞으로 우리가 어떤 방향으로 나아가야 할지에 대한 통찰을 제공하고자 합니다.<CEO 포커스> 15호에서는 콰이어트 파워: 내향적 성격이 경제 판도 바꾼다, 스케일AI CEO 알렉산드르 왕의 특별한 창업 아이템, AI시대 필독서 5권을 소개합니다.
지난 1월 30일(화)와 1일(목, 현지시간) 열렸던 아시안컵 16강전(대 사우디아라비아)과 8강전(대 호주)을 보셨나요? 저는 두 경기 모두 라이브로 끝까지 지켜봤습니다. 좌절의 순간이 될 수도 있었는데 포기하지 않고 끝까지 투혼을 펼쳐 값진 결과를 만들어낸 주장 손흥민 선수를 비롯한 대한민국 대표팀 선수들이 자랑스러웠습니다. 다시한번 큰 박수를 보냅니다(남은 두 경기도 화이팅!) 이번 아시안컵 축구를 시청하면서 느낀건 아시아 각 국가들의 전력이 '상향 평준화' 됐다는 점이었습니다. 하지만 '결과'를 좌우한 것은 자국 리그의 경쟁력과 선수(인재)의 수준, 그리고 승리에 대한 깊은 갈망(투혼)이었습니다.
생성형 AI 산업 헤게모니 확보를 위한 세계 각국의 경쟁이 가열되고 있다. 특히 생성 AI 개발·운영을 위한 핵심 인프라로 여겨지는 ‘AI 반도체’ 분야에서 이런 움직임이 두드러지는 분위기다. 챗GPT 개발사인 오픈AI는 최근 중동, 일본 투자사와 AI 반도체 생산, 조달을 위한 네트워크 구축에 나섰으며 세계 최대 AI 반도체 업체 엔비디아를 이끄는 젠슨 황 CEO는 미국 정부의 반도체 규제가 시작된 지 4년 만에 중국을 방문해 화제에 오르기도 했다. 샘 알트만 오픈AI CEO의 방한에도 이목이 집중된다. 샘 알트만 CEO는 이번 주 한국을 방문해 삼성전자, SK하이닉스 등과 AI 반도체 개발 및 공급 대책을 논의할 것으로 알려졌다.