래블업

지난 20일(현지시간) 미국 조지아주 애틀랜타에서 열린 '슈퍼컴퓨팅 2024(SC24)' 현장. 올해 현장에 부스를 마련하고, 박람회에 참가한 컴퓨터 가속기를 개발하는 래블업의 신정규 대표는 기자와 만난 자리에서 달라진 엔비디아의 영향력을 이렇게 표현했다. 신 대표는 "지난해 SC23의 주요 테마는 스토리지였다"며 "GPU가 갑자기 늘어나고, 10배 이상의 속도로 정보를 보내야 하다 보니 스토리지의 중요성이 강조됐던 것"이라고 말했다. 신 대표는 이어 "올해는 스토리지보디 쿨링(Cooling)이 대세였던 것으로 보인다"며 "엔비디아의 '그레이스 블랙웰 NVL72'이라는 제품이 기존 업체들이 다루지 못했던 정도의 쿨링을 필요로 하기 때문"이라고 설명했다. SC24는 미국 컴퓨터 학회(ACM와 IEEE 컴퓨터 학회가 지난 1988년부터 매년 개최하는 최대규모의 컴퓨팅 학회다. 고성능 컴퓨팅(HPC), 스토리지, 네트워킹, 그리고 데이터 분석 등 관련 분야의 최신 기술을 공유하는 자리다. 올해 행사에는 엔비디아, AMC, 인텔은 물론, 삼성전자, SK하이닉스 등 국내 반도체 기업들도 인공지능(AI), HPC 솔루션을 대거 선보였다. 신 대표는 "사실 이 학회는 비즈니스 기회를 모색하기보다는 '우리가 이 정도로 기술이 발전했다'를 뽐내는 일종의 차력쇼와 같다"라고 설명했다. 현장에서 확인한 엔비디아의 영향력은 대단해 보였다. 박람회에 참가한 많은 기업들이 자사 제품 옆에 엔비디아의 관계사임을 표시하는 문구나 엔비디아 로고를 함께 표기하는 등 기술력을 홍보하는 모습을 어렵지 않게 확인할 수 있었다.

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. 저는 24일(현지시각) 샌프란시스코에서 열린 생성 AI 개발자 행사에 다녀왔는데요. LLM(대규모 언어 모델) 앱 개발 솔루션 업체 랭체인(LangChain)의 CEO 해리슨 체이스, 데이터스택스(DataStax) CEO 쳇 카푸어, 엔비디아 생성 AI 데이터 부문 시니어 디렉터 제인 스코크로프트 등 산업 최전선에서 활약하는 업계 전문가들이 모이는 자리였습니다.  놀라웠던 건 현장에 수백 명이 몰릴 정도로 생성 AI의 열기가 여전히 뜨거웠다는 점입니다. RAG(검색증강생성) 기술을 활용한 새로운 도구가 발표되자 청중석에서 큰 환호가 터져 나오기도 했습니다. “우리는 아직 생성 AI 혁신의 시작 단계에 있다”라는 게 이 자리에 모인 개발자, 투자자들의 공통된 인식이었습니다. 챗GPT 공개 후 1년 6개월이 흐른 지금까지 실리콘밸리에서 이런 분위기가 이어지는 이유는 무엇일까요? 오늘은 생성 AI 2막에 접어든 현재 업계 지형도가 어떻게 변하고 있는지 보여주는 소식들을 모았습니다. 매주 수요일 발행하는 ‘AI인사이트’를 통해 중요한 신호, 의미를 놓치지 말고 확인하세요!

신정규 래블업(Lablup) 대표는 19일 “2023년 이후 3만 개 이상의 새로운 파인튜닝(Fine-tuning, 미세조정) 모델이 등장했다”며 이같이 말했다. 이날 ‘더웨이브 서울 2024’ 컨퍼런스 연사로 나선 신 대표는 라마의 등장을 ‘베를린 장벽 붕괴’에 비유했다. 소련 중심의 사회주의 몰락의 시작인 베를린 장벽 붕괴가 갑작스레 시작된 것처럼 메타의 라마도 지난 2023년 3월 의도치 않은 유출로 공개되면서 AI 산업 전반에 큰 변화를 일으켰다는 것이다.실제 라마는 메타가 자체 거대언어모델(LLM)인 '라마'를 처음부터 오픈소스로 풀겠다는 의지를 갖고 있던 것은 아니었다. 하지만 구글과 오픈AI 사이에서 생존을 고민하던 메타가 연구목적의 대학과 연구소에 모델을 무료로 공개하면서 퍼지기 시작했으며 깃허브에 소스가 올라가면서 사실상 '오픈소스'가 되버린 것이다. 이후 마크 저커버그 메타 CEO가 공식적으로 라마의 오픈소스를 공식적으로 선언했다. 이후 라마를 미세조정한 모델이 우후죽순 쏟아지며 갑자기 'LLM 르네상스'를 맞이하게 됐다. 신 대표는 이처럼 생성AI 혁명의 시작은 오픈AI가 지난 2021년 11월 챗GPT를 선보이면서 이지만 실제 각 분야로 넓게 퍼지며 촉발된 것은 메타가 라마를 오픈소스로 공개하면서 부터라고 의미부여했다. 이후 라마를 미세조정해 새로운 AI 모델을 개발하는 방식이 확산하면서 AI 모델 개발 비용이 크게 감소했다. 또 개인용 장비·기기에서 AI 모델을 활용하는 ‘온디바이스AI(On-device AI)’가 동시에 부상하게 됐다.  신 대표는 “AI 모델을 기기 자체에서 실행하면 지연 시간이 짧고, 인터넷 없이 사용할 수 있다”며 “사용자 데이터가 외부로 나가지 않는다는 장점도 있다. 프라이버시 보호가 중요한 음성 비서, 헬스케어, 스마트홈 기기 등에서 많이 활용되는 추세”라고 강조했다. 

“젠슨 황 엔비디아 CEO가 부스를 방문해 고대역폭메모리(HBM)에 ‘젠슨 승인(Jensen approved)’이라고 직접 서명했습니다.”21일(현지시각) 엔비디아의 연례 기술 컨퍼런스 ‘GTC 2024’가 열리는 산호세 컨벤션 센터에서 만난 삼성전자 관계자는 “내부적으로는 긍정적인 시그널로 생각하고 있다”며 이같이 말했다. 직접적인 계약과는 관련 없는 서명이지만, 엔비디아의 CEO가 삼성전자 첨단 메모리 반도체의 기술력을 인정했다는 뜻으로 해석되기 때문이다. 엔비디아는 글로벌 첨단 AI 반도체 시장 점유율 90% 이상을 차지, 사실상 업계를 지배하고 있는 기업이다.