[현장] GTC서 AI 반도체·헬스케어·로봇의 미래를 봤다

“젠슨 황 엔비디아 CEO가 부스를 방문해 고대역폭메모리(HBM)에 ‘젠슨 승인(Jensen approved)’이라고 직접 서명했습니다.”

21일(현지시각) 엔비디아의 연례 기술 컨퍼런스 ‘GTC 2024’가 열리는 산호세 컨벤션 센터에서 만난 삼성전자 관계자는 “내부적으로는 긍정적인 시그널로 생각하고 있다”며 이같이 말했다. 

직접적인 계약과는 관련 없는 서명이지만, 엔비디아의 CEO가 삼성전자 첨단 메모리 반도체의 기술력을 인정했다는 뜻으로 해석되기 때문이다. 엔비디아는 글로벌 첨단 AI 반도체 시장 점유율 90% 이상을 차지, 사실상 업계를 지배하고 있는 기업이다.

엔비디아는 고성능 AI 반도체인 ‘H100’ GPU에 SK하이닉스의 HBM3를 사용하고 있다. 2분기에 출시할 예정인 H200에는 SK하이닉스의 5세대 HBM인 ‘HBM3E’이 탑재될 전망이다. 다만 황 CEO의 발언, 행보로 미뤄볼 때 차세대 블랙웰 아키텍처 기반 GPU인 ‘G100’, ‘G200’ 혹은 그 이후 칩에 삼성전자의 HBM이 활용될 수도 있다는 관측이 제기된다. 공급처 다변화는 엔비디아에게 유리한 협상력을 가져다줄 것이기 때문이다.

삼성전자는 이번 GTC 2024에서 D램 칩을 12단까지 쌓은 HBM3E 실물을 전시한 바 있다. 황 CEO가 서명한 바로 그 제품이다. 황 CEO는 19일 진행된 기자간담회에서 “HBM은 기술적 기적”이라며 “삼성전자 HBM을 테스트(qualifying)하고 있다”고 말하기도 했다. 실제로 이날 삼성전자 부스에는 해당 제품을 눈으로 확인하기 위해 방문한 업계 관계자들이 적지 않았다. 기술적 특성을 묻는 엔지니어들도 보였다. 

이미 엔비디아와 공고한 파트너십을 체결한 SK하이닉스 부스도 마찬가지였다. SK하이닉스 역시 12단 적층 구조의 HBM 5세대 제품 ‘HBM3E’를 부스에 전시했다. SK하이닉스 관계자는 “12단 적층 HBM3E는 SK하이닉스가 세계 최초로 개발했다”며 “엔비디아의 차세대 GPU인 G100, G200을 타깃으로 한 제품”이라고 했다.

한국 AI 반도체 기술 기업의 존재감도 돋보였다. 이번 GTC 2024에 실버 스폰서로 참여한 ‘래블업(Lablup)’이 주인공이다. 래블업은 GPU 분할 가상화 독점 기술을 확보한 딥테크 스타트업으로 이 기술을 바탕으로 AI 모델 개발부터 성능 최적화, GPU 자원 활용 최소화를 돕는다. 

래블업의 ‘백엔드닷에이아이(Backend.AI)’ 솔루션은 GPU를 효율적으로 활용해 비용을 절감하고, AI 모델 개발 및 서비스 시 성능 최적화를 달성할 수 있는 것이 특징이다.

김정묵 래블업 최고운영책임자(COO)는 “엔비디아 관계자 150여 명을 비롯해 행사 기간 동안 많은 분들이 래블업 부스를 찾았다”며 “비용 효율적으로, 지속가능한 방식으로 AI 모델을 개발·운영하는 방법에 대한 관심이 매우 크다는 것을 느꼈다”고 했다. 

국내 대표 대규모 언어 모델(LLM) 개발 기업 중 하나인 업스테이지(Upstage) 부스도 큰 관심을 모았다.

업스테이지가 2023년 12월 개발한 ‘솔라(Solar)’가 공개 직후 오픈소스 AI 모델 순위 게시판인 ‘허깅페이스 오픈 LLM 리더보드’ 1위에 오르며 실리콘밸리에서 화제가 됐기 때문이다.  

업스테이지는 AI 모델 분야 업계 선두인 오픈AI와 경쟁한다는 도전적인 목표를 내세우고 있다. GPT-4처럼 모든 산업에 사용하는 범용 모델 아니라 특정 비즈니스 영역에 집중한 도메인 특화 모델로서는 경쟁력이 있다는 설명이다. 

김성훈 업스테이지 대표는 “많은 분들이 부스를 방문해 솔라에 대한 큰 관심을 보여주셨다”며 “현장에서 만난 빅테크 관계자들과 협업 논의도 활발하게 진행되고 있다”고 했다. 

마이크로소프트 수석 과학자(Principal Scientist) 출신 전병곤 대표가 이끄는 프랜들리에이아이(FriendliAI)도 이번 GTC 2024에 참여했다. 머신러닝 기술 분야에서 오랜 경험을 쌓아온 전 대표는 서울대학교 컴퓨터공학부 교수를 겸임하고 있다. 

이번 GTC에서는 GPU 비용을 낮춰주는 프렌들리에이아이의 컨테이너 제품에 관심이 쏠렸다는 게 전 대표의 설명이다. AI 모델의 크기가 커지면서 비용 AI 모델 기반으로 애플리케이션, 웹 서비스를 하는 기업들의 비용 문제가 부상하고 있기 때문이다. 프렌들리AI 제품을 사용해 GPU 비용을 50% 낮춘 캐나다 기업도 있다. 전 대표는 “GPU를 다량 보유한 고객들의 관심이 많았다”며 “GTC는 AI 분야에서 실제 서비스를 하는 기업들이 많이 참여한 행사라 비즈니스 성과가 더 컸다”고 했다. 

AI 모델 경량화 기술업체인 노타AI도 마찬가지다. 자율주행 자동차, CCTV 등 엣지 디바이스(edge device)에서 AI 활용이 급증하면서 경량화, 최적화 솔루션에 대한 관심이 높아졌다는 게 노타AI 측 설명이다.

예년에 비해 올해 GTC의 가장 큰 차이점은 '로봇의 부상'이었다. GTC 2024 기조연설의 데미를 로봇이 장식한 것과 마찬가지로 ‘로보틱스(Robotics)’ 섹션이 전시장의 가장 큰 부분을 차지했다.  

로보틱스 섹션이 아닌 전시 영역에서도 자율주행 차량, 로봇 팔 등 AI 모델을 두뇌 삼아 작동하는 기기를 쉽게 찾을 수 있었다.

4족 보행 로봇으로 유명한 보스턴 다이내믹스, 일본의 산업용 로봇 팔 업체 야스카와 등 이미 잘 알려져 있는 업체는 물론, 휴머노이드 로봇으로 최근 급부상 중인 애질리티 로보틱스(Agility Robotics), 앱트로닉(Apptronik) 등이 총출동했다. 방문객들이 줄지어 관람할 정도로 열기가 뜨거웠다.

헬스케어·생명과학(Healthcare & Life Sciences) 섹션에는 수술 등 의료 목적으로 의료 현장에서 활용되는 의료 로봇 시연도 있었다.

생성 AI 혁명에 따른 AI 기술의 폭발적 발전이 로봇 시대가 한층 앞당기고 있다는 걸 실감할 수 있는 현장이었다.  

마이크로소프트, 구글, 아마존웹서비스(AWS) 등 클라우드 비즈니스를 하는 빅테크 업체는 물론, 오라클, IBM, 델, 딜로이트, HP엔터프라이즈 등 글로벌 기업도 일제히 참여해 AI 웨이브를 활용하기 위해 민첩하게 움직이고 있었다.

생성 AI 섹션에서 만난 세계 최대 이미지·영상 스톡(Stock, 저장) 업체인 게티이미지(Getty Images) 관계자는 “게티이미지는 지난해 AI 이미지 생성 서비스를 출시했다”며 “저작권 침해 문제없이 사용할 수 있다는 점이 게티이미지의 가장 큰 장점”이라고 했다.