“AI가 로봇 산업의 거대한 확장 가능성을 보여 줬습니다.” 제임스 데이비슨(James Davidson) 테라다인 로보틱스 최고 AI 책임자(Chief AI Officer, CAIO)는 21일(현지시각) 산호세 GTC 2025 현장에서 진행한 더밀크와의 단독 인터뷰에서 “제조업에서 자동화된 작업이나 업무는 10%도 되지 않는다”며 이같이 말했다. AI 기술이 적용된 로봇을 활용하면 공장, 창고, 물류 센터 등 산업 현장에서의 자동화 수준을 크게 높일 수 있다는 주장이다.
젠슨 황 엔비디아 CEO는 18일(현지시각) 엔비디아 연례 컨퍼런스 GTC 2025 기조연설에서 “훨씬 빠른, 강력한 계산 능력이 필요해지고 있다”며 이같이 말했다. AI 모델을 개발에 필요한 훈련(Training)에서 AI 모델 활용 영역인 추론으로 산업의 무게 중심이 이동함에 따라 더 강력한 AI 반도체가 필요하다는 점을 강조한 것이다. 이는 오픈AI가 o1 모델 출시 이후 부상한 ‘추론 시간 계산(Inference-time compute or test-time compute)’ 확장 흐름과 궤를 같이한다. 더 많은 추론 시간, 즉 컴퓨팅 파워를 사용해 AI 성능을 개선하는 방식이 새로운 ‘확장 법칙(scaling law)’으로 자리잡고 있는 것이다. AI 컴퓨팅 수요 급증은 엔비디아의 고성능 칩 성장세를 유지하는 배경 중 하나다. 엔비디아에 따르면 AWS, 마이크로소프트, 구글 등 상위 네 개 클라우드 서비스 업체가 구매한 엔비디아 GPU(호퍼 아키텍처, H100 등)가 2024년 130만 개에서 2025년 현재 360만 개(블랙웰 아키텍처, 칩당 2개 GPU로 계산)로 3배가량 늘었다. 황 CEO는 이를 “1조 달러 규모의 컴퓨팅 변곡점”이라고 표현했다.
“AI 다음 단계는 여기에서 시작한다.(What’s Next in AI Starts Here)”엔비디아의 연중 최대 컨퍼런스인 GTC(GPU 테크놀로지 컨퍼런스) 2025가 17일(현지시각) 개막했다. AI 이후의 미래를 GTC에서 확인할 수 있다는 메시지를 주제로 던지며 AI 플랫폼, 데이터센터, 생성형 AI, 로보틱스, 시뮬레이션 등 16개의 산업 분야를 주요 토픽으로 제시했다. GTC 2025는 오는 21일까지 산호세에서 진행된다. 이번 행사에서는 젠슨 황 엔비디아 CEO의 기조연설을 포함, 약 1000개의 세션이 진행되며 2000여 명의 연사가 참여한다. SK하이닉스, 삼성전자 DS(반도체) 부문, LG AI 연구원 등 한국 대기업을 비롯해 래블업, 뉴빌리티 등 K-스타트업까지 400여 개 기업이 부스를 마련, 전시에 나선다.
안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. “메타가 자체 개발한 AI 훈련용 칩을 테스트하고 있다.”로이터는 11일(현지시각) 내부 소식통을 인용해 이같이 보도했습니다. 대만 파운드리(Foundry, 반도체 위탁 생산) 업체 TSMC와 손잡고 칩을 생산, 내부 테스트를 진행 중이라는 소식입니다. 메타는 2023년부터 고성능 AI 칩 ‘MTIA’를 개발하고 있다는 사실을 밝힌 바 있는데, 이 MTIA의 최신 버전을 테스트하고 있는 것으로 보입니다. 메타 뿐 아닙니다. 아마존, 마이크로소프트(이하 MS), 구글, 애플 등 빅테크가 일제히 자체 AI 칩을 개발 중입니다. 엔비디아 칩에 대한 의존도를 줄이려는 의도입니다. 메타는 지난해 엔비디아의 고성능 GPU H100을 가장 많이 구매한 기업 중 하나였습니다. 눈에 띄는 성과도 있습니다. 애플이 지난 5일 발표한 ‘M3 울트라’ 칩 탑재 맥 스튜디오를 활용하면 엔비디아 칩을 쓰지 않고도 딥시크 R1 같은 고사양 LLM(대규모 언어 모델)을 효율적으로 실행할 수 있습니다. MS는 가공할 잠재력을 가진 양자 칩을 공개했습니다. 엔비디아의 독주를 무너뜨리려는 견제가 동시다발적으로 전개되는 양상입니다.
“그록3(Grok 3 Beta Think)는 SOTA(State Of The Art, 최첨단) 모델의 영역에 있는 것 같습니다. 오픈AI의 가장 강력한 모델(o1-pro)과 비슷하고 딥시크(DeepSeek) R1 및 구글 제미나이 2.0 플래시 씽킹(Gemini 2.0 Flash Thinking)보다 약간 나은 느낌입니다.” 오픈AI 창업 멤버 출신인 AI 전문가 안드레 카파시는 “엑스AI(xAI) 팀이 최첨단 영역에 도달하는 데 걸린 시간은 전례가 없을 정도로 놀랍다”며 이같이 평가했다. xAI가 19일(현지시각) 공개한 AI 모델 그록3의 우수한 성능, 특히 짧은 기간에 성과를 냈다는 점이 놀랍다는 반응이었다. AI 모델 평가 업체 아티피셜 애널리시스가 21일 발표한 분석 결과도 비슷하다. 2024년 GPT-3.5 터보와 비슷한 성능의 ‘그록1’을 처음 선보였던 xAI는 단 1년 만에 최첨단 성능의 그록3를 출시, 오픈AI와 대등한 수준에 올라섰다. 일론 머스크 테슬라 CEO가 이끄는 AI 스타트업 xAI는 어떻게 이런 성과를 낼 수 있었을까. 그록3 출시에서 배울 수 있는 세 가지 교훈을 정리했다.
안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. “오늘부터 ‘제미나이 코드 어시스트(Gemini Code Assist)’를 무료로 사용할 수 있습니다.”순다 피차이 구글 CEO는 25일(현지시각) X(옛 트위터)에 “코딩(coding, 프로그래밍 코드 작성)을 위해 미세 조정된(fine-tuned) 제미나이 2.0은 월 18만 건의 자동 ‘코드 완성(code completions)’을 지원한다”며 이같이 밝혔습니다. 개인 개발자를 위해 AI 기반 코딩 도구를 무료로 제공한다고 밝힌 것입니다. 18만 건은 한 달에 2000건의 무료 코드 완성을 제공하는 마이크로소프트 ‘깃허브 코파일럿(GitHub Copilot)’의 90배에 달하는 놀라운 숫자입니다. 전문 개발자뿐 아니라 누구나 AI를 활용해 코딩할 수 있는 시대가 열리고 있습니다.
중국의 인공지능(AI) 스타트업 딥시크(DeepSeek)가 글로벌 기술 씬을 강타한 가운데AI 데이터센터 전문 기업 래블업의 신정규 대표는 한국의 AI 미래에 대해 이렇게 전망했다. 지난 5일 더밀크가 주최한 '딥시크 쇼크 & CES2025 산업별 전망' 웨비나에서 엔비디아를 주제로 발표한 신 대표는 딥시크 등장으로 촉발된 AI 개발 민주화 흐름 속에서, 한국은 독특한 경쟁력을 보유한 것으로 평가했다. 신 대표는 "우리가 간과하는 것은 우리가 AI를 너무 잘하는 나라다. 한국은 AI 분야에서 세계 상위권에 속하는 국가"라며 "특히 국민의 AI 리터러시(이해도)가 세계 최고 수준"이라고 평가했다. 2016년 알파고 쇼크를 경험한 한국은 전 국민이 AI의 파급력을 체감했고, 이는 AI 기술 수용성 측면에서 큰 강점으로 작용하고 있다는 것. 최근 한국이 AI 분야에서 주목받지 못하고, 위기론이 나오는 이유에 대해선 "너무 앞서나갔기 때문"이라고 지적했다. 알파고 쇼크 이후 한국은 AI 분야에 선투자가 이뤄졌고, 상업화 과정에서 극적인 성과를 내지 못했기 때문에 추가 투자를 망설이고 있다는 것이 그의 주장이다. 신 대표는 "티어로 따지자면 1티어에 속한다. AI 리터러시도 상당히 높다"고 강조했다.'실질적'으로 AI 인프라를 개발하고 사업을 하고 있는 손꼽히는 AI 전문가인 신 대표가 주목할 만한 것은 한국의 제조업 기반 기술력이다. TV, 스마트폰 등 가전제품과 사물인터넷(IoT) 기기 개발에 필요한 저수준(Low-level) 최적화 기술을 보유한 엔지니어들이 다수 포진해 있는 상황. 이들은 AI 인프라스트럭처 개발에 핵심적인 역량을 보유하고 있어, 향후 AI 하드웨어 최적화 분야에서 중요한 역할을 할 것으로 기대할 수 있다. 그는 "한국의 강점인 제조업 기반을 활용해 고품질의 산업용 AI 데이터를 축적하고, 이를 기반으로 특화된 AI 솔루션을 개발할 수 있다"고 강조했다. 이어 "기존 제조업 기반의 엔지니어링 역량을 AI 인프라스트럭처 개발로 전환해야 한다"며 "특히 저수준 최적화 기술을 보유한 엔지니어들의 AI 분야 진출을 적극 지원할 필요가 있다"고 강조했다.한국의 지정학적 위치도 강점이다. 미국과 중국 사이에서 균형을 잡을 수 있는 위치에 있으며, 가장 서구화된 동양 국가라는 특성은 글로벌 AI 생태계에서 독특한 가치를 창출할 수 있는 기반이 되는 것이 사실. 신 대표는 “한국은 중국도, 미국도 아닌, 서구화된 동양 국가로서 양국의 기술적 장점을 모두 반영할 수 있는 독특한 강점을 갖고 있다”고 말했다. 한국은 AI 인프라 측면에서도 준수한 수준을 갖추고 있다. AI 컴퓨팅 센터(AICC)를 비롯한 대규모 컴퓨팅 인프라를 보유하고 있으며 주요 클라우드 업체들도 수천 대 규모의 GPU를 운영하고 있다.그러나 향후 발전을 위해서 '국제 협력'을 강화해야 한다고 조언했다. 현재 오픈AI, 엔트로픽, 구글 등 글로벌 기업에서 활약하고 있는 한국 개발자들의 네트워크를 적극 활용할 필요가 있다는 것. "한국은 AI 도입과 개발에 필요한 모든 재료를 갖추고 있다"는 신 대표의 말처럼, 이제는 이러한 잠재력을 현실화하는 것이 과제다. 특히 최근 딥시크의 성공이 보여준 것처럼, 기존 AI 개발의 패러다임이 변화하고 있는 시점에서 한국의 기술력과 산업 기반은 새로운 기회가 될 수 있다. 신 대표는 "한국의 AI 산업은 단순히 AI 응용 프로그램 개발을 넘어, 인프라스트럭처 개발과 산업별 특화 솔루션 개발 등 더 넓은 영역에서 경쟁력을 가질 수 있다"며 "이제 정부, 기업, 연구기관이 협력하여 이러한 잠재력을 현실화하는 노력이 필요한 시점이다"고 말했다.
딥시크(DeepSeek)의 등장으로 AI 투자 지형도가 크게 변화하고 있다. 저비용 고효율 AI 모델의 출현으로 AI 기업들의 경쟁 구도가 재편되고 있는 것이다. 기존에는 빅테크를 비롯해 오픈AI와 구글 딥마인드, 그리고 앤트로픽 등 대형 AI 기업들이 GPT-4와 같은 대형언어모델(LLM)의 개발을 주도하며 높은 연산 비용과 독점적 데이터 접근성으로 시장을 지배했다. 이는 결과적으로 AI 학습에 최적화된 엔비디아(NVDA)의 H100과 같은 고성능 GPU에 대한 의존도를 높였고 엔비디아가 AI 인프라 시장을 독점할 수 있도록 했다. 엔비디아는 AI 산업이 폭발적으로 성장하는 과정에서 GPU 하드웨어부터 소프트웨어 생태계까지 수직적으로 장악했다. AI 모델 훈련과 추론에는 대량의 행렬 연산이 필요하며 이는 병렬 연산에 특화된 GPU가 필요했기 때문이다. 엔비디아의 A100과 H100과 같은 GPU는 초거대 AI 모델 훈련에 필수적인 칩으로 AI 인프라 시장의 폭발적인 성장과 함께 시장을 빠르게 지배하기 시작했다. 엔비디아는 AI 소프트웨어 플랫폼도 빠르게 선점했다. 쿠다(CUDA)라는 독점 소프트웨어 프레임워크를 통해 AI 기업들이 엔비디아 GPU를 사용할 수 밖에 없는 대체불가의 강력한 진입장벽을 만든 것이다. 쿠다는 독점적 소프트웨어 환경이기 때문에 다른 GPU는 AI 모델 학습에서 엔비디아를 따라가기 힘들었다. 또한 NV링크, NV스위치, 인피니밴드(InfiniBand) 네트워크 기술을 활용해 GPU 간 초고속 데이터 전송을 지원, AI 훈련 성능을 극대화했다. 이는 결과적으로 엔디아가 AI 인프라 시장에 필수적인 하드웨어와 소프트웨어, 그리고 네트워크까지 모두 수직적으로 장악하는 결과를 낳게했다. 딥시크는 이런 AI 산업의 패러다임을 송두리째 흔들어놓고 있다. 저비용 고효율 AI 모델이 등장하면서 AI 시장의 경쟁구도가 수직적 독점 체제에서 다변화된 경쟁체제로 전환되고 있는 것이다.
“딥시크(DeepSeek)의 추론 특화 모델 ‘R1’은 이미 같은 비용으로 오픈AI의 o3보다 나은 성능을 냅니다.”실리콘밸리 유명 벤처캐피털 멘로벤처스의 AI 분야 투자자 디디 다스(Deedy Das)는 27일(현지시각) “o1 모델 대비 25배 저렴하기만 게 아니다”라며 이같이 밝혔다. 자신의 X(옛 트위터) 계정에 오픈AI의 o3 성능 그래프 사진을 올리며 R1과 직접 비교한 것이다. 그가 공개한 그래프는 AI 모델의 코딩 실력을 평가하는 ‘코드포스(Codeforces)’ Elo 점수 차트. 저비용 환경에서 o3-미니(low) 대비 높은 성능을 발휘할 수 있다는 게 디디 다스의 설명이다. 1월 20일 R1 발표 직후 AI 업계는 R1이 저렴한 비용으로 오픈AI의 첫 번째 추론 특화 모델 ‘o1’과 대등한 성능을 기록했다는 점에 주목했다. 한데 그로부터 단 일주일 만에 R1이 o1의 후속 모델 o3를 능가한다는 분석이 나왔다. 오픈AI의 추론 특화 모델 o3는 지난 12월 20일에 공개된 것으로 아직 정식 출시도 되지 않은 모델이다.2023년 중국 항저우에 설립된 신생 스타트업이 실리콘밸리 프론티어(frontier, 최첨단) 기업 오픈AI를 능가했다는 소식은 업계를 깜짝 놀라게 하기 충분했다. 오픈AI 출신의 AI 전문가 아라빈드 스리니바스 퍼플렉시티 CEO가 “정말이냐?”는 댓글을 달며 놀라움을 표시했을 정도다. R1의 성능이 o3를 능가한다는 구체적 근거는 무엇일까. R1 벤치마크 점수의 의미, R1의 핵심 기술과 쟁점을 살펴봤다.
“코스모스(Cosmos)는 미래에 다가올 거대한 로봇 산업의 출발점입니다.”젠슨 황 엔비디아 CEO는 7일(현지시각) 라스베이거스 퐁텐블로 호텔에서 진행한 미디어 대상 질의응답 세션에서 “코스모스를 통해 로봇공학이 실현될 것”이라며 이같이 말했다. 코스모스는 황 CEO가 전날 CES2025 기조연설에서 발표한 ‘물리(physical) AI’ 개발 플랫폼이다. 물리 AI 개발에 활용하는 기초 모델(foundation model)인 ‘코스모스 WFM(월드 파운데이션 모델)’, 비디오 처리 파이프라인 등으로 구성됐다. 물리 AI란 로봇, 자율주행차처럼 물리 법칙의 적용을 받는 환경에 사용하기 위한 AI 시스템을 말한다. 오픈AI가 챗GPT를 선보이며 생성형 AI 혁명을 일으킨 것처럼 코스모스로 로봇·자율주행차 산업을 선도한다는 비전이다.
