GPU

삼성전자가 12일(현지시각) 미국 실리콘밸리에서 개최한 ‘삼성 파운드리 포럼(Samsung Foundry Forum)’에서 AI 제품 관련 매출 청사진 및 로드맵(roadmap, 계획)을 제시했다. 송태중 삼성전자 파운드리사업부 상무(VP, 사업개발팀장)는 이날 삼성 파운드리 포럼 2024 미디어 브리핑에 참석, “2028년 AI 칩 관련 매출이 지난해 대비 9배로 증가할 것으로 예상한다”고 밝혔다. 올해 AI 칩 관련 매출은 작년 대비 1.8배로 늘어나고, 고객 수 역시 올해 2배로 늘어날 것으로 예측했다. AI 칩 관련 메모리, 파운드리(반도체 위탁 생산), 고대역 메모리 적층을 위한 ‘첨단 패키지(Advanced Package)’ 솔루션을 모두 보유한 회사는 삼성전자가 유일하며 이런 점 때문에 고객 요청이 계속되고 있다는 설명이다. 엔비디아에 HBM을 납품을 언제 할 수 있느냐는 질문에 대해서는 즉답을 피했다. 김인동 메모리 사업부 상무는 “현재 협력 중이나 고객과 무엇을 하고 있는지 언급하기는 어렵다”고 했다. 현재 삼성잔자는 HBM 5세대 제품 ‘HBM3E’의 품질 테스트를 진행 중이다. 한편 ‘반(反)엔비디아 연합’으로 불리는 울트라 가속기 링크(Ultra Accelerator Link·UA링크) 그룹에 삼성전자가 참여할 수 있다는 언급도 나왔다. UA링크는 마이크로소프트, 구글, 메타 등 빅테크와 인텔, AMD, 브로드컴 등 반도체 기업, 휴렛팩커드 엔터프라이즈(HPE), 시스코 등이 참여해 추진 중인 새로운 데이터 전송 링크다. AI 모델 훈련과 추론 등 강력한 연산력이 필요한 작업을 수행하려면 칩과 칩을 연결, 대량의 데이터를 효율적으로 처리할 필요가 있다. 현재 GPU(그래픽처리장치)를 앞세워 AI 가속기 시장을 지배하고 있는 엔비디아가 자체 데이터 전송 솔루션 ‘NV링크(NVLink)’를 개발, 다양한 자사 제품군에 적용하고 있는 이유다.송 상무는 “(칩 간의) 상호연결은 매우 중요하다”며 “UA링크(UALink) 그룹의 표준화 시도가 매우 흥미롭다고 생각한다. (삼성전자도) 지원 방법을 논의하고 있다”고 했다. AI 업계에서는 엔비디아를 제외한 다른 기업들이 뭉쳐 UA링크 표준 구축에 나선 것은 시장을 사실상 독점하고 있는 엔비디아의 독주를 견제하기 위한 움직임이라고 해석하고 있다. 파운드리 및 메모리 부문 강자 삼성이 향후 UA링크 진영에 합류한다면 새로운 표준에 더 힘이 실릴 수 있을 전망이다.

김호식 SK하이닉스 부사장(VP)은 10일(현지시각) “메모리 월, 메모리 바운드 문제 때문에 HBM이 생성 AI 소프트웨어, 하드웨어에서 매우 중요한 요소가 됐다”며 이같이 말했다. 메모리 월(Memory Wall)은 프로세서와 메모리 성능 차에 따른 병목 현상, 메모리 바운드(Memory Bound)는 대규모 언어 모델(LLM)의 성능이 메모리의 대역폭과 용량에 의해 제한되는 현상을 뜻한다. 생성 AI 붐으로 인해 프로세서 속도 경쟁이 가열되고 연산량도 폭증, HBM이 생성 AI 산업의 핵심 요소로 떠오른 것이다.

안녕하세요 뷰스레터 구독자 여러분, 스핀오프 레터, [비저너리(Visionary)]의 김세진입니다.영원한 건 없습니다. 엔비디아의 주가가 3조달러(약 4119조원)를 넘어서며 애플을 제치고 시가총액 2위로 등극했습니다. 지난 5년 동안 주가는 3300% 상승했죠. 엔비디아는 아이폰을 파는 애플이나 윈도우를 파는 마이크로소프트(시총 1위)같이 우리가 알던 익숙한 기업이 아닙니다. 주로 기업에 반도체를 파는 회사죠. 엔비디아는 소비자(컨슈머) 제품 없이 어떻게 이 자리까지 올 수 있었을까요? <더밀크 주요 콘텐츠> 로비왕 된 코인베이스... 크립토, 미 대선 '큰 손' 됐다[단독] 크리스 밀러 “삼성의 문제는 HBM 아닌 파운드리"[영문] China leads in localized AI chip supply chain; US lags behind[영문] AI Voices Could Upend Economics of K-Pop Production바로 자기 혁신입니다. 젠슨 황 엔비디아 창업자는 게임용으로 만들었던 GPU가 AI 훈련에 적용될 수 있다는 점을 깨닫고 제품을 전면 갈아엎었습니다. 이 ‘AI 두뇌’ GPU는 오픈AI가 AI모델을 비약적으로 고도화시킬 수 있게 한 동력이 됐죠. 오픈AI의 챗GPT가 AI 열풍을 이끈 후 GPU 품귀 현상이 벌어지면서 ‘엔비디아 GPU 파트너십’여부는 AI산업의 성공을 판가름할 요소가 됐습니다. 

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 AI 뉴스레터 [박원익의 AI인사이트]입니다. “모든 것을 가속화하라.” 지난 2일(현지시각) 대만 IT 컨퍼런스 ‘컴퓨텍스’ 기조연설에 등장한 젠슨 황 엔비디아 CEO의 발언입니다. 컴퓨팅 파워(연산 능력)를 지칭한 것이었지만, 엔비디아가 더 빠른 속도로 달리겠다는 말처럼 들렸습니다. 실제로 엔비디아는 지난 3월 미국 산호세에서 개최한 GTC 2024에서 블랙웰 아키텍처와 신형 칩을 공개한 지 3개월여 만에 차세대 아키텍처 ‘루빈(Rubin)’을 공개했습니다. 2년이던 신제품 개발 주기를 절반(1년)으로 단축한 것이죠. 이 소식에 3일(미국시간) 열린 뉴욕증시에서 엔비디아의 주가는 약 5% 올랐습니다.AI 기술·산업은 정말 빠르게 발전하고 있고, 매일 이슈가 쏟아져 ‘중요한 신호’를 파악하기 어렵습니다. 매주 화요일 발행하는 더밀크의 AI 전문 뉴스레터 ‘AI인사이트’로 중요한 신호, 의미를 놓치지 말고 확인하세요!

The global race for semiconductor supremacy has the potential to reshape the balance of power in the 21st century, with the United States and China locked in a high-stakes battle that could redefine the future of technology, innovation, and geopolitical influence.The Third Semiconductor War is unfolding. Following 15-year cycles focused first on PCs and then smartphones, artificial intelligence has now taken the baton. In an exclusive video interview, Chris Miller, a professor at Tufts University, emphasized that true competitiveness lies in technological superiority, not just localized production.Miller argues that while nations worldwide subsidize domestic semiconductor manufacturing, this approach has its limits. "The success or failure of any semiconductors, including South Korean chip companies, is primarily decided not by whatever subsidies they receive, but rather by clever technology," Miller stated. He mentioned that in the memory chip space, Samsung has traditionally been the biggest player, but over the last year, SK Hynix has outperformed it by producing the most advanced type of DRAM, known as high-bandwidth memory (HBM) chips, crucial for AI processing. "Governments must realize that their role is at best as a helper. The success or failure of their efforts won't be determined by the amount of spending but by the efficacy of the companies' R&D efforts."A notable point is that China is one of the few countries that has successfully localized its supply chain. China has now localized much of its supply chain, posing a direct challenge as the world's two superpowers jockey for semiconductor supremacy in the emerging AI era. At the same time, the traditional hierarchy is being disrupted, with South Korean upstart SK Hynix surpassing long-dominant Samsung in advanced high-bandwidth memory chips coveted for AI applications.

구글, 마이크로소프트, 메타 등 빅테크 기업과 미국 반도체 기업 AMD(어드밴스트마이크로디바이스), 인텔 등이 AI 칩 선두 주자 엔비디아를 겨냥해 손을 잡았습니다. 30일(현지시각) 인텔, 구글, 마이크로소프트, 메타, AMD, 브로드컴, 시스코, 휴렛페커드(HPE) 등은 ‘울트라 가속기 링크(Ultra Accelerator Link·UA링크) 프로모터 그룹’이라는 새로운 협력조직을 구성하고 AI가속기 통신을 위한 기술 표준을 개발하고 있다고 발표했습니다.AI 가속기는 AI 학습, 추론에 특화한 GPU부터 AI모델의 트레이닝 속도 상승, 모델 미세조정(파인튜닝) 등 맞춤형 설계 솔루션을 통칭합니다. 이 그룹은 데이터센터에 탑재되는 AI 가속기, 고성능컴퓨팅(HPC), 클라우드 애플리케이션 간 인터페이스 간 연결을 원활하게 하는 표준을 개발하게 됩니다. 이를 통해 대규모 AI 시스템의 속도를 높이고 지연을 줄인다는 목표죠. 'UA링크 프로모터 그룹'은 오는 3분기 UA링크 1.0을 시작으로 개발 표준을 선보일 예정입니다.

AI 반도체 전쟁, 어디로 갈까? 삼성전자는 반도체 산업 경쟁력을 잃은 것일까? 메모리만 의존하는 한국 반도체, 미래는 있는가? 반도체 경쟁력이 국력이 되고 있는가운데 더밀크는 K 반도체의 미래를 찾기 위해 '칩 워'의 저자 크리스 밀러 미 터프츠대 교수를 단독 인터뷰 했다. 크리스 밀러 교수는 "삼성전자 반도체의 문제는 HBM이 아니다. 파운드리다"며 직격타를 날렸다. 또 미국 등 각국 정부에서 자국 반도체 산업 경쟁력을 높이기 위해 적극적인 보조금 정책을 펴고 있지만 "진정한 경쟁력은 보조금이 아닌 '기술 우위'에서 나올 것이다"며 "압도적 기술 격차를 갖도록 연구개발해야 한다"고 말했다. 이번 인터뷰는 3차 반도체 전쟁이 벌어지고 있는 가운데 성사됐다. PC 15년, 스마트폰 15년에 이어 인공지능(AI) 기술이 바통을 이어받았다. 2022년 11월 생성AI 챗봇 챗GPT가 출시된 후 AI 모델을 개발하기 위한 글로벌 경쟁이 시작됐고, 이때 AI를 훈련하는 데 필수재인 반도체칩에 대한 수요가 폭발적으로 증가했다.엔비디아와 함께 AMD, 마이크론(MU), ASML, 마이크로소프트 등 관련 기업들은 주가와 시가총액이 치솟았다.아시아에는 이들이 설계한 칩을 제조하는 기업들이 생겨나면서 글로벌 반도체 공급망이 형성됐다. 대만의 TSMC는 엔비디아가 설계한 로직칩을 조립, 생산하는 ‘파운드리’ 시장을 장악하며 넘사벽이 됐다. 한국의 삼성, SK하이닉스 등은 메모리(D램) 시장을 사실상 독점하고 있다. 메모리칩(D램)과 저장칩(NAND)은 AI 알고리즘이 처리할 방대한 데이터 세트와 명령을 저장한다. 일본은 일본 소부장(소재·부품·장비), 중국은 광전지 반도체 생산 분야에서 두각을 드러냈다. 말레이시아, 필리핀, 태국, 베트남도 조립으로 글로벌 반도체 공급망에 속해 있다.현재 글로벌 반도체 공급망은 지각변동 중이다.

일론 머스크 테슬라 CEO가 AI 훈련 및 추론을 위한 슈퍼컴퓨터 구축에 나선다. 자신이 설립한 AI 스타트업 엑스AI(xAI)가 조달한 투자금을 여기에 투입한다는 계획이다.  26일(현지시각) xAI는 60억달러(약 8조2000억원) 규모의 시리즈 B 투자 유치를 마무리했다고 발표했다. 밸러 에퀴티 파트너스, Vy 캐피털, 앤드리슨 호로위츠, 세쿼이아 캐피털, 피델리티 매니지먼트 앤 리서치 컴퍼니, 알왈리드 빈 탈랄 왕자, 킹덤 홀딩 등이 투자자로 참여했다.  xAI는 “곧 여러 가지 흥미로운 기술 업데이트와 제품을 공개할 예정”이라며 “인프라 구축, 미래 기술 연구 가속화에 투자금을 사용하겠다”고 밝혔다. 

구글이 모든 제품과 서비스에 인공지능(AI) 모델 '제미나이'를 적용하는 '제미나이 시대(Gemini Era)'를 선언했다. 검색엔진부터 지도, 안드로이드, 워크 스페이스까지 거의 전 제품의 중심에 AI 모델을 놓는 것이다. 순다르 피차이 알파벳(구글 모회사) 최고경영자(CEO)는 14일(현지시각) 진행된 개발자 컨퍼런스 ‘구글 I/O 2024’ 기조연설에서 자사 대형언어모델(LLM) 제미나이(Gemini)를 구글 포토, 지메일, 검색 등 구글 주요 기능에 전면 적용한다고 밝혔다. 특히 오픈AI가 구글I/O 하루 전 공개한 멀티모달(Multimodal, 다중모드) AI 및 음성 검색 기능을 강조해 눈길을 끌었다. 최근 조직 개편에서 암시했듯 모바일 운영체제(OS) 안드로이드와 스마트폰 픽셀 등 모바일 제품에 주력하던 이전 IO와 달리 이제는 완전히 AI에 사업 초점을 맞췄다. 특히 이날 '구글 AI 실세'로 올라선 데미스 허사비스 딥마인드 CEO가 데뷔했다. 구글은 검색엔진 부동의 1위지만 AI레이스에서만큼은 오픈AI에 뒤쳐졌다는 평가를 받아왔다. 오픈AI가 AI를 바탕으로 구글의 메인 사업까지 바짝 뒤쫓자 최근 조직개편을 단행했다.

마이크로소프트(MS)가 범용 휴머노이드 로봇 개발을 위해 캐나다 소재 로봇기업 생츄어리AI(Sanctuary AI)와 파트너십을 맺었다고 밝혔습니다.지난 1일(현지시각) 테크크런치에 따르면 MS는 "인공지능(AI) 개발을 가속하고 하드웨어 설계에 필요한 파트너를 확보했다"라고 전했죠. 생츄어리AI는 MS와 AI 연구개발을 위해 기술을 제공하고 MS 애저 클라우드를 사용할 계획입니다.생츄어리AI는 대형언어모델(LLM)을 기반으로 로봇을 만들고 있으며 향후 실제 현실 세계에서 행동하는 '대형행동모델(Large Behavior Model)을 만드는 것을 목표로 하고 있습니다. 회사는 피닉스(Phoenix) 로봇의 AI 제어 시스템인 카본에 이러한 모델을 활용하고 있죠.조디 로즈 생츄어리AI 최고경영자(CEO)는 "인간처럼 생각하고 이해하는 시스템을 만드는 것은 인간이 직면할 가장 큰 문명 차원의 기술적 문제이자 기회 중 하나"라면서 "MS와 협력해 범용 로봇을 구동할 차세대 AI 모델을 개발할 수 있게 되어 기대가 크다"라고 밝혔습니다. 애슐리 로렌스 MS 리서치 기업 부사장 또한 "추론, 계획, 인간 에이전트와 같은 영역에서 AI 모델 혁신을 가속하는 연구를 구체화하기 위해 생츄어리AI와 협력하게 돼 기쁘다"라고 말했죠.👉 AI 만난 로봇공학에 돈 몰렸다최근 수개월 동안 휴머노이드 로봇 스타트업에 대한 투자가 늘고 있습니다. 상대적으로 업력이 짧은 데다 수익을 창출하지 않는다는 점을 고려했을 때 자금 규모는 상당합니다. 리서치 회사인 로봇 리포트의 데이터에 따르면, 2024년 1분기 로봇공학 스타트업은 32억달러의 자금을 조달했습니다. 1년 전 같은 기간의 17억달러에 비해 2배 많은 수치입니다. 투자는 소프트웨어와 하드웨어, 혹은 두 가지 모두를 개발하는 스타트업까지 가리지 않고 이어지는 양상이죠. 마이크로소프트는 최근 생츄어리AI 경쟁사인 피규어AI에도 투자했습니다. 2022년에 설립된 피규어는 올해 초 제프 베조스 아마존 창업자, 오픈AI, 엔비디아, 마이크로소프트 등으로부터 20억달러의 가치로 6억7500만달러(약 9000억원)를 모금했죠. 로봇용 AI 소프트웨어를 개발하는 스타트업 스킬드는 15억달러의 기업가치로 3억달러 규모의 자금 조달 계약에 임박한 것으로 알려졌고, 전 구글 직원과 스탠포드 대학, 캘리포니아 버클리대학 교수들이 설립한 피지컬인텔리전스는 약 4억달러의 기업가치로 7000만달러를 조달했습니다. 라시 그룸 피지컬인텔리전스 공동창업자는 “우리는 뇌(소프트웨어)를 만드는 데만 집중하고 있으며 신체에 구애받지 않는다”라고 말했습니다.

인간처럼 사고하고 행동할 수도 있는 인공지능(AI), '일반인공지능(AGI)'에 대한 기대와 두려움이 커지는 가운데, AI가 이미 인간의 학습능력을 침범하기 시작했다는 주장이 나왔다. 이때 눈에 띄는 변화는 AI의 추격이 아닌 인간 스스로의 후퇴다. 이장선(학계 활동명: 칼 스트라토스) 럿거스대학교(뉴저지주 주립대) 교수는 AGI 시대에 앞서 인간이 경계해야 할 점으로 ‘생각의 자동화’를 꼽았다. 미국 고등교육 현장에서 이미 이를 피부로 느끼고 있다. 챗GPT 등으로 학교 과제가 무의미해지고, 인간의 학습 능력이 쇠퇴하기 시작했다는 것. 이 교수는 미국 컬럼비아대학교를 거쳐 현재 럿거스 대학교에서 AI 비지도 학습법 및 지식사용모델 개발을 연구하는 미국 내에서도 손꼽히는 AI 전문가다.

마이크로소프트(MS)가 아랍에미리트(UAE)에 본사를 둔 인공지능(AI) 기업 G42에 15억달러(약 2조원)를 투자할 예정이다. 영국, 일본에 이어 AI 관련 전 세계 투자를 늘리고 있다. 이 뒤에는 미∙중분쟁이 있다. AI 주도권을 두고 미국과 중국의 대립이 심화하는 가운데 또다른 강력한 지역인 UAE를 미국으로 포섭한다는 미국 정부의 복안도 있다. 미국 정부와 가까운 MS는 대리인 격이란 분석도 나온다.