엔비디아, 얼마나 강하기에... "너 빼고 다 손잡아"
[테크브리핑]
① '엔비디아 겨냥' AMD·구글·MS, AI가속기 개발 손잡았다
② 오픈AI, 애틀랜틱·복스미디어와도 계약
MS·구글·AMD·인텔 등, AI가속기 통신 표준 만든다
구글, 마이크로소프트, 메타 등 빅테크 기업과 미국 반도체 기업 AMD(어드밴스트마이크로디바이스), 인텔 등이 AI 칩 선두 주자 엔비디아를 겨냥해 손을 잡았습니다.
30일(현지시각) 인텔, 구글, 마이크로소프트, 메타, AMD, 브로드컴, 시스코, 휴렛페커드(HPE) 등은 ‘울트라 가속기 링크(Ultra Accelerator Link·UA링크) 프로모터 그룹’이라는 새로운 협력조직을 구성하고 AI가속기 통신을 위한 기술 표준을 개발하고 있다고 발표했습니다.
AI 가속기는 AI 학습, 추론에 특화한 GPU부터 AI모델의 트레이닝 속도 상승, 모델 미세조정(파인튜닝) 등 맞춤형 설계 솔루션을 통칭합니다. 이 그룹은 데이터센터에 탑재되는 AI 가속기, 고성능컴퓨팅(HPC), 클라우드 애플리케이션 간 인터페이스 간 연결을 원활하게 하는 표준을 개발하게 됩니다. 이를 통해 대규모 AI 시스템의 속도를 높이고 지연을 줄인다는 목표죠. 'UA링크 프로모터 그룹'은 오는 3분기 UA링크 1.0을 시작으로 개발 표준을 선보일 예정입니다.
'병렬연산'을 위해 GPU를 연결하는 방법은 세가지가 있습니다.
1. PCI 버스: 표준 서버는 일반적으로 PCI 버스 전체에서 4-8개의 GPU를 지원할 수 있습니다. 최대 32개까지 늘릴 수 있습니다 .
2. 서버 간 상호 연결: 이더넷 또는 인피니밴드(InfiniBand)를 통해 GPU 서버를 연결할 수 있습니다. 최근 울트라 이더넷 컨소시엄이 나와 초광대역 데이터도 연결하게 합니다. 엔비디아가 지난 2019년 3월 멜라녹스(Mellanox)를 인수한 것이 신의 한 수라고 평가받는 것은 서버간 연결을 쉽게할 수 있게하기 때문입니다.
3. GPU-GPU 상호 연결: 엔비디아는 현재 GPU 간에 초당 1.8테라바이트의 속도로 데이터를 전송할 수 있는 GPU-GPU 연결인 NV링크를 만들었습니다. 최대 576개의 완전히 연결된 GPU를 지원할 수 있는 NV링크 랙 레벨 스위치도 있습니다. 현재 엔비디아의 NV링크 외에는 대안이 없기 때문에 컨소시엄이 필요하며 이번에 울트라 가속기 링크(Ultra Accelerator Link·UA링크)가 만들어진 것입니다.
👉 '반엔비디아 연합' 더밀크의 시각 3가지
1. 이 'UA링크 프로모터 그룹'은 엔비디아를 겨냥한 것으로 보입니다. 엔비디아는 AI 칩뿐만 아니라 'NV링크'를 통해 전 세계 AI 칩 시장의 80%를 차지하고 있습니다.
NV링크는 AI 데이터센터에 탑재되는 GPU와 GPU, GPU와 CPU 등의 칩간 데이터 전송을 원활하게 해주는 기술로, 엔비디아가 칩 시장의 지배력을 유지하는 데 큰 역할을 하고 있죠. 현재 5세대까지 나온 NV링크는 초당 1.8TB(테라바이트·1TB는 1024GB)의 양방향 데이터 처리를 가능하게 합니다.
포레스트 노로드 AMD 데이터센터솔루션 제너럴매니저는 "업계는 단일 기업의 제약 없이 여러 회사가 전체 생태계에 가치를 추가할 수 있는 개방형 표준이 필요하다"고 말했습니다.
2. 불참한 주요 기업으로는 아마존웹서비스(AWS)와 ARM이 있습니다. AWS는 그룹에 참가하지 않은 유일한 퍼블릭 클라우드 대기업이죠. 이미 클라우드 시장 1위사인데다 자체 칩을 개발하고 있는 상황에서 AI가속기 시장을 점유하고 있는 엔비디아에 굳이 맞설 필요가 없다는 판단에서일 수 있습니다.
3. UA링크의 가장 큰 수혜자는 GPU에서도 클라우드에서도 1위가 아닌 마이크로소프트, 메타, 구글로 보입니다. 구글은 텐서프로세싱유닛(TPU), (Axion) 등 AI모델을 훈련하고 운영하기 위한 여러 AI칩 제품군이 있습니다. 메타도 4월 AI가속기 ‘MTIA’를 발표했죠. 마이크로소프트는 지난해 마이아와 코발트로 자체 AI가속기 라인을 내놨습니다.
3월 더인포메이션 보도에 따르면 MS와 오픈AI는 AI 슈퍼컴퓨터 프로젝트 ‘스타게이트’를 2028년 출시할 것으로 알려졌습니다. 스타게이트 개발과 데이터센터에 1000억달러를 투자할 것으로 보이죠. 이때 AI훈련에 코발트와 마이아 칩이 탑재할 경우 UA링크가 이 칩들을 연결하는데 사용될 가능성도 있습니다.
오픈AI, 애틀랜틱·복스미디어와도 계약
오픈AI가 최근 미국 뉴스매거진 디애틀랜틱(The Atlantic), 인터넷 매체 등을 다수 보유한 미디어 기업 복스미디어(Vox Media)와 챗GPT 학습에 이들의 콘텐츠를 사용할 수 있도록 하는 계약을 각각 체결했습니다. 디애틀랜틱은 1857년부터 발간된 잡지로 정치, 외교, 경제, 문화 등 분야를 심층 콘텐츠로 다루는 매체입니다. 복스미디어는 복스, 더버지, 더커트 등 인터넷 뉴스미디어를 보유했고, 2019년에는 잡지인 뉴욕매거진도 인수했습니다.
29일(현지시각) 악시오스에 따르면 이번 계약에는 오픈AI가 챗GPT를 학습시키거나 사용자 질문에 답변할 때 이들 매체의 아카이브 자료를 사용할 수 있도록 하는 내용이 포함됐습니다. 답변할 때는 출처를 표시하고 관련 기사의 링크도 제공하기로 했죠. 상세 계약 조건은 공개되지 않았지만, 콘텐츠 사용에 대한 보상을 제공하는 방식일 것으로 관측된다고 악시오스는 전했습니다.
두 언론사는 이번 계약을 통해 오픈AI의 AI 기술을 활용해 독자를 위한 제품을 개발할 예정입니다. 복스미디어는 오픈AI의 기술을 활용해 광고 마켓플레이스 콘서트와 기프트 스카우트 기능 강화에 나섭니다. 디애틀랜틱은 AI 저널리즘 활용을 모색하기 위해 실험적 마이크로사이트인 애틀랜틱 랩을 구축 중이며 여기에 오픈AI의 AI 기술을 도입할 예정입니다.
👉 언론사-AI기업 협업 대세인가…오픈AI계약 16건으로 늘어
오픈AI는 챗GPT 훈련을 위해 검증된 뉴스 매체들과 계약에 속도를 내고 있습니다. 지난 1년 새에만 16건의 뉴스 콘텐츠 라이선스 계약을 체결했습니다.
디애틀랜틱과 복스미디어 이전에도 정치매체 폴리티코, 경제매체 비즈니스인사이더 등의 모회사 독일 미디어그룹 악셀슈프링어(2023년 12월), 미국 통신사 AP(2023년 7월), 프랑스 르몽드(올 3월), 영국 일간지 파이낸셜타임스(FT, 올 4월) 등과 콘텐트 이용 협약을 맺었죠. 지난주에는 월스트리트저널(WSJ), 뉴욕포스트 등을 보유한 대형 미디어그룹인 뉴스코퍼레이션과 협약을 체결했습니다.
이 외에도 CNN, 폭스, 타임 등 미국의 유력 언론사와도 콘텐츠 사용 계약을 논의 중인 것으로 알려졌습니다. 5월에는 소셜 미디어 기업 레딧, 개발자 커뮤니티 스택오버 플로우와도 콘텐츠 라이선스 계약을 체결했습니다.
반면 뉴욕타임스(NYT)와는 대립각을 세우고 있습니다. NYT는 지난해 12월 오픈AI의 저작권 침해를 주장하며 소송을 제기했습니다. 악시오스는 "더 많은 주요 언론사가 소송을 제기하기보다 콘텐츠 사용 계약을 선택하고 있다"면서 "어떤 경우에는 이런 계약이 소송에서 합의하는 것보다 더 많은 자금을 훨씬 더 빨리 조달할 수도 있다"고 짚었습니다.