엔비디아 GPU 독점 깨는 새 길… 퓨리오사 TCP, 성공할까?

“AI 칩 설계 분야는 여전히 혁신의 여지가 있습니다. 퓨리오사AI에 기회가 있다고 생각합니다.”

백준호 퓨리오사AI 대표는 8일(현지시각) 뉴욕 브루클린 ‘글로벌 AI 프론티어랩(Global AI Frontier Lab)’에서 개최한 행사에서 “예측하기 어려운 AI 워크로드(workload, 처리 작업의 유형과 양)를 수용할 수 있는 효율적이고 유연한 ‘기반(foundation)’이 중요하다”며 이같이 말했다.

퓨리오사AI, 서울대학교, 포르투갈의 연구 단체 INESC‑ID, 리스본 공과대학의 AI 반도체 연구자들이 최근 논문을 통해 발표한 새로운 아키텍처 ‘TCP(텐서 축약 프로세서)’로 새로운 혁신을 만들 수 있다는 주장이다. 

퓨리오사AI는 AI 가속기(accelerator), NPU(신경망 처리 장치)로 불리는 AI 반도체를 개발하는 스타트업이다. 엔비디아의 GPU가 거의 독점하고 있는 시장에 도전하고 있는 것. 1세대 칩인 ‘워보이(Warboy)’에 이어 TCP 아키텍처를 채용한 2세대 칩 ‘레니게이드(RNGD)’를 개발, 최근 LG AI 연구원의 AI 모델 엑사원용으로 공급했다.  

백 대표가 강조한 TCP 아키텍처는 텐서(tensor, 벡터와 행렬의 다차원 배열)를 더 작은 차원으로 만든 ‘텐서 축약’을 활용해 계산 효율을 높이는 방식으로 작동한다. 

데이터를 표현하는 방식으로 1차원 배열을 가진 벡터, 2차원 배열을 가진 행렬, n차원 배열을 가진 텐서가 사용되는데, 이 중 텐서의 특정 축을 따라 데이터를 합산, 차원을 줄이는 방식으로 연산 효율을 높인 것.  

GPU는 텐서를 축약할 때 행렬 곱셈으로 매핑(mapping, 대응)시키기 때문에 다양한 유형의 텐서를 처리할 수 없어 효율이 떨어지는 반면, 퓨리오사AI의 레니게이드는 이 텐서 축약 자체를 기본 단위로 처리하기 때문에 효율을 높일 수 있다는 게 논문의 주요 내용이다. 

인간 두뇌 작동 방식을 모방해 만든 NPU는 전력 효율이 높지만, 범용으로 사용이 가능한 GPU와 달리 특정 작업 처리에만 특화돼 있다는 점이 한계로 지적돼 왔었다. 한데, 이 NPU에 TCP 아키텍처를 도입하면 대규모 병렬 작업이 가능해지고, 텐서 처리의 유연성이 높아진다. GPU 만큼은 아니지만, 범용성이 개선되는 동시에 높은 전력 효율도 노릴 수 있는 가능성이 열린 것이다.

삼성전자, AMD를 거쳐 퓨리오사AI를 창업한 백 대표는 이날 진행된 대담에서 새로운 AI 모델이 계속 등장하는 가운데, 칩을 어떻게 경쟁력 있게 설계할 수 있느냐는 질문에 “칩 설계는 보통 3~4년의 사이클이 필요하다. 퓨리오사는 챗GPT가 등장했을 때 칩 설계를 시작했고, GPT-3 논문이 발표됐을 때 미래를 예측해야 했다”고 회고했다. 

그는 이어 “칩 설계에서 출시까지 보통 2~3년이 걸리기 때문에 워크로드가 어떻게 될지 정확히 예측하는 것은 거의 불가능하다. 따라서 매우 강력한 기반을 구축해야 한다”며 “예측하기 어려운 변화를 수용할 수 있을 만큼 유연한 기반을 갖추려고 노력했고, TCP라고 부르는 완전히 다른 접근 방식의 아키텍처를 만들어 다양한 고객의 워크로드나 에너지 요구사항을 지원할 수 있게 됐다”고 설명했다. 

엔비디아 같은 빅테크와 어떻게 경쟁을 할 수 있느냐는 질문도 나왔다. 백 대표는 “TCP는 추상화 수준이 높아 더 포괄적인 최적화를 수행할 수 있다”며 “우리의 근본적인 목표는 AI 컴퓨팅을 더 지속 가능하게 만드는 것”이라고 했다. 

내연기관 자동차와 전기차가 접근 방식이 완전히 다른 것처럼 아키텍처가 다르기 때문에 최적화의 결과도 크게 달라진다는 설명이다. 다만 전기차 기업인 테슬라가 배터리 수명, 부족한 충전 인프라 등 어려운 문제를 해결하며 전통적인 내연기관 자동차 기업들과 경쟁해온 것처럼 퓨리오사AI 앞에도 자체적인 도전 과제가 많이 남아 있다고 덧붙였다. 

그는 인재 유치에 대한 질문에 “전 세계적으로 AI 소프트웨어 분야에 뛰어드는 훌륭한 인재들이 많아서 소프트웨어 측면에서는 크게 걱정하지 않는다”면서도 “다만 반도체 분야에 대한 매력이 과거 대비 떨어져 하드웨어 측면에서는 조금 걱정이 된다. 칩 설계와 검증에 AI 및 AI 에이전트(agent, 대리인)를 더 많이 활용해야 할 것 같다”고 답했다.

이날 백 대표와 대담에 참여한 AI 분야 석학 조경현 뉴욕대 교수 역시 AI 하드웨어 인프라의 중요성을 강조했다. 

하드웨어가 AI 모델 구축 작업을 제한하느냐는 물음에 조 교수는 “절대적으로 그렇다. 하드웨어 인프라가 어떤 알고리즘이 승리할지 결정한다”며 “한 번 하드웨어 선택으로 승자가 결정되면 그 이후에는 그 하드웨어에 맞춰 개발이 진행된다”고 답했다.  

엔비디아로 승자가 결정된 지금 시점에서 시간을 되돌려 다양하고 효과적인 하드웨어가 출현했다고 상상해 보면 보다 흥미로운 알고리즘이 적용될 수 있었을 것이란 설명이다.

조 교수는 “현재 AI 업계는 이상한 극소점(local minimum)에 머물러 있다. 커뮤니티의 누구도 새로운 기술이 주어진다면 무엇을 할 수 있을지 상상조차 못 하고 있다”며 “새로운 하드웨어나 칩이 우리에게 조금이라도 틀을 벗어나 생각할 수 있게 해준다면 그 효율성은 극대화될 것”이라고 했다. 

또 다른 ‘AI 겨울(AI winter, AI 침체기)’의 도래 가능성에 대한 질문에는 10년 정도는 괜찮을 것으로 본다고 답했다.

조 교수는 “제가 우려하는 점은 AI 겨울이 오는 것이 아니라 소수의 중앙화된 AI 기업에 대한 의존도가 높아지는 것”이라며 “현재 오픈 소스 대안이나 기타 옵션은 거의 없다. 심지어 오픈 소스도 대규모 클라우드 제공업체(빅테크)를 거쳐야 한다”고 지적했다. 

그는 이어 “매우 적은 곳에 힘이 집중될 때 기술은 혁신을 멈춘다. 이미 수십 년 전 기술 분야에서 이 현상을 목격했다”며 “중앙화된 형태가 아니라 개인이 원하는 때, 원하는 방식으로 AI를 사용할 수 있도록 하는 방향으로 나아가야 한다고 생각한다”고 했다.

눈에 띄는 건 이번 행사가 퓨리오사AI의 본사가 있는 서울, 미국 HQ가 있는 캘리포니아주 산타클라라가 아닌 뉴욕에서 열렸다는 점이다. 퓨리오사AI는 아직 뉴욕에 자체 오피스를 오픈하지 않은 상태다. 

퓨리오사AI 관계자는 이번 행사에 대해 “다양한 업계 관계자, 고객사들과 교류할 계획”이라며 “이번 행사 후 나스닥 관계자와의 미팅도 예정돼 있다”고 설명했다. 지난 7월 31일 1700억원 규모의 시리즈 C 브릿지 투자 유치를 발표한 기세를 몰아 글로벌 판로 확대에 나서는 한편, 나스닥 시장 상장 준비를 위한 물밑 작업을 진행하는 게 아니냐는 관측이 나온 이유다. 

실제로 퓨리오사AI는 뉴욕 타임스퀘어에 위치한 나스닥 빌딩 전광판에 대형 디지털 광고를 게재하기도 했다. 13일 공개된 퓨리오사AI의 디지털 광고에는 “AI 컴퓨팅의 미래가 여기에 있습니다. TCP를 만나 보세요”라는 메시지가 담겼다. 

업계에 따르면 퓨리오사AI는 작년 4월 미래에셋증권, NH투자증권을 공동 주관사로 선정하고 코스피 시장 상장을 준비해 온 바 있다. 국내 시장 상황 등의 이유로 상장 일정이 잠정 연기됐으나 올해 빅테크 기업 메타가 1조2000억원 규모의 인수 제안을 했었다는 사실이 공개되며 미국 투자자들 사이에서도 주목을 받게 됐다. 

미국에 상장할 경우 한국 대비 높은 기업가치(valuation)를 인정받을 가능성이 커지고, 글로벌 시장 진출도 쉬워진다는 점이 장점으로 꼽힌다. 다만 이미 국내 투자자들의 투자를 많이 받은 상태여서 구조적으로 미국 시장 상장이 쉽지만은 않을 것이란 분석이다. 

관건은 퓨리오사AI가 앞세운 TCP가 글로벌 반도체 업계, 클라우드 기업, AI 인프라 업체들로부터 얼마나 인정 받을 수 있느냐에 달려 있다. 강력한 엔비디아의 GPU 생태계를 뚫고 고객사를 확보하려면 성능 및 효율성에 대한 검증은 물론, 대형 파트너십 체결 등 전략적인 접근도 필요할 전망이다.