대학생 연봉이 50억원... 실리콘밸리는 이미 ‘네오랩’이 장악

Q: 커서가 잘 안 되면 AI 스타트업에 희망이 없다는 얘기도 들린다.

A: 구글·오픈AI 같은 빅 플레이어를 제외하고 스타트업만 보면, 커서가 압도적으로 선두다. 자본도 많이 모았고, 오픈AI에서 핵심 모델을 개발한 연구자들까지 데려왔다.

이 상태에서도 안 되면, 이제는 자본과 스케일로만 이길 수 있는 시대가 온 것이고, 실리콘밸리 입장에서는 굉장히 암울한 시기가 될 수 있다.

Q: 요즘 실리콘밸리에서 ‘네오랩(Neo Lab)’이 유행이라고 들었다.

A: 가장 유행하는 키워드 중 하나다. 싱킹 머신스 랩(Thinking Machines Lab) 같은 미라 무라티의 회사, 플래핑 에어플레인즈(Flapping Airplanes) 같은 곳들인데, 공통점은 10명 정도의 소수 정예 팀이면서 창업과 동시에 유니콘을 넘어서는 밸류에이션을 받는다는 것이다.

거대한 팀도, 제품도, 사업도 없는 상태에서 소수의 인재만 믿고 수천억 투자를 받는다. 2015년에 아무것도 없는 상태에서 시작해 성공한 오픈AI 모델을 반복할 수 있지 않을까 하는 기대다.

문제는 이런 네오 랩이 많아지면서 양극화가 심해진다는 것이다. 소수에게 엄청난 보상과 자본이 몰리고, 대다수는 직장조차 구하기 힘들다. 사람들이 만나면 적극적으로 이 문제를 이야기하지만, 대안은 아무도 모른다.

결국 “그 소수에 끼어야 한다”는 위기의식을 갖고, 워라밸은 아예 생각도 하지 않고, 인생을 완전히 투자하는 대신 큰 보상을 받는 트렌드로 가고 있다.

👉36세, 17조원, 그리고 AI 민주화: 미라 무라티의 새로운 혁명

2025년 하반기, 실리콘밸리 벤처캐피털 커뮤니티에서 하나의 단어가 빠르게 확산됐다. '네오랩(Neolab)'. 처음에는 오픈AI, 딥마인드, 앤트로픽 출신 연구자들이 설립한 소규모 AI 연구소들을 지칭하는 용어로 쓰였다. 네오랩에는 100억 달러 이상의 투자가 몰렸으며, 이들의 공통된 명제는 하나였다. AI의 다음 돌파구는 기존과 전혀 다른 아키텍처에서 나온다는 것이다.

그러나 이 개념은 순식간에 더 넓은 의미로 진화하기 시작했다. 네오랩은 단순히 AI 연구소를 뜻하는 것이 아니다. 그것은 AI 시대에 '조직을 어떻게 구성할 것인가'에 대한 근본적인 질문이자, 실리콘밸리에서 현실로 나타나고 있는 새로운 조직 실험 모델이다.

네오랩 현상을 이해하려면 먼저 왜 최고의 연구자들이 거대 기업을 떠났는지를 봐야 한다. 오픈AI와 딥마인드에서 나온 연구자들은 '자유'를 선택했다. 분기별 이사회와 상업적 타임라인에 얽매이지 않고 야망 있는 연구를 추구할 수 있는 자유다.

2000년대 중반 이후 등장한 '스타트업'이란 용어가 전통적 의미의 기업이 아니라는 뜻을 내포했던 것처럼 네오랩은 전통적인 의미의 연구소나 회사가 아니다.

오픈AI, 딥마인드, 앤트로픽 출신 연구자들이 설립한 민간 연구 기관에 가까우며 일반적인 스타트업이나 대형 랩에서는 불가능한 아이디어를 자유롭게 탐구하는 것을 목표로 한다. 빠른 제품 출시보다 AI가 할 수 있는 것의 경계를 확장하는 데 집중한다.

이들은 수익이나 상용화를 논하지 않는다. 대신 감성 지능, AI 사회, 자동화된 과학자 등 언뜻 이상적으로 보이는 방향들을 이야기한다. 하지만 자본의 반응은 더 직접적이고 열정적이었다.

커서 뿐 아니라 최근 설립된 AI 네이티브 기업들은 설립 후 몇 달 만에 40억~50억달러 가치평가를 받았다. 실제 초지능 안전을 목표로 한 SSI는 320억 달러, 페리오딕랩스(Periodic Labs)는 시드 라운드에서 3억달러를 유치했다.

무엇이 투자자들을 이토록 열광하게 만든 것인가? 설립자의 신뢰성과 연구 능력이라는 희소한 자산에 베팅하는 것이지, 특정 제품에 베팅하는 것이 아니다. 달리 말해, 문제를 해결할 수 있는 사람들에게 먼저 자본이 집중되는 구조다.

네오랩의 더 깊은 의미는 조직 구조에 있다. 이 모델에서는 고정된 부서와 직무 대신, 특정 문제를 중심으로 사람들이 모였다가 해체되는 유동적 팀 구조가 작동한다. 이것이 전통적인 기업과 가장 크게 다른 지점이다.

9개월 된 스타트업 이사라(Isara)는 제품도, 성숙한 수익 모델도 없이 6억5000만 달러의 기업 가치를 인정받아 9400만달러를 유치했다. 오픈AI, 어미티벤처스(Amity Ventures) 등이 투자에 참여했다. 이것은 전통적인 시드 펀딩이 아니다. 벤처 캐피털이 무엇에 투자할 의향이 있는지에 대한 재분류다.

이사라(Isara)의 핵심 구조를 보면 네오랩 모델이 더 잘 보인다. 약 12명의 연구자로 구성된 팀이 수천 개의 AI 에이전트와 협력하는 시스템을 구축하고 있다. 대부분의 AI 애플리케이션이 단일 모델로 단일 프롬프트에 응답하는 반면, 이사라는 수백 또는 수천 개의 전문화된 에이전트가 통신하고 협력하는 방식을 취한다.

매니저가 없다. 복잡한 승인 프로세스도 없다. AI가 기획, 분석, 코드 작성, 문서화 등 기존 화이트칼라 업무의 상당 부분을 처리하면서 인간은 의사결정과 방향 설정에 집중한다. 결과적으로 한 명의 생산성이 과거 팀 단위 수준으로 확장된다.

네오랩의 창업자들은 거의 모두 오픈AI, 딥마인드, 앤트로픽 같은 거대 기업을 떠난 이들이다. 수천만달러 혹은 수십억달러의 개인 자산을 보유한 채 안정성과 고액 연봉을 포기하고 새로운 AI 패러다임에 올인했다. 이러한 '재정적 자유에서 비롯된 순수성'이 네오랩의 핵심 매력을 구성한다. 단기 상용화 압박에서 벗어나 거대 기업이 무시하거나 건드릴 수 없는 고위험, 장주기 탐구에 집중할 수 있는 것이다.

AI 분야에서 등장하는 네오랩 10곳 중 9곳이 시드 단계에서 10억달러의 가치평가를 달성했다. 이는 조직의 규모가 아니라 인재 밀도가 가치의 원천임을 보여준다. 조직을 키우는 대신, 최고의 사람들을 극단적으로 집중시키는 방향이다.

네오랩 모델의 또 다른 특징은 마케팅, 세일즈, 운영이 분리되지 않는다는 점이다. 제품 자체가 유통과 성장을 동시에 담당한다. 설형욱 연구원이 참여하고 있는 커서(Cursor)가 대표적인 사례다. 별도의 영업팀 없이 제품의 우수성 하나로 개발자 커뮤니티 전체를 유통망으로 전환했다.

현존 거대 AI 기업들은 배포와 수익에 최적화하는 동안, 네오랩은 발견에 최적화하고 있다. 기존 거대 기업들이 안전 우려와 규제 복잡성에 발이 묶인 동안, 네오랩은 빠르게 움직이고 있다. 이들이 찾아낼 돌파구는 앞으로 10년간 AI 지형을 정의할 것이다.

더 역설적인 것은 기존의 거대 AI 기업들이 오히려 네오랩에 투자한다는 사실이다. 오픈AI가 전 직원이 창업한 이사라에 투자한 것은 전략적 선택지를 유지하기 위한 것이다. AI 업계에서 가장 귀중한 자원은 컴퓨팅이 아니라, 그것을 어떻게 사용할지 아는 연구자들이다. 최고의 연구자를 잃는 비용이 그들이 창업한 회사에 투자하는 비용보다 더 비싸다.

네오랩은 결국 하나의 질문으로 귀결된다. AI가 팀을 대체하는 시대에 기업은 여전히 '조직'으로 존재해야 하는가? 아니면 '네트워크'로 진화해야 하는가?

실리콘밸리의 답은 이미 나왔다. 소수의 최고 인재와 AI의 결합이 수백 명의 조직보다 더 빠르고 깊은 문제 해결 능력을 발휘하는 시대가 도래했다. 네오랩은 그 실험의 이름이자 결과물이다. 이것이 2026년 실리콘밸리의 모습이다.

Q: 최근 실리콘밸리 AI 분야 보상 수준은 어느 정도인가?

A: 저희 스탠퍼드대 연구실에 있던 22살짜리 학부생이 최근 취직했는데 연봉이 50억원이다. 박사과정 3년 차인 친구가 메타로 갔는데, 박사를 때려치우고 받는 연봉이 한국 돈으로 약 150억~200억 원 정도로 알고 있다. 

한 명도 아니고 3명이 갔다. 이런 미친 보상이 있으니까 사람들이 “나한테도 그 가능성이 있다”라고 생각하며 엄청 열심히 할 수밖에 없다.

Q: 반면 AI 때문에 주니어 일자리가 급격히 줄고 있다는 지적도 나온다. 얼마나 체감하나?

A: 냉정하게 말하면, 탑 티어 회사 기준으로 일반적인 주니어에게는 희망이 없는 상황이 맞다. 10년 전만 해도 스탠퍼드 CS 나왔다 하면 기업들이 데려갔다.

지금은 미국 본토 출신에 IT 분야 최고의 학벌인 스탠퍼드 CS 전공 학생이 여름 인턴십 지원을 위해 400군데 이력서를 넣고 한 군데도 인터뷰조차 못 본 사례가 있다. 반면 특출난 친구들은 레퍼런스(reference, 추천) 받아서 회사가 먼저 데려간다. 양극단이다.

👉AI 노출 가장 높은 직군은?… 앤트로픽이 밝혀낸 화이트칼라 위기의 실체

Q: 이런 상황에 어떻게 대응해야 할까.

A: 학부생 친구들이 조언을 구하러 올 때, 항상 이렇게 말한다. 

“수업도 좋지만, 진짜 관심 있는 거 하나를 미친 듯이 파서, 기업이 시간이나 리소스가 없어서 하지 못하는 일을 네가 해내라. 그걸 알아낸 다음에 통찰력 있게 글로 정리하든 코드로 정리하든 해서 인터넷에 뿌려라. 사람들이 네 존재를 알게 만들어라.” 

지금으로서는 이게 IT 쪽 사람들의 정석인 것 같다.

Q: AI 시대에 인간에게 남는 경쟁력은 무엇이라 보나?

A: 요즘 ‘바이브 코딩’만큼 핫한 키워드가 ‘테이스트(taste)’다. 취향, 직관, 감을 뜻한다. 폴 그레이엄(Paul Graham) YC 설립자가 올해 포스팅해서 사람들이 엄청나게 갑론을박을 펼쳤다. AI가 못하는 게 바로 이 테이스트를 만들어주는 것이다.

저희 교수님도 비슷한 말씀을 하신다. AI 시대가 오면서 논문의 가치는 내려갔는데 교과서의 가치는 올라갔다고. 논문은 ‘What’과 ‘How’만 알려주지만, 교과서는 생각하는 법을 알려주기 때문이다. 논문의 정보는 AI가 즉시 요약해 줄 수 있지만, 직관을 키우는 것은 다르다. 

Q: 코딩 다음으로 부상할 분야는 뭘까?

A: 확실히 로봇이다. 내 직접적 직관이라기보다는 프록시(proxy, 대리)로 보는 건데, 스탠퍼드 교수님들이 다 그쪽으로 관심을 돌리고 있다. 

스탠퍼드 AI 랩(SAIL) 교수님들 상당수가 로봇 연구를 시작했다. 방향은 다양하다. 로봇에 탑재할 AI 모델을 만들겠다는 쪽도 있고, 이른바 ‘월드 모델(world model)’을 연구하는 쪽도 있다.

월드 모델이란 단순한 3D 시뮬레이션이 아니라, 로봇이 특정 행동을 했을 때 주변 환경이 어떻게 변하는지까지 AI가 시뮬레이션해 주는 것이다. 지금 모든 AI는 텍스트 기반인데, 사람은 텍스트보다 훨씬 더 많은 데이터로 세상을 판단한다. 진정한 일반 지능을 만들려면 월드 모델이 필요하다는 관점에서 페이페이 리(Fei-Fei Li) 교수, 얀 르쿤(Yann LeCun) 등이 이 분야에 뛰어들었다.

보통 스탠퍼드 교수님들 다수가 같은 방향을 보고 있으면 그게 넥스트 빅 트렌드가 된다.

👉[단독] 스탠퍼드 HAI 설립자 “한국, LLM 보다 ‘월드 모델’ 집중해야”

Q: GPU와 반도체의 미래는 어떻게 보나?

A: 엔비디아 GPU에는 비효율성이 많다. 물론 엔비디아의 쿠다(CUDA) 소프트웨어 생태계, 전문가 역량, 칩의 안정성은 압도적이다. 

AMD나 스타트업들이 “엔비디아보다 빠르다”고 주장하지만, 막상 써보면 안정성을 따라가기 어렵다. 

다만 근본적으로 엔비디아 GPU는 20년 된 아키텍처에서 이어져 왔다. 옛날 프로그램의 호환성을 지원하다 보니 엄청나게 복잡해졌고, 그 복잡성에서 오는 비효율이 막대하다.

Q: 그렇다면 구체적으로 어떤 방향으로 변화가 올까?

A: 지금 GPU의 병목은 칩과 DRAM(메모리) 사이의 데이터 이동이다. 읽고 쓰는 데 시간이 걸려서 추론 속도를 더 올리지 못한다. 그래서 사람들이 생각하는 게, 모델 연산 시작할 때 한 번만 메모리에서 칩으로 읽어오고, 칩 내부에서 모든 걸 끝낸 다음 결과만 다시 저장하자는 것이다. 

칩 안의 SRAM을 키우고 연산 모듈을 커스터마이즈 가능하게 넓히자는 건데, 이를 ‘데이터플로우 아키텍처(dataflow architecture)’라고 부른다. 세레브라스(Cerebras), 삼바노바(SambaNova) 같은 회사들이 이 방향을 추구하고 있다.

더 큰 그림으로 보면, 앞으로는 엔비디아 GPU만 쓰는 시대에서 ‘멀티 실리콘’ 시대로 넘어간다. 엔비디아 GPU, AMD GPU, 구글 TPU, 자체 ASIC 등 다양한 가속기를 동시에 쓰게 된다. 

👉왜 구글 TPU가 뜰까?... 총소유비용·아키텍처가 패러다임 바꾼다

현재 빅테크들이 자체 칩을 만들고 있다. 메타도 자체 칩을 개발 중이라고 메타 엔지니어에게 들었다. 애플도 애플 실리콘에서 훈련을 돌릴 방법을 모색하고 있다.

이런 배경에는 엔비디아의 공급 부족, 그리고 소프트웨어 생태계 락인(lock-in)에 대한 피로감이 크다. 엔비디아가 자사 소프트웨어에서만 프로그램이 최적화되도록 몰래 코드를 심어놓은 사건이 작년에 논란이 되기도 했다. 빅테크들이 뭔가를 하고 싶어도 엔비디아 방식대로만 해야 하니까 불만이 크다.

Q: 극단적으로 CPU 없는 컴퓨터까지 갈 수 있을까?

A: 사람들이 실제로 생각하고 있다. GPU 위에서 OS(운영체제)를 돌리고, CPU 없이 모든 걸 처리하자는 것이다.

소프트웨어와 하드웨어 양쪽이 함께 바뀌어야 하겠지만, 기존 폰 노이만 아키텍처의 경계를 허물자는 흐름이다. AI 연산 폭증 때문에 1분 1초가 수백만 달러 가치를 지니게 되니, 극한의 최적화를 향해 가고 있다.

👉디지털 세계 설계자 ‘폰 노이만’을 넘어라... AI 컴퓨팅 미래는?

Q: 앞으로는 어떤 연구를 하고 싶나?

A: 원래 GPU 커널 최적화를 연구했는데, 그 분야는 AI가 1~2년 내에 자동화할 것 같다. 

다음으로 바라보는 것은 다양한 칩, 즉 멀티 실리콘 환경에서 AI 모델을 효율적으로 동시에 돌리기 위한 ‘추상화 계층(abstraction layer)’이다. 모델과 여러 종류의 칩을 이어주는 중간 레이어를 연구할 생각이다.

Q: 한국이 반도체 분야에서 주목해야 할 것은?

A: HBM 같은 메모리 반도체는 당장의 캐시카우지만, 넥스트를 대비하려면 비메모리 반도체 역량이 필수적이다. 

데이터플로우 아키텍처처럼 칩 내부에서 연산과 메모리를 통합하는 방향이 다음 빅뱅이 될 것이다.

Q: 실리콘밸리와 한국의 차이를 좁히려면 어떻게 해야 할까?

A: 이건 정말 어려운 문제다. 노동 유연성의 문제일 수도 있고, 보상 체계의 차이일 수도 있다. 여기는 최대 보상의 수준이 한국과 차원이 다르다. 그리고 투자의사 결정에서도 차이가 크다. 

실리콘밸리에서는 컴퓨터과학 박사 출신이 VC에 들어가 기술 투자를 한다. 사업 슬라이드만 보는 게 아니라 기술적으로 깊이 내려가서 정확하게 판단한다. 시장 시그널이 더 정확할 수밖에 없다.

문화적으로도 다르다. 여기 사람들은 자기가 관심 있는 걸 엄청 깊이 파고, 관심사가 다른 사람은 그냥 존중해준다. 하나를 파는 ‘덕후’ 문화가 자연스럽다. 그게 아까 말한 ‘테이스트’와도 연결된다. 아이디어를 자유롭게 공유하며 서로의 아이디어를 뺏지 않을 거라는 무언의 신뢰가 기저에 깔려 있다.

👉[단독] “AI는 메모리 70%, 한국의 무기”… 손영권이 짚은 생존 전략

설 연구원이 전한 실리콘밸리의 양극화는 먼 나라 이야기가 아니다. 소수 정예 팀이 수조 원의 자본을 유치하고, 나머지는 직장조차 구하기 어려운 구조가 AI 산업에서 현실화하고 있다. 실제로 오픈AI CTO(최고기술책임자) 출신인 미라 무라티가 이끄는 싱킹 머신스 랩은 약 30명의 팀으로 20억달러(약 3조원, 120억달러 밸류에이션)를 유치했다. 

한국에서도 AI 인재 집중, 스타트업 인력 양극화가 가속화될 가능성이 높다. 기업은 소수의 핵심 인재를 확보·유지하기 위한 보상 체계와 문화를 재설계하고, 개인은 대체 불가능한 전문성을 쌓는 데 집중해야 할 것이다.

폴 그레이엄 YC 설립자는 “AI 시대에 누구나 무엇이든 만들 수 있게 되면, 무엇을 만들지 선택하는 것이 가장 큰 차별화 요소”라고 했다. AI가 ‘How’를 해결해 주는 시대에는 ‘What’과 ‘Why’를 결정하는 능력이 핵심 경쟁력이 될 것으로 보인다. 깊은 사고력, 문제 정의 능력, 분야에 대한 직관을 키우는 교육으로 전환해야 한다. 

넥스트 빅 트렌드인 로봇, 월드모델 분야에서 기회를 찾는 노력도 필요하다. 한국은 제조업 로봇 밀도 세계 1위 국가다. 한국 정부와 기업이 로봇 AI·월드 모델·시뮬레이션 분야 R&D를 병행 추진하는 것이 전략적으로 중요해질 것이다. 한국 AI 산업의 경쟁력을 위해 기술 투자 생태계의 전문성을 높이는 것도 장기적으로 추진해야 할 과제다.