소버린 AI

‘이스라엘과 팔레스타인에 대한 일론 머스크의 견해를 검색 중입니다.”지난 10일(현지시각) 공개된 xAI의 최신 AI 모델 ‘그록4(Grok 4)’가 보여준 사고방식은 전 세계에 큰 충격을 던졌다. 논란이 되는 질문을 던지면 xAI의 설립자인 일론 머스크의 입장을 먼저 참조하는 방식으로 작동한다는 사실이 확인됐기 때문이다. xAI는 이후 그록4의 시스템 프롬프트(system prompt, AI 챗봇에 대한 일련의 지침)를 수정해 이 문제를 해결했다고 밝혔지만, 이 사건은 특정인이나 특정 기업의 관점을 강화하고 주입하는 ‘에코 체임버(echo chamber, 반향실)’ 효과가 언제든 AI에 적용될 수 있다는 우려를 불러일으켰다. AI가 우리 삶에 미치는 영향이 커지면서 독성(toxicity), 환각(Hallucination), 개인 정보 보호 같은 문제도 함께 대두되는 추세다. 더 리스닝 앱(The Listening App)에 따르면 이미 미국인의 60%는 일주일에 한 번 이상 AI 도구를 사용하며 6명 중 1명은 일상생활에서 AI에 의존하고 있다고 답했다. 플로리다에서는 10대 소년이 AI 챗봇의 조언을 듣고 극단적 선택을 하는 충격적인 사건이 발생하기도 했다.  이런 문제를 어떻게 해결하면 좋을까? AI 안전·규제 분야 전문가 마이클 컨스(Michael Kearns) 펜실베이니아대학 컴퓨터 및 정보과학과 교수는 더밀크와의 인터뷰에서 AI가 서비스할 그룹을 대표하는 데이터를 충분히 확보하는 것과 AI가 제시하는 편향, 불공정, 독성 답변에 대한 ‘가드레일(Guard rail)’을 설정하는 것이 중요하다고 강조했다. 결국 인간이 적극적으로 개입해야 문제를 해결할 수 있다는 것이다. 2020년부터 아마존 학자(Amazon Scholar)로 활동하며 AWS ‘RAI(Responsible AI)’팀을 설립한 컨스 교수를 AWS 서밋 뉴욕 2025 컨퍼런스에서 만나 책임감 있는 AI를 어떻게 구현할 수 있는지, 소버린 AI 관점에서 한국이 어떤 전략을 취하면 좋을지, 한국의 젊은 과학자들에게 전하고 싶은 조언은 무엇인지 물었다.다음은 인터뷰 전문

“AI 지배력(dominance)을 계속 이어가기 위한 ‘미국의 AI 액션 플랜(America's AI Action Plan)’을 발표합니다.”스리람 크리슈난(Sriram Krishnan) 백악관 AI 수석 정책 고문은 23일(현지시각) X를 통해 “핵심 주제는 AI 혁신 가속화, 미국의 AI 인프라 구축, 국제 AI 안보 주도 세 가지”라며 이같이 밝혔다. 실리콘밸리 대형 벤처캐피털(VC) 앤드리슨 호로위츠(Andreessen Horowitz)의 전 총괄 파트너 출신인 크리슈난 수석은 이어 “지난 6개월 동안 데이비드 삭스 백악관 AI·암호화폐 정책 책임자, 마이클 크라치오스 백악관 과학기술정책실 실장 등과 함께 많은 시간과 땀을 쏟았다”며 “오픈 소스 분야에서도 미국이 주도권을 잡게 될 것”이라고 강조했다. 도널드 트럼프 미국 행정부가 이날 발표한 미국 AI 액션 플랜은 미국을 AI 분야에서 확고부동한 글로벌 기술 지배자로 만들겠다는 강력한 목표를 담고 있다. 바이든 행정부의 AI 정책 기조를 완전히 뒤집고, 규제 완화와 혁신 가속화에 초점을 맞춤으로써 글로벌 AI 산업의 지형에 막대한 파급 효과를 미칠 것으로 예상된다. 이번 액션 플랜은 트럼프 대통령 취임 직후인 2025년 1월 23일 서명한 행정명령 14179호 ‘미국 AI 리더십 장벽 제거(Removing Barriers to American Leadership in Artificial Intelligence)’에 따라 180일 이내 제출된 결과물이다.트럼프 대통령은 취임 첫날 바이든 전 대통령의 AI 행정명령 14110호 ‘안전하고 신뢰할 수 있는 인공지능 개발 및 사용(Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence)’을 공식적으로 폐기하며 AI가 초래할 위험 감소보다는 산업 혁신 촉진과 경쟁력 강화에 중점을 두겠다는 입장을 명확히 한 바 있다.AI를 글로벌 권력 균형을 재편할 혁명적 기술로 인식하고, 미국의 기술적 지배력을 확보하는 것을 국가 안보의 필수 요소로 간주하는 정책 기조가 반영된 결과다. 성장과 패권에 집중한 미국의 새로운 AI 정책은 전 세계 AI 산업의 투자, 기술 개발, 인재 흐름, 국제 협력 및 규제 환경에 광범위한 영향을 미칠 것이란 게 업계 관계자들의 분석이다.👉관련 기사: AI 제국주의의 부상: 컴퓨팅 파워가 그리는 새로운 세계 질서

‘매일 같이 쏟아지는 수많은 AI 모델 중 어떤 걸 활용하면 좋을까?’AI 모델 평가 기업 아티피셜 애널리시스(Artificial Analysis)가 15일(현지시각) 발표한 ‘AI 채택 설문 리포트’에서 힌트를 얻을 수 있다. 리포트 데이터에 따르면 2024년에 비해 2025년 가장 두드러진 성과를 낸 건 ‘구글 제미나이(Google Gemini)’였다.1000명 이상의 실제 기업 경영진, 개발자들을 대상으로 설문조사를 진행한 결과 전년 대비 제미나이의 수요가 두 배로 증가한 것이다. 2024년 제미나이의 수요는 31%로 오픈AI(83%)의 절반에도 못 미쳤고, 메타 라마(49%), 앤트로픽 클로드(46%)에도 뒤처진 4위였다. 하지만 2025년에는 이 수치가 80%로 49%포인트 급증, 오픈AI(84%)를 바짝 추격하며 2위로 껑충 뛰었다.

“그록4(Grok 4)에 논란이 되는 질문을 던지면 답변을 제공하기 전 일론 머스크의 입장을 찾기 위해 검색을 실행하는 경우가 있습니다.”AI 연구가 사이먼 윌리슨(Simon Willison)은 11일(현지시각) 자신의 웹사이트를 통해 “앤서닷AI(Answer.AI)의 창업자 제레미 하워드를 비롯한 다양한 전문가들로부터 이 소식을 들었다”며 이같이 주장했다.

2022년 11월 챗GPT 출시 이후 AI 기술과 글로벌 산업 지형도는 정말 빠른 속도로 변해왔습니다. 2025년 상반기 결산 시즌을 맞아 쏟아지는 AI 이슈 속에서 산업의 판도를 바꾸는 시그널, 미래에도 영향을 미칠 만한 굵직한 이슈 10가지를 2025 상반기 AI 10대 뉴스로 선정했습니다.

‘전 세계에서 가장 막강한 AI 경쟁력을 가진 국가는 어느 나라일까? 주요 국가들의 AI 경쟁력 순위는 어떻게 바뀌고 있을까?’스탠퍼드대 인간 중심 AI 연구소(HAI)가 지난 21일(현지시각) 발표한 ‘글로벌 AI 파워 랭킹’에서 최신 트렌드를 살펴볼 수 있다. 스탠퍼드 HAI가 연구·개발(R&D), 경제, 교육, 정책, 인프라 등 8개 분야 42개 지표를 활용해 집계한 ‘글로벌 AI 활력 도구(Global AI Vibrancy Tool) 2024’에 따르면 AI 최고 선도국은 미국이었다. 2~4위는 중국, 영국, 인도가 차지했고, 한국은 7위에 랭크됐다. 이 순위에 따르면 자체 AI 기술 능력과 인재 양성을 중시하는 '소버린AI'를 강조한 국가들의 경쟁력이 높아지고 있다는 것이 특징이다. 글로벌 AI 활력 도구는 AI 연구 성과, AI 관련 경제 활동 수준, 기본 AI 인프라 지표를 포함, 어느 국가가 AI를 선도하고 있는지에 대한 포괄적이고 정량적인 시각을 제공한다. 시계열로 국가별 AI 생태계가 어떻게 발전해 왔는지 볼 수 있고, 국가별로 뛰어난 부분 및 뒤처진 부분도 확인할 수 있다. 네스토르 마슬레이 프로젝트 책임자는 “AI는 전 세계 국가들의 국가적 관심사로 부상했다”며 “어느 국가가 AI를 선도하는지에 대한 관심도 그 어느 때보다 높아졌다”고 했다.

크리스 예(Chris Yeh) 블리츠스케일링 벤처스 대표는 실리콘밸리에서 활동하는 벤처 캐피털리스트다. 그는 여러 실리콘밸리 스타트업을 성공적으로 발굴한 경험을 바탕으로, 빠르게 변화하는 글로벌 IT 산업의 트렌드를 날카로운 시각으로 분석한다. 지난 11월 8일 더밀크와 진행한 인터뷰에서 크리스 예 대표는 오는 2025년 주목해야 할 10가지 기술 트렌드를 제시했다. AI 기술의 진보와 확장 속에서 크리스 예는 GPT-5의 도입부터 소버린 AI에 이르기까지 핵심 트렌드를 내다보며, 미래의 IT 산업과 우리의 일상이 어떤 모습으로 변모할지 예측했다. 특히 AI 기반 콘텐츠 제작, 자율주행차, 스마트 하드웨어, 그리고 산업별 AI 활용에 관한 통찰을 통해 AI가 기업과 개인의 삶에 미칠 실질적인 영향과 기회를 조망했다. 베스트셀러 작가이기도 한 크리스 예 대표는 이 변화의 물결 속에서 창작물을 만들 때 글쓴이의 관점(POV, Point of View)이 중요하다며 바뀌는 시대에도 인간의 고유한 역할이 여전히 중요하다고 설명했다. 그는 최근 챗GPT를 활용해 책 한 권을 단 12시간 만에 완성했던 경험을 공유하며 업무 속도가 빨라진 것과는 별개로 AI 시대에도 창의성과 개인의 독창적인 시각이 빛을 발할 것이라고 강조했다. 다음은 크리스 예가 예측한 2025년의 10대 트렌드다.

“사람들은 AI가 어디까지 왔는지 아직 이해하지 못하고 있다.”실리콘밸리 인공지능 스타트업 앤트로픽(Anthropic)이 22일(현지시각) 발표한 ‘컴퓨터 사용(computer use)’ 기능에 대한 한 AI 컨설턴트의 반응이다. AI 기술의 발전 속도가 너무 빨라 일반 대중은 이런 변화를 미처 인지하지 못하고 있다는 것이다. 실제로 이날 앤트로픽이 공유한 시연 영상은 기술업계에 적잖은 충격을 던졌다. AI가 키보드 입력, 버튼 클릭, 마우스 커서 이동 등 컴퓨터 조작에 필요한 모든 작업을 스스로 수행한 것이다. 최신 AI 모델인 ‘클로드 3.5 소네트’ 기반으로 작동하는 일종의 ‘AI 에이전트(agent, 대리인)’ 기능이었다. 

조경현 뉴욕대 교수는 16일(현지시각) 더밀크와 진행한 인터뷰에서 “본질적으로 AI 모델(LLM, 대규모 언어 모델) 사전 훈련 데이터에 대한 투명성이 사라졌다”며 이같이 말했다. 오픈AI GPT, 구글 제미나이 등 ‘파운데이션 모델(foundation model, 기초 모델)’로 불리는 외부 LLM을 도입, 활용할 경우 데이터 투명성 부족, 새로운 지식 습득 한계, 호환성 부족 때문에 어려움을 겪을 수 있다는 주장이다. 조 교수는 “많은 기업들이 오픈AI의 폐쇄형 모델을 API(애플리케이션 프로그래밍 인터페이스)로 연동해 사용하거나 메타의 오픈형 모델 라마를 미세조정(fine-tuning) 하는 방식으로 빅테크, 실리콘밸리 AI 기업에 의존하고 있다”며 “이런 방식으로는 데이터 편향성, 종속성이라는 문제를 해결할 수 없다”고 강조했다.  조 교수는 세계적인 AI 분야 석학 중 한 명으로 꼽힌다. 특히 자연어 처리 분야 최고 전문가다. 컴퓨터 과학계 노벨상으로 불리는 튜링상 수상자인 요슈아 벤지오 몬트리올대 교수와 함께 ‘신경망 기계 번역’을 고안한 논문을 썼고, 튜링상 수상자이자 딥러닝의 대부로 불리는 제프리 힌튼 토론토대 교수의 추천으로 2018년 ‘블룸버그 주목해야 할 50인’에 선정되기도 했다. 조 교수가 언어모델 자체 개발의 필요성을 강조한 주요 근거는 무엇일까. 자체 개발을 위해 필요한 건 무엇이며 어떤 성공 사례가 있을까. AI 모델 도입, 활용, 개발을 고려하는 기업들이 꼭 참고해야 할 조 교수의 조언을 정리했다.

2022년 11월 30일 챗GPT 출시 후 AI 반도체 분야 선두 주자인 엔비디아가 무서운 속도로 성장하고 있다. 챗GPT 출시 하루 전 515조원이었던 시가총액이 13개월이 흐른 2023년 말 3배가 넘는 1616조원으로 뛰었다. 여기에서 그치지 않고 올해에만 추가로 63.63% 더 상승, 2월 23일(현지시각) 종가 기준 1조9700억달러(약 2625조원) 가치를 지닌 회사가 됐다. 엔비디아의 시가총액은 마이크로소프트, 애플에 이은 미국 3위에 해당한다. 2만6000명의 직원으로 직원 수 7배의 구글(18만 명)을 당당히 뛰어넘었다. 정말 미친 것 같은 속도로 수직 상승했다. 상승 배경은 AI에 있다. 엔비디아의 AI 반도체 점유율은 80~90%로서 사실상 AI 반도체 시장에서는 독점 업체에 가깝기 때문이다. 4년 전 엔비디아는 스마트폰용 저전력 칩에 강점을 지닌 IP(설계자산) 회사 Arm을 53조원에 인수(M&A)한다는 계획을 발표하고, 1년 반 동안 추진하기도 했었다. 당시 중국의 반대로 인수가 좌절됐는데, 큰 기회인 Arm 인수에 실패하면 어려움이 있을 것이라는 여론이 지배적이었다. 하지만 그로부터 2년이 지난 지금, 누구도 이 사건을 실패로 기억하지 않는다. 오히려 ARM을 인수하지 않음으로써 핵심 사업에 더 집중, 지금과 같은 거대한 성과를 만들 수 있지 않았을까 하는 생각이 들 정도다. 현재 전 세계 AI의 엔진은 엔비디아라고 말해도 무리는 아닐 것이다. 어떤 이는 이런 성과가 게임용 GPU(그래픽처리장치)를 개발하던 회사에 우연히 찾아온 행운이라고 생각할 수도 있다. 그러나 이는 절반의 진실만 담은 시각이다. 실제로 2012년 침체기를 끝내고, AI 전성기를 시작한 알고리듬 ‘알렉스넷(AlexNet)’은 엔비디아가 자사의 게임용 GPU를 과학기술 연산에 사용할 수 있게 소프트웨어를 제공했기에 가능했다. AI의 새 전성기를 이끄는 오픈AI도 마찬가지다. 회사 초창기였던 2016년 젠슨 황 엔비디아 CEO는 AI 전용 슈퍼컴퓨터 ‘DGX-1’을 오픈AI에 기증, 손수 전달했다. 당시 오픈AI은 ‘AGI(범용인공지능)’라는 업계에서 인정받지 못하던 목표를 추구하는 회사였다. 오래전 작은 신생 스타트업의 가능성을 알아보고, 지속해서 지원한 것이 결실을 맺은 것이다. 대부분의 AI 연구자들은 이런 지원에 힘입어 엔비디아 플랫폼(GPU, CUDA·병렬 프로그래밍 모델)에서 첨단 연구를 수행한다. 엔비디아는 어느 누구보다 빠르게 새로운 AI 기술 흐름을 포착하고, 그에 맞는 반도체를 먼저 개발하고, 결과적으로 과학자들이 엔비디아에 더 의존하게 만드는 선순환 구조를 완성한 셈이다.

뷰스레터 독자 여러분 안녕하세요. 더밀크 박원익입니다. 오늘(10월 9일)은 한국의 '한글날'입니다. 미국 등 해외에 있으면 '한글'의 인기를 실감하게 됩니다. 요새는 뉴욕 맨해튼 중심가에 나가도 한글로 된 광고를 많이 볼 수 있고 TV, 드라마나 음악을 들을 때 한국어가 나오면 반가움 이상의 자부심을 느끼죠. 실제로 언어학습 앱 듀오링고에 따르면 한국어는 전 세계에서 가장 빨리 성장하는 언어 중 하나입니다. 전 세계 7번째로 많은 사람이 공부하는 언어가 한국어입니다. 7개국에서 제2외국어로 가장 인기 있는 언어, 4개국에서는 가장 많이 학습하는 언어에 올랐습니다. 필리핀과 브루나이에서 일본어를 제치고 한국어가 1위 외국어가 됐고 아르헨티나, 독일, 인도 등 많은 국가에서 가장 빠르게 성장하는 언어이자 중국, 인도, 일본, 베트남에서 가장 인기 있는 상위 5개 언어에 속했습니다. 인구 기반 언어 사용자 순위는 20위에도 들지 못하는데, 공부하려는 언어는 인구 대비 1위입니다. K팝과 K드라마 등 디지털에 강한 K콘텐츠의 힘이 '언어'의 힘이 됐고 그것이 국력으로 이어지고 있는 것입니다. 한국 인구가 줄고 있다며 걱정만 하기보다 한국어를 사용하는 '디지털 인구'를 넓히는 데 총력을 기울이면 어떨까요?