마크 저커버그 메타 CEO는 19일 IT 전문 팟캐스트 채널 ‘드와르케시’에 출연해 “라마3 405B를 현재 훈련하고 있다. 훈련 단계에서 이미 MMLU(대규모 다중작업 언어 이해) 85%를 기록했다”며 이같이 밝혔다. 라마3 405B는 AI 모델의 규모를 비교하는 기준 중 하나인 매개변수(parameters)가 4050억 개인 모델이다. 메타는 전날 차세대 개방형 AI 모델인 라마3 모델 중 매개변수 80억 개(8B) 버전, 700억 개(70B) 버전 두 가지를 먼저 공개했다. AI 업계에서는 “메타 라마가 AI 모델의 판도를 바꾸고 있다”는 평가가 나왔다. 강력한 성능의 개방형 AI 모델인 라마3가 AI 기술 및 산업 트렌드에 어떤 영향을 미치게 될지 3가지 시사점을 중심으로 살펴봤다.
안녕하세요 뷰스레터 구독자 여러분,스핀오프 레터 [비저너리(Visionary)]의 김세진입니다.요즘 환율이 무섭습니다. 최근 원∙달러 환율은 1달러당 1400원대까지 터치하면서 많은 이들의 긴장감을 불러일으켰죠. 숫자가 오를수록 원화 가치가 떨어진다는 말이니까요. 상황이 급박하게 흘러가자, 한국뿐만 아니라 미국, 일본 당국이 모두 개입했습니다. 최상목 부총리 겸 기획재정부 장관과 재닛 옐런 미국 재무장관, 스즈키 슌이치 일본 재무장관이 지난 17일 미국 워싱턴 D.C.에서 공동선언문을 통해 전방위적 구두 개입한 이후 원·달러 환율은 10원 넘게 하락하며 사태는 일시 진정됐습니다. 탈세계화라지만 경제는 갈수록 ‘초연결’ 시대입니다. 원화 가치가 떨어진 것도 중동 전쟁, 미국의 물가, 제롬 파월 미국 연방준비제도(Fed) 의장의 금리인하 연기 스탠스에서 비롯된 것이었죠. 미국도 한국과 일본 화폐의 평가절하에 가만있을 수 없었습니다. 아시아가 흔들리면 부품을 공급받는 미국의 애플, 인텔이 흔들립니다.
대규모 언어모델(LLM)은 역사의 산물이다. 오픈AI의 챗GPT 발표는 AI의 언어 추론 능력과 생성 능력이 인간 수준으로 진화했음을 보여주며 주요 기술로 빠르게 정착했다. 지난 2022년 11월 공개된 오픈AI의 챗GPT는 2024년 현재 월별 방문자 16억, 고정사용자가 1억8000명에 이른다. 전세계 인구의 3분의 1 이상이 사용하는 기술로 정착했다. 제한된 정보를 바탕으로 내용을 유추하는 추론과 인간과 유사한 수준의 매끄러운 문장 생성 능력이 서비스의 대중화를 이끈 주된 요인으로 평가 받는다. 발전 속도는 매우 빠르다. GPT4가 나온지 1년 됐지만 그 사이 구글 제미나이, 클로드 등의 경쟁 모델이 나왔고 메타는 오픈소스 LLM '라마'로 빠르게 시장을 장악하고 있다. 초기 언어 모델의 문제는 주어진 데이터 입력(input)으로 문맥의 의미를 이해할 수 없다는 점이었다. 언어 이해의 핵심은 현재 데이터 입력이 이미 학습된 사회적 의미 및 주어진 전체 데 이터의 선후 관계에 기반한 문맥적 정의를 이해하는 데 있다. 이를 해결한 것이 구글의 트랜스포머 아키텍처다. 하지만 2024년 4월을 넘어서며 LLM 기반의 모델은 기존 자연어 처리에서 멀티모달 모델(Multimodal, 다중모드)로 진화하고, 텍스트를 넘어 오디오, 비디오 등으로 확장되고 있다. 기업들은 훈련 방식에 있어 모델 개발의 차별화, 실제 최적화된 이용 사례에 맞는 모델 선택을 요구 받는다. 특히 각 기업은 한번 생성AI를 도입하면 돌이킬 수 없다는 '불가역적' 선택이라는 점에서 무엇을 어떻게 도입해야 할지 고민이 깊어진다.
안녕하세요 뷰스레터 구독자 여러분, 새로운 스핀오프 레터, [비저너리(Visionary)]로 찾아뵙는 김세진입니다.약 4년 전이었습니다. 홍콩에서 날아온 한 암호화폐 거래소 대표 A씨가 자신이 산업을 재편할 거래소를 만들고 있다며 저에게 접촉했습니다. 당시(그리고 지금도) 업계엔 거래소 외 이렇다 할 비즈니스모델이 없는 상태였죠. 그가 내뱉은 거래소란 단어에 “또 거래소야?”라는 생각이 먼저 들었습니다. 그런데 그가 말한 건 당시 유행하던 일반 거래소나 탈중앙 거래소(DEX, 운영 주체 없이 스마트계약 시스템으로 구동되는 거래소)가 아니었습니다. 파트너사끼리 거래량을 공유하면서 현지에 맞는 컴플라이언스(준법감시)를 탑재한 거래소 제작 솔루션이었죠. 크립토 사업모델에도 ‘클라우드’ 컨셉을 도입한 점이 흥미로웠습니다. 4년이 지난 지금 그의 소식은 더 이상 들리지 않습니다. 고객사를 끌어들여 유의미한 거래량을 확보하는 건 다른 얘기였으니까요. 중요한 건 기술 세계에서 클라우드는 지금도 ‘힙한’ 아이템이라는 것입니다. 분산형 클라우드, 소버린AI같이 약간 말은 다르지만요.
샘 알트만 오픈AI 최고경영자(CEO)는 '일과 일자리'에 대해 질문을 받는다. 인공지능(AI) 기술 개발의 최전선에 서 있다보니 받는 당연한 질문이다. 그는 렉스 프리드먼의 팟캐스트(419화) 인터뷰에서 "일자리에 대한 질문을 바꿔보자"라고 제안했다. 전체 일자리가 아닌 업무(Task) 중심으로 일에 대한 정의를 바꿔보자는 것이다. 그렇게 되면 일과 일자리가 AI에 대해 대체되는 흐름이 보일 것이고 그 것을 예측하고 대응할 수 있는 대응책을 만들 수 있을 것이다. 생성AI로 인해 일과 일자리가 지각변동하고 있다. 화이트칼라로 구분되는 전문직, 사무직 일자리의 대체가 시작되고 있는 것. 기술 발전 뿐 아니라 고령화 인구의 증가, 저출생 기조로 인해 생산가능 인구가 줄면서 일과 일자리에 대한 재정의가 시급히 요구되고 있다. 전 세계 각 국가들은 ‘은퇴’ 연령을 늦추면서 은퇴라는 개념도 희석되고 있는 상황. 이런 상황에서 기술이 어느 정도까지 새로운 일자리를 창출하고 대체하는지에 대한 새로운 데이터가 속속 나와 눈길을 끈다.
샘 알트만 오픈AI 최고경영자(CEO)는 동부서주하고 있습니다. 그의 빅픽쳐 중 하나는 인공지능(AI) 서비스의 핵심인 반도체부터 에너지, 데이터센터 용량 확대를 위한 글로벌 연합입니다. 이를 위해 각국 정부 및 민간 리더들을 만나고 있죠.11일(현지시각) 블룸버그에 따르면 알트만 창업자는 최근 아랍에미리트(UAE)를 찾아 투자자와 정부 관리들을 만나 대규모 AI 인프라 지원 방안에 대해 논의할 것으로 알려졌습니다. 앞서 서방 국가 관계자들과도 이 사안을 논의했고, 조만간 미국 워싱턴D.C에서도 회의를 개최할 예정입니다. 최근에는 지나 러몬도 미국 상무부 장관도 만났습니다.알트만과 전 세계 관계자들의 잇단 회동은 이전에 알려진 것보다 더 광범위하게 AI 동맹이 형성되고 있음을 의미합니다. 알트만은 이른바 AI '올인원' 계획을 위해 단순 소프트웨어에 그치지 않고 산업에 필요한 반도체 핵심칩, 그리고 거기에 필요한 에너지 발전소까지 직접 구축하고 있죠. 이에 그는 글로벌 투자자들로부터 수십억달러를 모금하려는 계획을 갖고 있습니다. 여기서 모은 자금은 반도체 제조 공장 네트워크를 구축하는 데 사용할 계획입니다. 👉 AI동맹 확산 가운데 일본, 아시아 맹주로 부상샘 알트만 CEO는 이런 구상을 현실화하기 위해 중동과 아시아 각국을 돌며 손정의 소프트뱅크 회장, 세계 최대 국부펀드 중 하나인 싱가포르 테마섹 등과 만나 투자 논의에 나서는 등 AI왕국 건설에 박차를 가하고 있습니다. 알트만은 “에너지 및 데이터센터 용량 공급 확대를 위해 혁신적인 에너지원이 필요하다”면서 "더 저렴한 태양광 발전이나 핵융합 기술이 AI 개발을 촉진할 수 있다"고 제안한 것으로 알려졌습니다.이때 중국·러시아에 대항하는 미국과 일본의 밀월 관계도 눈에 띕니다. 일본은 최근 미국 빅테크 기업들을 공격적으로 유치하고 있죠. 오픈AI는 이달 중 도쿄에 아시아 최초로 지사를 설치하고 본격적인 기업 맞춤형 서비스를 제공할 계획입니다. 엔비디아는 작년 말 조인트벤처를 통해 일본에 반도체 공장을 설립하겠다는 뜻을 밝힌 데 이어 사쿠라인터넷과 소프트뱅크 등 일본 기업에 그래픽처리장치(GPU)를 제공할 예정이죠. 마이크로소프트(MS)는 일본 내 데이터센터 확충에 2년간 29억 달러(약 3조9000억원)를 투자할 것으로 알려졌습니다. 아마존웹서비스(AWS)는 AI와 클라우드 인프라를 지원하고자 2027년까지 일본에 별도로 150억 달러를 투자할 예정이고, 구글과 MS는 AI 기반 모델을 개발하는 일본 기업에 컴퓨팅 리소스를 제공할 것이라고 밝혔습니다.왜 미국 빅테크 기업들은 기술 인프라와 인력, 그리고 스타트업 생태계가 우수한 한국이 아닌 일본으로 향하고 있는 것일까요? AI 패권 전쟁이 본질적으로 '미국과 중국'의 대결이기 때문입니다. 미국의 비즈니스 리더들은 여야 구분없이 "중국이 AI 분야에서 미국을 앞지르고 있기 때문에 더 투자 해서 이겨야 한다"고 입을 모으고 있는 상황입니다. 여기에 2024년들어 핵심이 서비스보다 'AI 칩' 등 인프라 경쟁으로 흐르고 있습니다. 한국은 북한 이라는 지정학적 리스크가 크고 일본보다는 중국 경제 의존도가 크다고 판단하고 있는 것입니다. 하지만 지정학적 리스크에서는 이스라엘도 만만찮은데 빅테크 기업들이 이스라엘 투자는 꺼리지 않는다는 점에서 한국의 경쟁력과 AI 패권전쟁 전략을 재검토할 필요가 있어 보입니다.
구글이 자사 클라우드 제품에 생성인공지능(Generative AI) 기능을 대거 도입했다. 클라우드 제품에 대형언어모델(LLM) ‘제미나이(Gemini)’를 전면 적용했다. 코드작성 보조도구 ‘제미나이코드어시스트’, AI 앱 최적화 프로그램 ‘제미나이클라우드어시스트’ 등이 그 예다.‘구글 분산형 클라우드(Google Distributed Cloud, GDC)’이라는 큰 체제 하에 소버린 클라우드(Google Sovereign Clouds), 크로스 클라우드(Cross-Cloud) 등을 제시하며 각 고객사가 각자 사정에 맞게 ‘맞춤화’할 수 있는 기능을 강조한 게 특징이다. 여기에 더해 인프라 단에는 엔비디아의 블랙웰 등을 도입, 생성AI 클라우드 제품에서 기술적 우위도 강조했다. 구글은 지난 2월 개인대상(B2C) 서비스 주력 제품이었던 제미나이가 부정확한 역사적 이미지 생성으로 논란을 겪은 바 있다. 이번 발표에서 기업별 맞춤형 생성AI 기능을 강화한 클라우드 제품을 강조하며 기업대상(B2B) 서비스로 돌파구를 마련하겠다는 의지로 풀이된다. 제미나이가 소비자용 시장에선 고전하고 있지만, ‘기업용 시장에선 다르다’는 게 토마스 쿠리안 구글 클라우드 대표의 말이다.
구글이 새로운 자체 개발 칩을 선보이며 AI 군비 경쟁에 불을 지폈다. 자체 개발 AI 칩을 바탕으로 인텔, 엔비디아 등 외부 반도체 전문업체에 대한 의존도를 줄이고, 생성 AI 개발을 지원하는 구글 클라우드 인프라의 역량을 강화할 수 있을 것이란 관측이 나온다. 구글 클라우드는 9일(현지 시각) 미국 라스베이거스에서 열린 연례 컨퍼런스 ‘넥스트 2024(Next ’24)’에서 Arm 아키텍처 기반의 새로운 자체 개발 CPU(중앙처리장치) ‘액시온(Axion)’을 처음으로 공개했다. 구글에 따르면 액시온은 기존 구글 클라우드에서 서버용으로 주로 활용되던 x86 아키텍처 기반 CPU보다 성능은 50%, 에너지 효율은 60% 높인 제품이다. 구글은 성능 극대화, 에너지 절약을 원하는 구글 클라우드 사용 기업 고객이 액시온을 선택할 수 있도록 컴퓨팅 옵션 형태로 칩을 제공할 예정이다.
2024년 이제 막 1분기를 넘어섰지만, 세상은 빠르게 변하고 있다. 오픈AI는 단순한 프롬프트(명령어) 입력만으로 생생한 비디오를 생성하는 소라(Sora)를 내놓는가 하면, 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 뉴럴링크는 뇌에 칩을 이식해 생각만으로 컴퓨터 마우스를 조작할 수 있게 됐다고 발표했다. 의료 분야도 빠르게 변한다. 노보노디스크는 이미 비만 치료로 유명해진 오젬픽, 위고비보다 2배 효과적인 체중조절제 아미크레틴(amycretin)을 시험 중이며, 영국 임패리얼컬리지 등 컨소시엄은 최초로 메신저리보핵산(mRNA) 기술을 활용한 새로운 암 치료법을 개발 중이다. 약 3개월 만에 나온 변화다. 그렇다면 약 10년 후인 2035년에는 어떤 모습으로 사회가 변할까? 베인앤컴퍼니는 소비자 습관을 분석한 연구를 통해 사회가 완전히 바뀔 것이라고 진단했다. 인구변화, 이주, 결혼에 대한 인식의 변화, 기후변화 등이 총체적으로 맞물린 현상이다. 이에 먼저 관습을 깨고 새로운 경로를 개척하는 ‘개척자’가 생존할 수 있을 것으로 봤다. 지난 8일부터 16일(현지시각)까지 미국 텍사스 오스틴에서 열린 사우스바이사우스웨스트(SXSW)2024에서 베인앤컴퍼니(Bain & Company)의 조엘 드 몬트골피어(Joëlle de Montgolfier) 유통 및 소비자제품 부문 부사장과 레아 존스(Leah Johns) 글로벌소비자연구소 총괄은 자체 연구 결과를 바탕으로 8대 소비자경제 미래상과 기업이 침투할 수 있는 비즈니스모델을 제시했다.
안녕하세요 구독자 여러분, 오픈해 주셔서 감사합니다. 바야흐로 AI 패권 전쟁 시대입니다. 마이크로소프트(MS)와 오픈AI가 1000억달러(약 135조원) 규모의 초대형 슈퍼컴퓨터 및 데이터센터 개발 프로젝트인 '스타게이트'를 추진하고 있다는 소식은 패권 전쟁의 규모를 짐작케 합니다. 135조원이라뇨. 기존 클라우드 기반 데이터 센터 건설 비용의 100배입니다. 샘 알트만은 오픈AI의 새 반도체 프로젝트를 위해 무려 7조달러를 조달하려 한다는 보도가 나오기도 했습니다. MS와 오픈AI는 135조원을 확보, 어디에 쓸까요? 서비스 뿐 아니라 반도체, 데이터, 에너지를 확보하는데 '올인'할 것이며 이 분야에 미래 비즈니스가 있을 것입니다. 이 전쟁의 핵심이 AI 반도체로 흐르고 있습니다. AI가 미래 비즈니스의 근간이 되는 기술이 되면서 생성AI 서비스를 만드는데 필수재인 AI칩 구하기에 혈안이 되고 있습니다. 오픈AI, 마이크로소프트, 구글, 메타, 삼성 등 내로라 하는 개별 기업 뿐만 아닙니다. 미국, 중국, 일본, 유럽연합(EU) 등도 AI 반도체 부품을 만들고 패키징(조립)하는 공장을 짓는 기업에 앞다퉈 보조금을 뿌립니다. 기업전에서 국가대항전으로 번지고 있죠. AI가 기업간 대결이 아닌 국가간 패권 전쟁인 이유입니다. <더밀크 주요 기사>알고리즘, 사랑과 관계를 바꾼다... 앱은 필수, 만남은 선택(영문)Technology Has Turned New York Dating Into 'Perfectionism'아마존의 실패. 무인 매장 핵심 '저스트워크아웃' 포기 왜?테슬라, 인도에 생산 거점 확보...수요와 생산 부진 벗어날 묘수될까?창업가가 미국에 있는 이유: 작은 우연이 큰 결과 만든다AI 칩에 이어 품귀 현상을 보이는 게 또 있습니다. 생성AI 서비스의 기반이 되는 대형언어모델(LLM) 등을 훈련하려면 엔진 격인 AI 가속기와 함께 방대한 양의 훈련 데이터가 필요합니다. 언어모델은 인간의 언어, 행동, 관습 등을 모방하는 구조이기 때문에 많은, 정제된 훈련 데이터를 넣어야 AI가 더 똑똑해질 수 있습니다.