인간처럼 사고하고 행동할 수도 있는 인공지능(AI), '일반인공지능(AGI)'에 대한 기대와 두려움이 커지는 가운데, AI가 이미 인간의 학습능력을 침범하기 시작했다는 주장이 나왔다. 이때 눈에 띄는 변화는 AI의 추격이 아닌 인간 스스로의 후퇴다. 이장선(학계 활동명: 칼 스트라토스) 럿거스대학교(뉴저지주 주립대) 교수는 AGI 시대에 앞서 인간이 경계해야 할 점으로 ‘생각의 자동화’를 꼽았다. 미국 고등교육 현장에서 이미 이를 피부로 느끼고 있다. 챗GPT 등으로 학교 과제가 무의미해지고, 인간의 학습 능력이 쇠퇴하기 시작했다는 것. 이 교수는 미국 컬럼비아대학교를 거쳐 현재 럿거스 대학교에서 AI 비지도 학습법 및 지식사용모델 개발을 연구하는 미국 내에서도 손꼽히는 AI 전문가다.
메타 라마3는 오픈 소스일까요? 팩트를 체크해 보면 답은 ‘아니오’에 가깝습니다. “공개적으로 설계에 접근할 수 있어 누구나 해당 기술을 수정하고 공유할 수 있다”는 오픈 소스의 정의에 해당하지 않기 때문입니다. 결정적으로 라마3는 소스 코드가 공개돼 있지 않습니다. 소스 코드가 공개돼 있느냐, AI 모델을 훈련한 데이터가 공개돼 있느냐, AI 모델의 특성 및 성능을 결정하는 가중치(weights)가 공개돼 있느냐 등 세부 항목을 따져서 ‘개방성’ 정도를 평가하는 차트가 등장할 정도로 ‘개방성’은 AI 업계의 중요 이슈가 되고 있습니다.
바야흐로 인공지능(AI) 인프라를 향한 군비 경쟁 시대다. 대형언어모델(LLM)을 훈련하는데 필수재인 AI 칩 전쟁이 국가전으로 확대되는가 하면 한편에서는 데이터 확보 전쟁이 치열하다. 언어모델은 인간의 언어, 행동, 관습 등을 모방하는 게 기본 골자다. 그 때문에 연구자료, 기사, 위키피디아 등 인터넷에서 생성된 텍스트를 최대한 많이 넣어(인풋) 훈련해야 최고의 결과물(아웃풋)을 얻을 수 있다. 그러나 AI칩처럼 AI 모델 고도화에 필요한 고품질 데이터에도 품귀 현상이 벌어지고 있다. 절대적인 양이 부족한 데다 저작권 문제 등으로 데이터 확보가 더 어려워진 것. 이에 마이크로소프트, 오픈AI, 구글 등 기업은 데이터 원천소스를 늘리는 한편, 인공으로 데이터를 만드는 ‘합성데이터(synthetic data)’에 주목하고 있다.
생성 AI 서비스가 정치적, 역사적 논란으로 확대되고 있다. 생성AI 챗봇은 정보 검색, 이미지 제작에 본격적으로 활용되고 있지만, 답변에 인종 및 민족을 부정확하게 묘사하거나 기존 인간이 차별, 고정관념을 반영한 이미지를 생성,하고 가짜 정보를 사실처럼 제공(환각)하는 등 부작용이 점차 커지고 있는 것. 특히 대형 선거가 치러지는 올해, 생성AI 챗봇에 대한 여론조작 우려가 커지자 정치권이 규제에 나서면서 이는 비즈니스에 직접적인 영향을 미치는 중이다. 이에 콘텐츠 조정과 언어 뉘앙스를 이해하는 기술적 발전이 AI비즈니스의 성패를 가를 요소가 되고 있다. 지난 8일부터 16일까지 미 텍사스 오스틴에서 열린 SXSW2024에서도 이 문제가 집중적으로 거론됐다. 더밀크는 이 문제에 권위자로 인정받고 있는 파비앙 오퍼트(Fabian Offert) UC산타바바라 교수를 인터뷰했다.
젠슨 황 엔비디아 CEO가 지난 18일부터 20일까지 3일간 미 산호세 컨벤션센터에서 열린 GTC2024에서 꺼낸 중요한 화두입니다. 그는 쉬지 않고 기조연설 2시간, 기자간담회 1시간 동안 열정적으로 새로운 제품을 소개하고 회사의 방향성, 아니 전세계 산업이 앞으로 어디로 갈지 머릿속에 있는 생각과 비전을 쏟아냈습니다. 저는 기조연설 시간에 '게스트 스피커'가 나올줄 알았습니다. 아니면 애플, 구글처럼 직원들이 나와서 제품을 소개할 수도 있죠. 하지만 젠슨 황은 기조연설 2시간 동안 거의 쉬지 않고 열정적으로 발표했습니다. 기자간담회도 마찬가지였습니다. 중간에 "너무 말을 많이 해서 머리가 아프다"고 할 정도로 성실하게 대화에 임했습니다. 거의 모든 질문에 빠짐없이 답을 했습니다.
지난 8일부터 일주일간 미국 텍사스 오스틴에서 열린 세계 최대 기술, 문화예술 융합 이벤트 SXSW(사우스 바이 사우스웨스트) 2024 현장에 다녀왔습니다. 올해 두 번째로 SXSW에 참석했는데요. SXSW의 매력은 주제를 규정하기 어렵다는 점이었습니다. 뻔하지 않다는 거죠. 인류의 미래, 정의, 형평성, 환경 등 거대 담론을 주제로 한 콘퍼런스와 인공지능(AI)과 결합한 콘텐츠의 미래를 확인할 수 있는 전시회도 열렸습니다. 도시 곳곳에서 라이브 음악이 흘러나오기도 하고, 영화제가 열리기도 합니다. 일론 머스크 테슬라 CEO, 해리 윈저, 메건 마클 영국 왕자부부, 리사 수 AMD CEO, 여배우 브룩 쉴즈 등 SXSW에 참가한 인사들의 면면만 봐도 얼마나 다채로운 일들이 벌어지는 이벤트인지 쉽게 알 수 있었습니다. 지난해 '생성AI'가 오스틴을 휩쓸었는데 올해는 콘텐츠에 녹아든 AI가 눈길을 끌었습니다. 데이터 편견의 해소, AI가 인간의 지능을 넘어설 때의 인류의 역할, XR 콘텐츠를 활용한 노숙자, 전신마비 체험 등, AI시대를 맞이하는 우리의 미래와 관련된 고민들을 많이 찾아볼 수 있었습니다. 올해 SXSW를 관통하는 또 하나의 핵심 키워드는 '빅블러(Big Blur)' 였습니다. 이는 변화의 속도가 빨라지면서 기존의 산업, 기술, 사회 환경 등 경계가 희미해지는 현상을 의미하는데요. 생성AI의 등장과 함께 기술과 콘텐츠, 현실과 가상현실, 인공지능과 인간지능의 경계가 모호해지는 모습을 발견할 수 있었습니다. SXSW 2024는 다가오는 '빅블러 시대'의 변화 실감한 경험의 축소판이었다고 할 수 있는데요.더밀크가 독자 분들을 대신에 현장에 가서 발로 뛰며 눈으로 확인한 인사이트를 뷰스레터에 담았습니다.
올해 하반기부터 일반인들도 챗GPT 개발사 오픈AI가 공개한 동영상 생성 인공지능(AI) '소라(Sora)'를 이용할 수 있을 전망입니다. 미라 무라티 오픈AI 최고기술책임자(CTO)는 13일(현지시각) 월스트리트저널(WSJ)과의 인터뷰에서 “올해 일반인이 소라를 이용할 수 있을 것”이라며 “몇 달 뒤가 될 수도 있다”고 밝혔습니다.소라는 프롬프트를 입력하면 동영상을 생성하는 생성AI 프로그램입니다. 기존 동영상 생성 AI는 4초 안팎의 짧은 영상만 만들 수 있었습니다. 소라는 공개 당시 최대 1분길이 영상을 지향한다는 점, 공개 당시 높은 영상 퀄리티로 화제가 됐죠. 현재 위험성을 방지한다는 목적으로 '레드팀'을 운영, 유해성을 사전 검증하는 단계에 있습니다. 오픈AI가 선정한 제한된 수의 창작자만 사용할 수 있죠. 회사는 소라로 생성한 동영상 콘텐츠를 이용자가 편집할 수 있도록 하는 기능을 계획하고 있습니다. 소라가 생성하는 동영상을 더욱 사실적으로 만들기 위해 음향을 통합할 계획도 있죠. 👉 비용∙가짜정보∙데이터 사용 문제는? 생성AI로 영상을 만드는 데는 기존 텍스트나 이미지를 산출하는 것보다 훨씬 더 많은 비용이 듭니다. 오픈AI도 이를 인정했죠. 무라티 CTO는 소라를 구동하는 데에는 다른 AI 도구를 구동하는 것보다 "훨씬 더 큰 비용이 든다"면서 "이미지 생성 AI인 '달리(DALL-E)'와 비슷한 비용으로 사용할 수 있도록 만들려고 노력하고 있다"고 말했습니다.올해 미국 대선을 비롯해 전 세계적으로 선거가 열리면서 생성형 AI를 이용한 가짜뉴스 확산에 대한 우려가 제기되고 있습니다. 이에 대해서도 그는 "소라가 출시되면 '달리'의 정책과 마찬가지로 공인의 이미지는 생성할 수 없을 것"이라며 "동영상에는 실제와 구별하기 위한 워터마크가 표시될 것"이라고 강조했습니다. 오픈AI는 소라를 일반인에게 출시하기 전에 전문가팀에 맡겨 안전성 여부를 평가하는 점도 강조했죠.그는 소라 훈련에 어떤 데이터를 사용했는지에 대해서는 답하지 않습니다. 단지 "공개적으로 이용할 수 있거나 허가된 데이터"라고 말했죠. 이어 오픈AI가 파트너십을 맺고 있는 이미지·영상 콘텐츠 업체인 셔터스톡의 콘텐츠를 사용한다고만 확인했습니다.