HALLUCINATION

‘이스라엘과 팔레스타인에 대한 일론 머스크의 견해를 검색 중입니다.”지난 10일(현지시각) 공개된 xAI의 최신 AI 모델 ‘그록4(Grok 4)’가 보여준 사고방식은 전 세계에 큰 충격을 던졌다. 논란이 되는 질문을 던지면 xAI의 설립자인 일론 머스크의 입장을 먼저 참조하는 방식으로 작동한다는 사실이 확인됐기 때문이다. xAI는 이후 그록4의 시스템 프롬프트(system prompt, AI 챗봇에 대한 일련의 지침)를 수정해 이 문제를 해결했다고 밝혔지만, 이 사건은 특정인이나 특정 기업의 관점을 강화하고 주입하는 ‘에코 체임버(echo chamber, 반향실)’ 효과가 언제든 AI에 적용될 수 있다는 우려를 불러일으켰다. AI가 우리 삶에 미치는 영향이 커지면서 유해성(toxicity), 환각(Hallucination), 개인 정보 보호 같은 문제도 함께 대두되는 추세다. 더 리스닝 앱(The Listening App)에 따르면 이미 미국인의 60%는 일주일에 한 번 이상 AI 도구를 사용하며 6명 중 1명은 일상생활에서 AI에 의존하고 있다고 답했다. 플로리다에서는 10대 소년이 AI 챗봇의 조언을 듣고 극단적 선택을 하는 충격적인 사건이 발생하기도 했다.  이런 문제를 어떻게 해결하면 좋을까? AI 안전·규제 분야 전문가 마이클 컨스(Michael Kearns) 펜실베이니아대학 컴퓨터 및 정보과학과 교수는 더밀크와의 인터뷰에서 AI가 서비스할 그룹을 대표하는 데이터를 충분히 확보하는 것과 AI가 제시하는 편향, 불공정, 유해성 답변에 대한 ‘가드레일(Guard rail)’을 설정하는 것이 중요하다고 강조했다. 결국 인간이 적극적으로 개입해야 문제를 해결할 수 있다는 것이다. 2020년부터 아마존 학자(Amazon Scholar)로 활동하며 AWS ‘RAI(Responsible AI)’팀을 설립한 컨스 교수를 AWS 서밋 뉴욕 2025 컨퍼런스에서 만나 책임감 있는 AI를 어떻게 구현할 수 있는지, 소버린 AI 관점에서 한국이 어떤 전략을 취하면 좋을지, 한국의 젊은 과학자들에게 전하고 싶은 조언은 무엇인지 물었다.다음은 인터뷰 전문

최근 생성AI 열풍과 함께 '슬롭(Slop)'이라는 새로운 용어가 주목받고 있습니다. 슬롭은 원래 음식물 찌꺼기나 오물 등을 의미하는 용어인데요. 인공지능 분야에서는 쓸모없고 오해를 불러일으키는 인공지능 콘텐츠를 뜻합니다. 예를 들어, 피자 토핑으로 글루를 사용하거나 5개 이상의 손가락이 계속 생기는 등 오류가 많은 AI 생성 이미지 등이 슬롭에 속합니다. 이 용어는 기술 블로그, 주류 미디어, 레딧 등에서 빠르게 확산하고 있다고 씨넷은 분석했습니다.슬롭은 '스팸'이라는 용어와 비교할 수 있습니다. 스팸은 원치 않는 자동 생성 이메일을 의미하죠. 씨넷은 슬롭이 스팸의 사촌과 같다고 평가했습니다. AI의 발전으로 새로운 텍스트, 이미지, 비디오 및 기타 유형의 콘텐츠가 인간의 개입 없이 더 많이 생성되고 웹에 던져질 수 있게 되었습니다. 이와 동시에 가짜 웹 페이지, 소셜 미디어 계정, 메시지 보드 등 온라인에서 활동하는 대부분의 장소에 더 많은 슬롭이 쌓일 수 있다는 의미로도 해석할 수 있습니다. 가디언은 웹 브라우저도 ‘슬롭’이라는 새로운 문제에 직면하고 있다고 지적했는데요. 인공지능이 생성한 콘텐츠를 웹에 게시한 결과물인 슬롭이 인간이 만든 콘텐츠처럼 보이도록 해 광고 수익을 얻고, 검색 엔진의 주목을 다른 사이트로 유도하는 역할을 합니다. 이미지 생성 슬롭도 페이스북에서 최근 급증했는데요. 새우 몸을 한 예수, 플라스틱 병 자동차를 타는 아이들, 가짜 꿈의 집, 122번째 생일 케이크를 구운 할머니 등의 슬롭 이미지는 수천 번 공유되고 있습니다.👉  슬롭, 스팸처럼 일상 용어 될까? 슬롭은 아직 대중들에게 널리 알려지지 않았지만, 스팸처럼 잠재력 있는 용어로 평가됩니다. 언어학자 애덤 알렉식은 뉴욕타임스와의 인터뷰에서 "이미 익숙한 단어이기 때문에 자연스럽게 이런 상황에 적용될 수 있을 것"이라고 분석했습니다. 전문가들은 스팸과 마찬가지로 슬롭의 영향을 부정적으로 보고 있는데요. 원하는 콘텐츠를 찾기 위해 슬롭을 헤쳐 나가야 하는 시간과 노력이 들기 대문입니다. AI를 둘러싼 주요 이슈 중 하나는 사용자가 합법적인 콘텐츠와 AI가 만든 콘텐츠를 구별하기 어렵다는 점입니다. AI가 '환각'하거나 잘못된 정보나 맥락에 맞지 않는 정보를 제공할 수 있습니다. 웹사이트나 다른 출처에서 끌어온 풍자적이거나 고의적으로 오도된 데이터에 의해 잘못 인도될 수 있습니다. 또 이렇게 학습된 데이터 유형에 의해 편향될 가능성도 큽니다. 전문가들은 챗GPT가 제공하는 정보가 최신인지, 신뢰할 수 있는 사이트나 데이터에서 출처를 확인하는 것이 항상 필요하다고 조언합니다.슬롭에 빠지지 않기 위해 주의해야 할 사항들이 있습니다. 씨넷은 먼저 AI의 특이점을 예리하게 주시하라고 조언합니다. 이상한 구문이나 주제와 무관한 이야기는 AI가 작성한 텍스트의 신호일 수 있습니다. 의심스러운 비디오나 사진을 검사할 때는 비정상적인 얼굴 움직임과 기괴한 배경 혼합을 찾는 것이 중요합니다. AI가 더욱 발전하면서 스팸처럼 슬롭이 판을 칠 것으로 예상되는데요. 전문가들은 "슬롭에 압도당하는 날이 올 수 있다"고 경고합니다.

영화 ‘솜 레퀴엠(Somme Requiem)’은 1914년 제1차세계대전 크리스마스 휴전 당시 눈보라에 갇힌 군인들의 이야기를 다룬다. 마일스(MYLES)스튜디오가 만든 이 2분30초 길이의 영화는 생성AI 영상 제작 프로그램 런웨이(Runway)가 제작에 활용됐다. 런웨이로 초벌영상을 제작하고 인간이 시나리오와 음악, 영상 편집 작업을 하는 방식이다. 생성AI로 영상 제작 환경이 급변하고 있다. 현재 시장은 런웨이, 피카랩스 등이 이미 서비스를 제공하고 있고, 높은 영상 퀄리티로 화제가 된 오픈AI의 소라(Sora)는 연내 정식 출시를 예고했다. 구글 클라우드도 최근 AI 동영상 제작 솔루션 비즈(Vids)를 내놓는 등 시장은 커지고 있다. 영상 제작 환경이 인간과 생성AI가 협업하는 하이브리드 체제로 변할 것이라는 전망이 나온다. 단순 프롬프트(명령어)만으로 높은 퀄리티의 영상을 생성하는 AI 제작 프로그램의 기술적 완성도가 높아지는 가운데, 인간의 역할은 전체 시나리오 기획, 영상 추출, 수정, 편집 업무로 옮겨갈 것이란 분석이다. 딥페이크 영상 등에 대한 우려를 불식하려는 서비스에서도 역할을 찾을 수 있다.

안녕하세요, 앞서가는 더밀크 구독자 여러분을 위한 프리미엄 리포트 ‘위클리AI브리핑(Weekly AI Briefing)’입니다.한 주 동안 쏟아지는 AI 뉴스 홍수 속에서 놓치지 않고 꼭 챙겨봐야 할 정보를 선별해 드립니다. 핵심 요약으로 독자분들이 시간을 아낄 수 있도록 돕고 ‘실리콘밸리+실리콘앨리’ 현장에서 빅테크, 유망 스타트업의 움직임을 취재하는 더밀크만의 인사이트를 추가했습니다. 더 자세한 내용은 더 알아보기 링크로 확인하실 수 있습니다. 그럼 출발해 볼까요?

안녕하세요 구독자 여러분, 오픈해 주셔서 감사합니다. 바야흐로 AI 패권 전쟁 시대입니다. 마이크로소프트(MS)와 오픈AI가 1000억달러(약 135조원) 규모의 초대형 슈퍼컴퓨터 및 데이터센터 개발 프로젝트인 '스타게이트'를 추진하고 있다는 소식은 패권 전쟁의 규모를 짐작케 합니다. 135조원이라뇨. 기존 클라우드 기반 데이터 센터 건설 비용의 100배입니다. 샘 알트만은 오픈AI의 새 반도체 프로젝트를 위해 무려 7조달러를 조달하려 한다는 보도가 나오기도 했습니다.  MS와 오픈AI는 135조원을 확보, 어디에 쓸까요? 서비스 뿐 아니라 반도체, 데이터, 에너지를 확보하는데 '올인'할 것이며 이 분야에 미래 비즈니스가 있을 것입니다. 이 전쟁의 핵심이 AI 반도체로 흐르고 있습니다. AI가 미래 비즈니스의 근간이 되는 기술이 되면서 생성AI 서비스를 만드는데 필수재인 AI칩 구하기에 혈안이 되고 있습니다. 오픈AI, 마이크로소프트, 구글, 메타, 삼성 등 내로라 하는 개별 기업 뿐만 아닙니다. 미국, 중국, 일본, 유럽연합(EU) 등도 AI 반도체 부품을 만들고 패키징(조립)하는 공장을 짓는 기업에 앞다퉈 보조금을 뿌립니다. 기업전에서 국가대항전으로 번지고 있죠. AI가 기업간 대결이 아닌 국가간 패권 전쟁인 이유입니다. <더밀크 주요 기사>알고리즘, 사랑과 관계를 바꾼다... 앱은 필수, 만남은 선택(영문)Technology Has Turned New York Dating Into 'Perfectionism'아마존의 실패. 무인 매장 핵심 '저스트워크아웃' 포기 왜?테슬라, 인도에 생산 거점 확보...수요와 생산 부진 벗어날 묘수될까?창업가가 미국에 있는 이유: 작은 우연이 큰 결과 만든다AI 칩에 이어 품귀 현상을 보이는 게 또 있습니다. 생성AI 서비스의 기반이 되는 대형언어모델(LLM) 등을 훈련하려면 엔진 격인 AI 가속기와 함께 방대한 양의 훈련 데이터가 필요합니다. 언어모델은 인간의 언어, 행동, 관습 등을 모방하는 구조이기 때문에 많은, 정제된 훈련 데이터를 넣어야 AI가 더 똑똑해질 수 있습니다. 

에이단 고메즈 코히어(Cohere) CEO는 4일 “커맨드 R+는 높은 효율성과 강력한 성능 사이에서 균형을 맞췄다”며 이같이 밝혔다.

정현준 어도비 디렉터는 4월 21일 더밀크가 주최하고 몰로코가 후원한 AI 아카데미 ‘실리콘밸리에서 본 GPT 혁명’의 연사로 나서 'AI/ML의 랜드스케이프 2023'을 주제로 인공지능(AI)와 머신러닝의 과거, 현재, 그리고 미래에 대해 설명했다. 그는 2000년대 초기 논문부터 시작해 현 생성AI가 개발되기까지 이어져온 다양한 연구와 실험들을 소개하고 "앞으로 사람의 필요와 컨트롤 아래 AI 기술이 사람과 어떻게 조화롭게 연결되는 인터랙티브 AI가 대세가 될 것이다"고 강조했다. 또 "창의성이 정의되는 방식이 바뀔 것"이라며 "노동 집약적이고 반복적인 업무들은 기계가 대체하고, 이로 인해 절약된 시간은 사람이 고민하고 생각을 하는데 쓰인다"고 말했다. 이는 곧 '노동의 해방'을 뜻한다. 사람은 아이디어 자체에 집중 할 수 있게 됨으로써 기술적인 how(어떻게)보다 what(무엇)이 중요해질 것이라는 설명이다. 이처럼 생성AI는 일의 정의를 바꿀만한 큰 파급력을 갖고 있다. 이와 함께 챗GPT 등의 할루시네이션(환각정보) 현상을 해결하지 못하면 AI 발전에 방해가 될 것으로 보고 앞으로 생성AI에서 '팩트 그라운딩(AI 모델에 추가적인 정보를 주입, 맥락에 맞는 정보를 제공하도록 하는 과정)'이 중요하다고 강조했다. 그는 "사실 관계가 맞는 건지 확인해서 유저들에게 정확한 답을 제공하는 새로운 형태의 서비스가 생길 수 있다"고 예측했다. 다음은 정 디렉터 발표의 요약문이다.

생성AI가 기존 직업을 빠르게 대체할 수 있다는 우려가 나오는 한편 새롭게 생겨난 직업인 ‘프롬프트 엔지니어’에 대한 관심이 커지고 있다. 프롬프트 엔지니어란, 챗GPT 등 생성AI를 이용할 때 보다 효과적인 결과물을 내기 위한 명령어(프롬프트)를 입력하는 직업이다. 마이크로소프트(MS)의 ‘빙달리’, 구글의 ‘바드’, 어도비의 ‘파이어플라이’ 등 빅테크들이 하루가 머다하고 새로운 생성AI 서비스를 내놓는 가운데 이를 어떻게 하면 잘 쓸 수 있는지에 대한 프롬프트 작성 수요도 덩달아 커지고 있다. 이른바 가능성이 무한대인 똑똑한 ‘신입사원’ 챗GPT를 효과적으로 쓰기 위해서는 이 모델을 제대로 활용할 줄 아는 사수인 ‘프롬프트 엔지니어’가 필요한 셈이다. 다만, 일각에서는 AI 진화 속도가 빨라 궁극적으로는 프롬프트 엔지니어가 하는 업무 역시 AI의 일부가 될 것이란 시각도 나온다. 

일리야 수츠케버 오픈AI 공동창업자 겸 수석과학자는 3월 22일(현지시각) 진행된 젠슨 황 엔비디아 CEO와의 대담에서 “향후 2년 내에 많은 발전을 보게 될 것”이라며 이같이 말했다. 가까운 미래에 ‘할루시네이션(hallucination, 환각)’을 해결할 수 있다고 예측한 것이다. 오픈AI, 구글 등이 선보인 ‘챗GPT(ChatGPT)’, ‘바드(Bard)’ 같은 대화형 AI, 거대언어모델(LLM)은 사람처럼 말(text, 텍스트)을 만들어내는 강력한 성능을 내지만, 그와 동시에 할루시네이션 문제를 일으킨다는 비판을 받아왔다. 할루시네이션이란 2018년 구글 AI 연구원들에 의해 대중화된 개념으로 AI가 제시한 그럴듯해 보이는 답변(output)이 실제로는 잘못됐거나 부정확해 혼동을 초래하는 현상을 말한다. 언어모델은 빈칸에 들어갈 말을 예상해 채우는 방식으로 작동하는데, 관련 데이터가 부족하거나 모호할 경우 이런 현상이 나타난다.실제로 챗GPT와 대화를 나눠보면 잘못된 답을 제시하는 사례가 적지 않다. 정보 수집, 교육 등의 목적으로 활용하려면 사실 확인 및 검증이 필요하다.