챗GPT와 대결말고 공존하라... 샌드위치 방법론

“AI기술의 발전으로 ’샌드위치 워크플로우’ (Sandwich workflow)가 사람들이 더욱 창의적이도록 도와 줄 것입니다.”

헬스케어 유니콘 스타트업 아카사(AKASA)에서 머신러닝 개발을 이끌고 있는 김병학 AI총괄은 25일 개최된 더밀크 AI아카데미 2주차 강연에서 최근 업계와 대중들에게 뜨거운 관심을 받고 있는 생성AI기술과 실리콘밸리 스타트업에 대한 주제 발표에서 이와 같이  말했다.

김 총괄이 언급한 샌드위치 워크플로우(이하 AI샌드위치)는 어떤 것을 말하는 것일까? AI샌드위치는 AI기술을 이용해서 작업을 할 때, 작업 순서를 테이블에 쌓여 있는 샌드위치에 비유한 것으로 최근 실리콘밸리에서 자주 거론되는 용어다.

워크플로우를 수직으로 3단계로 나누어,  제일 아래 1층은 사람이 AI에게 프롬프트(Prompt), 즉, 명령어를 제공하는 단계, 2층은 인간의 명령어를 받고, AI가 여러 옵션들을 제공하는 단계로 나누고, 최종적으로 3층에서 사람이 AI의 여러 제안 옵션들 중에서 선택하고 편집해서 작업을 마치는 것이다.

AI샌드위치 업무 방식은 어떤 작업을 시작할 때 “어디서부터 시작 해야 할지 모를 때, AI가 기본 구조나 방향을 제공할 수 있다면 좋은 출발점이 될 수 있다” 라는 것이 김 총괄의 설명이다. 또한 AI에게 받은 초기 아이디어를 발전시키고 다듬는 다면 사람이 더욱 더 창의성을 발휘 할 수 있다는 것이다.

10년 전과 비교해 이런 특성을 가지는 AI를 GenAI 2.0이라고 정의 하며, 김 총괄은 이런 GenAI 2.0서비스들은 학생부터 전문가들까지 모든 사람들이 혼자 작업이나 공부를 하지 않고, AI와 함께 하는 것이 가능하게 한다고 말했다.

또한 김 총괄은 구글이 2017년 Attention is all you need'이라는 트랜스포머 언어모델에 대한 논문에 참여한 저자 7인 중 5명이 현재 구글을 떠나 실제 일상에서 사용할 수 있는 GenAI 2.0에 해당하는 서비스들을 이미 만들고 있다고 말했다.

그들 중 제 1저자인 아히쉬 바스와니(Ahish Vaswani)와 공동저자 니키 파마(Niki Parmar) 구글 전 개발자들은 사용자가 언어로 명령을 하면 인터넷 웹페이지 상에서 명령에 따라 마우스를 움직이고, 텍스트를 입력하고, 스크롤을 하거나, 버튼을 누르는 자동화가 가능하게 하는 서비스를 만드는 스타트업인 어댑트(Adept)를 설립했다. 또 다른 저자였던 에이던 고메즈(Aidan Gomez)는 자연어를 입력하면 AI가 자동으로 데이터를 분류하거나 코드를 만들어 시스템을 수정을 서비스를 제작하는 코히어(Cohere)를 운영 중이라고 밝혔다.

김 총괄은 개발자 뿐만 아니라 사람들에게 의미있는 방식으로 도움을 줄 수 있는 코파일럿(Copilot) 같은 솔루션이 더욱 많이 등장할 것이라고 예측했다.

코파일럿이란 비행에서 주조종사 옆에 있는 부조종사를 의미하는 단어다. 테크업계에서 최근 자주 사용하는 용어로 인간이 조종사의 역할을 한다면 AI가 부조종사, 즉 코파일럿 역할을 하는 것이다.

김 총괄은 AI리크루팅 서비스 문허브(Moonhub)라는 기업을 코파일럿 서비스의 한 예로 들었다. 문허브에서는 스타트업들이 각자의 성장 단계에 따라서 가장 적합한 인재를 채용 담당자들과 협력해서 실제로 채용할 수 있는 서비스를 제공하고 있다. 기존 리쿠르팅 방식은 링크드인에 있는 플랫폼에 프로필을 기반으로 5~10개의 키워드를 중심으로 후보군을 찾는 경우가 일반적이다. 키워드가 맞지 않으면 적합한 후보자를 놓지는 것이다. 문허브는 퍼블릭 웹에서 수 십억 개의 개인 데이터 포인트를 찾은 다음 그 데이터들을 AI기술로 분석을 해 가장 적합한 후보군을 찾아 내어서 사내 혹은 외부 리크루터에게 제안한다.

김 총괄은 그가 소속되어 있는 아카사의 젠스크라이브 (Gen Scribe)는 서비스도 코파일럿서비스 중 하나로 소개했다. 병원에서 의사들이 진료를 하면서 진료 기록을 하는데, 이 기록을 위해 소프트웨어가 도입되기도 했지만 정확도나 효율이 떨어져 직접 기록을 하는 경우가 많다. 그 결과 현재는 대부분 1년차 펠로우들이 진료 기록을 하는데, 상대적으로 경험이 많이 떨어져 시니어들이 이 기록들을 다시 검토해야하는 효율성이 떨어지는 일이 발생했다. 아카사는 이 부분에 집중을 한 것이다.  

아카사의 젠 스크라이브(Gen-Scribe)는 의료진이 간단한 프롬프트를 넣으면 AI가 자동으로 의료 기록을 완성하고, 탬플릿을 불러와 진료기록을 정확하고 손쉽게 작성할 수 있게 한다. 마지막으로 의료진이 적절한 옵션을 선택하거나 편집한 후 내용을 추가하기도 한다.

의료진-AI-의료진으로 업무가 이어지면서 앞서 언급한 샌드위치 워크플로우가 완성되는 것이다.

메타는 작년 초 개발 및 연구 커뮤니티가 공개적으로 사용 가능한 데이터에 대해 훈련된 1,750억 개의 매개변수의 인공지능 언어 모델인 Open Pre-trained Transformer(OPT)를 오픈소스로 공개했었다. 오픈AI의 챗GPT와 동일하게 트랜스포머(Transformer) 언어모델을 사용하고 매개변수도 챗GPT와 크게 차이가 없었지만 상대적으로 시장의 큰 반향을 일으키지는 못했다. 이에 대해 김 총괄은 제품의 목적성에 대해서 살펴보면 그 이유를 알 수 있다고 설명했다.

예를 들어, 개발자들이 최근 코파일럿서비스로 많이 이용하고 있는 깃허브 코파일럿(GitHub Copilot)서비스는 실제로 훌륭한 프로덕트 마켓 핏(Proudct market fit)을 찾은 제품이라고 평가 했다. 해당 서비스는 실제 수입을 만들고 좋은 비지니스 모델도 만들었다. 이에 반해 챗GPT는 아주 뛰어난 실리콘밸리 스타일의 '실험판(데모 버전)'이라고 평가했다. 오픈AI는 사업운영을 위한 추가 펀딩이 필요했고, 투자를 받기 위해 최고의 데모를 개발해 보여준 것이다.

페이스북은 당장 펀딩을 받을 필요도, 비지니스화를 해서 당장 돈을 벌 필요가 없을 정도로 큰 빅테크의 입장이다. 이미 페이스북, 인스타그램 등 탄탄한 서비스가 있는 상황에서 오픈AI처럼 투자 목적으로 화려한 데모 버전을 출시할 필요가 없었던 것이다. 하지만, 김 총괄은 앞으로 메타 또한 OPT가 기업들, 개발자들이 R&D를 진행하는 데에 있어서 더욱 더 많은 관심을 얻을 수 있을 것이라고 예측했다.

김 총괄은 AI코파일럿 서비스가 앞으로 범람하는 상황이 오면 기업이 가질 수 있는 경쟁력이 무엇인지에 박원익 더밀크 뉴욕 플래닛장의 질문에 대해서 “우리가 가질 수 있는 유니크 데이터”에 집중해야 한다고 설명했다. 그는 데이터가 너무 쉽거나, 데이터가 너무 오픈되거나, 퍼블릭하게 접근이 가능하다면, 비지니스 경쟁력이 떨어질 가능성이 있다고 말했다.

큰 성능의 차이를 가져올 수 있는 데이터를 얼마나 보유하고 있고, 오픈AI도 쉽게 접근 할 수 없는 데이터를 기업이 얼마나 가지고 있느냐가 앞으로 기업 경쟁력을 결정하게 될 것이라고 말했다.

그리고 AI기술을 이용해서 사업 구상을 할 때, 마켓 사이즈를 고려 해야 한다는 것을 조언했다. 특히, B2C의 경우는 마켓 사이즈를 처음부터 계산한다는 것이 어려울 수도 있지만, B2B의 영역에서는 이미 정해져 있는 마켓을 상대하기 때문에 예측하기가 수월 하다고 한다. 예를 들어, 미국 병원 전체를 대상으로 사업을 한다면, 그 사업의 밸류는 병원 시장의 크기에 따라서 이미 정해진다는 것. 따라서, 그 마켓 사이즈가 충분히 크다고 생각한다면 AI관련 사업의 성공확률도 어느 정도 높아질 수 있다는 것이다.

김 총괄은 "앞으로 AI가 발전하면서 사람들의 업무가 어느 정도 자동화 될 것으로 본다. 말을 하거나 글로 입력하면 많은 일들이 자동으로 컴퓨터에서 이루어지는 등의 기술 진화가 가속화 될 것이다"고 예측했다. 또 데이터마이닝 기술의 발달로 예를 들면서 "코로나바이러스 백신접종기록 등을 보며 지역별 접종률을 분석하면, 인종에 따른 접종현황 등을 알고 인종차별 문제를 알아낼 수 있다"며 데이터를 이용한 사회 문제 해결을 할 수도 있는 시간이 점점 더 가까워 지고 있다고 밝혔다.

생성 AI 시대에 개인의 커리어를 어떻게 준비해야하는지에 대한 박원익 더밀크 테크팀장의 질문에 김 총괄은 우선 20대 이하의 청소년과 어린이들에게는 AI를 하나의 오피니언으로 받아들이는 교육이 필요하다고 주장했다.

김 총괄은 “민주주의 사회에서는 여러 의견이 있을 수 있다. 친구들의 의견, 선생님들의 의견 그리고 AI의 다른 하나의 관점이라는 것을 가르치는 것이 필요하다” 이라고 말했다.

20대 이후 성인들을 위해서는 이제는 더 이상 한 번의 교육으로 평생을 살 수 있는 시대가 되었기 때문에, 앞으로 지속적인 관심과 스스로 교육하는 자세가 필요하다고 밝혔다.

또한 일반 교육 과정에서 배울 수 없는 역량의 중요성도 강조했다. 의료에 대한 교과를 공부할 때는 커리큘럼과 교과목들은 유데시티(Udacity)와 같은 온라인 교육기관에서도 배울 수 있지만, 실제 병원에 있는 환자를 위해 공감하고, 함께 안타까워 해 줄 수 있는 능력은 일반 교과 과정을 통해서는 배울 수 없다는 것이 그의 의견이다.

김 총괄은 “다른 동료들과, 친구들과 협업하고 다른 사람들의 감정에 공감해줄 수 있는 능력들이 사람들에게 꼭 필요하고, 앞으로 더 필요한 것이 아닐까 생각한다,”고 말했다.