'점입가경' LLM의 빠른 진화, 첫 선택이 더 중요해졌다.

대규모 언어모델(LLM)은 역사의 산물이다. 오픈AI의 챗GPT 발표는 AI의 언어 추론 능력과 생성 능력이 인간 수준으로 진화했음을 보여주며 주요 기술로 빠르게 정착했다. 

지난 2022년 11월 공개된 오픈AI의 챗GPT는 2024년 현재 월별 방문자 16억, 고정사용자가 1억8000명에 이른다. 전세계 인구의 3분의 1 이상이 사용하는 기술로 정착했다.

제한된 정보를 바탕으로 내용을 유추하는 추론과 인간과 유사한 수준의 매끄러운 문장 생성 능력이 서비스의 대중화를 이끈 주된 요인으로 평가 받는다. 

발전 속도는 매우 빠르다. GPT4가 나온지 1년 됐지만 그 사이 구글 제미나이, 클로드 등의 경쟁 모델이 나왔고 메타는 오픈소스 LLM '라마'로 빠르게 시장을 장악하고 있다.

초기 언어 모델의 문제는 주어진 데이터 입력(input)으로 문맥의 의미를 이해할 수 없다는 점이었다. 언어 이해의 핵심은 현재 데이터 입력이 이미 학습된 사회적 의미 및 주어진 전체 데 이터의 선후 관계에 기반한 문맥적 정의를 이해하는 데 있다. 이를 해결한 것이 구글의 트랜스포머 아키텍처다. 

하지만 2024년 4월을 넘어서며 LLM 기반의 모델은 기존 자연어 처리에서 멀티모달 모델(Multimodal, 다중모드)로 진화하고, 텍스트를 넘어 오디오, 비디오 등으로 확장되고 있다.

기업들은 훈련 방식에 있어 모델 개발의 차별화, 실제 최적화된 이용 사례에 맞는 모델 선택을 요구 받는다. 특히 각 기업은 한번 생성AI를 도입하면 돌이킬 수 없다는 '불가역적' 선택이라는 점에서 무엇을 어떻게 도입해야 할지 고민이 깊어진다.