박사급 AI라는데 왜 실수를 할까?... 비밀은 ‘감정’에 있다
“바이브 코딩(vibe coding, AI 기반 코딩)으로 작업을 한다고 가정해 보죠. 어딘가에 버그가 발생합니다. 그러면 AI에 ‘버그를 고쳐 달라’고 요청합니다. AI 모델은 해당 버그를 수정하며 새로운 버그를 생성합니다. 당신이 ‘새로운 두 번째 버그가 생겼어’라고 말하면, 모델은 ‘당신 말이 맞습니다’라고 답하며 첫 번째 버그를 되돌려 놓습니다. 이런 일이 실제로 벌어지고 있습니다. 이상한 일이죠.”변호사 시험을 통과하고, 복잡한 코드를 생성하며 수학 올림피아드에서 금메달(최고 점수)을 기록하는 박사급 AI의 시대. 특정 태스크(task)에서 이미 인간의 능력을 뛰어넘은 강력한 AI가 왜 이런 단순한 실수를 할까. AI 최고 전문가 중 하나인 일리야 수츠케버(Ilya Sutskever) 세이프 슈퍼인텔리전스(SSI) CEO는 현재의 AI 기술이 한계에 직면했다고 지적한다. 지난 10년간 AI 발전을 지배해 온 핵심 패러다임 ‘스케일링 법칙(Scaling Laws)’이 해결하지 못하는 영역에 도달했다는 것이다. 인간보다 똑똑한 AI가 때로는 너무나 단순한 실수를 저지르는 이유다. 그의 주장은 단순한 개인의 의견으로 치부하기 어렵다. 수츠케버는 현대 AI 혁명, 딥러닝의 기폭제가 된 ‘알렉스넷(AlexNet)’의 공동 설계자이자, 오픈AI(OpenAI)의 공동 창업자이자 수석과학자로서 챗GPT(ChatGPT) 개발을 주도했던 인물이기 때문이다. 수츠케버는 오랜 침묵을 깨고 25일(현지시각) 드와르케시 파텔(Dwarkesh Patel)의 팟캐스트에 출연, “스케일링의 시대(Age of Scaling)에서 연구의 시대(Age of Research)로 이동하고 있다”고 단언했다. 2024년 5월 오픈AI를 떠나 세이프 슈퍼인텔리전스(SSI)라는 새로운 연구소를 설립한 이후, 그가 대중 앞에서 자신의 기술적 철학과 미래 비전을 구체적, 포괄적으로 밝힌 것은 이번이 처음이다.👉초지능 AI란 무엇인가? ... 24시간 학습하고 자가발전, 끝은 어디?