초지능 AI란 무엇인가? ... 24시간 학습하고 자가발전, 끝은 어디?
오픈AI 공동 창업자 중 한 명인 일리야 수츠케버(Ilya Sutskever) ‘세이프슈퍼인텔리전스(SSI)’ 공동 창업자는 26일(현지시각) 공개된 이스라엘 오픈 유니버시티(The Open University of Israel)와의 인터뷰에서 “극도로 예측이 어렵다(extremely unpredictable)는 점이 AI의 도전 과제”라며 이같이 말했다. AI가 인간의 지능을 넘어서는 ‘초지능(superintelligence)’ 혹은 AGI(범용인공지능)가 가까워지고 있다는 관측이다. 수츠케버가 오픈AI를 떠나 새로운 연구소 ‘SSI’를 설립한 배경에도 ‘AI가 스스로를 개선한다’는 개념이 깔려 있다. 그는 AI가 스스로 더 나은 AI를 개발할 수 있게 되면 인간의 통제를 벗어날 수 있기 때문에 안전장치가 필요하다고 주장해 왔다. 오픈AI의 샘 알트만 CEO 역시 최근 비슷한 비전을 공유했다. 그는 지난 6월 10일 자신의 블로그를 통해 AI의 ‘재귀적 자기 개선(Recursive Self-Improvement, RSI)’ 가능성을 제기했다. 이미 큰 틀에서 자기 강화 루프(self-reinforcing loops)는 작동하고 있다는 것. 그는 “(AI로 인한) 경제적 가치 창출이 더 강력한 AI 시스템 실행을 위한 인프라 구축을 추동하고 있다”며 “다른 로봇을 구축할 수 있는 로봇도 그리 먼 미래가 아니다”라고 강조했다. AI 업계 거물들은 왜 ‘스스로 똑똑해지는 AI’, 재귀적 자기 개선을 언급했을까? 업계에서는 재귀적 자기 개선이 초지능으로 가는 열쇠라고 분석한다. 진화하는 AI가 공상과학 소설을 넘어 현실적인 목표로 부상하고 있는 것이다.