'더 똑똑한 AI'에서 '멈출 수 있는 AI'로... 다보스에서 나타난 게임의 변화
챗GPT 출시 이후 3년이 지났다. 기업들은 AI를 도입했고, 정부는 규제안을 만들고 있다. 한국에서는 처음으로 AI 기본법이 시행됐다. 이미 기업 현장에서는 AI가 놀랍지 않다. '실용적'으로 변했다. "AI가 맞출 때도 있지만 틀릴 때가 더 무섭다", "자동화했더니 오히려 사람이 더 신경 써야 한다", "책임 소재가 불분명하다" 등 다양한 경험담들이 쏟아져 나온다.지난 21일부터 스위스 다보스에서 열린 '세계경제포럼(WEF) 2026'에서도 이런 흐름이 감지됐다. 챗GPT 이후는 무엇인가, AI를 어떻게 활용할 것인가를 고민하는 '지능의 다음 단계(Next Phase of Intelligence)' 세션이 큰 주목을 받았다. 미국의 프리미엄 미디어 '디 애틀랜틱'의 니콜라스 톰슨이 사회를 맡고, 요슈아 벤지오(몬트리올대), 최예진(스탠퍼드대), 에릭 싱(MBZUAI 총장), 유발 노아 하라리가 참여한 이 세션은 기술 낙관론도 종말론도 아니었다. AI의 다음 단계가 성능 경쟁이 아니라 "누가 책임지고, 어떻게 멈출 것인가?"의 문제라는 점을 분명히 했다. 결론은 명확했다. "AI를 더 똑똑하게 만드는 건 가능하다. 문제는 '믿을 수 있는 AI'를 만드는 방법을 아무도 모른다는 것이다."AI를 도입할 때 "무엇을 할 수 있는가"보다 "언제 실패하는가? 누가 책임질 것인가?"를 먼저 파악해야 한다. 높은 정확도가 높은 신뢰성을 보장하지 않는다.