딥페이크 공포 확산... 생성AI 발 쓰나미 다음은 'AI 중독'?

2022년 후반에 생성 인공지능(AI) 열풍이 일기 시작한 후 약 2년이 흘렀다. 챗GPT로 열풍을 시작했던 오픈AI는 이제 GPT-4보다 발전한 새로운 플래그십 LLM(대형 언어모델) ‘오리온(코드명)’과 대화형 AI인 ‘스트로베리’ 출시를 준비하는 등 개발은 빠르게 진척되고 있다. 열풍이 일었을 당시 사람들이 예상했던 건 업무 생산성 향상이었다.

약 2년이 지난 지금, 생성AI 업계엔 예기치 못한 부작용이 나타났다. 딥페이크 등 각종 범죄에 활용되고, 사람들이 AI 모델과 관계를 형성하면서 실제 인간관계에 악영향을 미칠 조짐을 보이는 것.

올해 들어 딥페이크(인공지능 기반 이미지 합성)로 인한 범죄와 그로 인한 공포가 국내에서 확산하고 있다. 텔레그램을 비롯한 소셜미디어에서는 여성의 얼굴에 음란물을 합성해 편집한 허위 영상물을 생성·유포하는 것으로 의심되는 단체 대화방이 대규모로 발견됐는데 피해자에 대학생뿐만 아니라 중고생 등 미성년자, 교사, 여군 등도 포함된 것으로 알려졌다.