AI 생성 가짜 뉴스 막는다... 구글 ‘신스ID’의 비밀

세계경제포럼(다보스포럼·WEF)은 지난 1월 발간한 ‘글로벌 위험보고서 2024’에서 올해 세계가 직면할 위험 요인으로 ‘AI 생성 가짜 뉴스’를 지목했다. 

전 세계에서 여러 선거가 진행되는데, AI로 만든 가짜 뉴스가 시민들의 잘못된 판단을 유도할 수 있다는 이유에서다. 올해 11월 대선을 앞둔 미국에서는 병원에 누워 있는 바이든 대통령, 감옥에 들어간 트럼프 전 대통령 등 악의적으로 조작된 이미지가 유포되기도 했다. 

텍스트(text, 글) 역시 마찬가지다. 이미지, 동영상 못지않게 쉽게 생성이 가능하며 사람이 쓴 것과 구별이 어려울 정도로 정교해지는 추세다. AI로 만들어 낸 그럴듯한 허위 사실, 실체 없이 조작된 글을 구별하는 방법은 없을까? 

‘신스ID(SynthID)’는 이런 문제를 풀기 위해 구글이 제시한 해결책이다. 구글은 14일(현지시각) 캘리포니아주 마운틴뷰에서 진행한 연례 개발자 컨퍼런스 ‘구글I/O 2024’에서 이미지, 오디오에 적용되던 신스ID 기술을 텍스트, 동영상으로 확장한다고 밝혔다.