딥페이크 해 봤더니… 10초도 안 걸려

왼쪽은 페이스와퍼 앱을 사용하여 오드리헵번 영상에 사진에 기자의 얼굴을 합성한 모습. 오른쪽은 페이스와퍼 앱에서 제공하고 있는 오드리헵번 원본 영상. /영상 캡쳐본

AI로 타인의 얼굴과 원하는 이미지를 합성하는 딥페이크(Deepfake)를 이용한 성범죄가 최근 연속적으로 보도 되고 있다. 외신 역시 4년전 한국에서 일어났던 ‘N번방’을 언급하며 “한국은 디지털 성범죄에 대한 어두운 역사를 갖고 있다”고 평가한다. 최근에 더욱 이 문제가 심각하게 보도 되는 이유는 디지털 성범죄 피해자 3명 가운데 1명이 19살 미만 미성년자인 것으로 들어났기 때문이다.

여성가족부 산하 한국여성진흥원은 올해 1월 1일 부터 지난 25일까지 약 8개월간 디지털성범죄피해자지원센터(디성센터)에 불법합성물 피해로 삭제 등 지원을 요청한 781명 가운데 36.9 %인 288명이 19살 미만 아동·청소년이었다고 28일 밝혔다.

문제는 딥페이크 기술을 활용하는 것이 그다지 복잡한 절차를 요구하지 않는다는 것이다. 기자는 시중에 누구나 다운 받을 수 있는 (페이스와퍼)face wapper 사진 합성 앱을 활용하여 이미지를 합성해 보았다. 합성의 대상이 되는 사진을 선택하고 합성을 원하는 사진을 넣자 10초 만에 감쪽같은 합성 사진이 완성되었다. 이용자가 원한다면 동영상에도 원하는 인물 사진을 합성할 수 있다.

딥페이크 기술 자체는 나쁜 기술이 아니다. 예를 들어 SBS ‘그것이 알고 싶다’에서는 2021년 2월 딥페이크 기술을 활용, 범죄 피해자 모습을 모자이크 처리 대신 방영했다. 이를 통해 피해자의 익명성을 보장하면서도 시청자들에게 감정을 생생하게 전달할 수 있었다. 또한, 온라인 가계도 서비스인 마이헤리티지(MyHeritage)에서는 딥페이크 기술을 활용, 고인이 된 가족이나 순국열사들의 모습을 영상으로 복원해 새로운 방식의 추모 서비스를 제공한다.

딥페이크 기술이 공익적으로 활용되는 사례가 많아지면서 사전규제보다는 사후 규제를 강화해야 한다는 목소리가 나오고 있다.

과학기술정보통신부는 지난해부터 내년까지 24억 원을 투입해 성균관대 산학협력단 등과 함께 악의적으로 변조된 콘텐츠 대응을 위한 딥페이크 탐지 고도화 및 생성 억제 기술을 연구개발 중이다. /성지영 인턴기자