대학생 A는 어느 날 친구에게서 온 동영상을 보고 경악을 금치 못했다. 영상이 포르노 영상인 것도 모자라 그 영상 속 인물이 자신의 얼굴을 하고 있었다. 충격을 뒤로하고 침착하게 영상을 확인하니 영상 속 인물은 자신이 아녔지만, 어찌 된 일인지 얼굴은 A의 얼굴이었다. 누군가 딥페이크 기술을 이용해 A의 얼굴을 포르노 배우에게 합성한 것이었다. 이런 일은 A뿐만 아니라 누구나 당할 수 있다. 실제로 온라인 커뮤니티에는 “딥페이크 합성 당한 것 같습니다”, “딥페이크 피해를 당했는데 어떻게 대응해야 할까요” 등 딥페이크로 인한 피해 호소 글을 쉽게 볼 수 있다. 이에 ‘딥페이크’를 악용한 범죄와 이를 막기 위한 노력에 대해 취재해 봤다.

기술발전이 낳은 딥페이크 범죄

  ‘딥페이크(deepfake)’란 컴퓨터가 스스로 학습하고 생각하는 딥러닝(deep learning)과 가짜라는 의미의 페이크(fake)의 합성어로, 인공지능(AI) 기술을 이용해 제작된 가짜 동영상 또는 제작 프로세스 자체를 의미한다. 주로 AI를 활용한 이미지 합성 기술로 특정 인물의 얼굴을 다른 영상 속 인물의 얼굴에 합성하는 방식으로 활용되고 있으며 경제적 잠재력이 상당한 기술로 평가받고 있다.
  그러나 이 기술을 악용한 수많은 악질 범죄가 등장하고 있다. 그중 가장 대표적인 것이 딥페이크 기술을 이용해 유명인 혹은 일반인의 얼굴을 포르노 영상에 합성한 일명 ‘딥페이크 포르노’ 범죄다. 2019년 네덜란드의 한 보안업체가 작성한 보고서에 따르면 전 세계 온라인에 퍼져있는 딥페이크 영상의 96%가 딥페이크 포르노라고 한다. 한국사이버성폭력대응센터 이효린 사무국장은 “이전에도 합성 관련 성범죄는 있었지만, 딥페이크 포르노는 이전보다 훨씬 심각하다. 쉽게 얼굴을 합성할 수 있는 딥페이크라는 새로운 기술과 범죄가 결합하면서 누구나 피해자가 될 수 있는 상황이다. 트위터나 텔레그램 같은 SNS를 보면 ‘딥페이크 합성해드립니다’라는 제목으로 일정한 금액의 돈과 원하는 여성의 사진을 보내면 이를 딥페이크 포르노로 제작해 보내주겠다는 내용의 글을 어렵지 않게 찾아볼 수 있다. 더욱이 딥페이크 포르노는 채팅방을 개설해 은밀하게 몇 명만이 공유하기 때문에 피해자가 피해 사실을 인지하지 못하는 경우가 많다. 그래서 관련 범죄자가 노출되지 않아 법적 처벌도 쉽지 않다”라고 전했다.
  지난 2월 27일 방영된 SBS의 시사고발 프로그램 <그것이 알고 싶다>에서는 딥페이크 범죄에 대해 다뤘는데, 해당 프로그램에 소개된 피해사례는 가히 충격적이었다. 자신의 일상을 사진과 함께 SNS에 올려 정보를 공유했던 한 피해자에게 어느 날 모르는 사람이 문자로 말을 걸었다. 그는 SNS에 올린 피해자의 사진을 이용해 합성한 알몸 사진과 포르노 동영상을 보여주며 돈을 주지 않으면 유포하겠다고 협박했다. 피해자는 거절했고, 협박범은 피해자의 딥페이크 포르노 영상을 온라인에 유포했다. 사실이 아닌데도 피해자는 조작된 영상 때문에 사람들이 오해할까 봐 두려웠다. 또 다른 피해자도 SNS에 올린 피해자의 사진을 이용해 합성한 알몸 사진을 보여주며 200만 원을 주면 유포하지 않겠다는 협박 문자를 받았다. 딥페이크는 사진만 있으면 어떤 동영상에도 합성할 수 있는 기술이므로 SNS상에 자신의 사진을 게재한 사람이라면 누구나 피해자가 될 수 있는 것이다.
  또한, 누구나 마음만 먹으면 딥페이크 기술을 사용할 수 있다는 것도 문제다. 딥페이크 프로그램은 어플 스토어와 인터넷에서 이미 많이 공유돼 있어 쉽게 구할 수 있으며, 유튜브 등에서는 딥페이크 사용 방법을 알려주는 영상을 쉽게 찾을 수 있다. 실제로 유튜브 검색창에 ‘딥페이크’를 검색하면 가장 상단에 뜨는 영상이 ‘딥페이크 사용방법’, ‘딥페이크 프로그램 설치법’이다. 이런 환경 때문인지 딥페이크 범죄자 중에는 미성년자도 있었다. <그것이 알고 싶다> 제작진이 접촉한 한 딥페이크 포르노 범죄자는 자신이 17세라고 밝혔다. 의뢰를 받아 딥페이크로 사진과 영상을 제작해준다는 그는 지금까지 50만 원을 벌었다며 단순히 돈 때문에 이 일을 한다고 말했다.



  딥페이크 포르노 이외에도 딥페이크 기술의 악용사례는 또 있다. 딥페이크 탐지기술 개발 기업 ‘머니브레인’의 김경수 마케팅팀장은 “지난 미국 대선을 앞두고 딥페이크 기술을 악용한 허위 정보가 글로벌 소셜미디어에 등장하면서 큰 논란이 야기된 적이 있다. 낸시 펠로시 미국 하원의장이 공식행사에서 술 취한 어투로 ‘트럼프 대통령이 뮬러 특검 수사 결과를 은폐하고 있다’라고 연설하는 동영상과 버락 오바마 전 미국 대통령이 도널드 트럼프 대통령을 모욕하는 발언이 담긴 동영상 등이 소셜미디어에 등장했는데 모두 딥페이크를 이용해 조작한 영상이었다”라고 전했다. 또 성균관대 데이터사이언스융합학과 우사이먼성일 교수는 “의료 분야에서의 악용 가능성도 문제다. 특히 가짜 임상데이터를 생성해 의료보험사기에 악용할 수도 있고, 가짜 의료데이터를 생성해 병역 비리에 사용하거나, 법적 증거를 조작할 수도 있다. 이러한 악용을 막기 위해서는 우선 딥페이크 판별 기술을 개발해야 한다”라고 말했다.
  그 밖에도 지인이나 가족의 목소리를 딥페이크 해 전화로 송금을 요구하거나, 얼굴을 딥페이크 해 영상통화로 금품을 갈취하는 피싱 사기도 우려된다. 또 역사적인 기록영상을 조작해 역사적 사실까지 조작할 수 있다는 점도 심각한 문제다.

딥페이크 범죄를 막기 위한 노력

  현재 우리나라에서 딥페이크 포르노를 규제할 수 있는 법적 근거는 <성폭력범죄의 처벌 등에 관한 특례법>(이하 특별법) 제14조2(허위영상물 등의 반포등)에서 규정하고 있다. 이에 의하면 딥페이크 포르노를 제작하거나 유포한 자는 최대 징역 5년 또는 5천만 원의 벌금에 처한다. 또한, 영리를 목적으로 딥페이크 포르노를 정보통신망을 이용해 유포하였다면 최대 7년의 징역에 처하고, 상습적으로 딥페이크 포르노를 제작하거나 유포한 자는 앞의 형량의 2분의 1까지 가중 처벌한다.
  한편, 39만여 명이 동의한 “여성 연예인들을 고통받게 하는 불법 영상 ‘딥페이크’를 강력히 처벌해주세요”라는 제목의 청와대 국민청원에 대한 답변에 따르면 경찰은 지난해 12월부터 딥페이크 기술을 악용한 허위영상물 제작·유포 사범을 집중단속하고 있으며 ‘불법촬영물 추적시스템’, ‘사이버 불법정보대응 공조시스템’ 등 각종 시스템을 활용해 끝까지 추적해 엄단할 방침이다. 방송통신심의위원회도 지난해 6월부터 심의를 통해 딥페이크 기술 관련 성적 허위영상물 약 470여 건을 차단‧삭제조치하였고, 지난 1월에도 한 달 동안 116건을 차단‧삭제했다. 지난해 12월부터는 불법촬영물 등이 유통되어 신고‧삭제 요청을 받은 인터넷사업자의 즉각 조치 이행이 의무화됐다.
  또한, 정부는 적극적인 피해자 지원을 위해 디지털성범죄피해자지원센터를 24시간 운영하여 피해자는 물론 가족에 대한 심리 치료를 지원하고, 피해 영상물이 더는 확산하지 않도록 적극 삭제하고 있다. 관련하여 지난 1월부터는 허위영상물이나 아동․청소년 성착취물에 대해서는 피해자의 요청 없이도 삭제가 가능하도록 법제화했다.
  한국사이버성폭력대응센터도 딥페이크 포르노 범죄에 대한 상담과 더불어, 피해자가 법률적인 대응을 원하면 변호사 지원 등의 법률지원을 한다. 또 피해자의 심리적 안정을 위한 치료와 여성가족부와 연계해 유포된 불법 영상 삭제를 지원하고 있다.
  그 밖에도 딥페이크를 이용한 위변조 범죄를 막기 위해 딥페이크 탐지기술이 개발.보완되고 있다. 머니브레인이 개발한 ‘디텍트딥페이크.ai’는 영상의 위.변조 여부를 알려준다. 김경수 마케팅팀장은 “딥페이크를 악용한 영상으로 인한 피해를 최소화하고, 딥페이크 기술이 긍정적인 방향으로 발전하길 바라는 마음으로 디텍트딥페이크.ai를 출시하게 됐다. 위·변조가 의심되는 영상을 우리 홈페이지에 접속해 업로드하면 디텍트딥페이크.ai가 무료로 몇 분 내에 검증하고 결과를 보여준다”라고 말했다.
  또한, 우사이먼성일 교수는 지난해 기존의 딥페이크 탐지기술의 단점을 보완한 ‘CLRNet’을 개발했다. 그에 의하면 “기존의 딥페이크 탐지 기법들은 다양한 생성기법을 한 번에 탐지하지 못하며, 각각의 생성기법을 탐지하기 위해 방대한 양의 데이터와 학습 시간이 필요하다. CLRNet은 이를 해결하고 알려지지 않은 딥페이크에 더 원할하게 대처하기 위해, 여러 딥페이크 생성기법을 탐지하는 동시에 동영상의 시간적 특성을 모두 활용할 수 있는 딥러닝 탐지 알고리즘을 개발했다”라고 전했다.
  끝으로 우사이먼성일 교수는 “딥페이크의 심각성에 대한 사회적인 인식이 필요하며, 좋은 인공지능 기술들을 악용하는 사례들에 대해 대처할 수 있는 사회적 장치 및 인공지능 보안 기법들에 대한 연구가 필요하다”라고 덧붙였다.

딥페이크 포르노 범죄 근절을 위한 과제

  딥페이크 범죄를 막기 위한 노력에도 불구하고 해결해야 할 문제는 여전히 남아있다.
  먼저, 딥페이크 포르노 범죄를 처벌할 수 있는 법적 근거를 더 강화할 필요성이 있다. 이효린 사무국장은 “특례법 제14조2에서는 반포 등을 목적으로 한 경우만 처벌하도록 규정했는데, 이는 딥페이크를 이용해 포르노 합성물을 만들었어도 반포만 하지 않으면 처벌할 수 없다는 것이니 개정이 필요하다. 또 온라인 공간을 하나의 피해 발생 장소로 보고, 인터넷 서비스 사업자(SNS 사업자, 책임자 등)에 대한 책임을 지금보다 더 강화해야 한다. 즉, 자신의 사업장에서 발생하는 범죄에 대한 사업자의 책임을 강화해 불법 영상물의 게재를 원천 차단해야 한다”라고 주장했다. 실제로 지난 2월 서울남부지법은 음란물 유포 방조 혐의로 기소된 인터넷 웹하드 사이트 사업자들에게 음란물 유통의 완전한 차단이 현재 기술 수준으로 어렵다는 점 등을 들어 무죄를 선고했다. 이 판결에는 관련된 특별법의 규정이 없어 <정보통신망이용촉진및정보보호에관한법률>이 적용됐다.
  그래도 지난해 6월부터 개정된 특별법으로 딥페이크 포르노 범죄를 처벌할 수 있게 된 것은 다행스러운 일이다. 하지만 관련 범죄에 대해 법원이 솜방망이 처벌만 선고한다면 특별법 개정의 의미는 사라진다. 실제로 2008년 12월 창원지법은 유명 연예인 얼굴을 합성해 음란물을 만들어 유포한 혐의로 기소된 피고인에게 초범임을 이유로 징역 1년에 집행유예 2년을 선고했는데, 이후에도 유사한 판결이 되풀이됐다. 초범이라는 이유로, 반성하고 있다는 이유로 범죄자에 대한 법원의 관용이 계속된다면 피해자의 억울함은 풀 길이 없다.
  또한 딥페이크 포르노 범죄뿐만 아니라 성착취 동영상 범죄를 뿌리 뽑기 위해서는 국제 공조가 필요하다. <그것이 알고 싶다>에 따르면 우리나라의 유명 연예인들의 딥페이크 포르노 영상이 해외 사이트에서 버젓이 거래되고 있으며, 심지어 일반인의 딥페이크 포르노 영상까지 해외 사이트에 유포돼 있다고 한다. 그러나 우리나라 경찰이 해외 사이트를 직접 수사할 수 없기에 많은 시간과 노력을 들여 해당 국가의 협조를 구해야만 한다. 피해자의 피해를 최소화하기 위해선 초기에 유포를 차단해야 하지만 속수무책으로 지켜볼 수밖에 없는 것이다. 따라서 이들 범죄에 대한 국제공조를 원활히 할 수 있는 조약이나 국제기구 창설을 외교적으로 논의하고 추진할 필요가 있다.

  영화 <분노의 질주> 주인공이었던 폴워커가 촬영 기간 중 사망한 일이 있었다. 하지만 딥페이크 기술을 통해 영화는 무사히 마무리될 수 있었다. 이처럼 딥페이크 기술이 긍정적으로 쓰인다면 우리에게 많은 즐거움과 혜택을 줄 수 있지만, 잘못 쓰이면 많은 이에게 큰 피해를 준다. 건설 현장이나 광산에서 쓰면 유용하지만, 전쟁에서 쓰면 사람을 죽이는 다이너마이트처럼 딥페이크도 발명의 양면성을 갖고 있다. 그 양면 중 어떤 면을 사용할 것인지는 우리의 선택에 달렸다.

이종우 기자
dlwhddn722@chungbuk.ac.kr