딥페이크(Deep Fake)란? 뜻과 여러 사례

딥페이크(Deep Fake)란?

'딥 페이크'는 인공지능의 '딥 러닝(심층 학습)'과 가짜의 의미를 나타내는 '페이크'를 조합한 말로, 2017년 미국에서 일어난 '포르노 동영상 사건'의 범인 '딥 페이크스(deep fakes)'를 시초로 하여 탄생하게 되었습니다.

본래 인공지능 기반의 딥 러닝을 활용하여 '2개 이상의 동영상이나 이미지의 일부를 교환하는 기술'을 가리켰지만, 현재는'파악하기,현재는' 어려운 정교한 가짜 동영상'을 통상적으로 딥페이크라고 부르고 있습니다.

인공지능 기술의 비약적인 발전에 의해 등장한 기술이며, 이미 사건 케이스들도 있기 때문에 앞으로도 사회 문제에 관련으로 대두될 높은 기술로 주목을 받고 있습니다.

또한 간단한 처리 방법을 사용하여 생성한 저품질의 가짜 동영상을 "치프 페이크"라고 합니다.

 

 

딥페이크가 문제로 떠오른 경위

 

딥페이크가 표면에 나타난 것은 2017년 미국에서 일어난 '포르노 동영상 사건'으로, 포르노 동영상에 여배우의 얼굴이 합성이 되어 유포된 이 사건을 기점으로 정교한 '페이크 동영상'을 '딥페이크'로 부르게 되었습니다.

2018년에는 미국 영화감독이 제작한 '버락 오바마 전 대통령의 가짜 동영상'이 화제가 되었는데, 실제로는 발언하지 않은 내용을 발언하는 것처럼 보였습니다.

 

이 동영상의 취지인 '딥페이크의 문제점'에 대하여 보는 이들에게 목적 그대로 충격을 주었고 이를 계기로 딥페이크에 대한 관심은 미국에서 세계로 확산되었습니다.

 

한편 유럽에서는 예술 이벤트 작품의 일환으로 META의 수장인 '마크 저커버그의 가짜 동영상'이 제작되는 한편 '가짜 음성'에 의한 사기 사건도 발생하였는데, 이때를 기점으로 등장했을 때부터 불안하게 여겨졌던 딥페이크의 문제점이 점차 증가하게 됩니다.

얼굴을-감쪽같이-바꾸는기술-딥페이크

2020년에는 '여자 탤런트 포르노 합성영상'을 사이트에서 개시했다는 이유로 일본인 남성 2명을 명예훼손·저작권법 위반 혐의로 체포되었고, 이 사건은 미디어에서도 화제 되어 이계기로 일본에서 딥페이크에 대한 인지도와 관심이 높아졌습니다.

 

미국에서도 '조 바이든 Joe Biden 대통령 후보의 발언이 날조된 동영상'이 공개되고 정치적인 문제까지 발생함으로써 그 위험성을 문제시하는 풍조가 강해졌습니다.

2021년에 들어서도 딥페이크의 기세는 멈출 기미가 보이지 않았으며 , 미국에서는 어머니가 딥페이크 기술을 이용해 자녀가 소속한 팀 동료의 음란한 사진, 동영상을 만드는 사건이 발생하는 등 끊이질 않고 발생했습니다.

 

딥페이크의 탄생 배경

 

딥페이크라는 기술은 처음에 어떤 목적으로 개발되었는지, 개발 경위를 알기 위해서는 딥페이크의 역사를 더듬어볼 필요가 있습니다.

딥페이크의 기초가 된 기술은 지금으로부터 20년 이상 전에는 존재했던 '인물화상합성기술(synthesishumantechnology)'이며, 그 역사는 20년 이상 전부터 시작되었다고 할 수 있습니다.

인물화상합성기술은 '영상이나 이미지에 사람을 합성하기 위한 기술'로 개발되었으며, 실제로 영화 <아바타>에서도 이 기술이 사용되어 배우의 표정이나 움직임이 CG 캐릭터에 적용되어 제작되었습니다.

 

반면에 이 기술에는 고가의 장비와 제작 환경을 갖춘 영상 스튜디오가 필요하다는 치명적인 단점이 있었습니다.

워싱턴 대학의 스티븐 세이츠(Steve Seitz) 교수 등이 인공지능에게 인간의 이미지를 학습시킴으로써 값비싼 장비나 장소를 이용하지 않고도 표정을 만드는 데 성공하였으며 ,

 

2016 년 독일 뮌헨 공과 대학 (Munich Institute of Technology)의 마티아스(Matthias Nieáner) 교수는 3D 얼굴을 실시간으로 변화시키는 데 성공했습니다.

2017년에 들어서면서 현재 딥페이크 동영상에 많이 이용되는 기술 'GAN(적대적 생성 네트워크)'이 등장했고, '딥페이크라는 이름의 소프트웨어 패키지가 오픈 소스로 제공되면서 대중적으로 이 기술이 알려지게 되었습니다.

 

딥페이크의 실제 사용 사례

 

1.GeneratedPhotos

 

'Generated Photos'는 Generated Media가 제공하는 '인물 이미지 무료 다운 서비스'로, 모두 인공지능에 의해 처음부터 만들어진 가공의 인물 이미지입니다.

 

자동으로 생성되었다고는 생각되지 않는 높은 품질과 사용할 때 저작권이나 초상권 같은 권리의 침해를 걱정할 필요가 없기 때문에 폭넓은 용도로 이용할 수 있을 것입니다.

 

무료 회원으로 등록하면 이미지 다운로드는 물론 성별, 연령, 감정 등의 조건을 지정한 이미지도 생성이 가능합니다.

 

2.Face Swap

 

페이스 스왑(Face Swap)은 스마트폰 이미지 공유 앱 '스냅챗(Snapchat)'에서 제공하는 기능으로 카메라 기능을 통해 두 얼굴을 바꿀 수 있습니다.

 

카메라에 비치는 두 개의 얼굴뿐만 아니라 기능에 내장된 이미지나 단말기에 저장된 이미지와 얼굴을 교환할 수도 있는데, 바뀐 상대방의 얼굴을 마음대로 움직일 수 있다는 점이 특징입니다.

 

3.BBCnewsreader‘speaks’languageshecan’t

 

영국 BBC 방송국(British Broadcasting Corporation)에서 실제로 영어만 가능한 뉴스 캐스터가 영어, 스페인어, 베이징어, 힌디어의 4개 국어를 말하고 있는 가짜 영상을 공개했습니다.

 

이 영상을 제작하는 데 사용된 소프트웨어는 런던에 본사를 둔 스타트업 기업 '신데시아(Synthesia)'가 제작한 것으로, 영상에서는 말하는 언어에 맞춰 입이 움직이고 있어 일반인들에게는 위화감이 없을 정도의 정교함을 보여줬습니다.

 

딥페이크의 제작의 난이도

 

정밀한 딥페이크 동영상을 만들고자 하면 그에 상응하는 지식과 제작 시간이 필요합니다.

한편, 칩페이크라고도 불리는 저품질의 딥페이크라면, Online Deepfake Maker나 FakeApp 같은 사이트나 Xpression, Reface 같은 소프트웨어 앱을 사용하여 간단하게 제작할 수 있습니다.

아무리 칩페이크라고 해도 사용 용도에 주의를 기울여야 하며, 공개적으로 발표하지 않는 형태로 사용하는 것에 그쳐야 할 것입니다.

사회적-문제로-대두된-딥페이크

딥페이크에 대한 대처 사례

 

 

이미 세계 각지에서 딥페이크 범죄에 대응할 수 있는 기술의 개발이 이루어지고 있습니다.

사례는 다음과 같습니다.

 

Deep Fake Detection Challenge

 

「DeepFake Detection Challenge」란, 2019년 9월에 FaceBook을 비롯한 대기업이나 연구 기관이 시작한 「딥 페이크 검출 기술」을 겨루는 콘테스트입니다.

 

100만 달러의 상금이 걸린 이 대회에서 2000개 이상의 팀이 응모를 하였습니다.

 

결과적으로 콘테스트용으로 공개했던 딥페이크 영상의 탐지율은 80%를 넘었지만, 그 기술을 다른 딥페이크 동영상(식별하기 어려운 정밀도의 가짜 영상)에도 응용했더니 탐지율은 65% 정도에 머물러, 알려지지 않은 데이터에 관한 탐지의 난이도가 현격하게 올라가는 것을 알 수 있었습니다.

 

Spot the DeepFake

 

Microsoft를 비롯한 3개 기관에서 제작한 딥페이크에 대해 학습할 수 있는 툴 바로 'Spot the Deepfake'입니다.

 

10개 문항 퀴즈에 답하면서 배우는 형식으로 되어 있으며, 내용도 초보자용이기 때문에 딥페이크에 흥미를 가지기 시작한 분에게 추천드립니다.

 

MicrosoftVideoAuthenticator

 

'Microsoft Video Authenticator'는 Microsoft가 2020년 9월에 공개한 '허위 정보를 위한 새로운 대처에 대해'에서 발표된 딥페이크 탐지 툴입니다.

 

이미지나 동영상에 미묘한 퇴색이나 그레이 스케일 같은 위화감이 없는지 분석해 딥페이크 동영상의 확률이나 신뢰도 점수를 실시간으로 표시해 주는 시스템입니다.

 

마치며, 딥페이크는 범죄에 사용된 사례가 많기 때문에 위험성을 내포한 기술이라는 점에 초점이 맞춰져 있습니다.

 

물론 '딥페이크의 위험성'에 대해서는 이의를 제기하기 어려울 것입니다.

하지만 실제로 활용하고 있는 기업이 있듯이 비즈니스적인 이용의 가능성을 내포한 기술이라는 점도 잊어서는 안 될 것이며, 오히려 활용하고 있는 기업이 적은 만큼 커다란 비즈니스 기회가 숨겨진 기술이라고 생각됩니다.

올바른 정보를 판별하는 통찰력으로 그것을 제어할 수 있다면, 거기에는 아직 무한한 가능성이 묻혀 있을 것입니다.

 

2023.03.03 - [IT과학 미래기술] - 딥러닝(Deep learning)이란? 실제 사례정리

딥러닝(Deep learning)이란? 실제 사례정리