딥페이크(Deep fake)란? 딥페이크의 문제점 및 예방

딥페이크 섬범죄

 

최근에 딥페이크 성범죄에 관해 많은 이슈가 되고 있어 걱정이 큽니다.

 

저도 언론에서 나오기 직전에 저희 아이들에게 이런일이 있고 많이 퍼져있다는 언급을 들었었는데, 그렇다고 해도 이렇게 사회에 만연되어 있고 심각한 상태인지는 미쳐 예상치 못했습니다.

 

너무나도 화나고 안타깝고 왜 점점 이런 성범죄가 활개를 치는지 울분이 나기도 합니다.

 

처음에는 딥페이크라는 단어조차도 생소했고, 딥페이크 성범죄가 먼데? 라며 찾아보았던 적도 있습니다.

저와 같은 분들이 계실 것 같아 한번 간략하게 알아볼게요.

딥페이크(Deep fake)란?

일단 딥페이크란 어떤 기술인데? 미국대선뉴스에도 나오고 이리저리 화제가 되는 걸까요?

 

사전적인 의미로 딥페이크(Deep fake)란?

인공 지능 기술을 활용해 기존 인물의 얼굴이나, 특정 부위를 합성한 영상 편집물 （딥페이크는 인공 지능 심층 학습을 뜻하는 디프 러닝 [deep learning] 과 가짜를 뜻하는 페이크 [fake] 의 합성어）

 

어찌 보면 좋아 보이지는 않은 뜻입니다.

 

결국 얼굴 등 특정부위를 다른 부위와 정밀하게 합성해서 진짜인것처럼 사기친다는 의미인거죠.

 

최근에는 SNS등에서 이걸 이용해서 사기치는 것도 있다고 들었는데, 이것도 문제지만 실제 딥페이크를 이용해서 온라인에서 유포하는 등 가짜 정보가 판치는 세상이 될수도 있다는 것이 더 큰 사회문제가 될 수 있습니다.

딥페이크 영상 제작 목적

왜 최근에 딥페이크 영상을 제작 할까요? 너무나도 뻔한 질문이기는 합니다만, 다시 한번 확인해보죠.

이 좋은기술을 잘 활용하면 좋을텐데, 대부분 단순한 목적에서 상대방을 공격하고 정치적 선동을 하기위한 목적으로 제작하고 있죠. 그렇기에 연예인이나 정치인이 주 타겟이 되는 경우가 많습니다.

 

몇년전만에도 조잡한 기술로 했기 때문에 금방 진위여부를 밝힐 수도 있었으나, 최근에는 AI로 음성까지 영상에 입히고, 영상도 더 정밀하게 되면서 단순히 자세히 보는것으로 진위를 가리기 어려워졌습니다. 이제는 진짜 어떤 동영상도 진짜인지 가짜인지 의삼하게 되는 불신의 시대로 가고 있다는 생각이 듭니다.

만들기 쉬운 딥페이크 영상

최근에는 무료앱이 많기에 누구나 기술이 없더라도 쉽게 제작할 수 있습니다. 무료앱으로 정밀하게 제작하기는 어려워서 만들어진 동영상은 진위여부를 가리기는 어렵지 않으나, 문제가 기술자가 만들경우는 정말로 진위여부를 가리기 어렵다는 것이지요.

 

현재 한국에서 딥페이크 성범죄로 문제가 많이 발생하고 있는데 너무나도 부작용이 큰 기술입니다.

 

딥페이크 자체는 불법은 아니지만 그것을 어떠한 일에 사용할때는 불법이겠지요.

좋게 사용한다면 영화같은 곳에 활용할 수도 있지만, 나쁜곳에 활용하면 성범죄, 음란물제작 등에 사용하기도 합니다.

동영상 진위여부 어떻게 파악하나?

실제 최근에는 기술자들이 만든 동영상은 일반인이 웹이나 앱에서 보고 진위여부를 판단하기 어렵습니다.

그나마 저급한 일반인이 만든다면 파악할수 있는데, 몇가지 주 포인트가 있네요.

 

일단 선명도가 떨어지고, 잔상도 남을 수도 있고요, 아무래도 합성이기에 움직임이 부자연스럽기도 합니다.

만약, 영상에 음성까지 입힌다면 영상과 음성과의 부조화도 느낄수 있을겁니다.

 

이정도라면 오히려 걱정하지 않을텐데, 진위여부를 가릴수 없는것이 실제 큰 문제로 발생되겠지요.

/div>

딥페이크 동영상 예방법

솔직히 현재 기술적으로 진일보되어있기에 진위여부를 가리기도 점점 힘들어지고, 고도의 기술력으로 모든 사람이 동영상을 제작할 수있다면 정말 답이 없습니다.

 

현재 딥페이크 기술은 나날이 발전하고 있고, 그 기술이 발전을 막을 수도 없겠지요.

 

결국 딥페이크로 인한 피해를 예방하는 것은 기술적인 부분보다는 강력한 법적 조치 시행, 어릴때부터 학교 및 사회에서 교육과 캠페인을 통한 나쁜행동이라는 사회적 인식이 높아져 자체개선되게 만드는 부분밖에 없어보입니다.

 

또한, 각 개인은 개인정보보호를 위해 더욱더 주의해야겠지요. 각종 SNS를 공개하지말고 비공개로 전환하고 가능하면 자기자신의 사진 또는 동영상이 있는것은 SNS에 게시하지 말아야 합니다.

딥페이크 피해 사례 공유

전 세계에서 딥페이크로 인한 피해가 많이 보도되고 있습니다. 그중에서 몇개 공유해봅니다.

링크가 아닌 섬네일만 가져와 봅니다.

5초만에 딥페이크 영상제작

 

딥페이크 관련 기사- 연합뉴

 

딥페이크 성착취 피해

 

 

딥페이크 피해