DeepFake 기술은 무엇인가

 글머리 : 회사 블로그에 제가 올린 IT 기술 관련 글을 다시 구성하였습니다.

 

 요즘 성형은 일반화되었어요

 미(美)를 추구하기 위해 수술 및 시술을 하는 경우도 있지만 건강 및 생활이 불편해서 어쩔 수 없이 하는 경우도 많습니다.

 

 또한, 요즘은 1인 방송 시대잖아요?

 그래서 그런지 과거와는 다르게 Youtube를 들어가 채널을 검색해 보면 정말 많은 수의 채널이 나옵니다.

 수익을 위해서 하나의 직장으로는 생활할 수 없는 시대에 살다 보니 부업으로 방송을 하는데 방송을 좀 더 다른 채널과 다르게 하기 위해서, 그러니까 좀더 검색이 잘 되고 알찬 방송을 하기 위한 수단으로 다음과 같은 기술을 사용하기도 합니다.

 

 바로 딥 페이크(DeepFake) 기술입니다.

버즈피드가 제작한 딥페이크 영상. 유튜브 캡쳐

 이 딥 페이크 기술은 딥러닝(Deep Learning)과 가짜(Fake)의 합성어로 인공지능을 사용해 가짜 영상을 만들어 내는 기술을 말합니다.

 그런데 이 기술을 인터넷으로 검색을 하면 기술에 대한 글보다는 이 기술로 인해서 발생하는 여러 가지 폐단에 대한 내용이 나옵니다.

 대표적으로 아이돌의 얼굴과 성인물 영상을 이 기술로 가짜 영상을 만들어 배포하고 수익을 챙기는 그런 사이트가 많이 검색이 됩니다.

 무분별하게 인터넷을 접하는 아이들이나 생각 없는 사람들은 이 영상이 사실이라고 믿고 또 다른 내용으로 거짓과 자기 생각을 덧 붙여 정말 이파 만파로 퍼져 나가기에 영상에 의한 피해는 말로 표현하기도 힘든 수준이라고 할 수 있습니다.

 

 그럼 이런 폐단은 접어두고 기술에 대한 내용을 이어 나가도록 하겠습니다.

 

어떤 영상을 주로 만들까?

 주로 만들어지는 영상은 얼굴이 많이 노출된 고화질의 영상을 기반하여 얼굴을 다른 사람으로 바꾸거나 그래픽으로 만들어낸 얼굴로 변경하는 경우로 많이 사용됩니다.

 이전에는 얼굴을 그냥 합성하거나 사진을 붙여서 어색했다고 한다면, 현재는 바꾸려고 하는 대상 인물의 여러 사진을 AI 기술로 학습을 시켜 좀 더 자연스러운 얼굴을 만들고 원본 영상의 얼굴의 패턴을 인식하 겨 자연스럽게 합성을 하기에 활용도가 많다고 할 수 있습니다.

 

 특히, 합성하려는 영상과 대상이 일반 실사 영상이 아닌 3D 그래픽 영상이라면 이질감이 상당히 줄어든 영상을 만들어 낼 수 있습니다.

 

기술의 폐단

 이렇게 좋은 기술이 정말 선한 방향으로만 사용된다면 좋을 텐데 글 서두에도 말씀드렸듯이 정말 좋지 않은 곳에서 활용되고 그것이 불법이고 인륜적으로 상당히 나쁜 일임에도 거리낌 없이 기술을 적용하여 부당한 이득을 취하는 경우가 참 많습니다.

 정말 안타까운 일이라 생각됩니다.

 

 지금 대한민국의 K 문화가 세계로 뻗어 나가며 영향력을 보이고 있는 상황에 이 기술을 악용하여 K-Pop 여 가수, 여자 아이돌을 합성하여 배포하는 경우가 동일 피해사례 중에서 25% 이상을 차지하고 있을 만큼 많아 피해사례의 기사는 쉽게 찾아볼 수 있습니다.(https://lawtalknews.co.kr/issues/1305)

 

 이 경우는 얼굴 사지만을 가지고 대상 여자 연예인이 전혀 인지하지 못하는 상황에서 벌어지고 있다는 점에서 심각성이 상당하며, 분명 성폭력임에도 불구하고 대한민국 현 제도에서는 성폭력으로 처벌할 수가 없고 사이버 범죄와 명예훼손 정도로 가볍게 넘어갈 수밖에 없는 현실이기에 더 심각하다고 할 수 있습니다.

 

 이와 관련해서 아이유 닮은꼴로 인기몰이를 했던 중국의 차 이유의 사건을 보면 전혀 얼굴이 닮지 않고 체형만 비슷한 한 중국 여인이 이 딥 페이크 기술을 이용하여 아이유 영상을 만들어 TicTok에 올린 사건이 이 기술의 어두운 면을 보여 주고 있습니다. 

 

딥 페이크의 좋은 사례

 위에 이야기한 것처럼 이 기술은 정말 안 좋은 곳에만 활용이 될까요? 그렇지 않습니다.

 이 딥 페이크 기술은 고인이 되신 분의 사진을 기반으로 움직이는 동영상을 만들고 대화형 AI를 도입, 아직까지는 부자연스럽기는 하지만 대화가 가능할 수 있으며, 최근에는 순국열사의 사진을 기반하여 영상으로 재현한 사례가 있었습니다.

 

 또한, 디오비 스튜디오가 선보인 AI 유튜버 '루이'의 경우처럼 실제 사람은 별도 자신만의 생활을 하다가 영상에 나올 때만 다른 얼굴로 출연하는 등 신원을 보호하는 용도로 활용되기도 합니다.

 아래 영상은 AI 유튜버 '루이'를 소개하는 스브스 뉴스 영상입니다.

 

 

기술에 대한 나만의 생각

 위의 경우처럼 좋게 활용되는 경우도 있지만 그래도 악하게 활용하는 경우가 상당히 많아 이를 제지하는 정책과 제도가 필요하다고 많은 관계자는 입을 모아 이야기하지만 기술의 속도를 따라오지 못하고 있어 걱정이 아닐 수 없습니다.

 그렇게 제도가 뒷받침되지 못하고 잇는 현실에 기술의 문제는 기술이 해결한다고 해야 할까요? 영상의 진위 여부를 감별하는 인공지능이 나와 이슈가 되고 있습니다.

 아직 찾아보지 않아서 얼마나 이런 가짜 영상을 잘 찾아내는지 성공률은 어떤지를 잘 모르겠지만 이런 기술이라도 먼저 나와서 억울하게 피해 보는 사람이 없기를 바라 봅니다.

 

 저도 이 딥 페이크(DeepFake) 기술을 이용해서 저 자신만의 영상을 만들어 보고 싶은 충동이 올라옵니다.

 저 말고도 조금 관심이 있는 분이라면 같을 것이라 생각되는데 어떻게 생각하세요?