딥페이크 뜻과 딥페이크 제작 과정

 

안녕하세요.

진짜인지 가짜인지 본인도 구분해 내기 힘든 기술 딥페이크.

영화 속에서나 보던 기술이었는데요.

이제는 현실에서도 딥페이크를 이용한 범죄가 심심치 않게 뉴스에서 보이곤 합니다.

과연 딥페이크는 정확히 무엇을 말하는 걸까요?

오늘은 '딥페이크에 대한 뜻'을 알아보고 최근 화제가 된 '딥페이크 성범죄 방지법'에 관한 내용을 자세히 알아보도록 하겠습니다.

 

목차
1. 딥페이크 뜻
2. 딥페이크 핵심 원리
3. 딥페이크 제작 과정
4. 딥페이크 방지 기술

 

1. 딥페이크 뜻

 

딥페이크란?

딥페이크(deepfake)는 딥러닝(deep learning)과 가짜(fake)를 나타내는 단어의 합성어를 말합니다.

영화에서 보던것처럼 인공지능 기술을 이용하여 실제 사람의 얼굴과 목소리를 합성하여 가짜 영상을 만드는 기술이죠.

딥페이크 기술로 만들어진 영상은 실제로 발생하지 않은 상황도 마치 실제로 일어났던 것처럼 거짓으로 만들어 낼 수 있기 때문에 악용된다면 큰 피해를 받을 수 있어 문제가 되고 있습니다.

이 기술로 만들어진 동영상의 경우에는 매우 정교하여 전문가들도 진짜와 구분해 내기 어려울 정도라고 합니다.

악의적으로 사용될 경우 큰 파장을 일으킬 수 있죠.

 

딥페이크 기술이 처음 등장한것은 2017년입니다.

이후 빠르게 발전하여 현재는 일반인들도 딥페이크를 만들 수 있는 사이트 등을 이용하여 쉽게 접근할 수 있는 정도에 이르렀습니다.

몇 년 전에 유명했던 일화가 바로 틱톡에서 톰 크루즈가 골프 치는 영상이 있었죠.

물론 딥페이크 영상이었습니다.

최근에는 미국 대선 레이스가 본격적으로 시작되면서 트럼프 후보의 딥페이크 영상도 많이 확산되기도 했었습니다.

 

 

여러분도 뉴스를 통해 잘 아시다시피 최근 딥페이크 기술을 통한 디지털 성범죄 사건들이 매스컴에서 보도되고 있습니다.

딥페이크 기술로 얼굴과 신체를 음란물과 합성하여 불특정 다수에게 유포하는 일들이 발생한 거죠.

최근 우리나라에서도 학생들이 고등학교 여교사를 딥페이크 기술로 합성한 뒤 SNS에 유포한 사건이 떠들썩하게 만들었습니다.

 

 

2. 딥페이크 핵심 원리

 

딥페이크의 핵심 기술

딥페이크의 핵심 기술은 2가지로 보고 있습니다.

 

1. 오토인코더(Autoencoders)

• 입력 데이터를 압축하고 다시 복원하는 신경망
• 특정 인물의 얼굴 특징을 학습하고 변형하는 데 사용

2. 생성적 적대 신경망(GANs)

• 생성자와 판별자 두 신경망의 경쟁을 통해 학습
• 점점 더 정교한 가짜 이미지 생성 가능

 

 

딥페이크 영상을 만드는 핵심 기술인 GAN에 대해 좀 더 살펴보겠습니다.

GAN(Generative Adversarial Networks)은 두 개의 신경망으로 구성되어 있습니다.

한 개는 가짜 데이터를 생성하고, 또다른 한개는 이 가짜 데이터를 평가하면서 진짜와 가짜를 구분하는 역할을 수행합니다.

전자를 생성자라고 부르고, 후자를 판별자라고 부릅니다.

이 생성자와 판별자는 서로 경쟁하듯이 가짜 데이터를 더욱 진짜와 같게 보이도록 만드는 학습을 합니다.

 

• 생성자(Generator): 가짜 이미지 생성 역할. 생성자는 무작위 데이터를 바탕으로 시작하며, 점차 학습을 통해 진짜 같은 이미지를 만들 수 있게 됩니다.
• 판별자(Discriminator): 생성자가 만든 가짜 이미지와 실제 이미지를 구분하는 역할. 이 과정에서 생성자는 판별자를 속이기 위한 더 정교한 이미지를 만들기 위해 학습합니다.

 

 

3. 딥페이크 제작 과정

 

딥페이크의 처음 시작은 이목구미와 같은 사람이나 사물의 특징을 추출하는 것부터 시작됩니다.

심층학습, 즉 딥러닝을 한 기계(인공지능)가 동영상 위에 다른 이미지를 하나 둘 지속적으로 중첩 및 결합하여 조작된 영상을 만들게 됩니다.

딥페이크의 제작 방법은 기술마다 다르나 통상적으로 추출, 학습, 병합 단계를 거치는 건 대동소이합니다.

 

1. 추출

첫 번째 추출단계에서는 인공지능이 얼굴을 탐지하는 과정으로 생각하면 쉽습니다.

눈과 코 등 얼굴의 특징인 랜드마크를 추출하는 거죠.

인공지능은 얼굴만 감지할 수 있다면 어떤 이미지든 짧은 동영상이든 상관없이 학습할 수 있습니다.

1초짜리 동영상이라도 가능합니다.

비록 1초라고 하더라도 동영상은 프레임이라는 단위로 쪼개지기 때문에 충분히 학습을 할 수 있는 거죠.

 

2. 학습

두 번째 학습단계에서는 추출한 사람의 얼굴 특징을 다른 사람의 얼굴에 재생성하게 됩니다.

이 과정에서 실제처럼 매우 유사한 고화질의 딥페이크 영상을 만들기 위해서는 많은 양의 학습 데이터가 필요하고 많은 GPU시간이 소모됩니다.

현재는 많은 이미지를 수없이 학습해 실제처럼 보이게 만들고 있는 거죠.

이게 바로 위에서 말씀드린 딥페이크 핵심 기술인 GAN을 통해 이뤄지고 있습니다.

 

3. 병합

세 번째이자 마지막 병합단계에서는 새롭게 만들어진 얼굴을 기존 원본 이미지에 병합하여 합치는 과정입니다.

이때 후보정 과정도 함께 진행하여 다소 부자연스러운 현상을 완화해 줍니다.

예를 들어 피부색이 다른 사람을 딥페이크 할 때 후보정 과정을 많이 사용해서 자연스럽게 만듭니다.

 

반응형

 

4. 딥페이크 방지 기술

 

날이 갈수록 교묘하게 진화하는 딥페이크 불법 영상물.

이에 딥페이크 방기 기술도 함께 진화하고 있습니다.

최근에는 딥페이크 영상을 탐지해 내는 기술과 탐지를 넘어서 위조 불가능하게 만드는 기술도 개발되고 있습니다.

 

1. 워터마크

AI가 만든 이미지에 육안으로는 볼 수 없는 워터마크를 픽셀단위로 이미지에 넣어 문제의 소지가 발생했을 때 해당 이미지가 실제 이미지가 아님을 식별할 수 있게 해주는 기술입니다.

 

 

2. 이미지 메타데이터 구분

사진을 찍으면 생성되는 GPS와 타임스탬프가 정상적으로 설정된 것인지 확인하는 방법을 말합니다.

실제로 보험회사들은 이러한 방식으로 제출한 사고 사진이 진짜인지 가짜인지 진위 확인을 할 수 있다고 합니다.

한 예로 우크라이나 전쟁 관련된 사진의 출처를 확인할 때에도 해당 기술을 사용했다고 합니다.

 

딥페이크 기술은 양날의 검과 같죠.

올바르게 사용한다면 다양한 분야에서 좋은 결과와 혁신을 이끌어 낼 수 있지만 악용될 경우에는 심각한 사회 문제를 일으킬 수 있습니다.

책임감 있는 사용과 기술 개발이 지속적으로 필요해 보입니다.

 

오늘은 딥페이크 뜻과 딥페이크 제작 과정에 대해 알아보았습니다.

도움이 되셨다면 아래 하트♡ 공감 부탁 드립니다.

아래 추천글도 많은 관심 바랍니다.

 

좋은 하루 보내세요.

감사합니다.

 

추천글

 

레바논 헤즈볼라 삐삐 폭발 테러 총정리

 

국민연금 개혁안 총정리 최신버전

 

안성재 셰프 흑백요리사 심사위원 프로필(모수 서울)

 

iOS18 업데이트 방법 및 지원가능 기기

 

배우 이청아 프로필(하이드 하연주, 연인 각화 역)