[IT상식] 딥페이크 란

딥페이크

• 인공지능의 바탕이 되는 머신러닝 기법인 딥러닝을 사용해 원본 이미지나 동영상 위에 다른 이미지를 중첩, 결합해서 원본과는 다른 이미지와 영상을 만들어 주는 이미지/동영상 조작 기술

딥페이크의 발전

• 2015년에는 얼굴을 흉내내던 수준
• 수천개의 이미지를 필요로하기에 주요 유명인사들이 타겟
• 2017년에는 실시간 재구성이 가능한 수준으로 발전
• 한장의 이미지만으로도 합성이 가능하기에 일반인도 타겟이 되고 있음

딥페이크의 사회적 이슈

• 연예인, 주변 사람 등 거짓음란물이 사회문제로 급부상
• 전 세계 딥페이크 음란물 피해자의 25%가 한국사람

https://ordinius.tistory.com/230

• 10대가 연예인 150명을 합성한 음란물을 판매
• https://www.donga.com/news/Society/article/all/20210225/105611252/2
• 딥페이크 96%가 음란물
• https://www.mk.co.kr/news/it/view/2020/12/1311739/
• 중국) 무료 딥페이크 앱이 출시되어 많은 사회적 문제 야기 - 지인을 합성한 영상을 유포하거나, 리벤지 포르노 등

• 가짜뉴스 확산 (정치적 선동 도구로 이용)
• 페이크 뉴스 등 허위정보로 인한 소동이 상징하는 '탈진실'을 넘어 딥페이크 기술로 인해 '진실의 종말'로 이어질 수도 있다는 사회적 우려 제기
• 정치인의 말을 선택적으로 편집하고 의미를 바꿔서 메시지를 오염, 하지도 않은 말을 한 것처럼 조작하여 확산
• 미국 오바마 대통령의 음성과 영상을 합성하여 가짜뉴스 확산 (이거 제일 유명한 사례)
• 엑스포와 같이 대중적인 자리에서 장관의 얼굴과 목소리를 합성하여 행사에 내보냄으로써 가짜뉴스 확산
• 금융권 공격 위험 증가
• 비대면 거래의 확산으로 인해 실명확인을 위해 화상통화를 한다며 접근, 목소리 얼굴 등을 위조하여 송금을 받아냄
• 딥페이크를 이용한 바이오 인증을 금융거래에 악용 (얼굴인식)
• 독일의 신용보험사 율러헤르메스 그룹의 CEO 목소리를 딥페이크 기술로 위조하여 보이스피싱에 이용, 실제로 22만달러의 송금을 받아냄

긍정적인 측면에서의 딥페이크 활용 사례

• 독일에서 GAN기반의 딥러닝 알고리즘을 활용헤 암진단에 탁월한 성과를 보인 인공지능을 개발했다는 논문 발표
• 질병에 걸린 사람을 위한 음성 복원
• 플로리다의 박물관에서는 예술을 소개하고 방문객과 셀카를 찍는 초현실 주의 화가의 작품 전시
• 영화에서의 딥페이크 활용
  • mnet ai다시한번 프로젝트
  • 제임스딘의 음성으로 베트남 전쟁영화에 출연
• 세상을 떠난 배우를 되살릴 수 있음
• 배우의 젊은 시절, 늙은시절을 표현

딥페이크 규제 현황

• 성폭력처벌법
  • 성폭력처벌법이 새로 생겼고, 단, 성적 욕망, 수치심을 유발할수 있는 형태의 딥페이크만 처벌됨
• 촬영이 아닌 합성이므로 성폭력 처벌법으로 처벌이 어려움 (불과 2019년 )
• 현재는 딥페이크를 편집, 합성, 가공하면 5년 이하의 징역 (2020년 기준)
• 형법
• 딥페이크를 통해서 보이스 피싱을 하는 경우 사기로 처벌 (징역 7년)
• 정보통신망법
• 딥페이크를 통해 타인의 명예를 훼손하는 경우 처벌

딥페이크에 대한 기술적 대응 동향

1. 비정상적 움직임 감지

• 이미지 병합과정이 이루어지기 때문에 인간의 눈으로는 파악하기 어렵지만 조작의 흔적을 찾을 수는 있음
• 고정된 이미지를 사용하므로 눈깜빡임과 같은 움직임을 적용하기 어렵고(이건 적용시킬라면할수있지않나?) 적용하더라도 어색하다는 점에서 착안해 눈깜빡임 동작을 분석하는 기술
• 이외에도 입술과 목소리의 떨림, 일치 여부 등으로 판단하고 있음

[ 정책리포트 ] 허위정보로서 딥페이크 , 어떻게 대처할것인가 (url 하단 참고문헌)

2. 이미지 기반 방식 (인비드)

• 리버스 이미지 검색을 통한 영상 진위 여부 판단 방식
• 영상을 프레임별로 추출한 후 보유하고 있는 이미지 DB와 비교해서 판별
• 입력된 동영상이 과거 뉴스 등에서 사용된 전력이 있는지 확인해줌
• 실제로 위의 아래의 허리케인 동영상에서 이 방식으로 이미 15일 전에 게시됐던 원본 영상이 존재함을 찾아냄

[ 정책리포트 ] 허위정보로서 딥페이크 , 어떻게 대처할것인가 (url 하단 참고문헌)

3. 인공지능 기반 방식

• 미디어 포렌식 프로그램 (미국의 방위고등연구계획국)
• 어떤 이미지나 동영상이 딥페이크와같은 AI를 이용하여 수정되거나 변형되었는지 여부를 판단하는 기술 개발ing
• 눈깜빡임, 머리 움직임 등 인간이 알 수 없는 변화를 복합적으로 판단하여 판별
• 딥페이크 검증 도구 참고

[ 정책리포트 ] 허위정보로서 딥페이크 , 어떻게 대처할것인가 (url 하단 참고문헌)

딥페이크에 대한 대응 방안 생각

1. 딥페이크 영상이나 음성 등에 대해 표시 의무 부과
• 소비자나 이용자들이 이를 분별할 수 있도록 도와주는 것이 필요할 것
2. 법률 강화 및 추가 제도 마련 필요성 up
• 합성기술이 판별기술보다 앞서 나갈 것이므로, 판별 기술 개발 외에도 제도적인 논의가 필요할 것
3. 블록체인, 딥페이크 대응 방안 기술로 활용 가능
• 데이터 조작으로 부터 안전한 블록체인
• 참여자간에 공유하고 참여자가 이러한 데이터에 무결성을 보증하기 때문에
• 블록체인에 관련된 추가 공부 필요
• 데이터 이력 추적에도 활용 가능
• 블록체인은 신뢰된 데이터를 공유하기 때문에 참여자간의 데이터 이력 추적 가능
• '코닥원'은 사진작가의 저작권을 보호하기 위해 저작권 내용을 블록체인으로 저장하고 있음
• '네뷸라 지노믹스'는 블록체인을 활용하여 유전자 거래 시스템을 선보였는데, 사용자 유전자 이력을 블록체인으로 추적이 가능함
4. 딥페이크 동물원
• 딥페이크와 관련된 데이터베이스를 수집하고 이를 대응하는 기술을 개발하는 연구자나 기업에 제공하는 딥페이크 동물원을 구축
5. 방사성 데이터
• 방사성 데이터
• 어떤 현상이 빛을 방출을 동반하는 성질
• 그니까 낚시형 데이터를 심는다는 뜻
• 방사성 데이터를 심어 딥페이크 기술이 적용된 영상이나 이미지를 파악하기 쉽게 할 것

참고문헌

• 논란의 딥페이크, 그 내막과 브랜드에 미칠 영향
• https://www.appier.com/ko/blog/%EB%85%BC%EB%9E%80%EC%9D%98-%EB%94%A5%ED%8E%98%EC%9D%B4%ED%81%ACdeepfake-%EA%B7%B8-%EB%82%B4%EB%A7%89%EA%B3%BC-%EB%B8%8C%EB%9E%9C%EB%93%9C%EC%97%90-%EB%AF%B8%EC%B9%A0-%EC%98%81%ED%96%A5/
• 딥페이크 악용사례 및 처벌 대응방안
• https://ordinius.tistory.com/230
• ai악용한 딥페이크 금융권 공격 위험 증가
• https://www.yna.co.kr/view/AKR20191226063600002
• [정책리포트] 허위정보로서 딥페이크, 어떻게 대처할것인가
• https://s3.ap-northeast-2.amazonaws.com/elasticbeanstalk-ap-northeast-2-044030252423/public/uploads/attachment/object/2124/%EB%AF%B8%EB%94%94%EC%96%B4_%EC%A0%95%EC%B1%85_%EB%A6%AC%ED%8F%AC%ED%8A%B8_2020%EB%85%84_1%ED%98%B8_%ED%97%88%EC%9C%84%EC%A0%95%EB%B3%B4%EB%A1%9C%EC%84%9C_%EB%94%A5%ED%8E%98%EC%9D%B4%ED%81%AC_%EC%96%B4%EB%96%BB%EA%B2%8C_%EB%8C%80%EC%B2%98%ED%95%A0_%EA%B2%83%EC%9D%B8%EA%B0%80.pdf
• 블록체인으로 딥페이크 대응
• https://www.sciencetimes.co.kr/news/%EB%B8%94%EB%A1%9D%EC%B2%B4%EC%9D%B8%EC%9C%BC%EB%A1%9C-%EB%94%A5%ED%8E%98%EC%9D%B4%ED%81%AC-%EB%8C%80%EC%9D%91%ED%95%A0-%EC%88%98-%EC%9E%88%EC%96%B4/