IT DONGA

[IT용어사전] 새로운 가짜 뉴스의 위협, 딥페이크

이상우

[IT동아 이상우 기자] 넷플릭스를 통해 개봉한 성인 영화 '캠 걸스'는 최근 논란이 되는 '딥페이크(Deep Fake)' 기술을 소재로 만든 스릴러 영화다. 간단히 요약하면 성인 방송을 진행하는 주인공이 자신의 모습과 목소리를 복제한 인공지능에게 자신의 자리를 빼앗긴다는 내용으로 전개된다.

딥페이크(Deep Fake)는 딥러닝(심층학습)과 페이크(가짜)의 합성어다. 특정 인물의 사진이나 동영상을 통해 얼굴 형태나 움직임을 분석하고, 이를 다른 사진이나 동영상에 합성하거나 아예 컴퓨터 그래픽을 이용해 특정 인물의 모습을 거의 그대로 생성할 수 있다. 여기에 인공지능 기반 음성합성 기술을 통해 인물의 목소리까지 복제해 입히면 마치 그 인물이 직접 무언가를 말하는 듯한 느낌도 줄 수 있다.

딥페이크로 만든 오바마 미 전 대통령

사실 이러한 기술이 없었을 때는 누가 봐도 합성이라는 느낌을 받을 정도로 결과물이 조악했으며, 동영상의 각 프레임마다 포토샵 같은 소프트웨어로 직접 얼굴을 합성하는 수작업이 필요했다. 하지만 이제는 다양한 각도에서 촬영한 사진만 있으면 인공지능을 기반으로 빠른 시간안에 자연스러운 얼굴 합성이 가능하다. 특히 최근에는 인공지능이 딥페이크 영상을 만들면 또 다른 인공지능이 가짜 여부를 판별하고, 이 과정을 반복하며 더 정교한 합성 영상을 만드는 '생성적 적대 신경망' 기술을 적용해 사실적인 합성물을 만들어낸다.

이러한 기술을 활용해 자신과 완전히 닮은 게임 캐릭터를 만들거나, 영화 속 대역에 합성해 몰입도를 높이는 등 엔터테인먼트 분야에서 다양하게 활용할 수 있지만, 안타깝게도 오늘날 이 기술을 가장 흔하게 쓰는 곳은 포르노다. 평범한 배우가 출연한 포르노 영상에 유명인의 얼굴을 합성해 유포하는 등으로 쓰인다.

딥페이크 탐지 솔루션을 갖춘 보안 기업 딥트레이스(Deeptrace)에 따르면 96%의 딥페이크 영상이 포르노이며, 이러한 영상에는 영국이나 미국의 여배우가 41%, K팝 스타가 25%에 이른다고 발표했다. 또한, K팝의 폭발적인 인기와 함께, 최대 시장 중 하나인 중국에서 이러한 영상을 생성 및 소비한다고 덧붙였다.

이러한 합성 포르노와 더불어 가짜 뉴스와 관련한 우려도 커지고 있다. 2020년 대선을 앞두고 있는 미국이나 총선을 앞두고 있는 한국 입장에서는 당장 눈앞에 다가온 위협이다. 가령 출마자의 사진을 다른 동영상에 합성해 하지도 않은 말을 한 것처럼 꾸미거나, 하지도 않은 행동을 한 것처럼 만들 수도 있다. 여기에 인공지능 기반 음성 합성 기술이 더해지면 실제 해당 정치인의 얼굴과 목소리로 내세운 정책과 반대되는 발언을 한 것처럼 만들어낼 수도 있다.

이처럼 딥페이크 악용이 사회적 파장을 일으킬 수 있는 만큼 대책이 필요하다. 실제로 미국에서는 딥페이크로 합성한 포르노를 리벤지 포르노의 일종으로 취급해 처벌하도록 규정했다. 커뮤니티인 레딧 역시 딥페이크와 관련한 서브레딧을 종료했고, 트위터도 딥페이크 콘텐츠를 일반적인 성인 콘텐츠와 분리해 배제하는 정책을 도입했다. 페이스북 역시 딥페이크 영상 탐지 기술개발을 시작했으며, 어도비는 뉴욕타임스, 트위터 등과 함께 사진이나 동영상 혹은 뉴스 같은 콘텐츠의 원저작자와 원본을 찾을 수 있는 디지털 워터마크를 도입했다.

이러한 딥페이크를 판별하고 차단하는 기술 역시 인공지능을 기반으로 개발하고 있다. 앞서 언급한 딥트레이스의 경우 동영상 호스팅 플랫포이나 소셜 미디어에 올라온 딥페이크 영상을 실시간으로 탐지하고, 인공지능을 통한 비디오 포렌식을 통해 조작 여부를 판별한다. 지난 어도비 맥스에서 사내 개별 프로젝트로 진행해 개발하던 결과물 중에는 인공지능을 기반으로 사진의 픽셀을 분석해 합성이나 픽셀 유동화 여부를 판별하는 기술을 선보인 사례도 있다.

물론 이러한 대응만으로는 모든 딥페이크 악용 사례를 막을 수 없다. 예를 들어 미국 방위고등연구계획국(DARPA)의 미디어 포렌식 부서는 딥페이크를 연구하며 기존 딥페이크 영상에 등장한 인물이 눈을 깜빡이지 않는 다는 것에 착안해 탐지기술을 개발하려 했으나, MIT 테크놀로지 리뷰에서는 눈을 깜빡이는 사진을 인공지능에 학습시켜 깜빡이는 기능을 추가할 수 있다고 반박하기도 했다.

국내에서도 딥페이크가 초래할 위협에 대비해 법적, 제도적 장치를 마련하려는 움직임을 보이고 있지만, 단순히 영상 제작자와 유포자를 처벌하는 것으로 큰 효과를 기대하기는 어렵다. 때문에 이러한 콘텐츠를 유포할 수 대형 소셜 미디어나 메신저 서비스 혹은 포털 사이트 등에서 자발적으로 탐지 및 차단 기술을 개발할 필요성도 크다.

글 / IT동아 이상우(lswoo@itdonga.com)

이전 다음