진실 왜곡 ‘딥페이크’…보험업계 파고든다

[IT동아 김동진 기자] 인공지능 기술로 특정 인물을 디지털 콘텐츠에 합성해 진실을 왜곡하는 딥페이크(Deepfake)가 보험업계를 파고든다. 사진 등을 증거로 보험금을 청구하는 기존 손해사정 시스템에 혼란을 일으키는 방식이다. 딥페이크는 영상이나 이미지, 음성 파일로도 만들어 배포가 가능하기 때문에 보험사기로 인한 피해 확산을 막기 위한 조치가 시급하다는 지적이 나온다.

보험연구원은 최근 발행한 ‘딥페이크와 보험사기’ 보고서를 통해 이같이 지적하며, 보험업계가 조속히 대응에 나서야 한다고 밝혔다. 딥페이크 동영상 개수는 2018년에서 2020년 사이 10배 이상 급증했지만, 보험업계는 가짜 콘텐츠 식별과 고객 인증 강화에 투입하는 비용 대비 효용을 예측할 수 없다는 이유로 대응 시스템 구축을 꺼린다고 지적했다.

기존 손해사정 시스템으로 딥페이크 대응 어려워

손민숙 보험연구원 연구위원은 “보험산업의 기존 위험 평가모델과 손해사정 시스템으로는 딥페이크를 활용한 보험사기에 대응하기 어렵다”며 “딥페이크 사기로 과도한 보험금이 청구되지 않는 이상 보험회사가 큰 타격으로 인식하지 않을 수 있으나, 이로 인해 기업 평판과 브랜드가치가 손상될 수 있다”고 우려했다.

이어 “딥페이크 사기로 인한 손실이 보험료에 반영되면, 계약자의 부담을 가중하고 불필요한 사회적 비용을 유발할 수 있다”며 “향후 기술 발달로 가짜 콘텐츠로 인한 문제가 심화할 것으로 보여 대응이 필요하다. 보험산업 연합 차원의 대응을 포함해 기술적, 법적, 사회적인 광범위한 조치를 취해야 한다”고 제언했다.

실제로 해외 주요국이나 기업들은 연합체를 구축하거나 관련 법안을 마련하는 방식으로 딥페이크에 적극적으로 대응하고 있다.

어도비·MS·BBC, ‘콘텐츠 진위 입증 위한 연합체' 구성

포토샵과 프리미어 프로 등 이미지·동영상 편집툴을 개발하는 어도비와 마이크로소프트, 영국 공영방송 BBC는 딥페이크로 인한 위험에 대응하기 위해 '콘텐츠 출처 및 진위 입증을 위한 연합'을 최근 구축했다. 이들은 딥페이크가 심각한 사회적 문제를 야기한다는 사실에 공감대를 형성했다. 이에 콘텐츠 출처를 입증하고 수정 이력을 확인할 수 있는 표준을 개발하고 있다.

MS는 최근 비디오 인증기를 통해 딥페이크에 악용된 것으로 의심되는 사진 또는 동영상을 분석해 진위를 가리는 기술을 선보이기도 했다.

미국과 유럽을 중심으로 관련 법안도 빠르게 마련되고 있다. 미국 버지니아 주는 성희롱 범죄에 딥페이크를 포함했고, 캘리포니아와 텍사스주에서는 공직 후보자를 대상으로 한 딥페이크 제작, 배포를 금지했다. 유럽연합(EU)은 인공지능법안에 딥페이크 콘텐츠와 생성시스템에 대한 투명성을 보장하는 내용을 담아 대응에 나섰다.

글 / IT동아 김동진 (kdj@itdonga.com)