인스타그램, "딥페이크 성범죄 게시물, 선제적으로 방어"

[IT동아 장현지 기자] 2일, 인스타그램이 온라인 기자간담회를 열고, ‘부모님을 위한 자녀의 안전한 인스타그램 사용 가이드(Parent’s Guide)’를 공개했다. 이 가이드는 2018년에 첫 발간한 것으로, 부모가 청소년 자녀에게 안전한 인스타그램 사용 방법을 지도할 때 참고할 수 있는 지침서다.

자녀가 원치 않는 교류 및 온라인 괴롭힘으로부터 자신을 보호할 수 있는 기능에 대한 설명을 담고 있다. 가이드 제작 시, 전문성을 위해 각 지역의 청소년 관련 기관 및 단체와의 협업한다. 국내에는 사회복지법인 ‘아이들과미래재단’이 파트너로 참여하고 있다. 이번 간담회에서는 추가 도입한 안전 기능을 추가한 최신 버전을 공개했다.

먼저 필립 추아 인스타그램 아시아 태평양 정책 총괄이 업데이트된 부모 가이드를 소개했다. 새롭게 추가된 기능으로 '제한하기’, ‘소식 숨기기’, ‘태그 및 언급 관리’, 인스타그램 이용 시간을 스스로 조절할 수 있도록 돕는 ‘일일 알림 설정’ 등이 있다. 

'제한하기' 기능은 상대가 모르게 댓글 등을 제한해 자신의 계정을 보호하는 기능이다. 친구를 차단하거나 팔로우를 취소하지 않아도 계정을 보호할 수 있다. 주변 사람을 차단하거나 팔로우를 취소하는 것에 부담을 느끼는 청소년들을 배려한 기능이다. 제한된 계정이 남긴 댓글은 해당 작성자에게만 보이고, 제한된 사람은 자녀의 인스타그램 활동 상태나 DM(다이렉트 메시지) 확인 여부를 알 수 없다.

또한 온라인 상에서 일어나는 괴롭힘과 따돌림을 뜻하는 사이버 불링을 방지하기 위해 '자동신고' 기능도 활용한다. '자동신고' 기능은 '기계학습, 빅데이터 등을 분석해 컴퓨터가 스스로 학습하는 인공 지능 러닝 머신에 기반한다. 인스타그램 내 게시되는 사진과 글 중 비방을 목적으로 하는 악성 콘텐츠를 찾아 자동으로 신고한다.

기본 게시글 외에도 스토리나 비공개 계정에서 올린 글까지 포함한다. 인공 지능에 의해 신고 당한 게시물 중, 인스타그램 커뮤니티 가이드라인을 준수하지 않는 게시물은 삭제한다. 해당 게시글을 올렸던 사용자는 게시물 삭제 이유를 포함한 게시물 삭제 공지를 받는다.

‘비방 댓글 필터’ 기능도 확대된다. 이 기능은 기존에 피드, 프로필, 둘러보기 게시물에 달리는 비방 댓글을 방지하는 기능이었다. 이제 라이브 방송까지 적용된다. 이를 통해 인스타그램 라이브 중에도 부적절한 댓글을 자동으로 걸러, 사이버 불링(온라인 따돌림)을 일정 수준 예방할 수 있을 것으로 보인다.

필립 추아 총괄은 "사이버불링 콘텐츠 사전 감지율이 최근 54.7%에서 80%로 확대됐다. 집단 따돌림 등 유해 콘텐츠의 80%는 이용자들이 보기 전에 처리된다"며, “인스타그램은 청소년과 부모님을 포함한 모두에게 안전한 소통 공간을 지향한다”라며 “업데이트된 ‘부모 가이드’를 통해 부모님들의 인스타그램 이해도를 높이고, 이를 바탕으로 열린 대화를 나눌 수 있는 계기가 되길 바란다”고 말했다.

필립 추아 총괄의 발표 후, 청소년의 건전한 소셜미디어 이용과 부모의 역할을 주제로 패널토의 시간으로 이어졌다. 필립 추아 인스타그램 아시아 태평양 정책 총괄, 이슬기 페이스북 코리아 대외정책 부장, 신은경 차의과대학교 의료홍보미디어학과 교수, 가이드를 함께 만든 사회복지법인 아이들과미래재단의 백동호 기획팀장, 14살 서조단군의 아버지인 힙합 아티스트 타이거JK가 패널로 참여했다. 이들은 청소년의 인스타그램 사용과 부모의 역할에 대해 함께 토의했다.

토론에 참석한 차의과대학교 의료홍보미디어학과의 신은경 교수는 "요즘 청소년들은 부모 세대와 다르다. 태어날 때부터 이미 디지털 환경에 익숙한, 디지털 네이티브 1세대다. 요즘 청소년에게 온라인은 오프라인만큼 중요하다"며, "청소년을 어른에게 종속된 존재가 아니라 주도적으로 자신을 표현하는 존재로 인정하는 것이 필요하다. 디지털 네이티브 세대인 청소년의 소셜미디어 이용을 무조건적으로 제한하는 대신, 충분한 대화를 통해 자녀가 소셜미디어를 유익하게 사용할 수 있도록 이끌어주는 것이 바람직하다”라고 의견을 밝혔다.

또한 "OECD국가 학생 행복도 조사를 본 적 있다. 우리나라 학생이 가장 낮아 충격이었다. 반대로 공부하는 시간은 가장 길었다. 학생들 사이엣거 인스타그램 해시태그(#)를 활용해 일명 '공스타그램'이 유행하는 것을 본 적 있다. 서로 공부한 시간, 과정을 공유하는 거다. 이처럼 SNS가 청소년의 일상에 긍정적인 영향을 주는 것이 관건이다"라며 SNS 순기능에 대한 기대를 덧붙였다.

힙합 아티스트 타이거JK는 실제 10대 자녀를 둔 부모로서 부모 가이드의 필요성과 취지에 공감하며, 자신의 경험담을 공유했다. "아이에게 인스타그램을 하지 못하게 했었다. 그런데도 어떻게든 계정을 만들어 친구들과 소통하더라. 나도 아들의 계정을 팔로우했다. 인스타그램을 하고 싶어 하는 아이의 이야기를 듣고 함께 직접해보니 이해할 수 있었다. 강제로 금하기보다, 아이의 삶을 들여다 보고 이해해야 한다고 생각한다"며, 아이와의 소통방법을 강조했다.

이어 QnA 세션에서는 온라인 간담회에 참여한 기자들의 질문에 답하며 진행됐다. 주요 질문으로는, 최근 SNS를 이용한 딥페이크 범죄 기승하는데, 인스타그램을 이용하는 청소년들에게도 노출될 위험에 대한 인스타그램의 대응책을 물었다.

이에 이슬기 페이스북 코리아 대외정책 부장은 "디지털 성범죄에는 무관용 정책을 펼친다. 상당히 강력한 커뮤니티 규정 적용한다. 우선 AI머신으로 선제적으로 딥페이크 게시물 삭제한다. 또한 언제든 신고할 수 있는 툴을 마련해서 청소년에게 노출 되지 않도록 최선을 다한다"고 답했다.

필립 추아 총괄은 "이용자가 인스타그램에서 안전하게 자신을 표현할 수 있게 안전 관리 기능 개발에 약 37억 달러를 투자했다. 이는 페이스북이 IPO(기업공개)를 할 당시 매출 규모보다 큰 금액이다"라며 사이버불링 및 안전 관리에 신경쓰고 있음을 강조했다. "유해 콘텐츠는 얼만큼 줄었는지 등은 분기별로 공개하고 있다"고 덧붙였다.

현대 사회에서 빼놓을 수 없는 소통 창구가 된 SNS. 현실에서의 삶에도 괴롭힘과 따돌림 문제가 끊이질 않아 골머리를 앓듯, 온라인 세상에서도 지속적인 노력이 필요해보인다. 인스타그램이 부모를 위한 가이드를 제공한 것은, 인스타그램 또한 SNS의 유해한 측면은 인지하고 있는 것으로 보인다. 이에 인스타그램은 지속적으로 사이버불링 관련 기능을 추가하고, 간담회를 열어 설명하는 자리를 만들어왔다. 바람직한 노력이다. 근본적으로 이용자가 SNS를 어떻게 활용하느냐의 문제이긴 하지만, 타 SNS 또한 사이버불링에 대해 조금 더 적극적인 자세로 관련 기능이나 정책을 마련하게 되는 촉매가 되길 바란다.

글 / IT동아 장현지(hj@itdonga.com)