IT DONGA

유튜브 AI 규제 뚫렸다… 실시간 스트리밍으로 음란물 유포

남시현

2월 28일 오전, 유튜브 실시간 스트리밍으로 음란물이 유포되는 사건이 발생했다.

[IT동아 남시현 기자] 유튜브(Youtube)의 생중계 시스템인 실시간 스트리밍 기능이 법의 사각지대로 전락하고 있다. 오늘(28일) 오전 9시를 전후로 유튜브 실시간 스트리밍에 음란물이 유포되는 사건이 발생해 논란이 되고 있다. 오전 10시가 되어서야 유튜브 측이 해당 영상에 대한 규제에 나섰지만, 실시간 스트리밍 영상이 삭제되면 다시 업로드되고, 또 다른 계정으로 업로드되기를 반복해 해결될 기미가 보이지 않는 상황이다.

문제가 된 실시간 스트리밍 기능은 비디오 게임, 실시간 Q&A 진행, 강의 등을 실시간 생중계로 전달해주는 기능이지만, 이를 악용해 음란물을 배포하는 이용자가 등장한 것이다.

스트리밍 시작 14분만에 1천 명이 시청하고 있다. 이런 행태가 계속 반복되고 있다.

「정보통신망 이용촉진 및 정보보호 등에 관한 법률」 제 44조의7(불법정보의 유통금지 등)의 제 1항에 따르면 누구든지 정보통신망을 통하여 음란한 부호ㆍ문언ㆍ음향ㆍ화상 또는 영상을 배포ㆍ판매ㆍ임대하거나 공공연하게 전시하는 내용의 정보를 다뤄선 안 된다. 또한, 제44조의 4(자율규제)를 통해 음란물 유포의 자율 규제를 운영 주체에 맡기고 있다.

유튜브 역시 2017년부터 콘텐츠 필터링 알고리즘을 사용해 극단적 폭력 영상과 음란물, 불법적인 영상을 자동으로 걸러내고 있지만, 게릴라성으로 등장했다 사라지는 실시간 스트리밍 영상에는 속수무책인 것으로 보인다. 문제는 이렇게 유튜브의 콘텐츠 필터링을 통과한 음란물 영상은 로그인하지 않은 누구나 확인할 수 있다는 점이다.

유튜브는 해당 영상을 즉각 삭제하고 있으나, 게릴라성으로 음란물이 유포되고 있어 원천적으로 차단이 어려운 상황이다.유튜브로 음란물이 유포된 사례는 가볍게 볼 만한 사건이 아니다. 가장 큰 문제는 유튜브의 실시간 스트리밍 기능으로 테러나 폭력적인 영상이 갑작스레 송출될 경우 이를 방지할 수 있는지다. 그리고 인공지능을 활용한 자율규제가 모든 유튜브 이용자들이 만족할만한 형태로 운영되고 있는지다.

이와 관련해 유튜브 관계자는 "유튜브는 사이트 내 허용되는 콘텐츠에 대한 내용을 명확히 표시하고 있으며, 사용자들이 신고한 콘텐츠를 담당팀이 리뷰 후 위반 내역을 판단해 삭제하고 있다."라며 "반복적으로 가이드라인을 위반할 경우 사용자 해지 등 강력한 조치를 취하겠다"는 답변을 내놓았다.

글 / IT동아 남시현 (sh@itdonga.com)

이전 다음