‘이루다’ 개발사는 왜 1억 원을 물게 됐을까

[IT동아 김대은 기자] 올해 초 논란이 됐던 인공지능 챗봇 ‘이루다’의 개발사 스캐터랩이 1억 330만 원의 과징금 및 과태료를 처분받았다.

개인정보보호위원회(개인정보위)는 4개월에 걸친 조사 끝에 스캐터랩에 대해 과징금·과태료 처분 및 시정 명령을 내렸다. 구체적으로 '개인정보를 수집하면서 명확하게 동의를 얻지 않은 행위', '성생활 등에 관한 정보를 처리하면서 동의를 얻지 않은 행위', '수집 목적 외로 이루다 학습에 카카오톡 대화를 사용한 행위' 등이 문제가 됐다.

이루다는 마치 사람처럼 대화할 수 있는 인공지능 기반의 챗봇이다. 페이스북 메시지를 통해 이루다에게 메시지를 보내면, 이루다는 카카오톡 대화를 통해 학습한 데이터를 기반으로 실제 사람과 비슷한 수준의 답변을 내놓았다. 과거에도 ‘심심이’ 같은 유사한 챗봇 서비스가 있었지만, 이루다는 인공지능을 이용해 더욱 사람과 비슷한 대화가 가능했다는 점에서 선풍적인 인기를 얻었다.  

그러나 이루다는 올해 초 차별·혐오 발언, 개인정보 무단 수집 등으로 논란이 됐다. 인터넷 커뮤니티 ‘나무라이브’와 ‘디시인사이드’의 이용자들이 이루다가 20대 여성으로 형상화됐다는 점에 착안해 성적 대화를 유도하는 방법을 공유하면서 ‘성희롱’ 논란이 일었다. 더구나 이루다의 채팅 내용 중 성소수자를 비하하는 발언이 다수 발견되면서, 개발사가 혐오 발언을 제대로 걸러내지 못했다는 비판도 잇따랐다.  

이후 이루다의 학습 대상이었던 카카오톡 채팅이 무료 코드 공유 사이트인 깃허브(Github)에 버젓이 올라와 있다는 점도 밝혀지며 더욱 논란이 됐다. 이름과 주소 등 사람들의 내밀한 개인 정보가 제대로 삭제되지 않은 채 누구나 볼 수 있게 공개되어 있었기 때문이다. 특히 이와 같은 카카오톡 대화가 스캐터랩의 또 다른 서비스인 ‘연애의 과학’에서 따왔다는 점 때문에 연애의 과학 사용자를 중심으로 집단 소송이 추진되기도 했다.

스캐터랩은 사건 당시 입장문을 내고 이루다에 관해 제기된 다양한 논란에 대해 해명했다. 이 입장문에서 스캐터랩 개발진들은 이루다가 성희롱 및 차별·혐오 발언의 대상이 예상하였다면서도 이를 사전에 완벽히 방지하는 것은 불가능하다고 설명했다. 또한 나무라이브와 디시인사이드 등 커뮤니티 유저들에게 자정 노력을 할 것을 주문하기도 했다. 그러나 논란이 계속되자 결국 스캐터랩은 이루다의 서비스를 중단했다.

이루다의 서비스 종료 이후 논란이 엉뚱한 곳으로 옮겨 가기도 했다. 서비스 종료에 반발하는 남성 이용자를 중심으로, 여성들이 평소 즐기던 ‘알페스(RPS)’ 또한 근절되어야 한다고 주장한 것이다. 알페스는 연예인 사이의 성적 대화와 행동을 묘사한 글·그림을 뜻한다. 이와 같은 논란으로 이른바 ‘알페스 금지법’이 국회에 발의되었으나, 국회입법조사처 및 법무부 측에서 반대 의견을 내면서 통과가 어려워진 상태다. ‘딥페이크’ 처벌을 위해 만들어진 법 규정을 단순 글·그림에도 똑같이 적용하는 것은 과도하다는 이유에서다.

본지는 이번 개인정보위의 결정에 대한 입장을 듣기 위해 스캐터랩 측에 문의하였으나 연락이 닿지 않았다.

글 / IT동아 김대은 (daeeun@itdonga.com)