인기 인공지능 서비스 연이어 중단, 업계 “자정할 것”

[IT동아 차주경 기자] 사람과 대등한, 몇몇 부문에서는 사람보다 우수한 창작 능력을 발휘해 주목 받았던 인공지능들이 연이어 서비스를 중단했다. 운영 도중 사람의 개인정보 유출, 허위 정보 제작과 전파 등 부작용을 나타낸 탓이다. 인공지능 기술 업계는 서비스를 임시 중지하고, 재발 방지 대책을 세우고 기능도 개선한다고 약속했다.

지난 3월 20일(이하 현지시각), 오픈AI는 자체 개발한 대화형 인공지능 ‘챗GPT’의 서비스를 일시 중단했다. 챗GPT를 쓰던 사용자 일부에게 다른 사용자의 대화 이력이 노출되는 버그(이상 작동 현상)가 발견된 까닭이다. 3월 24일 오픈AI는 버그 발견 직후 서비스를 일시 중단, 수정 후 서비스를 다시 시작했다고 밝혔다.

하지만, 이후 오픈AI는 이번 버그 때문에 챗GPT 플러스 가입자 일부(약 1.2%로 추정)의 결제 정보가 노출됐을 가능성이 있다고 인정했다. 노출 가능성이 있는 결제 정보는 가입자의 실명과 이메일 주소, 결제상 주소, 신용카드 고유번호 16개 가운데 마지막 4개 등이다. 단, 오픈AI는 신용카드 고유번호가 모두 노출됐을 가능성은 없으며 정보 유출 피해의 사례도 없었다고 덧붙였다.

사건 이후 챗GPT에게 거센 후폭풍이 불어닥쳤다. 미국 비영리 연구 모임 ‘인공지능·디지털 정책 센터’는 3월 30일, 미국 연방거래위원회(FTC)에 챗GPT 배포를 중단해야 한다는 청원을 제출했다. 챗GPT가 편향된, 기만에 가까운 정보를 주며 사람의 사생활과 공공 안전을 위협한다는 이유에서다. 이어 이탈리아 정부는 4월 3일, 챗GPT가 개인정보를 무단 수집할 우려가 있다면서 자국에서의 사용 금지령을 내렸다.

사진 생성 인공지능 ‘미드저니(Midjourney)’ 역시 3월 28일 무료 서비스를 중단한다고 밝혔다. 사유는 ‘비정상으로 많은 수요 대응’과 ‘남용 문제 개선’이다.

인공지능으로 만든 사진이 실제 사진만큼 정교해지면서 저작권, 윤리 문제가 계속 불거졌다. 이 가운데, 한 미드저니 사용자가 만든 사진이 큰 반향을 일으켰다. 도널드 트럼프 전 미국 대통령이 강제 체포되는 사진, 재판을 받고 교도소에 수감되는 사진이다. 또 다른 사용자는 버락 오바마 전 미국 대통령과 앙겔라 메르켈 전 독일 총리가 해변에서 함께 물장난을 치는 사진을 미드저니로 만들어 공개했다.

문제는 이들 사진이 아주 정교하게 만들어진 탓에, 실제 사진으로 착각하고 가짜 뉴스와 함께 전파한 사람들이 많았다는 점이다. 인공지능이 치명적인 윤리, 사회 문제를 일으킨 가짜 뉴스의 제작 수단으로 악용된 것이다. 미드저니는 이들 사진의 제작자를 바로 제재(서비스 사용 금지)했다. 단, 이 사건이 무료 서비스 중단의 원인은 아니라고 해명했다.

이전에도 인공지능은 여러 부작용을 나타냈다. 초기 단계의 대화형 인공지능은 총기 구입, 폭탄 제조 등 위험한 정보를 여과하지 않고 그대로 사용자에게 전달했다. 옛날 데이터만 학습한 대화형 인공지능이 사용자의 질문에 엉뚱한 답을 제시하는 일도 잦았다. 학생들이 과제를 할 때 대화형 인공지능을 쓰지 않도록 막아야 한다는 주장도 꾸준하다.

가짜 뉴스나 음란물 제작, 로맨스 스캠(SNS의 사진, 게시물로 이성의 환심을 사고 돈을 요구하는 사기 행위)에 사진 생성 인공지능이 악용됐다. 사진 생성 인공지능이 데이터를 무단 수집했다며, 사진 데이터 기업이 천문학 규모의 소송을 제기한 일도 있었다.

인공지능 기술 업계는 이번 사건을 실수라고 인정하면서, 이를 되풀이하지 않고 오남용을 막을 대책을 세우는 등 자정한다고 밝혔다.

오픈AI는 “사용자 개인 정보를 보호하고 데이터를 유지하려 최선을 다했지만, 사용자의 기대에 미치지 못했다. 사용자와 챗GPT 커뮤니티에 진심으로 사과하며, 신뢰를 회복하도록 노력하겠다.”고 밝혔다. 데이빗 홀츠(David Holz) 미드저니 대표 역시 “오남용을 막을 정밀한 시스템을 곧 출시 예정이다. 전문가와 커뮤니티에서 나온 의견들을 참고해 사려 깊게 노력하겠다.”고 강조했다.

글 / IT동아 차주경(racingcar@itdonga.com)