MS, 얼굴 표정에서 감정 읽어주던 AI 서비스 종료…이유는?

권택경 tk@itdonga.com

[IT동아 권택경 기자] 마이크로소프트가 클라우드 서비스로 제공하던 얼굴 인식 기능 중 일부를 더 이상 제공하지 않겠다고 밝혔다. 문제가 된 기능은 얼굴 인식을 바탕으로 감정, 성별, 나이 등을 유추하는 기능이다.

이번 결정은 인공지능을 안전하고 윤리적인 방향으로 개발하고 이용할 수 있게 하겠다는 마이크로소프트 정책에 따른 것이다. 마이크로소프트는 지난 2019년 이같은 정책을 규범화한 ‘책임 있는 인공지능’ 기준을 처음으로 제시한 바 있다. 지난 21일에는 최신 연구 결과를 반영해 더욱 발전시킨 개정판을 공개했다. 마이크로소프트는 지난 1년간 연구원, 엔지니어, 정책 전문가 등 다양한 전문가와 함께 이 기준을 만들었다고 밝혔다. 새 기준 발표와 동시에 당장 일부 기능 제공을 중단한 건 이 기능들이 기준에 부합하지 않는다고 판단했기 때문이다.

애저의 페이스 API는 얼굴 표정에서 감정을 읽는 기능을 제공해왔다. 출처=깃헙
애저의 페이스 API는 얼굴 표정에서 감정을 읽는 기능을 제공해왔다. 출처=깃헙

마이크로소프트는 클라우드 서비스 애저의 ‘페이스 API’ 등에서 얼굴 표정으로 감정을 읽거나 성별, 나이, 메이크업, 미소, 수염, 머리카락 등의 속성을 판단하는 기능을 제공해왔다. 이중 페이스 API의 감정 인식 기능은 기업 고객이 아닌 누구라도 이용할 수 있도록 공개하기도 했다.

그러나 이를 놓고 과학적 근거가 부족하고 사회적 편견과 오남용 가능성이 크다는 비판이 꾸준히 제기됐었다. 미국 심리학회가 노스이스턴 대학 리사 펠드먼 바렛 교수 등에 의뢰한 연구 결과에 따르면 얼굴 표정과 감정 사이에는 큰 연관성이 없었다. 연구에 따르면 사람은 감정을 다양한 방식으로 표현하기 때문에 표정만으로 감정을 추론하는 건 정확도가 떨어진다. 예컨대 화가 났을 때 사람들이 얼굴을 찡그리는 경우는 평균 30% 미만이다. 다시 말해 찡그린 얼굴만으로 ‘화남’이란 감정을 판별하는 건 무리가 있다는 것이다.

얼굴 인식을 기반으로 성별, 나이, 수염, 머리카락, 메이크업 등 정체성과 관련된 민감한 속성을 유추하는 기능도 고정관념이나 차별을 강화하고 부당한 서비스 거부로 이어질 수 있다는 우려가 제기됐다.

마이크로소프트가 이러한 내외부 문제 제기를 수용함하고 '책임 있는 인공지능' 기준에 반영함에 따라 해당 기능들은 더 이상 신규 고객들에게 제공되지 않는다. 다만 기존 고객들에게는 내년 6월 30일까지 일종의 유예 기간을 주기로 했다. 또한 마이크로소프트의 시각장애인용 음성 안내 앱인 씨잉 AI(Seeing AI)처럼 오남용 위험성보다 유익성이 큰 활용 분야에 한해서는 예외를 뒀다.

출처=마이크로소프트
출처=마이크로소프트

이와 별개로 마이크로소프트는 앞으로 얼굴 인식을 이용하려는 고객들에게 접근 권한을 허용받도록 하는 절차도 추가한다. 얼굴 인식 기능이 마이크로소프트가 제시한 기준에 부합하고, 사용자와 사회적 이익에 기여하는 방향으로 활용되는지 확인하겠다는 의도다. 대상은 페이스 API, 컴퓨터 비전, 비디오 인덱서 등에서 얼굴 인식 기능을 이용하고자 하는 고객들이다. 이들은 1년 단위로 승인을 새로 받아야 한다. 기존 고객들은 2023년 6월 30까지 승인받도록 했다. 다만 얼굴 인식이 아닌 얼굴 감지 기능은 이러한 절차 없이 계속 사용할 수 있다. 단순히 얼굴을 감지해 흐리게 처리하거나, 얼굴 방향을 인식하는 등의 기능이 이에 해당한다.

나타샤 크램프턴 마이크로소프트 ‘책임 있는 AI’ 최고 책임자는 “더 나은, 공평한 미래를 위해서는 인공지능을 위한 새로운 가드레일이 필요할 것”이라며 “마이크로소프트의 책임 있는 AI를 위한 기준은 이 목표를 향한 기여 중 하나”라고 말했다.

글 / IT동아 권택경 (tk@itdonga.com)

IT동아의 모든 콘텐츠(기사)는 Creative commons 저작자표시-비영리-변경금지 라이선스에 따라 이용할 수 있습니다.
의견은 IT동아(게임동아) 페이스북에서 덧글 또는 메신저로 남겨주세요.