규제 개선에 기술 더하니 ‘AI 공무원’ 시대 눈앞

[IT동아 김영우 기자] 이른바 ‘인구절벽’ 현상은 대한민국의 당면한 미래다. 통계청에 따르면 2024년 합계출산율은 0.75명으로 9년 만에 소폭 반등했지만, 여전히 세계 최저 수준이다. 2030년이면 30대보다 60대가 더 많아지는 사회가 현실화된다. 지방자치단체, 공공기관, 중소기업 등 곳곳에서 채용난과 행정 공백, 복지 인력 부족이 이미 현실로 드러나고 있다.

이런 상황에서 첨단 기술의 중요성이 커지고 있다. 특히 인공지능(이하 AI)는 단순한 혁신 수단이 아니라, 노동력 공백을 메우고, 시스템을 유지하게 만드는 인프라의 역할을 하게 됐다. 특히 공공영역에서는 반복적인 민원 처리, 복지 상담, 행정 안내 등의 영역에 생성형 AI와 챗봇 기반 자동화 시스템이 빠르게 도입되며 'AI 공무원'이라는 새로운 형태의 기술 활용이 확산되고 있다.

공공 AI 도입을 막던 장벽, 하나씩 해소 중

과거의 공공부문은 AI 도입이 더딘 편이었다. 보안에 대한 불안감, 그리고 이에 따른 각종 규제 때문이었다. 예를 들어 외부망과의 접속을 완전 차단하는 망분리 제도로 인해 업무용 PC에서는 인터넷 접속이 불가능했고, 이 때문에 챗GPT 같은 생성형 AI를 업무에 적용하기 힘들었다.

민간 클라우드 이용도 엄격히 제한됐다. 하지만 고성능 AI 서비스를 구현하려면 대규모 컴퓨팅 자원이 필수적이다. 성능이 제한된 온프레미스(내부망) 환경만으로는 최신 AI 기술을 구현하기 어렵다는 현실적 한계도 있었다.

그러나 최근 분위기가 급변하고 있다. 국가정보원은 2024년 초에 ‘국가 망 보안정책 개선 합동 태스크포스’를 출범하고 업무 중요도에 따라 등급을 분류하는 다층보안체계(MLS)로 전환하는 로드맵을 발표했다. 이를 통해 클라우드 규제 역시 대폭 완화됐다.

특히 하이브리드 클라우드 기술의 발전이 큰 도움이 되었다. 이를 통해 보안이 필요한 데이터는 온프레미스에, 나머지는 클라우드에 배치하는 등의 유연한 구조가 가능해졌다. 이는 공공기관이 AI 서비스를 본격적으로 도입할 수 있는 결정적 전환점이 됐다.

서울시 '서울톡', 인천시 AI 전략…공공 AI 도입 경쟁

실제로 최근 각종 공공기관에서는 AI 기술을 적극적으로 도입하고 있다. 이런 흐름은 주로 대민 서비스 부문에서 두드러진다. 서울시는 2020년부터 카카오톡 기반 AI 상담사 챗봇 '서울톡'을 운영하며 550종의 행정정보를 제공하고 있다. 복지, 환경, 문화, 경제, 안전 등 분야별로 시민들이 궁금해하는 정보를 24시간 자동으로 안내하며, 불법주정차 신고나 방역 신청 같은 현장 민원 접수도 가능하다.

인천시 역시 올해 8월 'AI 공존 도시' 비전을 선포하며 여가, 복지, 교통, 헬스케어, 교육, 행정 등 생활 전반에 AI를 적용하겠다는 의지를 밝혔다. 제조업 중심 도시답게 AI 팩토리 전환과 물류 자동화 같은 산업 분야 AI 혁신에도 주력하고 있다. 그리고 AI를 활용한 도시기본계획 수립, AI를 활용한 시민 의견 수렴 플랫폼 도입 등, 행정의 AI 전환도 예고했다.

시흥시 '시흥복지ON'으로 AI기반 복지 서비스 본격화

특히 주목할 만한 사례가 바로 시흥시의 '시흥복지ON'이다. 올해 4월 17일 정식 오픈한 이 서비스는 시흥시의 방대한 복지 데이터를 학습한 소형 대규모언어모델(sLLM)을 기반으로 한다. 시민들이 시 홈페이지에서 질문을 입력하면 AI가 24시간 실시간으로 맞춤형 복지 정보를 제공한다.

특히 시흥복지ON은 단순한 FAQ 자동 응답을 넘어선다. 사용자의 상황과 조건에 맞춰 수혜 가능한 복지 제도를 능동적으로 안내하고, 신청 방법까지 상세히 알려준다. 복지 사각지대를 줄이고, 정보 접근성이 낮은 시민들도 쉽게 복지 혜택을 찾을 수 있도록 돕는 것이 핵심 목표다.

시흥복지ON은 민관협력의 사례이기도 하다. 공공기관이 AI 서비스를 도입할 때 가장 큰 고민은 '보안'과 '안정성'이다. 시흥시는 이 문제를 해결하기 위해 민간 클라우드 전문기업인 ‘가비아’와 협력했다. 이번 사업에서 가비아는 자사에서 개발한 '공공기관 전용 클라우드(IaaS)'를 공급했다.

핵심은 하이브리드 클라우드의 실제 구현이다. 서비스 운영에 필요한 핵심 인프라는 클라우드에서 관리하고, AI 추론에 필요한 대규모 연산은 베어메탈(GPU)서버를 활용했다. 이를 통해 보안성과 처리 속도, 시스템 효율성을 동시에 확보할 수 있었다.

공공 AI, 단순한 기능 넘어 ‘철학’까지 고려해야

공공 AI는 '기능'이 아니라 '환경'과 '철학'이 먼저다. 시민의 데이터를 어떻게 보호할 것인지, AI의 답변이 잘못됐을 때 책임은 누가 지는지, 정보 격차가 있는 시민들도 동등하게 서비스를 이용할 수 있는지 등의 질문에 답할 수 있어야 한다.

AI를 통해 공무원들은 보다 복잡하고 창의적인 업무에 집중할 수 있고, 시민들은 더 빠르고 정확한 서비스를 받을 수 있다. 다만 공공 서비스는 민감한 시민 정보를 다루는 만큼, 보안, 데이터 통제, 정보 신뢰성을 전제로 한 AI 설계와 인프라 제공이 필수다.

가비아 관계자는 취재진과의 인터뷰에서 “공공부문의 경우, 단순히 AI를 도입하는 것을 넘어, 공공 부문에 특화된 보안 체계와 안정적인 인프라를 함께 구축해야 한다”며 “인간 공무원 못지않게 유능하고 책임감 있는 ‘AI 공무원’ 구현을 위한 기술 개발에 힘쓸 것”이라고 의견을 전했다.

IT동아 김영우 기자 (pengo@itdonga.com)