"AI 에이전트 시대 핵심은 벡터DB"··· 디노티시아가 제안하는 씨홀스클라우드 기반 혁신은?

[IT동아 남시현 기자]

“많은 고객사들이 씨홀스 클라우드가 AWS 베드록, 구글 제미나이 엔터프라이즈 등과 어떻게 다른지를 많이 묻는다. 데이터 파이프라인을 RAG(검색증강생성)으로 구성하는 기본 기능은 유사하지만, 글로벌 클라우드 서비스 제공자(CSP)의 서비스를 기업 환경에 맞게 적용하려면 별도의 구축 역량과 기술 지원이 필요하다. 디노티시아는 벡터 DB와 데이터 파이프라인 기술을 기반으로 고객 환경에 맞춘 구축·운영 서비스를 제공하고 있으며, 향후 벡터 검색 연산을 가속하는 전용 반도체 VDPU를 결합해 검색 성능과 인프라 효율을 높일 계획이다.”

디노티시아는 2023년 설립된 장기기억 인공지능 인프라 전문 기업으로, 벡터 데이터베이스와 AI 에이전트 구축·운영 기능을 제공하는 씨홀스 클라우드를 서비스하고 있으며 벡터 연산 가속 AI 반도체 VDPU(Vector Data Processing Unit)를 개발하고 있다. 최근 기업 데이터의 80% 이상을 차지하는 비정형 데이터를 고도화하고, 이를 기반으로 AI 에이전트를 개발하고자 하는 움직임이 활발해지며 벡터 DB를 다루는 디노티시아의 주목도도 높아지고 있다. 이장원 디노티시아 사업개발그룹장(상무)을 만나 디노티시아의 구체적인 사업 구조와 씨홀스 클라우드의 사업 영역을 들어봤다.

“디노티시아, 벡터 DB 기반의 풀스택 AI를 다루는 기업”

디노티시아를 이해하려면 ‘벡터 DB’에 대한 이해가 선행되어야 한다. 기존에 우리가 축적하는 숫자, 문자, 날짜 등 정형 데이터는 관계형 데이터베이스(RDBMS)다. 데이터가 일관성과 신뢰성을 갖췄다는 장점 덕분에 중복 데이터를 줄이고 정규화가 가능하다는 장점은 있지만 데이터 검색의 유연성이 부족하고 특히 이미지, 영상, 텍스트 문서 등 비정형 데이터 처리에는 적합하지 않다. 반면 벡터 DB는 유사도를 바탕으로 근사치를 검색하고, 유사한 값을 찾아내는데 특화돼있다. 즉 대형언어모델, AI 에이전트가 비정형 데이터를 검색·활용해야 하는 환경에서는 벡터 DB가 주요 데이터 인프라로 활용된다.

이장원 상무가 디노티시아에 합류한 것은 지난해 6월이다. IT 엔지니어로 시작으로 20여년 경력 전반을 ICT와 클라우드 사업 부문에서 지냈다. 경력으로는 통신사에서 B2B ICT 사업전략을 수립했고, NHN과 카카오엔터프라이즈에서 클라우드 사업전략을 맡았다. 현재 디노티시아에서는 AI 사업 기획, AI 컨설팅 및 기술 지원, FDE(현장 배치 엔지니어) 조직으로 구성된 사업개발그룹을 책임지고 있다. 우선 사업 영역 전반과 조직 역할에 대해 질문했다.

이장원 상무는 “디노티시아는 기업 데이터를 AI가 검색할 수 있게 하는 벡터 DB 기술을 개발하고, 이를 기반으로 AI 에이전트를 구축·운영하는 씨홀스 클라우드를 서비스하며, 벡터 연산을 가속하는 AI 반도체도 설계하는 팹리스 기업이다. 소프트웨어부터 반도체까지 AI 에이전트에 필요한 기술 전반을 다룬다는 의미에서 AI 풀스택 기업을 지향한다”라면서 “사업개발그룹은 시장진입전략을 수립하고, 고객의 AI 환경을 진단·컨설팅하며, 프로젝트 수주 이후 구축과 최적화까지 지원하는 조직이다. 기업 내에서 연구개발된 AI 서비스와 프로그램을 직접 시장에서 판매하고 서비스되도록 지원하는 기술팀”이라고 설명했다.

기업 데이터 관리는 관계형 데이터베이스와 비관계형 데이터베이스를 중심으로 발전해왔다. 최근에는 생성형 AI가 텍스트·이미지 등 비정형 데이터를 검색하고 활용하는 과정에서 벡터 DB의 역할이 커지고 있다. 벡터 DB는 생성형 AI의 확산과 함께 2023년을 전후로 주목받기 시작했다. 생성형 AI가 기업 내부 문서와 최신 데이터를 검색해 답변에 반영하는 검색증강생성(RAG)이 확산되면서, 벡터 DB는 기업용 AI와 AI 에이전트를 구축하는 핵심 데이터 인프라 중 하나로 자리 잡았다. 현재 국내외 시장 상황은 어떨까?

이장원 상무는 “국내에서는 아직까지 벡터 DB 자체에 대한 시장보다는 RAG나 AI 에이전트 플랫폼을 쓸 때 벡터 DB를 같이 활용하는 데 초점을 맞춘다. 시장 규모 자체는 초기 단계는 지나 수요가 발생하기 시작했고, 국내 RAG, AI 에이전트, 생성형 AI 인프라 시장에서 지속적 벡터 DB 수요가 증가하고 있다. 씨홀스 클라우드는 벡터 DB를 중심으로 데이터 전처리·저장·검색과 AI 에이전트 구축·운영 기능을 제공하는 클라우드 플랫폼이다. 데이터를 처리하고 저장하고, 활용하는데 효율적이고, 벡터 인덱싱과 자동 튜닝 등 특화 기능도 제공한다”라고 설명했다.

씨홀스 클라우드, 다양한 클라우드 대응으로 분야별 고객사도 많아

그렇다면 어떤 형태의 기업에 씨홀스 클라우드를 도입하기 좋을까? 이장원 상무는 “씨홀스 클라우드는 아마존웹서비스 기반의 퍼블릭 클라우드 형태로도 제공되고, 고객사가 내부적으로 운영하는 온프레미스 환경이나 프라이빗 클라우드도 지원하고 있다”라면서 “서비스형 소프트웨어(SaaS)는 AWS 환경에서 제공되며 복잡한 시스템 구성 없이 바로 활용할 수 있다. 따라서 폐쇄망이 필수적이지 않은 기업 중 정형·비정형 데이터를 많이 보유하고 업무별 AI 에이전트를 구축하려는 기업에 적합하다. 주로 디지털 네이티브, IT서비스등 기업들의 수요가 높다. 프라이빗 클라우드도 지원하고 있어서 폐쇄망 내에서 벡터 DB와 AI에이전트를 운용할 필요가 있는 환경에도 대응한다”라고 설명했다.

벡터 DB 자체는 거의 모든 분야에서 쓸 수 있는데, 디노티시아는 금융, 방산, 회계, 연구기관 등을 중심으로 사업을 전개하고 있다. 이장원 상무는 “AI 열풍이 불면서 축적된 데이터를 AI로 활용해보자는 움직임이 분명한데, 외부 AI로 내부 데이터를 활용하는 것은 보안이나 절차상 쉽지 않다. 그래서 금융, 대기업, 방산, 공공 등 외부 AI 활용이 제한된 분야에서 AI 에이전트들을 많이 개발 중이고, 폐쇄망 내부에서 데이터를 씨홀스 클라우드처럼 활용할 수 있도록 개발을 제공한다”라고 설명했다.

이어서 “AI 에이전트를 만들려면 내부 데이터를 에이전트와 연동해야 하며, 데이터 파이프라인 구축부터 벡터 DB, 에이전트 빌더와 모델 콘텍스트 프로토콜(MCP), API 연결 등이 다 필요하다. 씨홀스 클라우드는 단순히 RAG로 데이터를 구성하는 것을 넘어서 에이전트 운영 수준에서 작업 흐름을 모두 지원한다”라고 말했다.

이해를 돕기 위해 구체적으로 씨홀스 클라우드를 활용할 수 있는 사례 소개를 부탁했다. 이장원 상무는 “금융 분야는 정형 데이터를 다루지만 법률 해석, 약관 등은 벡터 DB 기반의 유사도 검색이 유리하다. 보험 상담 등 분야에서 다수 고객사를 확보한 상황이다. 우리 회사에서 법령이나 조문 번호를 몰라도 자연어로 질문하면 자동으로 관련 법령을 찾아주는 리걸큐(legalQ)라는 서비스를 개발했는데 이 서비스를 활용해보면 이해가 빠르다. 이런 기능을 AI 에이전트로 자동화하는 단계까지 제공 중”이라고 말했다.

이어서 “인티큐브와의 AI 콘택 센터 구축도 소개할만한 협력 사례다. 인티큐브는 금융사, 공공기관, 통신사 등 20여 개 기업을 대상으로 인공지능 기반의 지능형 고객센터를 제공하는 기업이다. 과거의 자동화 고객센터는 단순 응답이었다면 최근에는 상담이력, 문의 유형, 거래, 선호도 등을 기록하고 맥락에 맞는 답변을 제공해야 한다. 인티큐브는 씨홀스 클라우드 기반의 인프라와 AI 에이전트 기술을 결합해 고객 개개인에 맞는 AI 대응 전략을 수립할 예정이다. 이는 벡터 DB 기반의 유사도 검색이 효율화한 덕분에 가능한 것”이라고 답했다.

이외에도 “창신대, 창원대 등에서도 씨홀스 클라우드에 에이전트 빌더 모델을 장착한 시스템을 활용 중이다. SaaS는 아니지만 하드웨어까지 통합된 형태의 제품에 LLM, 연산 기능을 모두 포함해 학생들이 벡터DB 기반 에이전트를 직접 만드는 실습 등이 가능하다. 기업 환경에서도 비슷한 형태로 활용할 수 있다고 보시면 된다”라고 설명했다.

AI 서비스의 에이전트화, 벡터 DB 클라우드가 해법될 것

씨홀스 클라우드를 활용한 벡터 DB의 AI 에이전트화는 AI 기반 사업화에 새로운 방향성을 제시한다. 쉽게 말해 ‘적당히 설명해도 최대한 정답에 가까운 답변을 제공한다’는 특성 덕분에 응용 분야도 많고 AI의 활용도도 높아진다. 구체적으로 어떤 조건의 기업들이 씨홀스 클라우드를 활용하면 좋을지 설명을 부탁했다. 마지막으로 이장원 상무는 “디노티시아는 고객사를 찾아가 내부 데이터와 정보 시스템을 씨홀스 클라우드와 연계해주고, 고객사는 이를 다양한 비즈니스 서비스나 AI 에이전트화할 수 있다. 즉 내부에 다양한 형태의 애플리케이션을 AI 전환해야 하는 고객들에게 추천한다”라고 말했다.

이어서 “작게는 내부 데이터를 업무에 잘 활용하고자 하는 기업들, 자체 구축한 생성형 AI가 필요한 기업들이 필요하고, 중견기업과 대기업 중에서도 내부에서 비정형 데이터를 AI로 구축하거나 활용하고자 하는 조건에 적합하다. 여러 비즈니스 서비스가 AI와 잘 연동되지 않는 경우에도 씨홀스 클라우드로 AX 전환한다면 원하는 방향으로 나아갈 수 있을 것”이라고 제시했다.

이제 AI 전환의 화두는 단순히 질문에 답을 출력하는 챗봇에서 스스로 판단하고 업무 프로세스를 실행하는 AI 에이전트로 확실히 전환됐다. 디노티시아는 조직 내 비정형 데이터를 벡터 DB로 고도화하는 씨홀스 클라우드를 기반으로 일반적인 AI 구축보다 한 차원 높은 AI 에이전트 방법론을 제시하고 있다. 특히 기업들의 복잡한 보안, 폐쇄망 환경부터 구체화가 어려운 비정형 데이터 전반을 고도화함으로써 AI 전환에 있어 주목할만한 이정표를 세우고 있음을 확인할 수 있었다.

IT동아 남시현 기자 (sh@itdonga.com)