“뜨거운 GPU 식히는 물의 힘”...에이치쓰리솔루션, 수랭식 AI 서버 ‘노틸러스’로 시장 공략 [서울과기대 x 글로벌 뉴스]

[서울과기대 x IT동아 공동기획] 서울과학기술대학교(이하 서울과기대)는 예비·초기창업패키지와 메이커스페이스, 글로벌 협업 등 스타트업의 성장을 돕는 여러 지원 프로그램을 운영합니다. 나아가 IT동아와 함께 스타트업의 해외 홍보와 진출을 도울 글로벌 뉴스를 제공합니다. 유망 딥테크 스타트업을 우리나라 내외에 소개합니다.

[IT동아 김예지 기자] 생성형 AI 확산으로 고성능 연산 수요가 급증했다. AI 모델을 구동하려면 대규모 그래픽처리장치(GPU)가 필수며, 이를 담당하는 AI 전용 데이터센터와 서버 시장이 빠르게 커지고 있다.

AI 서버는 AI 연산에 특화된 고성능 컴퓨터다. AI 데이터센터는 AI 학습 및 추론을 위해 이 서버들을 집약해 구축한 대규모 시설이다. AI 데이터센터는 서버의 막대한 전력, 발열, 고속 네트워크 요구 사항을 충족하고자 일반 데이터센터보다 강력한 인프라를 갖춘다. 구글, 마이크로소프트, 아마존 등 글로벌 빅테크는 물론 국내 대기업들도 대규모 AI 데이터센터와 GPU 서버 구축에 나섰다.

AI 서버 시장의 급성장, 발열 해법은?

문제는 고성능 GPU가 내뿜는 엄청난 열이다. GPU를 수십, 수백 쌓는 고밀도 환경이 늘면서 서버 발열도 기하급수적으로 증가했다. 서버 발열은 시스템 안정성, 성능 및 수명에 심각한 위협이 될 수 있기 때문에 서버를 적정 온도로 유지하기 위해 냉각 시스템을 갖추는 것이 중요하다. 기존에 서버를 식히는 방법은 ‘공랭식(공기 냉각)’이었다. 팬을 돌려 공기로 열을 날리는 방식으로, 구조가 단순하고 설치가 쉬워 널리 쓰였지만 고밀도 GPU 환경에서는 한계가 명확하다. 공기의 열전도율이 낮아 고열을 빠르게 식히기 어렵고, 팬을 돌리는 데 필요한 전력 소모도 상당하다.

이러한 가운데 물을 이용한 ‘수랭식(액체 냉각)’ 시스템이 차세대 해법으로 떠올랐다. 물(냉각수)을 이용해 직접 열을 흡수하는 이 방식은 공기보다 열을 빠르게 전달하는 액체를 활용하기 때문에 공랭식 대비 데이터센터 전력 소비를 최대 40%까지 줄인다. 냉각 효율이 좋아 팬을 천천히 돌릴 수 있어 소음 수준도 공랭식 서버에 비해 낮다. 최근에는 서버 전체를 절연액에 담가 식히는 ‘액침냉각’ 방식도 등장했다.

실제로 수랭식 시스템은 이제 선택이 아닌 필수가 되고 있다. 글로벌 시장조사 업체 리서치네스터에 따르면, 글로벌 데이터센터 액체 냉각 시장은 2025년 45억 8000만 달러(약 6조 7000억 원) 규모에서 2035년까지 연평균 25.5% 성장해 약 443억 9000만 달러(약 65조 3000억 원) 규모에 이를 것으로 예측된다. 엔비디아의 최신 GPU 블랙웰은 수랭식 방식만을 요구할 것으로 예측되며, KT클라우드는 지난 11월 6일 수랭식 시스템을 도입한 가산 AI 데이터센터를 개소했다. 이처럼 국내외 기업들은 차세대 액체 냉각 기술 로드맵을 구체화하며 이를 핵심 경쟁력으로 내세우고 있다.

국내 기술로 승부…에이치쓰리솔루션의 수랭식 서버 ‘노틸러스’

국내 수랭식 서버 전문 스타트업 ‘에이치쓰리솔루션(H3 SOLUTION)’은 이러한 급변하는 시장 흐름에 맞춰 자체 개발한 수랭식 서버 브랜드 ‘노틸러스(Nautilus)’ 라인업으로 시장 공략에 나섰다. 노틸러스는 소규모 연구 환경부터 대형 데이터센터, 극한의 연산 환경까지 폭넓은 수요를 아우를 수 있도록 환경별, 용도별로 최적화된 총 7종의 모델로 구성된다.

주요 제품은 ▲조용함과 안정성이 중요한 소규모 사무실에 적합한 ‘6U’ ▲성능 극대화에 초점을 둔 데이터센터용 ‘4U’ ▲랙 설치가 어려운 환경을 위한 타워형 고성능 서버 ‘T’ ▲증권사 등 초단위 매매 환경에 적합한 ‘HFT’ ▲일반 데스크탑 크기의 개인 연구용 타워형 ‘M-1’ ▲멀티 GPU 및 고성능 연산을 지원하는 하이엔드 워크스테이션 ‘M-2’ 등이다.

최형석 에이치쓰리솔루션 대표는 노틸러스의 냉각 효율을 강조했다. 그는 “공랭식 서버가 평균 GPU 온도 85도를 유지하는 반면, 에이치쓰리솔루션의 수랭식 서버는 평균 60도를 유지한다”고 말했다. 소비전력도 공조 장치를 포함해 공랭식이 373.7W인 데 비해 수랭식은 339.6W다. 소음 수준 또한 로드 시 공랭식이 80dB 대비 수랭식은 45~50dB로 약 30dB 이상 낮아 다양한 작업 환경에 적합하다.

특히 올해 8월부터 개발 중인 ‘5U’와 ‘3U’ 모델이 주목받는다. 노틸러스 5U는 전용 서버실 없이도 운용 가능하며, 동시에 표준 19인치 랙에도 장착 가능한 하이브리드형 고성능 서버다. 유연한 공간 활용이 필요한 대학 연구소, 초기 스타트업 고객에게 적합하다. 로드 시 54dB 수준의 낮은 소음을 유지하며 방음 설비 없이도 조용한 환경에서 운용 가능하다. 최형석 대표는 “별도의 랙 마운트 없이도 쓸 수 있어 유연성이 높고, 연구실이나 개발실 등 공간 제약이 있는 환경부터 대규모 센터까지 폭넓게 활용될 것”이라고 말했다.

노틸러스 3U는 기존 공랭식 서버를 수랭식으로 손쉽게 전환해주는 외장형 냉각 분배 장치(CDU)다. CDU는 뜨거운 냉각수를 재처리해 다시 차갑게 만들어 공급하는 핵심 장치다. 초기 구축 비용이 비싼 수랭식 시스템의 단점을 보완하고자, 3U는 기존 설비를 전면 교체하지 않고 외부에 장착해 수랭식 시스템으로 전환할 수 있는 효율적인 방안을 제시한다.

핵심 경쟁력은 내제화…부품까지 직접 개발

에이치쓰리솔루션의 가장 큰 차별점은 핵심 부품의 ‘내제화(자체 제작)’다. 타사가 외부 업체의 범용 부품을 조합하는 반면, 에이치쓰리솔루션은 수랭식 시스템의 핵심 부품 중 약 50%를 자체 설계 및 제작한다. 샤시(서버 외장), 콜드 플레이트(열을 직접 흡수하는 금속판), 매니폴드(냉각수를 분배하는 통로), 워터블록(부품의 열을 냉각수로 전달하는 핵심 부품), 물통 등이다.

최형석 대표는 “냉각 성능을 좌우하는 핵심 부품의 자체 설계를 통한 수직적 통합은 냉각 효율과 안정성을 끌어올렸으며, 고밀도 GPU 환경에서도 일관된 성능을 유지하도록 설계했다. 또한 고객사는 제품 확보 기간을 기존 8주에서 2~3주로 단축할 수 있다”고 설명했다.

더불어 노틸러스에는 에이치쓰리솔루션의 다양한 기술력이 녹아 있다. 병렬 냉각 구조가 적용돼 모든 부품을 동시에 냉각함으로써 효율을 높였다. 수랭식 시스템의 주요 고장 원인인 펌프 장애에 대비해 자체 설계한 펌프탑을 적용해 일부 펌프에 문제가 생겨도 시스템이 정상 작동하고, 유지보수가 쉽도록 만들었다. 외부에서 예비 냉각수 수위를 실시간으로 확인할 수 있어 운용 편의성도 지원한다.

에이치쓰리솔루션은 냉각 시스템의 안정적인 운영을 지원하기 위해 실시간 모니터링 플랫폼 ‘노티비전(NautiVision)’을 더할 계획이다. 노티비전은 서버의 온도, 유량, 냉각수 상태 등을 실시간으로 모니터링하고, 문제 발생 시 즉시 알림을 제공한다. 단순 서버 판매를 넘어 냉각 시스템의 라이프사이클 전체를 관리하는 통합 솔루션을 제공함으로써 높은 운영 효율을 보장한다는 설명이다.

수랭 서버 라인업 완성…“글로벌 서버 명가로 도약할 것”

2024년 설립된 에이치쓰리솔루션은 제품 개발을 빠르게 진행 중이다. 향후 출시될 5U, 3U 등 신제품 개발에 주력하는 한편, GPU·CPU용 신규 워터블록 설계, 핵심 부품 추가 내제화 등 지속적인 기술 고도화에 힘쓰고 있다. 또한 AI, 3D 콘텐츠, 바이오, 로봇, 자동차 등 다양한 산업 분야를 잠재 고객으로 두고, 기술 검증 및 파트너십 확대를 추진 중이다. 오준호 한양대 에리카 기계공학과 교수 연구실과 기술 협약(MOU)을 맺었고, HP의 비즈니스 파트너로 선정됐다.

에이치쓰리솔루션은 서울과학기술대학교의 지원 프로그램으로 성장 발판을 마련했다. 최형석 대표는 “노틸러스의 설계 개선, 냉각 구조 최적화 등 시제품 완성도를 높이기 위한 연구개발(R&D)과 부품 내제화를 위한 실질적인 지원을 받았다. 또한 데모데이, IR 행사 참여를 통해 투자자 네트워킹과 후속 지원사업 연계 기회를 얻었고, 판로 개척과 브랜딩 컨설팅까지 받으며 기술과 사업화를 동시에 다져가는 중”이라고 말했다.

최형석 에이치쓰리솔루션 대표는 “수랭식 서버 브랜드 노틸러스 전 라인업 완성하고, 상용화 확대하겠다. 또한 산학연 협력을 강화해 국내 고성능컴퓨팅(HPC) 및 AI 서버 시장에서 브랜드 인지도를 공고히 다지겠다”며, “궁극적으로 델, HP와 같이 컴퓨터·서버를 만드는 회사라는 고유명사로 자리잡는 것이 목표”라고 포부를 밝혔다. 수랭식 서버 시장은 이제 시작 단계이며, AI 열풍과 함께 폭발적인 확대가 예상된다. 냉각 효율과 에너지 절감에 유리한 수랭식 시스템이 주목받는 가운데, 국내 기술로 핵심 부품을 내제화한 에이치쓰리솔루션의 행보가 주목된다.

IT동아 김예지 기자 (yj@itdonga.com)