세레브라스·AMD 헬리오스 서버 도입··· '이기종 컴퓨팅·클라우드 협력도 시동'

[IT동아=샌프란시스코] AMD와 세레브라스가 AI 하드웨어 기술과 관련해 동맹을 맺는다. 현지시간으로 23일, 미국 캘리포니아 주 샌프란시스코에서 AMD가 주최하는 연례 콘퍼런스 ‘어드밴싱 AI’가 진행 중이다. AMD는 행사를 통해 자사 AI 인프라가 집약된 올인원 서버 시스템 ‘헬리오스’를 공개했으며 세레브라스가 AMD 헬리오스를 자사 데이터 센터에 도입하는 것은 물론 웨이퍼 스케일 엔진(WSE)과 관련된 공동 솔루션을 출시한다.

세레브라스는 2015년 설립된 AI 반도체 스타트업이며 지난 5월 14일에 나스닥에 상당됐다. 세레브라스의 주력 반도체인 웨이퍼 스케일 엔진(WSE)은 가로, 세로 215mm의 초대형 웨이퍼 한 장에 그대로 칩을 인쇄한 형태로 90만 개의 코어와 125페타플롭스의 연산 성능을 갖춘다. 이는 엔비디아 B200보다 19배의 트랜지스터, 28배의 연산 속도에 해당한다.

WSE-3는 내부에 44GB의 온칩 SRAM을 적용해 초당 27페타바이트의 내부 대역폭과 21페타바이트의 메모리 대역폭을 갖췄으며, 대규모 AI 모델을 한 번에 로딩하고 초고속으로 추론할 수 있다. WSE-3 기반의 CS-3 시스템은 일반 42U 표준랙의 절반 크기에 불과하며, 연산 성능으로는 엔비디아 B200 기반 클러스터 여러 대를 압축한 수준의 공간만 차지한다. 또한 배선 연결이나 복잡한 냉각 체계를 갖출 필요가 줄어 공간 효율에 이점이 크다.

세레브라스는 자사 데이터센터에 AMD 헬리오스 시스템을 도입할 계획이며, 올해 하반기 중 세레브라스 클라우드를 통해 제공될 예정이다. 아울러 최근 AI 추론 분야의 새로운 방법론으로 제시되는 이기종 컴퓨팅 구축 분야에서도 협력한다. 이기종 컴퓨팅이란 서로 다른 종류의 반도체를 한 번에 엮어 활용하는 기술로 CPU와 GPU, NPU 등 다양한 형태의 반도체를 시스템 하나에서 구동해 처리량이나 확장성은 끌어올린다.

앤드류 팰드먼 세레브라스 최고경영자는 “AMD와 새 파트너십을 발표하게 되어 영광이다. 세레브라스는 오픈AI, AWS같이 성장하는 기업부터 소규모 선도 기업들까지 빠르게 사업을 확장하고 있다”라면서 “AI는 이제 신기한 기술에서 유용한 기술로, 필수적인 분야로 자리잡았다. AMD와의 파트너십은 우리의 역량과 입지를 고려했을 때 가장 좋은 선택지였다. 이미 AMD CPU를 시스템 전반에 사용하고 있고 당연히 고객사가 될 준비가 되어있었다”라고 설명했다.

이어서 “헬리오스 렉은 직관적인 성능과 메모리 용량 면에서 선두적이며, 업계에서 선두를 달리고 있는 WSE와 결합할 수 있다. 헬리오스에 세레브라스의 강철 엔진을 결합하면 놀라운 성능을 유지하면서 5배의 대역폭을 확보할 수 있다. 향후 클라우드 기반으로 제공될 것이며 가까운 서비스 사업자를 통해 제공받을 수 있을 것”이라고 답했다.

리사 수 AMD 최고경영자는 “AI 추론은 AI 분야에서 가장 큰 인프라 기회이며, 그 다양성이 증가하면서 더욱 유연한 접근 방식이 필요해지고 있다. AMD 헬리오스는 가장 광범위한 추론 워크로드 성능과 확장성을 제공하며, 세레브라스와 함께 지연 시간에 민감한 애플리케이션 분야에서 협력하고 실시간 에이전트 AI를 위한 플랫폼을 구축하고 나설 것”이라고 말했다.

IT동아 남시현 기자 (sh@itdonga.com)