‘어디서든 인공지능 가속 지원’ AMD 코리아, 인공지능 시장 청사진 제시

[IT동아 강형석 기자] AMD는 2024년 3월 20일, 인터컨티넨탈 서울 코엑스에서 인공지능 사업 방향에 대한 기자간담회를 열고 현 상황과 향후 제품 계획에 대해 설명했다. 행사에는 이재형 AMD 코리아 커머셜 세일즈 대표를 포함해 김홍필 데이터센터ㆍ클라우드 솔루션 아키텍트 이사, 임태빈 컨슈머팀 세일즈ㆍ마케팅 스페셜리스트 등이 자리해 각 사업부문에 대한 설명을 진행했다.

현재 IT 산업에서 가장 주목하고 있는 기술은 단연 인공지능(AI)이다. 생성형 인공지능 외에도 자율주행, 로보틱스, 검색과 추천 서비스 등에도 인공지능 기술이 적극 쓰이는 중이다. AMD도 50년 만에 등장한 가장 혁신적인 기술이라는 점을 강조했다.

AMD 내부 자료에 따르면 데이터센터용 인공지능 가속기 시장은 2023년 300억 달러(원화 환산 약 40조 2,150억)에서 연간 50%씩 성장해 2027년에는 1500억 달러(원화 환산 약 201조 750억)로 성장할 것으로 봤으나 실제로는 연간 70%씩 성장해 2027년 4000억 달러(원화 환산 약 536조 2,000억) 이상으로 성장하리라 전망했다. 기대 이상으로 성장 중인 인공지능 하드웨어 시장을 공략하기 위해 전략적 접근이 필요한 시점이 된 것이다.

인스팅트 인공지능 가속기 + ROCm 소프트웨어로 생태계 지원

김홍필 이사는 “클라우드부터 고성능 컴퓨팅(HPC), 엔터프라이즈, 임베디드, 일반 PC 시스템에 이르기까지 AMD는 인공지능 인프라 전 영역에 걸쳐 다양한 솔루션을 공급하고 있다”고 말했다.

특히 광범위한 인공지능 훈련과 추론 활용 포트폴리오, 개방적이고 검증된 소프트웨어 역량, 인공지능 시장 생태계 협업을 강조하며 최근 공개한 인스팅트(Instint) MI300 인공지능 가속기와 ROCm 6.0 등을 앞세워 목표를 달성해 나가겠다고 설명했다.

인스팅트 MI300은 AMD가 야심 차게 선보인 차세대 인공지능 가속기로 3세대 CDNA 설계를 적용해 연산 성능을 높였다. 무엇보다 처리장치와 데이터 입출력, 캐시(예비) 메모리 등을 모듈화 한 칩렛(Chiplet) 구조로 크기는 줄이고 성능과 전력 효율성은 최대한 확보한 점이 특징이다.

제품은 기본적으로 인공지능 가속기인 인스팅트 MI300X가 있으며, x86 기반 중앙처리장치와 인공지능 가속기를 결합한 인스팅트 MI300A로 나뉜다. 인스팅트 MI300X는 전용 가속기로 AMD 에픽 프로세서와 조합하는 것 외에 다른 중앙처리장치 기반 시스템과도 조합 가능하다. 인스팅트 MI300A는 24코어 구조의 중앙처리장치가 기본 제공되므로 중소 규모의 데이터센터에서 최적의 효율을 기대할 수 있다.

이날 AMD는 소프트웨어에 대한 중요성을 인지한 듯 인스팅트 소프트웨어 생태계를 언급했다. 현재 버전 6.0으로 업데이트된 ROCm에 대해 김홍필 이사는 “ROCm 소프트웨어는 AMD 그래픽 기술 및 인공지능 가속기 기술 위에서 구동될 수 있는 최적의 환경을 제공한다. 개발자 입장에서는 최종 인공지능을 구현하는 파이토치(Pytoach), 텐서플로우 등을 원활히 활용하도록 지원을 이어가는 중”이라고 말했다.

소프트웨어는 데이터센터 인공지능 가속기를 지원하는 ROCm, 데이터센터 중앙처리장치에 대응하는 ZenDNN, 임베디드 환경에서 인공지능 가속을 위한 비티스 인공지능(AI) 등이 있다. AMD는 이 중에 ROCm을 강조했다. 이번 업데이트를 통해 대규모 언어 모델(LLM)에 대한 처리 성능을 높였는데 vLLM에서는 최대 2.6배 성능 개선이 있다는 게 AMD 측 설명이다.

전통적 프로세서 시장, 에픽과 라이젠 AI로 시장 공략 가속

인공지능 가속기가 시장의 핵심으로 떠오르면서 주목도가 약간 떨어진 분야가 데이터센터 프로세서다. 김홍필 이사는 “전통적 산업에서는 서버용 프로세서가 반드시 필요하다. 프로세서만으로 인공지능을 구동하는 분야가 있기 때문이다. AMD는 데이터센터 솔루션 중 가속기 외에도 프로세서까지 함께 보유하고 있다. 현재는 언어 모델 쪽에 많이 집중되어 있지만, 앞으로 인공지능 기술은 산업 전반에 걸쳐 거의 모든 분야에 적용될 것으로 본다”며 프로세서의 필요성을 언급했다.

인스팅트 MI300과 에픽 프로세서가 데이터센터ㆍ엔터프라이즈 인공지능 시장에 대응한다면 일반 소비자 시장에는 라이젠 프로세서로 앞서간다는 게 AMD의 전략이다. 이에 개인 사용자 PC 시스템에서 인공지능 연산을 지원하는 ‘라이젠 AI’를 제안했다. 준비는 마쳤다. 지난해 선보인 피닉스(Phoenix) 기반 가속처리장치(APU) 라이젠 7040 제품군에 전용 인공지능 가속 칩(NPU)을 집적한 상태다.

인공지능 가속 칩이 탑재됐지만 윈도우 11 운영체제에서 아직 지원하지 않는 상황이다. 이에 AMD는 올 하반기 중에 윈도우 11 운영체제에서 사용 가능하도록 지원할 계획이다.

임태빈 이사는 “라이젠 AI 프로세서에는 다양한 인공지능 소프트웨어를 사용할 때 업무수행능력을 가속화할 수 있다. 가정에서 사용할 경우 네트워크에 연결하지 않아도 강력한 인공지능 성능 경험이 가능하다는 이야기다. 전용 인공지능 가속 칩과 RDNA 그래픽 코어를 활용해 시스템 부하를 줄여 높은 전력 효율도 기대할 수 있다”고 말했다.

AMD는 지난해 선보인 라이젠 7040 프로세서 제품군을 시작으로 올해 상반기 중에는 인공지능 처리 성능을 더 높인 라이젠 8040 프로세서를 선보일 예정이다. 올해 내에는 코드명 스트릭스 포인트(Strix Point)로 알려져 있는 차세대 AMD 라이젠 AI 프로세서를 내놓을 계획이다. 2세대 XDNA 설계를 바탕으로 생성형 인공지능 연산에 대응하게 된다. 2세대 XDNA 기반 인공지능 가속 칩은 기존 대비 3배 이상 생성형 인공지능 처리 능력을 제공한다는 것이 임태빈 이사의 설명이다.

글 / IT동아 강형석 (redbk@itdonga.com)