“온-디바이스 AI부터 개인용 AI 슈퍼컴퓨터까지” AI PC 시장 판도는?

[IT동아 강형석 기자] 인공지능이 사회와 산업 전반에 영향을 주고 있다. 기관ㆍ기업 및 개인에 이르기까지 다양한 언어 모델과 서비스를 개발, 적용 중이다. 인공지능 기술을 구현하려면 학습과 추론 과정이 필요하다. 인공지능 학습은 주어진 데이터를 분석해 패턴, 규칙, 관계 등을 자동으로 습득하는 과정으로 성능에 영향을 준다. 인공지능 추론은 학습된 모델을 써 새로운 입력 데이터에 대한 예측, 분류, 결정 등에 관여한다.

학습과 추론으로 인공지능 모델의 지능을 구축하고 결과를 도출하기 때문에 두 과정은 서로 연결되어 있다. 따라서 이 과정의 속도 및 완성도를 높이기 위해 고성능 연산 시스템 구축은 필수다. 오픈AI, 마이크로소프트, 구글, 메타, 테슬라 등 유명 인공지능 기술 기업이 천문학적 비용을 들여 그래픽 처리장치(GPU)와 저장장치를 구매하는 이유다.

수십조 원에 달하는 비용을 들여 인공지능 모델을 연구하는 기업과 달리 중소규모 기업 및 개인은 인공지능 연구를 위해 고가의 장비를 도입할 수 없다. 때문에 중소규모 기업과 개인의 시선은 인공지능 연산 능력을 갖춘 PC 시스템으로 향하고 있다. 인공지능 PC는 중앙처리장치 외에 행렬 연산과 병렬 처리에 능한 그래픽 처리장치(GPU), 신경망 처리장치(NPU) 등을 제공한다. 일반 PC 대비 인공지능 처리 작업을 수배 이상 빨리 처리할 수 있어 생산성 향상에 도움을 준다.

초기 하드웨어 투자는 필요하지만 자체 인공지능 연산 환경을 구현하면 클라우드 비용을 절감하면서 빠른 실험과 반복 개발이 가능하다는 장점이 있다. 소규모 모델 학습, 파인튜닝, 프로토타이핑을 PC 내에서 처리 가능하기 때문이다. 교육 환경에서는 학생들이 직접 인공지능 모델을 다루며 학습할 수도 있다.

AI PC 시장은 ‘인텔ㆍAMDㆍ퀄컴’ 중심으로

인공지능 PC 시장은 인텔, AMD, 퀄컴을 중심으로 경쟁하고 있다. 세 기업은 각기 다른 전략과 기술로 시장을 공략하고 있다. 이 외에도 여러 PC 제조사들이 인공지능 PC 시장 패권을 차지하기 위해 여러 형태의 제품을 선보이고 있다.

코어 울트라 프로세서로 인공지능 PC 시장에 대응하고 있는 인텔은 인공지능 PC 가속화 프로그램으로 광범위하고 개방적인 인공지능 PC 개발 생태계를 구축하고 있다. 인텔은 코어 울트라 프로세서가 탑재된 인공지능 PC를 2025년까지 1억 대 이상 공급해 주도권을 잡겠다는 목표를 세운 바 있다.

인공지능 연산 역량 강화를 목적으로 반도체 설계 기업 자일링스를 인수한 AMD는 중앙처리장치(CPU)와 그래픽 처리장치(GPU), 고성능 신경망 처리장치(NPU)를 통합한 제품군을 선보이는 중이다. 스냅드래곤 X 엘리트로 인공지능 PC 시장에 진출한 퀄컴은 효율성과 성능을 앞세웠지만 출시 초기에 불거진 소프트웨어 호환성 문제로 인텔, AMD의 벽을 넘지 못한 상황이다.

AI GPU 전문 기업 엔비디아까지 AI PC 시장에?

인공지능 모델을 직접 구축하고 훈련, 조정하는 분위기가 확대되면서 인공지능 PC 시장 경쟁은 더 치열해질 것으로 예상된다. 인텔, AMD, 퀄컴에 이어 엔비디아까지 인공지능 PC 시장에 뛰어들었기 때문이다. 엔비디아는 인공지능 분야 인지도를 앞세울 것으로 보인다.

엔비디아는 개인용 소형 인공지능 PC인 DGX 스파크(Spark)를 2025년 하반기에 출시한 후, 성능이 더 뛰어난 DGX 스테이션(Station)을 선보인다. 엔비디아는 DGX Spark와 DGX Station을 통해 개인용 AI 슈퍼컴퓨팅 시장을 전략적으로 이원화할 방침이다. 두 제품 모두 인공지능 서비스 기업의 데이터 센터에 적용된 블랙웰(Blackwell) 플랫폼을 사용한다. 인공지능 연구 개발 환경에서 많이 쓰이는 엔비디아 도구를 그대로 쓸 수 있다는 점이 특징이다.

성능에도 차이를 보인다. 일반적인 인공지능 PC는 일체형이 FP4 연산 기준 150 테라플롭스(TFLOPS - 초당 150조 회 인공지능 연산), 외장형은 최대 3페타플롭스(PFLOPS - 초당 3000조 회 연산) 수준이다. 반면 DGX 스파크는 FP4 연산 기준 1 페타플롭스(초당 1000조 회 연산처리), DGX 스테이션은 19 페타플롭스(초당 1경 9000조 회 연산처리) 수준의 성능을 갖출 것으로 예상된다.

두 제품이 출시된다면 인공지능 PC 시장에 변화가 올 것으로 예상된다. 규모가 큰 데이터 센터는 전용 장비를, 중소규모 기업은 엔비디아 인공지능 PC를 다수 구축하는 형태로 인공지능 연산 환경을 만들 가능성이 있다.

인공지능 학습ㆍ추론을 위한 AI PC 수요는 증가할 것

인공지능 PC 시장의 성장은 온-디바이스(On-device) 인공지능 기반 소프트웨어 생태계가 확장되고 있기 때문이다. 인텔 코어 울트라 또는 AMD 라이젠 AI 등 인공지능 연산에 특화된 신경망처리장치(NPU)를 탑재한 PC 제품군이 확대된 것도 이유로 꼽힌다.

개인용 인공지능 PC 시장은 꾸준히 성장할 것으로 예상된다. 시장조사기업 가트너(Gartner)는 2024년 인공지능 PC 출하량이 약 4300만 대에 이를 것으로 평가했다. 2023년 2150만 대와 비교해 두 배 성장한 수치다. 시장조사기업 카날리스(Canalys)도 2024년 출하된 전체 PC의 19% 가량이 인공지능 기능을 갖춘 제품으로 평가했다.

2025년 인공지능 PC 시장의 전망도 밝다. 시장조사기업들은 인공지능 PC가 주류로 자리 잡으며 전체 PC 시장의 성장을 견인할 것으로 봤다. 가트너는 2025년 인공지능 PC 출하량이 1억 1400만 대를 기록, 전체 PC 시장의 43%를 차지할 것으로 예상했다. 시장조사기업 IDC는 2026년 이후 대부분의 신규 PC가 인공지능 처리 기능을 갖추게 될 것으로 내다봤다.

IT동아 강형석 기자 (redbk@itdonga.com)