글로벌 IT 리더 절반이 'AI 인프라 부족' 지적··· 노트북부터 AI 탑재 시작

[IT동아 남시현 기자] 주요 반도체 기업 16곳으로 구성된 필라델피아 반도체 지수가 전 거래일 기준 2.11% 상승했다. 필라델피아 반도체 지수는 올해 들어 47.31% 급증했다. 메모리 반도체 재고가 쌓이고, 경기침체로 인해 PC 출하량이 줄어들고 있음에도 불구하고, 엔비디아를 비롯한 인공지능(이하 AI) 기업들의 성장세에 힘입어 지수 전체가 상승하고 있다. 그렇다 보니 기업 환경에서도 AI에 대한 대응과 전략 마련이 이어지고 있다.

미국 주요 반도체 기업인 AMD는 지난 21일 글로벌 IT 리더를 대상으로 하는 AI 전망 설문조사 보고서를 발표했다. 이번 설문조사는 IT팀이 AI 주류 시대에 대비하고 있는지를 확인하기 위해 진행되었으며, 미국, 영국, 독일, 프랑스, 일본의 IT 리더 2500명이 참여했다. 보고서에서는 리더 입장에서 AI를 어떻게 생각하고 있고 또 앞으로 어떻게 대비해야 하는지를 담고 있다.

IT리더 절반, ‘소속 조직 AI 구현 준비 안돼’

지난 6개월 만에 챗 GPT등 대형언어모델 기반의 AI가 인공지능의 시장 도입 가능성을 보여주면서, 대다수 기업들이 AI 기술 개발 및 기술 확보에 한창이다. IT 리더 입장에서도 AI는 경쟁력 확보는 물론 입지를 확보하기 위해서도 중요한 항목이 되고 있다. 조사 대상자 97%는 AI라는 개념은 익숙하지만, 52%가 챗 GPT 등 자연어 처리 앱을 사용해 본 적이 없다고 답했으며, 47%와 36%는 얼굴 인식 시스템과 프로세스 자동화 소프트웨어를 써본 적이 없다고 답했다. 50%는 자신의 조직이 AI를 구현할 준비가 되어있지 않고, 또 IT 기업이 AI를 구축하는데 최대 5년이 걸릴 것으로 예상하고 있다.

비교적 도입 속도가 느리고, 또 리더 집단에서의 사용 경험이 부족함에도 불구하고 AI의 효용성에 대해서는 대다수가 인정하는 분위기다. IT 리더 세 명중 두 명은 AI 기술 지원이 작업 모델 개선과 직원의 업무 효율성 제고에 도움이 될 것이라고 보고 있고, 또 4분의 3은 AI가 더 많은 성과를 달성하고, 보안을 관리하는데 도움을 줄 것이라고 보고 있다. 이를 실현하기 위해 IT 리더의 2분의 3은 AI 예산을 모으고 있고, 또 자동화나 사이버 보안 위협 탐지 등 새로운 기술이 운영문제를 해결할 수 있다고 답했다.

그렇다면 IT 리더들이 생각하는 AI 도입의 저해 요소는 무엇일까? IT 리더의 67%는 AI 도구가 사내 보안 및 정책에 새로운 유형의 위험을 초래할 것으로 보고 있다. 실제로 삼성전자는 지난 3월 반도체 사업 부문에 챗GPT를 허용한 이후 최소 세 차례의 정보 유출을 겪은 이후 챗GPT 사용을 제한하고 나서는 등 보안 문제는 현실적인 위협이 되고 있다. 또 52%는 자신의 조직이 AI 워크로드를 처리할 인프라가 준비되지 않았다고 답했다. IT를 도입하기 위해서는 이에 맞는 네트워크와 하드웨어가 필요한데, 새로운 장비 구축 없이는 도입이 어려운 게 사실이다.

또한 기업 전반에 걸쳐 AI가 작동하기 위해서는 인프라는 물론 인적 자원에 대한 교육도 필요한 점이 발목을 잡는다. 로봇 프로세스 자동화만 하더라도 도입을 위해 사용 직원 개개인에 대한 교육이 필요한데, AI를 도입하기 위해서는 더 많은 교육과 선례들이 필요하다. 하지만 아직 기업 규모와 적용 범위에 대한 교육 절차나 방안 등에 대한 자료가 없는 실정이다.

AI 도입, 노트북부터 점진적으로 시작돼

AI 도입 절차나 방안, 예산 등이 불투명하다 보니 기업들 역시 점진적으로 AI 인프라를 구축하는 모습이고, 프로세서 제조사들 역시 이에 맞춘 AI 포트폴리오를 구성하고 있다. 최근 AMD는 AMD 라이젠 7040 프로세서 일부에 라이젠 AI 엔진을 탑재했다. 라이젠 AI 엔진은 중앙 처리 장치인 CPU나 그래픽 처리 장치인 GPU와 달리 AI 연산에 최적화된 별도의 장치다. 예를 들어 라이젠 AI 엔진이 탑재된 노트북은 클라우드가 아닌 장치 자체에서 AI 모델을 실행해 보안 문제에 대응하고, AI 관련 프로그램에 대한 전력 효율성을 끌어올려 업무 생산성 및 연결성을 늘려주는 식이다.

인텔 역시 올해 하반기 중 출시할 14세대 인텔 코어 프로세서에 AI 전용 장치인 VPU(비전 프로세싱 유닛)를 탑재한다. VPU 역시 라이젠 AI 엔진과 마찬가지로 AI 추론이 필요한 장치에 전용 연산을 제공한다. 인텔은 21년과 2023년 오디오 노이즈 억제 조건만 보더라도 약 50배의 컴퓨팅 자원이 더 필요한 상황이어서, 앞으로 프로세서가 AI를 지원하는 것이 보편화 될 것으로 보고 있다.

이처럼 AMD와 인텔 모두 노트북 프로세서에 AI 전용 처리 장치를 탑재함에 따라, 생성형 AI나 자동화, 챗봇, 화상회의 기능 등 보편적인 AI 기술이 상대적으로 빠르게 정착할 전망이다. 일반 사용자용 장치에서 AI가 보편화되면 그만큼 생태계가 확장되어 서버 등 대형 인프라에서도 AI의 채용 속도가 빨라지게 된다 노트북용 칩셋으로 시작된 AI 하드웨어 채용이 기업 전반의 AI 확산에 보탬이 될 수 있을지 귀추가 주목된다.

글 / IT동아 남시현 (sh@itdonga.com)