AMD 찾은 앤드류 응 교수 "AI로 개발자 능률 늘리고, 더 새로운 시도 하라"

[세너제이=IT동아] 현지시간으로 6월 12일, 미국 캘리포니아 주 세너제이에서 AMD의 연례 콘퍼런스인 어드밴싱 AI(Advancing AI) 2025가 개최되고 있다. 오전 기조연설에서는 리사 수 AMD 최고경영자가 AMD 인스팅트 MI350X 및 MI355X AI 가속기, AMD 펜산도 폴라라 400 AI NIC, ROCm 7 개발자 도구를 발표했다.

발표 직후에는 AMD 인스팅트 GPU를 기반으로 하는 AI 에이전트 개발, AI 모델 미세 조정, vLLM 모델 최적화 등 다양한 개발자 세션이 진행됐으며. 넷플릭스, 델 테크놀로지스, 레노버, 오라클 등 AMD 인스팅트 GPU의 주요 고객사들도 참여해 AMD AI 하드웨어 관련 발표를 진행했다. 이날 마지막 행사는 딥러닝 연구의 선구자인 앤드류 응(Andrew Ng) 교수와 리사 수 AMD CEO와 좌담회로 준비됐다.

앤드류 응 스탠퍼드 대 교수는 어떤 사람?

앤드류 응 교수는 미국의 컴퓨터 과학자다. 카네기 멜론 대학교에서 수학과 컴퓨터과학, 통계학 및 경제학 세 개를 전공했고, 매사추세츠 공과대학(MIT)에서 전기공학 및 컴퓨터 과학 석사를 취득했다. 이후 UC버클리에서 컴퓨터 과학 박사를 받았으며 현재 스탠퍼드 대학교 컴퓨터과학 겸임 교수를 맡고 있다. 산업 현장에서는 온라인 학습 플랫폼 코세라(Coursera)를 창업해 회장을 역임하고 있으며, 딥러닝.AI를 설립해 인공지능 관련 기술 교육도 별도로 운영 중이다. 또한 바이두의 수석 과학자로 재직하며 1300명 규모의 AI 개발자를 이끌기도 했고, 구글의 AI 연구조직 ‘구글 브레인’의 창립 멤버이기도 하다.

그는 머신러닝, 딥러닝과 관련해 200편 이상의 논문을 게재했으며, 구글 스콜라 기준 28만 6000건의 인용 횟수를 기록할 만큼 AI 업계에서 지대한 영향력을 갖추고 있다. 그가 없었다면 오늘날 구글이 AI 업계의 선두를 달리기는 어려웠을 것이다. 학계와 산업계에서는 제프리 힌튼(Geoffrey Hinton), 얀 르쿤(Yann LeCun), 요수아 벤지오(Yoshua Bengio)와 함께 AI 4대 천왕으로 부르며 그의 업적을 높이 평가하고 있다.

AMD, 개발자들이 AI 더 넓게 이용하도록 지원

대담은 샤론 주 AMD AI 부사장이 사회를 맡은 가운데 진행됐다. 샤론 주 부사장은 “AI 접근성의 핵심부터 얘기해 보겠다. 앤드류는 수백만 명에게 AI를 교육했고, 리사는 개발자들이 AI를 더 폭넓게 이용할 수 있도록 하는 업계의 리더다. 이런 요소들이 어떻게 AI 시장을 발전시키고, 진화한다고 보는가?”로 대화를 시작했다.

리사 수 CEO는 “우리의 목표는 엄청나게 강력한 컴퓨팅 로드맵을 구축하는 거다. 그보다 중요한 것은 모든 사람이 접근할 수 있는 컴퓨팅 로드맵이다. 컴퓨터가 모든 분야에서 쓰일거고, 여러분들이 사용할 곳도 많아진다는 의미다. 이번에 디벨로퍼 클라우드를 통해 개발자 생태계에 기여하기로 한 점도 모든 사람들이 IT 서비스를 이용할 때 실제로 서비스를 쓸 수 있도록 하고 싶기 때문이다”라고 답했다.

앤드류 응 교수는 “제가 생각하는 AI의 계층 구조는 AMD나 엔비디아 등의 반도체 기업들이 기반이며, 레드헷이나 AWS 등 하이퍼스케일러, 메타, 구글 등의 AI 기반 모델 기업들이 있다. 이 자리에 있는 개발자들이 전 세계 다양한 곳에서 AI 계층 구조 내에 일할 것이고, 반도체 클라우드를 기반으로 훌륭한 애플리케이션들을 만들고 있을 것이다. 나는 최근 애플리케이션 계층이 많은 시간을 할애하고 있다. 이는 더 많은 수익을 창출하기 때문이다. 또 이 일을 좋아하는 이유는 개방성을 통해 서비스를 현실로 만들 수 있기 때문이다”라고 간단히 덧붙였다.

이어서 “그리고 계층의 어떤 단계에서든 마중물 같은 기업이 등장해 AI의 수익화를 혁신할 수 있다. 나는 반도체 계층이 명확한 잠재력을 가지고 있다 생각하며, 매우 개방적인 생태계와 개발자에게 선택권을 보장하는 기업이 반드시 필요하다고 본다. 애플리케이션 개발자는 원하는 대로 혁신할 수 있어야 한다. 예를 들어 스마트폰에서는 더 이상 새로운 키보드를 출시하기 어렵고, 미국에서는 개인의 존엄성때문에 새로운 음성 비서를 출시할 수 없다. 앞으로 새로운 혁신들이 등장하기는 더욱 어려워질 것이다”라는 우려의 목소리를 냈다.

그러면서 “생성형 AI 생태계는 아직 젊다. 오픈 이노베이션 생태계는 정말 강력하며, 딥시크 모델이 출시된 지 며칠 만에 증류 모델이 등장하는 등 빠르게 변화하고 있다. 데이터를 학습하고, 텍스트만 있는 모델로 다양한 이미지를 만드는 건 매우 어렵지만, 개방성은 이를 가능하게 한다”고 말했다.

리사 수는 “딥시크와 라마를 통해 얼마나 빠르게 AI 시장이 발전하는지를 보고 감명받았다. 데이 제로 모델은 다양한 인프라에 적용 중이고, 우리가 최적화하기도 쉽다. 그런데 솔직히 말해 사람들은 여러 모델을 사용하거나, 일부만 가져가서 사용하거나 인프라 관점에서는 오픈소스로 공개하는 것이 두려울 것이다. 핵심은 누군가 이것을 보고 옳지 않다고 말할 수 있어야 한다는 점이다. 오픈소스와 오픈 생태계의 모든 모델은 완벽하지 않지만, 이를 개방함으로써 우리는 훨씬 나아지고, 더 빠르고 다양한 작업 방식과 기능으로 발전할 것이라는 믿음을 갖는다. 따라서 반도체 계층에서 빨리 혁신하고, 상위 계층에서 할 작업을 줄여야 한다”라고 말했다.

“AI가 코딩을 자동화하니 학습을 멈추라는 건 잘못된 직업 조언”

샤론 주 부사장은 “지난 몇 년새 일어난 일들을 보자. 대답을 제공하는 생성형 AI로 인해 코딩, 데이터베이스 등의 구성을 쉽게 다룰 수 있고, 빠르게 애플리케이션을 구축할 수 있게 됐다. 이에 대해서는 어떻게 보는지?”로 질문했다.

앤드류 응 교수는 “문제가 잘 드러나는 부분이 AI 기반 코딩이다. 코딩 지원은 AI의 한 분야며, 혁신의 속도가 가장 빠른 부분 중 하나며 코로나 19를 계기로 2~3년 새 빠르게 성장했다. 곧 AI 에이전트의 등장으로 개발자 생산성이 크게 향상될 것이다. 최근에는 빠르고 간단한 프로토타입을 만드는데 많은 시간을 투자 중이다. 몇년 전만 해도 엔지니어 6명이 3개월 간 구현했던 것들이 이제는 반나절만에 구현될 정도다. 그래서 지금은 아이디어가 떠오르면 곧바로 이를 실현하자는데 설렘을 느낀다”라고 말했다.

이어서 “프로토타입을 많이 만들면 배우는 것도 많고 시장의 기대에도 맞출 수 있다. 1년 전만 해도 우리는 하이퍼스케일 환경에 집중해 GPU를 대량 구매하고 연구실을 키웠다. 그러나 마이크로소프트를 비롯한 다양한 스타트업 커뮤니티와의 협력을 통해 혁신의 속도를 체감했고, 개발에 더 집중하기로 했다. 지금은 2주마다 학습 및 추론용 도구(Docker)를 출시한다. AI는 이런 것들을 더 빠르게 할 수 있고, 샤론 주가 AMD에서 하는 일들이 주로 이런 것들이다. 하드웨어에서 다양한 사용 사례를 구현하고, 많은 사람들과 함께하는 매우 긍정적인 순환 구조가 된다”라고 말했다.

코드 생성형 AI로 더 역량 강화하고, 더 많은 시도 하길

결국 코드 생성형 AI를 활용해 더 빠르게 학습하고, 시장의 속도에 발맞추는 것이 중요하다는 뜻이다. 앤드류 응 교수는 “작년 쯤부터 몇몇 사람들이 AI가 코딩을 자동화할 테니 코딩을 배우지 말라고 조언한다. 나중에 돌이켜보면 최악의 커리어 조언 중 하나가 되지 않을까”라며 설명을 시작했다.

이어서 “일이 더 쉬워지면 더 많은 사람들이 이를 배우고, 더 적은 노력으로 쉽게 코딩할 수 있다. 소프트웨어에 대한 수요는 맞춤형이고, 무제한이다. 이 때문에 소프트웨어 비용은 더 낮아지고, 좋은 서비스가 많아진다” 그러면서 “갓 졸업한 사람들이 숙련된 엔지니어보다 더 뛰어낸 성과를 내기도 한다. 그렇지만 숙련된 엔지니어가 개념적 프레임워크를 더 잘 이해하고, AI 기술에 정통할 수 있다. 대학 커리큘럼을 끊임없이 업데이트하고 애플리케이션을 빠르게 구축할 수 있는 지식이 필요해진다”라고 설명했다.

직업과 관련해 리사 수 CEO도 “우리 워크플로, 하드웨어, 소프트웨어, 영업, 마케팅, 인사 등 모든 곳에 AI를 활용하고, 엄청난 인력을 채용하고 있다. 더 많은 AI가 필요하다. AI는 이 모든 일자리를 대체할 것이라고 생각하지 않는다. 3년짜리 프로젝트를 6개월 만에 끝낼 수 있으면 엄청난 가치를 얻을 수 있다. 그래서 앤드류가 학생들을 가르치고, 새로운 것들을 현장에서 배우도록 돕는 것에 감사한다”라고 덧붙였다.

마지막으로 앤드류 응 교수는 “저는 오늘날의 세상에서 AI 시스템이 가장 놀랍다고 생각한다. AI는 모든 것을 뛰어넘을 것이고, 개인이 할 수 있고 구현할 수 있는 일의 숫자를 폭발적으로 늘린다. 그래서 지금은 무언가 만들기에 아주 좋은 시기며, 다른 사람에게 영향을 미칠만한 조언은 자제하자. 솔직히 말해 코세라는 내가 교수 시절에 사이드 프로젝트로 만든 것이었고, 아무도 관심 없는 온라인 교육에 시간을 허비하는 것처럼 느꼈다. 하지만 실리콘밸리에서 책임감을 갖고 행동하기 위해 누군가에게 허락을 구할 필요가 없고, 그냥 만들고 싶으면 시도하고 노력하길 바란다. 당신은 누구보다도 놀라운 일을 해내는 사람이 될 수 있다”라면서, “이제는 그것을 실현하기도 쉬워진 시대” 말했다.

리사 수 CEO 역시 앤드류 응 교수의 말들을 기억하고, AI를 기반으로 새로운 소프트웨어를 만들고 시도해 보기를 조언했다. 그러면서 “우리가 추구하는 것의 중심에 개발자가 있다. AMD는 학습하는 문화를 가지고 있고, 지난 몇 년간 많은 일들이 있었다. 우리는 AI가 아주 초기에 있다는 것을 잘 알고 있고, 앞으로 5년에서 10년 이후에는 어떻게 될지 상상해보라. 모든 분들의 파트너가 되고, 여러분들이 배우도록 돕겠다”는 말로 대담을 마무리했다.

IT동아 남시현 기자 (sh@itdonga.com)