최근 AI 산업의 흐름이 급격하게 변하고 있습니다. 지금까지 NVIDIA로 대표되는 GPU(그래픽처리장치)가 AI 학습과 연산을 주도하며 시장을 이끌어왔다면, 이제는 CPU(중앙처리장치)의 귀환에 주목해야 한다는 목소리가 커지고 있습니다. 모건스탠리와 번스타인은 AI가 ‘에이전트(Agent)’ 단계로 진화하면서, 지금까지 조연에 불과했던 CPU(중앙처리장치) 가 새로운 병목이자 핵심 자산으로 부상하고 있다고 분석했습니다. 이번 포스트에서는 왜 지금 CPU에 주목하고 있는지, 그리고 투자자 관점에서 눈여겨봐야 할 핵심 종목이 무엇인지 알아보도록 하겠습니다.
CPU와 GPU, 무엇이 다른가요?
먼저 두 반도체의 역할 차이를 이해하는 것이 중요합니다.
- CPU(Central Processing Unit, 중앙처리장치) 는 컴퓨터의 ‘두뇌’에 해당합니다. 복잡한 논리 연산, 작업 스케줄링, 운영체제 제어 등 순차적이고 다양한 종류의 연산을 처리하고, 시스템 전체를 제어하며 논리적인 의사결정을 내리는 데 특화되어 있습니다. 코어 수는 수십 개 수준이지만, 각 코어의 처리 능력이 매우 강력합니다. 한 마디로 정의하면 소수의 정예 요원으로 구성된 지휘 본부라고 할 수 있습니다.
- GPU(Graphics Processing Unit, 그래픽처리장치) 는 원래 화면 렌더링을 위해 설계된 칩으로, 수천 개의 소형 코어를 탑재하여 동일한 연산을 동시에 대량으로 처리하는 병렬 연산에 강점이 있습니다. 딥러닝 모델 학습처럼 반복적인 행렬 연산이 쏟아지는 AI 훈련과 추론에 최적화된 구조입니다. 수천 명의 단순 작억자로 구성된 대규모 공장이라고 할 수 있습니다.
| 구분 | CPU | GPU |
|---|---|---|
| 역할 | 종합적 논리 제어 | 병렬 대량 연산 |
| 코어 수 | 수십 개 (고성능) | 수천 개 (소형) |
| AI 역할 | 작업 조율·오케스트레이션 | 모델 추론·학습 |
| 대표 기업 | Intel, AMD | Nvidia, AMD |
생성형 AI 시대에는 “사용자가 질문 → GPU가 답변 생성”이라는 단순한 흐름이 전부였습니다. 이 구조에서 CPU는 말 그대로 보조 역할에 불과했습니다.
CPU의 중요성이 높아지는 이유
1) 생성형 AI에서 에이전트 AI로의 전환
단순히 질문에 답하는 수준을 넘어, 스스로 판단하고 작업을 수행하는 ‘자율형 AI 에이전트’ 시대가 열리고 있습니다. 에이전트는 복잡한 추론과 조건부 명령(If-Then)을 빈번하게 수행해야 하는데, 이는 병렬 연산보다 CPU의 강력한 순차 처리 능력이 훨씬 효율적입니다.
모건스탠리는 2025년 4월 발표한 73페이지 분량의 보고서 “Rise of the AI Agent – Global Implications” 에서 AI 산업의 구조적 전환을 명확히 짚었습니다. 모건스탠리는 에이전트 AI를 세 가지 축으로 정의합니다. Brain(LLM, GPU 담당), Orchestration(작업 조율, CPU 담당), Memory(메모리·스토리지 담당) 가 그것입니다. 생성형 AI에서는 GPU가 전부였지만, 에이전트 AI는 작업을 계획하고, 외부 API를 호출하고, 데이터를 검색하고, 코드를 실행하고, 결과를 반영해 반복하는 복잡한 과정을 거칩니다.
쉽게 말해, AI 에이전트는 사람처럼 ‘스스로 생각하고 행동’합니다. 이 과정에서 GPU는 실제 추론에만 집중하고, 나머지 복잡한 조율 업무는 CPU가 맡게 됩니다.
2) CPU가 실질적인 병목이 된다
모건스탠리는 에이전트 워크로드에서 CPU 측 처리가 전체 작업 지연 시간의 50%~90% 를 차지할 수 있다고 분석했습니다. 즉, GPU가 대기하는 시간의 대부분을 CPU가 만들어 내고 있다는 뜻입니다. 엔비디아 CEO 젠슨 황도 GTC 2026 행사에서 “CPU는 더 이상 모델을 지원하는 역할에 그치지 않고, 모델을 구동하는 역할을 한다” 라고 밝혀 이 흐름을 직접 확인했습니다. GPU가 늘어날수록 이를 뒷받침할 ‘똑똑한 CPU’의 수요도 함께 증가하는 구조입니다.
3) 데이터센터의 효율성과 ‘추론’ 시장의 확대
AI 모델의 ‘학습’이 끝나면, 이를 실제로 사용하는 ‘추론(Inference)’의 단계로 넘어갑니다. 추론 단계에서는 굳이 비싸고 전력 소모가 극심한 GPU를 풀가동할 필요가 없습니다. 최신 고성능 CPU는 낮은 전력으로도 충분한 추론 성능을 내기 때문에 데이터센터의 운영 비용을 획기적으로 낮춰줍니다.
4) CPU 시장 규모, 2030년엔 최대 1,100억 달러
모건스탠리는 기존 AI 서버의 CPU:GPU 비율이 ‘1:12’였던 것이 차세대 Rubin 플랫폼에서 ‘1:2’로 급변하고, 더 나아가 ‘2:1’까지 역전될 수 있다고 전망했습니다. 이를 기반으로 2030년 글로벌 서버 CPU 시장 규모를 825억~1,100억 달러 로 추정하며, 이 중 에이전트 AI가 촉발하는 순증분 수요만 325억~600억 달러 에 달한다고 밝혔습니다.
번스타인 역시 AI 데이터센터에서의 서버 CPU 수요 강세를 확인하며, AMD의 EPYC 서버 칩 매출이 2026년에 약 50% 성장할 것으로 예상하고, 인텔 서버 칩 매출도 36% 증가할 것으로 전망했습니다.
CPU 시대에 주목할 투자 종목
모건스탠리와 번스타인의 분석을 종합하면, CPU 수혜주는 단순히 “CPU 제조사”에 국한되지 않습니다. 투자 접근법을 두 가지로 나눌 수 있습니다.
1) CPU 제조사, AMD(AMD), 인텔(INTC)
AMD는 고성능 컴퓨팅과 효율적인 아키텍처를 결합하여 데이터센터 운영자들에게 매력적인 대안을 제시합니다. 이를 반영하듯 2025년 4분기 기준 클라우드 CPU 시장점유율 53%로 인텔을 이미 추월한 상태이며, 차세대 Venice 플랫폼은 TSMC N2 공정 기반으로 공급 제약도 없다는 평가를 받고 있습니다. GPU(MI300 시리즈)와 CPU를 모두 보유하고 있어, 하이브리드 서버 시장에서 강력한 시너지를 낼 수 있는 유일한 기업이지만, 모건스탠리는 AMD 주가가 CPU보다 GPU 내러티브에 더 연동되어 있다는 점에서 직접적인 CPU 플레이로는 제한적이라고 평가했습니다.
인텔은 전통적인 CPU의 강자로, 최근 ‘AI PC’ 시장을 선점하기 위해 사활을 걸고 있습니다. 서버 CPU ASP(평균판매가격) 상승과 출하량 증가로 모건스탠리가 목표주가를 41달러에서 56달러로 올렸고, 2026년 데이터센터 및 AI(DCAI) 사업 매출이 전년 대비 약 30% 증가한 218억 달러에 달할 것으로 전망됩니다. 단, 차세대 제품 Diamond Rapids의 경쟁력에 대한 우려가 상존합니다.
2) CPU 설계 아키텍처, ARM Holdings (ARM)
AI 데이터센터의 최대 고민은 ‘전력 소모’와 ‘발열’입니다. ARM의 설계 자산(IP)은 전력 대비 성능DL 가장 뛰어나기로 유명합니다. 또한, ARM은 CPU를 직접 생산하지 않지만, CPU 설계 아키텍처(설계도)를 라이선스로 판매하고, 칩이 출하될 때마다 로열티를 받는 독보적인 비즈니스 모델을 보유하고 있습니다. 쉽게 말해 “레시피를 파는 회사”입니다. Apple M4, Amazon Graviton, NVIDIA Grace/Vera CPU 등 AI 시대를 주도하는 대부분의 고성능 CPU가 모두 ARM 아키텍처 기반입니다. CPU CPU의 중요도가 높아지고 전력 효율이 강조될수록, 라이선스 수익을 챙기는 ARM의 지배력은 더욱 공고해질 것입니다.
모건스탠리 보고서에서 언급된 “Orchestration CPU” TAM 325억~600억 달러의 상당 부분이 ARM 아키텍처 기반 칩에서 나올 가능성이 높다는 점에서, ARM은 CPU 붐의 가장 직접적이고 순수한 수혜주 중 하나로 평가받고 있습니다.
지금까지 AI 에이전트 확산에 따른 중요성이 커지고 있는 CPU와 관련 핵심 종목에 대해 알아보았습니다. 지난 2년이 GPU의 폭발적인 성장을 지켜보는 시간이었다면, 앞으로의 2년은 ‘AI가 어떻게 효율적으로 구동되는가’에 초점이 맞춰질 것으로 예상됩니다. 스스로 계획하고 실행하는 AI가 확산될수록, 그 복잡한 작업을 조율하는 CPU와 방대한 문맥을 저장하는 메모리의 전략적 가치는 계속 높아질 것입니다. 엔비디아와 GPU가 AI 1막의 주인공이었다면, CPU·메모리·파운드리가 주도하는 AI 2막이 열리고 있습니다. 이제는 GPU 관련주에만 집중하기보다, 시스템의 ‘뇌’ 역할을 하는 CPU 관련주들로 관심을 넓혀야 할 시점입니다.
“상기 내용은 투자 권유나 종목 추천이 아닌 단순 정보 제공을 위한 용도입니다.
투자 시 책임은 투자자 개인에게 있으며 투자 시 충분한 분석과 신중한 판단을 하시기 바랍니다.”