생성형 AI 시장을 설명할 때 중심에 있던 반도체는 단연 GPU였습니다. 방대한 데이터를 한꺼번에 계산해야 하는 AI 학습과 답변 생성에 GPU의 병렬 처리 능력이 잘 맞았기 때문입니다. 그런데 최근 스스로 계획을 세우고 여러 도구를 사용하는 AI 에이전트가 확산되면서 CPU의 중요성이 다시 커지고 있습니다. 이는 GPU의 시대가 끝난다는 뜻이 아니라, AI가 복잡한 업무를 수행하려면 서로 다른 반도체가 긴밀하게 협력해야 한다는 변화에 가깝습니다.
GPU 중심 구도가 만들어진 배경
GPU는 본래 화면에 수많은 그래픽 요소를 동시에 표시하도록 설계된 반도체입니다. 여러 계산을 병렬로 처리하는 구조가 AI 모델을 학습시키는 작업과 잘 맞으면서 데이터센터의 핵심 장비로 자리 잡았습니다. 특히 더 큰 모델을 만들수록 필요한 연산량도 급격히 증가해 기업들은 GPU 확보 경쟁에 뛰어들었습니다. 이 과정에서 서버 전체를 운영하는 CPU보다 AI 계산을 맡는 GPU가 시장의 주인공처럼 인식되기 시작했습니다.
대답을 넘어 행동하는 AI의 등장
기존 생성형 AI는 질문을 받으면 문장이나 이미지를 만들어 돌려주는 방식이 중심이었습니다. AI 에이전트는 여기서 한발 더 나아가 목표를 여러 단계로 나누고, 필요한 정보를 찾으며, 외부 프로그램을 호출해 실제 작업을 진행합니다. 출장 일정을 짜는 데 그치지 않고 항공편과 숙소를 비교하거나 사내 자료를 확인하는 식입니다. 처리해야 할 업무의 종류가 다양해질수록 단순한 대규모 연산 외에도 판단과 조정 능력이 중요해집니다.
계획과 통제는 CPU가 맡는다
AI 에이전트가 움직이려면 어떤 작업을 먼저 실행할지 정하고 각 단계의 결과를 다음 과정으로 넘겨야 합니다. 운영체제와 데이터베이스, 네트워크, 저장 장치 사이의 흐름을 관리하는 일은 범용 처리에 강한 CPU가 담당합니다. 여러 사용자의 요청이 동시에 들어왔을 때 우선순위를 조정하거나 오류가 난 절차를 다시 실행하는 과정도 필요합니다. 에이전트가 오래 작동하고 더 많은 도구를 연결할수록 이런 통제 업무의 비중은 자연스럽게 늘어납니다.
GPU만으로 해결하기 어려운 업무
GPU는 같은 형태의 계산을 대량으로 수행할 때 뛰어나지만 모든 작업에서 가장 효율적인 것은 아닙니다. 파일을 읽고 조건을 확인하거나, 작은 프로그램을 실행하고, 서로 다른 서비스의 응답을 조합하는 업무에는 복잡한 명령을 빠르게 전환하는 능력이 요구됩니다. 이런 과정까지 GPU에 집중시키면 비싼 장비가 단순한 대기나 관리 작업에 묶일 수 있습니다. 적합한 연산은 GPU에 보내고 나머지를 CPU에서 처리해야 데이터센터의 비용과 전력 사용량을 줄일 수 있습니다.
경쟁이 아니라 분업에 가까운 변화
CPU가 재조명된다고 해서 GPU 수요가 곧바로 감소하는 것은 아닙니다. AI 에이전트도 사용자의 말을 이해하고 답변을 생성하는 순간에는 여전히 GPU나 다른 AI 전용 가속기의 도움을 받습니다. 그 앞뒤에서 실행 순서를 관리하고 데이터를 준비하며 결과를 저장하는 장치가 CPU입니다. 앞으로의 서버 경쟁력은 한 종류의 칩 성능보다 여러 연산 장치를 얼마나 빠르고 효율적으로 연결하느냐에 따라 달라질 가능성이 큽니다.
AMD와 Intel이 주목받는 이유
서버용 CPU 시장에서 AMD와 Intel은 데이터센터 투자 확대의 직접적인 영향을 받는 기업입니다. AI 서비스를 운영하는 사업자가 GPU를 추가하면 이를 제어하고 각종 일반 업무를 처리할 CPU와 메모리, 네트워크 장비도 함께 확보해야 합니다. 에이전트 서비스가 기업 내부 시스템으로 넓어지면 범용 서버 수요가 더 다양해질 수 있다는 기대도 나옵니다. 다만 실제 실적은 고객사의 투자 속도와 제품 공급 능력, 전력 효율, 가격 경쟁력까지 함께 살펴봐야 판단할 수 있습니다.
기업의 AI 비용 구조도 달라진다
대화형 AI는 사용자가 질문할 때 짧게 작동하는 경우가 많지만 에이전트는 하나의 목표를 마칠 때까지 여러 차례 모델을 호출할 수 있습니다. 중간 결과를 확인하고 프로그램을 실행하며 실패한 단계를 고치는 동안 서버 자원이 계속 사용됩니다. 기업은 가장 비싼 GPU를 모든 과정에 투입하기보다 작업을 잘게 나누어 알맞은 장치에 배분하려 할 것입니다. 이에 따라 CPU 성능뿐 아니라 메모리 용량과 데이터 이동 속도, 소프트웨어 최적화가 서비스 운영비를 좌우하는 요소로 떠오릅니다.
일하는 동료가 되기 위한 조건
AI 에이전트의 확산은 기술 성능만으로 결정되지 않습니다. 회사 자료에 접근하고 결제나 예약 같은 행동까지 수행하려면 권한 관리와 보안 점검, 실행 기록 보관이 반드시 뒤따라야 합니다. 잘못된 판단이 실제 업무 피해로 이어질 수 있어 사람이 승인해야 하는 단계도 명확하게 설정해야 합니다. 이런 안전 장치가 갖춰질수록 AI는 단순한 답변 도구에서 반복 업무를 맡는 실질적인 협업 수단으로 발전할 수 있습니다.
정리하면
CPU의 재등장은 GPU 열풍이 끝났다는 신호라기보다 AI가 수행하는 업무의 범위가 넓어졌다는 의미입니다. 답변 생성에는 대규모 병렬 연산이 필요하지만 계획 수립과 도구 실행, 데이터 이동, 시스템 관리는 범용 연산 능력을 요구합니다. AMD와 Intel이 다시 거론되는 배경에도 이러한 서버 구조의 변화가 자리하고 있습니다. AI가 실제 업무를 더 많이 맡게 될수록 반도체 시장의 핵심 질문은 어떤 칩이 승리하느냐보다 각 장치가 어떻게 효율적으로 협력하느냐가 될 것입니다.
카드뉴스 전체 보기
아래 카드뉴스 이미지로 전체 내용을 한눈에 확인할 수 있습니다.
