매년 챙겨보는 행사지만, 올해 대만 타이베이에서 열린 GTC 2026 기조연설은 유독 여운이 길게 남습니다. 검은 가죽 재킷을 입고 무대에 오른 젠슨 황 엔비디아 CEO의 90분짜리 발표를 들으며, 단순히 새로운 칩이 나왔다는 사실 이상의 거대한 산업적 지각변동을 체감할 수 있었습니다.
.
지금까지의 AI가 우리가 질문을 던지면 답을 해주는 똑똑한 '비서' 정도였다면, 앞으로 다가올 AI는 질문하지 않아도 스스로 계획을 세우고 실행하는 '주도적인 에이전트(Agent)'로 진화하고 있습니다. 그리고 이번 GTC에서 엔비디아는 이 새로운 시대의 헤게모니를 쥐기 위해 자신들이 무엇에 가장 집중하고 있는지를 명확히 보여주었습니다. 기조연설과 후속 미디어 Q&A 등을 종합해 보며, 개인적으로 가장 인상 깊었던 몇 가지 핵심 포인트들을 정리해 보았습니다.
.
1. 챗봇을 넘어 '에이전트' 시대로: 왜 하필 CPU인가?
.
이번 GTC 2026에서 젠슨 황이 가장 목소리를 높여 강조한 단어 중 하나는 바로 '에이전틱 AI(Agentic AI)'였습니다.
우리가 흔히 쓰는 챗GPT 같은 대화형 AI는 기본적으로 '질의응답(Q&A)' 모델입니다. 사람이 프롬프트를 입력할 때까지 대기하고 있다가, 명령이 떨어지면 그제야 연산을 시작합니다. 하지만 에이전틱 AI는 다릅니다. 이들은 마치 독립된 인격체나 숙련된 실무자처럼 목표가 주어지면 스스로 작업 단계를 쪼개고, 인터넷을 검색하거나 코드를 작성해 실행해 보고, 결과를 평가하여 수정하는 과정을 반복합니다.
문제는 이 '스스로 일하는' 에이전트가 기존의 컴퓨터 아키텍처, 특히 현재의 CPU 성능으로는 병목 현상(Bottleneck)을 겪는다는 점입니다.
우리가 컴퓨터를 사용할 때를 생각해 보면, 사실 컴퓨터의 CPU 점유율이 100%로 풀가동되는 시간은 생각보다 길지 않습니다. 인간이 타이핑을 하거나 마우스를 클릭하는 '반응 속도'가 느리기 때문입니다. 즉, 지금까지의 CPU는 인간의 속도와 인간이 사용하는 애플리케이션의 리듬에 맞춰 설계되어 있었습니다.
하지만 에이전트 AI는 인간처럼 밥을 먹거나 잠을 자지도, 다음 작업을 고민하느라 멍을 때리지도 않습니다. 빛의 속도로 다음 작업을 스케줄링하고, 수많은 에이전트가 동시에 다양한 작업을 병렬로 처리하려고 합니다. 에이전트는 기다림이 없으며, 인류의 생산성을 가로막던 '인구수'와 '물리적 반응 속도'의 제약을 뛰어넘는 존재입니다.
바로 이 지점에서 기존 x86 기반 범용 CPU의 한계가 명확해집니다. 엄청난 수의 에이전트들이 쏟아내는 작업(Thread)을 지연 없이 스케줄링하고, GPU로 빠르게 넘겨주기 위해서는 완전히 새로운 개념의 CPU가 필요했던 것입니다.
엔비디아가 이번에 차세대 프로세서인 '베라(Vera) CPU'를 전면에 내세운 이유가 바로 이것입니다. 베라는 단순한 연산 장치가 아니라, 에이전트들이 병렬로 쏟아내는 멀티스레드 작업을 극강의 싱글 스레드 성능을 바탕으로 빠르게 처리하고 전환하는 데 최적화된 프로세서입니다. 젠슨 황이 베라 CPU에 대한 질문이 나올 때마다 유독 기뻐하며 "베라 CPU는 정말 잘 만들었고, 어쩌면 GPU보다 더 많이 팔릴 수도 있다"며 강한 자신감을 내비친 배경에는, 다가올 에이전트 시대의 병목 현상을 정확히 짚어냈다는 확신이 깔려 있었습니다.
.
2. 인프라 확장의 3대 병목 현상: 한계는 어디인가?
.
AI 에이전트들이 폭발적으로 늘어나면 자연스럽게 이를 뒷받침할 막대한 컴퓨팅 파워, 즉 데이터센터 인프라가 필요해집니다. 엔비디아의 실적 발표를 볼 때마다 '도대체 이 수요는 언제 꺾이는가?'라는 의문을 가지게 되지만, GTC를 보며 느낀 점은 당분간 수요의 둔화보다는 공급망의 물리적 한계가 시장의 성장을 제약하는 병목이 될 가능성이 높다는 것입니다.
.
현재 AI 인프라 확장의 가장 뼈아픈 3대 바틀넥(Bottleneck)은 다음과 같습니다.
첫째, CoWoS 첨단 패키징 캐파(Capacity)입니다. 엔비디아의 칩셋 자체는 어떻게든 찍어낼 수 있다고 쳐도, 이 GPU 칩을 고대역폭 메모리(HBM)와 함께 하나의 칩으로 정밀하게 포장하는 TSMC의 CoWoS(Chip-on-Wafer-on-Substrate) 패키징 공정 능력이 절대적으로 부족합니다. 다이를 만들어도 패키징 라인이 없으면 출하할 수 없는 구조적인 동맥경화 상태가 당분간 지속될 수밖에 없습니다.
둘째, 메모리의 한계입니다. 엔비디아가 공개한 베라 CPU 기반의 랙(Rack) 시스템들을 자세히 들여다보면, LPDDR(저전력 이중 데이터 통신율) 메모리가 상상을 초월할 정도로 빽빽하게 박혀 있습니다. 에이전트들이 복잡한 연산을 쉼 없이 수행하려면 막대한 메모리 대역폭이 필요하기 때문입니다. 단일 서버를 넘어 거대한 랙 시스템 수만 개가 글로벌 데이터센터에 깔리게 되면, 엔비디아가 블랙홀처럼 빨아들이는 메모리 수요는 기존 애플 등 모바일 기기 수요를 전부 합친 것보다 더 거대해질 수 있습니다. 메모리 메이커들이 왜 지금처럼 라인을 재편하고 구조적인 변화를 겪고 있는지 체감할 수 있는 대목입니다.
셋째, 그리고 가장 심각한 전력(에너지) 인프라입니다. 데이터센터는 전기를 먹는 하마입니다. 칩의 성능이 올라갈수록 전력 소비량과 발열은 기하급수적으로 증가합니다. 데이터센터를 새로 짓고 싶어도 송전망이 구축되어 있지 않아 지을 수 없고, 발전소 옆에 딱 붙여서 짓는 온사이트(On-site) 발전이나 소형모듈원전(SMR) 같은 대안이 거론되지만 당장 해결할 수 있는 문제는 아닙니다. 결국 AI 산업의 성장 속도는 기술 발전의 속도가 아니라, 인류가 얼마나 많은 전기를 확보해 데이터센터에 공급할 수 있느냐에 따라 결정될 것입니다.
.
3. 빅테크들의 천문학적인 투자 의지: 구글의 130조 원 유상증자
.
이러한 물리적 병목 속에서도 빅테크 기업들의 AI 패권 경쟁은 멈출 기미가 보이지 않습니다. 이를 가장 상징적으로 보여준 사건이 바로 GTC 기간을 전후해 들려온 구글(알파벳)의 대규모 유상증자 소식입니다.
구글은 AI 인프라 투자를 위해 당초 800억 달러로 계획했던 유상증자 규모를 무려 850억 달러(약 130조 원) 규모로 확대했습니다. 기업이 자금을 조달할 때 회사채(빚)를 발행하는 것을 넘어 대규모 유상증자(주식 발행)까지 단행한다는 것은, 기존의 이익 창출 능력이나 현금 보유량만으로는 감당할 수 없을 만큼 공격적이고 절박하게 투자를 집행하겠다는 강력한 의지의 표명입니다.
구글이 올해 CAPEX(설비투자)로 예상하는 금액이 대략 1,800억~1,900억 달러 수준인데, 그 절반에 가까운 금액을 유상증자로 당겨오겠다는 것입니다. 한 기업이 이토록 천문학적인 금액을 오직 'AI 인프라 확충'이라는 단일 목적을 위해 쏟아붓는 것을 보면, 지금 벌어지고 있는 AI 경쟁이 단순한 기술 트렌드를 넘어 기업의 존망이 걸린 사활의 문제임을 실감하게 됩니다. 구글뿐만 아니라 다른 빅테크들 역시 AI 에이전트 시대를 대비한 컴퓨팅 파워 확보를 위해 조만간 이와 유사한 형태의 대규모 자금 조달에 나설 가능성이 높습니다.
.
4. 대만 생태계의 결속과 엔비디아의 '풀스택' 전략
.
이번 GTC 타이베이 행사가 주는 또 다른 중요한 메시지는 지정학적 맥락에 있습니다. 젠슨 황은 기조연설과 비공식 세션 등을 통해 대만의 반도체 생태계, 특히 TSMC(제조)와 미디어텍(설계), 그리고 수많은 대만의 서버 OEM/ODM 기업들을 거듭 '샤라웃(Shout-out)'하며 끈끈한 파트너십을 과시했습니다.
대만의 지정학적 안보 리스크를 우려하는 시선에 대해 젠슨 황은 "공급망은 다양화하겠지만, 대만이 여전히 강력한 인프라를 갖추고 있다는 사실은 변하지 않는다"며 신뢰를 보냈습니다. 이는 특정 기업이 칩의 설계부터 메모리, 제조, 패키징까지 모두 도맡는 '턴키(Turn-key)' 방식에 대항하여, 엔비디아를 중심으로 대만의 각 분야 1등 기업들이 거대한 연합군을 형성하고 있음을 보여주는 장면이었습니다.
더불어 눈여겨볼 점은 엔비디아가 이제 단순한 'GPU 제조사'를 넘어 완벽한 '풀스택(Full-stack) 플랫폼 기업'으로 진화했다는 점입니다. 에이전트 AI 시대를 위한 베라(Vera) CPU, 데이터를 병목 없이 전송하는 블루필드 네트워킹 스위치, 그리고 이를 엮어내는 거대한 랙 시스템까지. 엔비디아는 컴퓨팅 아키텍처의 처음부터 끝까지 모든 라인업을 완성했습니다.
새로운 AI PC 규격인 'RTX 스파크'를 발표하며 델, HP, 에이수스 등 거의 모든 PC/서버 제조사들과 함께 생태계를 만들어가겠다는 자신감. "우리는 기존 시장을 파괴하려는 것이 아니라 매출이 제로(0)인 곳에서 완전히 새로운 시장을 창출하려는 것"이라는 젠슨 황의 신사적이면서도 여유로운 태도는, 엔비디아가 그리는 큰 그림이 얼마나 방대한지를 짐작케 했습니다.
..
정해진 최단 경로(Shortest Path)는 없다
.
매년 쏟아지는 기술적 혁신과 천문학적인 자본의 이동을 지켜보고 있으면 가끔 현기증이 날 때도 있습니다. AI가 스스로 코드를 짜고, 로봇을 제어하고, 인간의 생산성을 아득히 뛰어넘는 에이전트의 시대로 진입한다는 선언은 기대감과 동시에 묘한 압박감을 주기도 합니다.
우리는 흔히 성공을 위해 완벽하게 계산된 '최단 경로(Shortest Path)'를 찾으려 애씁니다. 학생 때는 성적과 스펙이라는 정답을 좇고, 사회에 나와서는 남들이 부러워하는 트랙을 밟기 위해 고군분투합니다. 과거 20대 시절, 저 역시 세상을 일찍 파악하고 더 효율적인 길을 찾기 위해 컨설팅 업계를 기웃거리거나, 스펙 쌓기에 열을 올렸던 기억이 납니다.
하지만 세상이 돌아가는 모습을, 특히 이 거대한 기술의 파도가 요동치는 모습을 가만히 들여다보면 과연 '정해진 정답'이라는 것이 존재하는지 의문이 듭니다. 수많은 시행착오와 엉뚱한 우회로를 거쳐 오늘날 글로벌 AI 제국의 황제가 된 젠슨 황의 여정이 그러하듯 말입니다.
AI 에이전트가 인간을 대신해 가장 효율적이고 완벽한 결과물을 도출해 내는 시대가 온다면, 역설적으로 인간에게 요구되는 것은 기계적인 효율성이 아니라 수많은 삽질 속에서 자신만의 의미와 재미를 찾아내는 유연함일지도 모릅니다. 이번 GTC 2026은 엔비디아의 찬란한 청사진을 확인하는 자리였지만, 동시에 이 빠르고 거대한 변화 속에서 나의 삶은 어떤 리듬으로, 어떤 가치를 좇으며 나아가야 할지 스스로에게 조용히 질문을 던지게 만드는 시간이었습니다. 에이전트가 할 수 없는, 오직 나만이 찾을 수 있는 '의미'를 향한 여정은 이제부터가 진짜 시작인 것 같습니다.