AI는 5단 케이크
2026년 3월 10일, 젠슨 황
AI는 오늘날 세상을 형성하는 가장 강력한 힘 중 하나입니다. 단순히 기발한 앱이나 단일 모델이 아니라, 전기와 인터넷 같은 필수 인프라입니다.
AI는 실제 하드웨어, 에너지, 경제적 구조 위에서 작동하며, 원자재를 투입해 이를 대규모 지능으로 전환하게 됩니다. 모든 기업이 AI를 활용하게 될 것이며, 모든 국가가 AI를 구축하게 될 것입니다.
AI가 이러한 방식으로 전개되는 이유를 이해하려면, 제1원칙에서 출발해 컴퓨팅 분야에서 무엇이 근본적으로 변화했는지를 살펴볼 필요가 있습니다.
사전 기록된 소프트웨어에서 실시간 지능으로
컴퓨팅 역사의 대부분 기간 동안 소프트웨어는 ‘사전에 기록된(pre-recorded)’ 형태였습니다. 인간이 알고리즘을 정의하면, 컴퓨터는 이를 실행했죠. 데이터는 정교하게 구조화돼 테이블에 저장되고, 정확한 쿼리를 통해 검색되었습니다. SQL(Structured Query Language)은 이러한 세계를 가능하게 만드는 필수적인 도구였습니다.
그러나 AI는 이러한 기존 모델을 근본적으로 넘어섭니다.
이제 우리는 비정형 정보를 이해할 수 있는 컴퓨팅 환경을 갖추게 되었습니다. AI는 이미지를 보고, 텍스트를 읽으며, 소리를 듣고 그 의미를 이해할 수 있습니다. 나아가 맥락과 의도를 추론하며, 무엇보다 중요한 점은 지능을 실시간으로 생성한다는 점이죠.
모든 응답은 새롭게 생성되며, 모든 답변은 사용자가 제공하는 맥락에 따라 달라집니다. 이는 저장된 명령어를 불러오는 소프트웨어가 아닌, 필요에 따라 추론하고 지능을 생성하는 소프트웨어입니다.
지능이 실시간으로 생성되기 때문에, 그 아래에 있는 전체 컴퓨팅 스택 역시 재설계되고 있습니다.
인프라로서의 AI
AI를 산업적 관점에서 바라보면, 이는 다섯 개의 레이어로 구성된 스택 구조로 정리됩니다.
에너지
가장 기반에는 에너지가 있습니다. 실시간으로 생성되는 지능은 실시간으로 공급되는 전력을 필요로 합니다. 생성되는 모든 토큰은 전자의 이동, 열 관리, 그리고 에너지가 연산으로 전환되는 과정을 통해 만들어진 결과물입니다. 그 아래에는 더 이상 추상화 레이어가 존재하지 않습니다. 에너지는 AI 인프라의 제1원칙이자, 시스템이 생산할 수 있는 지능의 총량을 결정하는 근본적인 제약 조건입니다.
칩
에너지 위에는 칩이 있습니다. 칩은 대규모 연산을 통해 에너지를 효율적으로 전환하도록 설계된 프로세서입니다. AI 워크로드는 막대한 병렬 처리 능력, 고대역폭 메모리, 고속 상호 연결을 요구합니다. 칩 레이어에서의 기술의 발전은 AI 확장 속도와 지능의 경제성을 결정하게 됩니다.
인프라
칩 위에는 인프라가 있습니다. 여기에는 토지, 전력 공급, 냉각, 건설, 네트워킹, 그리고 수만 개의 프로세서를 하나의 기계로 조율하는 시스템이 포함됩니다. 이러한 시스템이 바로 AI 팩토리입니다. 이는 정보를 저장하기 위해 설계된 것이 아니라, 지능을 생산하도록 설계된 시설입니다.
모델
인프라 위에는 모델이 있습니다. AI 모델은 언어, 생물학, 화학, 물리학, 금융, 의학, 물리적 세계 등 다양한 종류의 정보를 이해합니다. 언어 모델은 그중 하나의 범주에 불과한데, 특히 단백질 AI, 화학 AI, 물리 시뮬레이션, 로보틱스, 자율 시스템 분야에서 혁신적인 진전이 이어지고 있습니다.
애플리케이션
최상단에는 경제적 가치를 창출하는 애플리케이션이 위치합니다. 대표적인 사례로 신약 개발 플랫폼, 산업용 로보틱스, 법률 코파일럿, 자율주행 차량 등이 있습니다. 자율주행 차량은 기계에 구현된 AI 애플리케이션이며, 휴머노이드 로봇은 신체에 구현된 AI 애플리케이션입니다. 이처럼 동일한 스택 위에서 작동하지만, 구현 형태에 따라 결과는 달라집니다.
이것이 바로 5단 케이크입니다:
에너지 → 칩 → 인프라 → 모델 → 애플리케이션.
성공적인 애플리케이션은 그 아래 모든 레이어에 영향을 미치며, 이를 유지하는 발전소까지 긴밀하게 연결돼 있습니다.
이러한 인프라 구축은 아직 초기 단계에 있습니다. 현재까지 수천억 달러 규모의 투자가 이뤄졌으나, 앞으로 수조 달러 규모의 인프라가 추가로 구축돼야 합니다.
전 세계적으로 전례 없는 규모의 반도체 공장, 컴퓨터 조립 공장, AI 팩토리가 건설되고 있습니다. 이는 인류 역사상 가장 큰 인프라 구축 사업이 진행되고 있음을 보여줍니다.
이러한 구축을 지원하기 위해서는 막대한 노동력이 필요한데요, AI 팩토리는 전기 기술자, 배관공, 배관 용접공, 철강 노동자, 네트워크 기술자 등 다양한 설치, 운영 인력을 필요로 합니다.
이들 직무는 숙련된 고임금 일자리지만 현재 공급이 부족한 상황입니다. 이 거대한 변화에 동참하기 위해 반드시 컴퓨터공학 박사 학위만 필요한 것은 아닙니다.
동시에 AI는 지식 경제 전반의 생산성을 주도하고 있습니다. 예를 들어, 방사선학 분야에서 AI는 의료 영상 판독을 보조하고 있지만 방사선 전문의에 대한 수요는 여전히 증가하고 있습니다. 이는 모순이 아니죠.
방사선 전문의의 본질적인 역할은 환자를 돌보는 것입니다. 영상 판독은 그 과정 중 하나의 업무일 뿐이죠. AI가 반복적이고 일상적인 업무를 더 많이 수행하게 되면, 전문의는 판단과 소통, 환자 치료에 더욱 집중할 수 있습니다. 그 결과 병원의 생산성이 높아지고, 더 많은 환자를 진료할 수 있으며, 더 많은 인력을 고용하게 됩니다.
생산성 향상은 새로운 수요와 기회를 만들고, 이는 다시 성장으로 이어지게 됩니다.
지난 1년간의 변화
지난 1년 동안 AI는 중요한 전환점을 넘어섰습니다. 모델 성능은 대규모로 활용 가능한 수준에 도달했습니다. 추론 능력은 향상되고, 환각(hallucination) 현상은 줄어들었으며, 그라운딩(grounding) 성능은 획기적으로 발전했습니다. 그 결과 AI 기반 애플리케이션이 처음으로 의미 있는 경제적 가치를 창출하기 시작했습니다.
신약 개발, 물류, 고객 서비스, 소프트웨어 개발, 제조 등 다양한 분야의 애플리케이션은 이미 강력한 제품, 시장 적합성을 보이고 있습니다. 이러한 애플리케이션은 전체 레이어에 걸친 강력한 수요를 견인합니다
오픈소스 모델은 이 과정에서 핵심적인 역할을 합니다. 전 세계 대부분의 모델은 무료로 공개돼 있으며, 연구자, 스타트업, 기업, 나아가 국가 단위까지 오픈 모델을 기반으로 첨단 AI 경쟁에 참여하고 있습니다. 오픈 모델이 최첨단 성능에 도달하면, 이는 단순한 소프트웨어 변화를 넘어 전체 스택에 걸친 수요를 활성화합니다.
딥시크-R1(DeepSeek-R1)은 이를 강력히 입증한 대표적인 사례죠. 강력한 추론 모델을 광범위하게 공개함으로써 애플리케이션 도입이 가속화됐고, 동시에 훈련, 인프라, 칩, 에너지에 대한 수요도 함께 증가했습니다.
AI 인프라 전환의 의미
AI를 필수 인프라로 바라보면 그 의미가 분명해집니다.
AI는 트랜스포머 기반 거대 언어 모델(large language model, LLM)에서 시작됐지만, 그에 국한되지 않습니다. AI는 에너지의 생산과 소비 방식, 공장 건설, 업무 조직, 경제 성장의 구조까지 재편하는 산업적 전환입니다.
이제 지능이 실시간으로 생성되기 때문에 AI 팩토리가 건설되고 있습니다. 그리고 효율성이 지능의 확장 속도를 결정하면서 칩 설계 역시 재정의되고 있습니다. 에너지는 시스템이 생산할 수 있는 지능의 상한을 결정하는 핵심 자원이 되고 있습니다. 아울러 모델이 대규모로 실질적인 활용이 가능한 임계점을 넘어서면서 애플리케이션이 역시 가속화되고 있습니다.
모든 레이어는 서로를 강화시킵니다.
이것이 인프라 구축 규모가 거대한 이유이자, 동시에 수많은 산업에 영향을 미치는 이유입니다. 이러한 변화는 특정 국가나 단일 산업 분야에 국한되지 않습니다. 모든 기업이 AI를 활용하게 될 것이며, 모든 국가가 이를 구축하게 될 것입니다.
AI 전환은 이제 막 본격화되는 단계입니다. 대부분의 인프라는 아직 구축되지 않았고, 이를 뒷받침할 인력 역시 충분히 양성되지 않았습니다. 실현되지 않은 기회 또한 여전히 방대하죠.
그러나 방향은 분명합니다.
AI는 현대 사회의 기초 인프라로 자리잡고 있습니다. 그리고 지금 어떤 속도로 구축할지, 얼마나 폭넓게 참여할지, 얼마나 책임감 있게 도입할지에 대한 선택이 이 시대의 모습을 결정할 것입니다.