GPUs, TPUs, & The Economics of AI Explained | Gavin Baker Interview"

https://www.youtube.com/watch?v=cmUo4841KQw

 

1. AI 트렌드를 파악하는 방법

• 직접 결제하고 사용해 볼 것: 많은 사람들이 무료 버전(성능이 제한된 모델)만 써보고 AI의 한계를 속단합니다. 최신 AI의 진짜 능력을 파악하려면 월 결제를 통해 최고 성능의 모델(Gemini Advanced, ChatGPT Plus 등)을 직접 사용해 봐야 합니다.
• X(트위터)의 핵심 연구자 팔로우: AI 기술의 최전선은 X(트위터)에서 논의됩니다. 안드레이 카파시(Andrej Karpathy) 등 전 세계 500~1,000명 남짓한 최상위 AI 연구자들의 생각과 논쟁을 따라가는 것이 가장 확실한 정보원입니다.

---

2. 스케일링 법칙(Scaling Laws)과 추론(Reasoning) 모델의 구원

• Gemini 3의 의의: 구글의 Gemini 3는 사전 학습(Pre-training) 단계에서 데이터를 때려 넣을수록 모델이 똑똑해진다는 '스케일링 법칙'이 여전히 깨지지 않고 유효함을 증명했습니다.
• 추론(Reasoning) 기술의 역할: Nvidia의 차세대 칩인 Blackwell(블랙웰) 출시가 발열 문제 등으로 지연되면서, 새로운 하드웨어가 없는 약 18개월 동안 AI 발전이 정체될 뻔했습니다. 하지만 OpenAI의 o1 모델과 같은 '추론(Reasoning)' 기술이 등장해 하드웨어 공백기를 메우며 AI의 발전을 견인했습니다.

---

3. AI 하드웨어 전쟁 (Nvidia vs Google TPU)

• 구글의 일시적 우위와 마진 압박: 구글은 자체 개발한 AI 칩인 TPU(Tensor Processing Unit)를 기반으로 **'토큰당 최저 비용(Low-cost)'**을 달성했습니다. 구글은 막대한 자본력으로 손실을 감수하면서까지 토큰 가격을 낮춰 경쟁 AI 기업들의 자금줄을 말리는 전략을 취하고 있습니다.
• Nvidia Blackwell의 역습: 곧 본격 가동될 Nvidia의 차세대 칩 Blackwell 모델들이 판도를 바꿀 것입니다. 개빈 베이커는 일론 머스크의 XAI가 데이터 센터 구축 속도가 가장 빠르기 때문에 가장 먼저 Blackwell 기반의 모델을 출시할 것으로 예측합니다. 이후 GB300, Rubin 등의 칩이 연이어 나오면 Nvidia 생태계가 TPU 등 타 회사의 자체 칩(ASIC)과의 기술 격차를 다시 크게 벌릴 것입니다.

---

4. 기존 소프트웨어(SaaS) 기업들의 '생사가 걸린' 딜레마

• 전통적인 클라우드 기반 SaaS 기업(Salesforce 등)은 보통 80% 수준의 매우 높은 총이익률(Gross Margin)을 누려왔습니다.
• 반면, 지속적인 연산 능력이 필요한 AI 에이전트 서비스는 이익률이 약 40% 수준으로 낮습니다.
• 개빈 베이커는 **"마진율이 떨어지는 것이 두려워 AI 에이전트 도입을 망설이는 것은, 과거 오프라인 유통업체들이 이커머스 도입을 주저하다 아마존에 먹힌 것과 같은 최악의 실수"**라고 경고합니다. 이익률(%)이 낮아지더라도 AI로 인한 잉여현금흐름(절대적 이익 규모) 창출에 집중해야 살아남을 수 있습니다.

---

5. 완전히 새로운 발상: 우주 데이터 센터 (Data Centers in Space)

향후 3~4년 내에 가장 중요한 돌파구로 **'우주에 데이터 센터를 짓는 것'**을 제시합니다. 지구상의 데이터 센터가 가진 한계를 완벽히 극복할 수 있기 때문입니다.

• 무한한 전력: 우주에서는 태양광을 24시간 내내 30% 더 강력하게 받을 수 있어 에너지가 무한하며, 배터리도 필요 없습니다.
• 무료 냉각 시스템: 데이터 센터 구축 비용과 전력의 상당수는 '열을 식히는 데' 쓰입니다. 우주에서는 인공위성 그늘(다크 사이드)의 절대영도(-273도)를 활용해 쿨링 비용이 0원이 됩니다.
• 통신 속도: 진공 상태인 우주에서 레이저를 쏘아 통신하는 것이 지구상의 광랜 케이블보다 훨씬 빠릅니다. (SpaceX, Starlink 등 일론 머스크 기업들의 시너지 극대화 전망)

---

6. AI의 투자 수익률(ROIC)은 이미 증명되고 있다

• 막대한 AI 인프라 투자(Capex) 비용 때문에 수익성에 대한 우려가 있지만, 주요 기술 기업들의 ROIC는 오히려 증가하고 있습니다.
• IT 기업뿐만 아니라 물류 운송회사인 C.H. Robinson 같은 전통 기업조차도 AI를 도입해 트럭 화물 배차 및 견적 산출을 100% 자동화하여 실적을 20% 상승시키는 등, 실물 경제에서 뚜렷한 투자 수익이 나타나고 있습니다.

---

마무리: 개빈 베이커는 주식 투자의 매력을 "역사와 시사 지식에 기반해 남들이 보지 못한 숨겨진 진실(Truth)을 찾아내는 확률 게임"이라고 표현합니다. 그는 현재의 AI 생태계 발전 속도와 자본의 흐름이 기술 역사상 유례없는 흥미로운 게임보드판과 같다고 평가합니다.