NVIDIA의 GTC 2024

엔비디아의 GTC 2024 기술 컨퍼런스에 대해 다루고 있습니다. 이 행사는 인공지능 기술에 관심 있는 연구원, 개발자, 산업 전문가들에게 중요한 이벤트로, 다양한 AI 관련 주제를 포함하는 900개 이상의 강연과 패널 토의를 제공할 예정입니다. 젠슨 황의 개회 기조 연설, 생성 AI, 사이버보안, 디지털 트윈, 데이터 과학 등의 세션들이 하이라이트입니다. 또한, 스타트업들을 위한 NVIDIA Inception 프로그램과 다양한 교육 워크숍이 예정되어 있으며, AI의 미래에 대한 학습과 네트워킹의 기회를 제공할 것입니다.

업데이트 2025-04

읽는 시간 9분

AI·반도체

2,080억

Blackwell 트랜지스터

5×

FP4 추론 처리량

$3.5조

NVIDIA 시총 정점

$1,400억

FY2024 DC 매출

한눈에 보기 (TL;DR)

  1. GTC 2024 — Blackwell B200/GB200 발표 — H100 대비 트랜지스터 2.6배.
  2. FP4/FP6 신정밀도로 추론 처리량 5배 향상.
  3. NVL72 — 72 GPU + 36 Grace CPU 1랙 시스템, AI 인프라 새 표준.
  4. Project GR00T 휴머노이드 파운데이션 모델 — Boston Dynamics, Figure 등 합류.
  5. DRIVE Thor (자동차), Clara/BioNeMo (의료) — 영역 확장 가속.

Key Facts — NVIDIA GTC 2024 Blackwell

항목내용
발표 시기2024-03 (산호세)
Blackwell B2002,080억 트랜지스터, FP4/FP6
GB200 NVL7272 GPU + 36 Grace CPU 랙
Project GR00T휴머노이드 파운데이션 모델
DRIVE Thor차세대 자율주행 SoC
FY2024 DC 매출약 $1,400억

출처: NVIDIA GTC 2024 Keynote, NVIDIA 10-K FY2024, CES 2025 Press

핵심 인사이트

NVIDIA의 진짜 가치는 “칩”이 아니라 “AI 컴퓨팅 스택 전체”의 표준이라는 점에 있다.

2024년 3월 캘리포니아 산호세에서 열린 NVIDIA GTC 2024는 “AI 시대의 우드스톡”으로 불렸다. CEO 젠슨 황은 차세대 GPU 아키텍처 Blackwell B200·GB200을 공개하며, AI 컴퓨팅의 새로운 표준을 제시했다. 이 발표는 NVIDIA의 시가총액을 2024년 한때 3.5조 달러까지 끌어올리며 Apple·Microsoft를 일시적으로 추월하는 분기점이 됐다.

Blackwell의 5가지 혁신

  • 2,080억 트랜지스터: H100의 약 2.6배
  • FP4/FP6 신정밀도: 추론 처리량 5배 향상
  • 2nd Gen Transformer Engine: 토큰 처리 효율 극대화
  • NVLink 5세대: 1.8TB/s GPU 간 통신
  • GB200 NVL72: 72 GPU + 36 Grace CPU 1랙 시스템

로보틱스와 디지털 트윈

GTC 2024의 두 번째 핵심은 휴머노이드 로봇 파운데이션 모델 Project GR00T이었다. Boston Dynamics, Figure, 1X Technologies, Agility Robotics 등 주요 휴머노이드 기업이 NVIDIA Isaac/Omniverse 플랫폼에 합류했다. “AI는 가상 세계에서 학습하고 물리 세계에서 작동한다”는 NVIDIA의 비전이 본격화됐다.

자동차와 의료의 확장

자율주행: NVIDIA DRIVE Thor 차세대 SoC가 메르세데스, BYD, Xpeng 등에 채택. 의료: NVIDIA Clara/BioNeMo가 25개+ 신약 개발 파트너십을 확장. Recursion, Mayo Clinic, GE Healthcare가 주요 협력사로 합류했다.

최신 동향 (2024-2025)

GB200 NVL72는 2024년 후반 양산 시작, 2025년 본격 출하 단계에 진입했다. 2025년 1월 CES에서는 차세대 “Rubin” 아키텍처(2026 출하 예정)와 “NVIDIA Cosmos” 물리 AI 파운데이션 모델이 공개됐다. NVIDIA의 데이터센터 매출은 2024 회계연도 약 1,400억 달러를 기록하며 사상 최고치를 경신했다.

주요 타임라인

  • 2022-09H100 발표
  • 2024-03GTC 2024 — Blackwell 공개
  • 2024-Q3GB200 양산 진입
  • 2024NVIDIA 시총 $3.5조 정점
  • 2025-01CES — Rubin·Cosmos 발표

마무리 — 핵심 정리

  • AI 인프라 시장에서 NVIDIA 의존도가 다음 5년 산업 구조의 핵심 변수.
  • 휴머노이드·디지털 트윈이 GPU 수요의 다음 큰 파도.
  • AMD·Intel·Google TPU·삼성 마하-1 등 대체 칩의 부상이 2025-2027 관전 포인트.

자주 묻는 질문

추론에서 FP4 정밀도로 약 5배, FP8 기준으로는 약 2.5배 향상됩니다. 학습은 FP8로 약 2.5배 빠릅니다. 다만 실제 워크로드 효율은 모델 크기·메모리 대역폭에 따라 달라집니다.

1개 랙에 72개 Blackwell GPU와 36개 Grace CPU를 결합하고 NVLink 5세대 스위치로 통합해 “하나의 거대한 GPU”처럼 작동시킵니다. 1.4 exaFLOPS의 AI 성능을 제공하며 1조 파라미터 모델 학습이 가능합니다.

휴머노이드 로봇용 파운데이션 모델로, Boston Dynamics, Figure AI, 1X, Agility, 현대차 등이 협력하고 있습니다. 2024-2025년에는 시뮬레이션 → 실제 로봇 정책 이식이 빠르게 진행 중입니다.

Blackwell의 차세대 GPU 아키텍처로 2026년 출하 예정입니다. HBM4 메모리, 차세대 NVLink, FP4 추론 효율 추가 향상이 핵심 특징으로 알려져 있습니다.

최종 업데이트: 2025-04 · NVIDIA GTC 2024, CES 2025 Rubin·Cosmos 반영