아키텍처
- V100: 볼타(Volta) 아키텍처 기반.
- H100: 호퍼(Hopper) 아키텍처 기반의 최신 GPU.
성능 및 주요 특징
- 연산 성능
- V100(Volta)는 기존 파스칼(Pascal) 세대에 비해 텐서 코어(Tensor Core)가 처음으로 적용되었고, FP16 연산에서 우수한 성능을 보여줬습니다.
- H100(Hopper)는 V100이나 A100 대비 더 발전된 텐서 코어와 Transformer Engine(대규모 언어 모델 등에 특화)을 탑재해 더 높은 연산 성능을 제공합니다.
- 메모리 및 대역폭
- V100: 최대 32GB HBM2 메모리, 높은 대역폭을 제공하지만 최신 GPU 대비 메모리 용량이나 속도는 낮습니다.
- H100: 최대 80GB HBM3 메모리(제품 구성에 따라 다름). 메모리 대역폭도 크게 향상되었고, NVLink 역시 더 고속화되었습니다.
- 적용 분야
- V100: 딥러닝 트레이닝, HPC, 데이터 분석 등이 주요 타깃. 아직도 많이 쓰이고 있지만, 최신 프로젝트나 서비스에선 A100/H100으로 넘어가는 추세입니다.
- H100: 초거대 모델 학습, 대규모 HPC 워크로드 등 최고 성능을 요구하는 영역.
가격(대략적)
- V100
- 출시 당시 32GB 모델 기준 대략 8,000~12,000 USD 사이였으며, 중고 시세나 재고 등에 따라 달라집니다.
- H100
- 신제품이라 가격대가 매우 높으며, 보드 형태(PCIe vs. SXM), 메모리 용량, 지역 등에 따라 차이가 큽니다.
- 일반적으로는 2~3만 달러(혹은 그 이상) 선으로 거론됩니다.
최신 GPU일수록 시장 수요와 재고 상황에 따라 실제 거래 가격이 변동폭이 큰 편이니, 구체적인 견적을 원하신다면 국내외 유통사나 리셀러를 통해 확인하시는 것이 가장 정확합니다.