GPU / AI ACCELERATORS
Видеокарта NVIDIA Tesla H100 96 ГБ
от 1 464 264 ₽
Оплатабезналичный расчет
Абсолютный топ линейки NVIDIA. 96 ГБ HBM3e-памяти при пропускной способности 3.9 ТБ/с. SXM5-форм-фактор с NVLink 4.0 (900 ГБ/с между картами) для построения AI-кластеров. Единственный реальный вариант для локального запуска моделей класса GPT-4.
Характеристики
Артикул: 1049
Категория: Видеокарты / Видеоускорители
Вендор: NVIDIA
Архитектура: Hopper
Видеопамять: 96 ГБ HBM3e ECC
Тип памяти: HBM3e ECC
Пропускная способность: 3900 ГБ/с
CUDA-ядра: 16896
Тензорные ядра: 528 (4-го пок.)
FP16: 989 (FP16) / 3958 (FP8)
FP8 / FP4: FP8 нативный
NVLink: NVLink 4.0 (900 ГБ/с)
MIG: До 7 MIG
ECC: ECC
Интерфейс: SXM5
Форм-фактор: SXM5-модуль (NVL)
TDP: 700
Точность: FP64/FP32/TF32/FP16/BF16/FP8/INT8/INT4
Максимальный размер модели: ~100B (FP16) / ~250B (Q4)
Рекомендуемые задачи: LLaMA 3 405B (Q4)
GPT-4 класс