Видеокарта NVIDIA Tesla A100 80 ГБ

GPU / AI ACCELERATORS

Видеокарта NVIDIA Tesla A100 80 ГБ

от 697 140 ₽

Оплатабезналичный расчет

Флагман линейки A100 с 80 ГБ HBM2e-памяти и пропускной способностью 2 ТБ/с. LLaMA 3 70B запускается в полной точности FP16. MIG делит карту на до 7 экземпляров. Эталон для корпоративного LLM-деплоя и обучения крупных моделей.

Смотреть похожие

Характеристики

Артикул: 1046
Категория: Видеокарты / Видеоускорители
Вендор: NVIDIA
Архитектура: Ampere
Видеопамять: 80 ГБ HBM2e ECC
Тип памяти: HBM2e ECC
Пропускная способность: 2000 ГБ/с
CUDA-ядра: 6912
Тензорные ядра: 432 (3-го пок.)
FP16: 312 (FP16) / 624 (INT8)
FP8 / FP4: Нет
NVLink: NVLink 3.0 (600 ГБ/с)
MIG: До 7 MIG
ECC: ECC
Интерфейс: PCIe 4.0 x16 / SXM4
Форм-фактор: PCIe или SXM4
TDP: 300-400
Точность: FP64/FP32/TF32/FP16/BF16/INT8/INT4
Максимальный размер модели: ~70B (FP16) / ~130B (Q4)
Рекомендуемые задачи: LLaMA 3 70B FP16
Mixtral 8×22B
MIG