Апгрейд старого сервера под ИИ-задачи: что докупить, что менять

Апгрейд старого сервера под ИИ-задачи почти всегда требует новую видеокарту, более мощный блок питания и NVMe-накопитель. Процессор и материнскую плату часто можно оставить, если в них достаточно линий PCIe и физически хватает места под современную видеокарту. Дальше разберём, что проверить перед покупкой, и что обычно приходится менять, а что можно оставить как есть.

Что проверить перед покупкой видеокарты

Три вещи стоит проверить ещё до заказа GPU, потому что переделывать после доставки сложнее, чем свериться заранее.

Первое, поколение и число линий PCIe. Старые серверы часто построены на платформе PCIe 3.0, а современные видеокарты рассчитаны на PCIe 4.0 или 5.0. Разъём при этом остаётся физически совместимым, карта заработает и в старом слоте, но пропускная способность будет ограничена возможностями более старой шины. Для большинства задач инференса это не критично, поскольку узкое место обычно не в шине PCIe, а в самой видеопамяти, но для многокарточных конфигураций с активным обменом данными между картами разница может ощущаться сильнее.

Второе, физический зазор и высота корпуса. Современные видеокарты для ИИ-задач часто занимают два-три слота и имеют внушительную длину. Старые серверные шасси, особенно в форм-факторе 1U, изначально проектировались под низкопрофильные одно-слотовые карты и физически не вмещают современный GPU. Перед покупкой стоит замерить доступное пространство в конкретном шасси, а не полагаться на то, что раз слот PCIe есть, то карта поместится.

Третье, поддержка Resizable BAR и Above 4G Decoding в BIOS. Эта функция напрямую влияет на производительность современных видеокарт и на старых платах может отсутствовать или требовать обновления прошивки. Перед апгрейдом стоит проверить версию BIOS материнской платы и при необходимости обновить её до установки новой карты.

Блок питания почти всегда придётся менять

Серверы, собранные несколько лет назад, обычно проектировались под совсем другой профиль энергопотребления: тогда основным потребителем был процессор, а не видеокарта. Штатный блок питания старого сервера редко рассчитан на дополнительные 250-450 Вт на каждую видеокарту, которые характерны для современных ИИ-задач.

Прежде чем заказывать новую карту, стоит пересчитать требуемую мощность блока питания с учётом добавляемой видеокарты. Подробная формула расчёта и готовые примеры под разное число карт разобраны в статье «Как рассчитать мощность БП под сервер с несколькими GPU». Серверные блоки питания на 750-2000 Вт есть в каталоге блоков питания у G.Race.

Процессор и материнская плата: когда можно оставить, когда менять

Для инференса нейросетей процессор почти не участвует в вычислениях, основную работу делает GPU. Это значит, что старый серверный процессор часто можно оставить без замены, если он даёт достаточно линий PCIe под планируемое число видеокарт.

Многие серверные процессоры прошлых поколений, например AMD EPYC 7742, уже имеют 128 линий PCIe и с запасом закрывают конфигурацию на 3-4 видеокарты, даже если сам процессор был выпущен несколько лет назад. Менять процессор и материнскую плату имеет смысл только в двух случаях: когда числа линий PCIe физически не хватает под нужное количество карт, либо когда платформа не поддерживает функции вроде Resizable BAR даже после обновления прошивки.

Накопитель: узкое место, которое часто забывают

Старые серверы нередко до сих пор работают на SATA SSD или даже механических дисках, доставшихся от изначальной конфигурации. Для ИИ-задач это заметное узкое место: веса современных моделей весят десятки и сотни гигабайт, и загрузка модели с медленного накопителя может занимать минуты вместо секунд при каждом перезапуске или переключении между моделями.

Отдельная сложность в том, что материнская плата старого сервера часто вообще не имеет разъёма M.2 для NVMe-накопителя, поскольку этот стандарт получил массовое распространение позже. Решается это платой расширения, которая устанавливается в свободный слот PCIe и добавляет один или несколько портов M.2 NVMe. Такие платы расширения и переходники есть в разделе серверных комплектующих у G.Race, это один из самых простых и недорогих апгрейдов, которые сразу заметно ускоряют работу с моделями.

Охлаждение под новую нагрузку

Вентиляторы и воздушный поток старого сервера рассчитывались под тепловыделение своей эпохи, обычно заметно ниже, чем у современной видеокарты под полной нагрузкой. После установки мощного GPU в старый корпус стоит заново оценить, справляется ли имеющаяся вентиляция.

Для пассивных серверных карт вроде Tesla V100, у которых нет собственных вентиляторов, при установке вне штатного окружения дата-центра почти всегда нужен отдельный кожух с турбиной для принудительного обдува. Такие решения есть в разделе комплектующих для видеокарт. Без этого пассивная карта уйдёт в троттлинг или перегреется в течение нескольких минут работы под нагрузкой.

Что почти всегда меняем, а что можно оставить

Когда апгрейд не имеет смысла

Иногда затраты на адаптацию старой платформы под современную видеокарту приближаются к стоимости новой сборки с нуля, особенно если приходится менять блок питания, накопитель, охлаждение и добавлять платы расширения одновременно. В таком случае разумнее посчитать общую стоимость апгрейда и сравнить её с готовой новой или б/у конфигурацией под ту же задачу, а не апгрейдить платформу ради самого факта апгрейда. Логику выбора между новым и б/у оборудованием разбирали в статье «Новое или Б/У серверное оборудование: что выбрать», те же критерии, бюджет, скорость получения и критичность задачи, применимы и здесь.

Итог: с чего начать апгрейд

Порядок такой: сначала проверяете число линий PCIe и физический зазор под новую видеокарту в имеющемся корпусе, затем пересчитываете мощность блока питания с учётом добавляемой карты, и только после этого заказываете саму видеокарту. Накопитель и охлаждение стоит проверить отдельно, это недорогие апгрейды, которые часто оказываются узким местом сильнее, чем сама видеокарта.

Консультация по апгрейду от G.Race

Если не уверены, впишется ли конкретная карта в вашу текущую платформу, опишите нам конфигурацию, и мы в G.Race подскажем, что докупить, а что можно оставить, подберём совместимые компоненты под задачу и бюджет, новые или б/у, скомплектуем и протестируем перед отправкой. Доставка в РФ занимает 21-28 дней, гарантия предоставляется, сделка оформляется официально: договор, счёт, акт или накладная. Мы работаем и с физлицами, и с юрлицами, оборудование можно посмотреть вживую в шоуруме, а цены на 20-45% ниже среднерыночных по РФ за счёт прямых поставок.

Видеокарты под апгрейд, новые и б/у, собраны в каталоге видеокарт. Если апгрейд оказывается не выгоднее новой сборки, готовые серверные конфигурации на Tesla V100 можно посмотреть в разделе готовых серверов для ИИ.