Сколько стоит GPU-сервер: из чего складывается цена

Разброс цен на серверы с видеокартой сбивает с толку: одна и та же карта в разных тарифах стоит по-разному, почасовая ставка кажется низкой, а месячный счёт выходит внушительным. Разобраться нетрудно, если понимать, из каких частей складывается цена и какая из них в вашем случае определяющая.

Разберём структуру стоимости, посчитаем, при какой загрузке выгоднее почасовая оплата, а при какой месячная, и разберём, на чём можно сэкономить без потери в скорости работы.

Из чего складывается цена

Видеокарта. Основная часть стоимости, и она же определяет, какая задача вообще запустится. Считается по объёму видеопамяти и числу карт: две карты стоят примерно вдвое дороже одной.

Процессор и оперативная память. Идут комплектом с картой, но в разных тарифах их количество отличается. Карта одна и та же, а вычислительная обвязка разная - отсюда разница в цене между тарифами с одинаковой картой.

Диск. Модели весят десятки гигабайт, поэтому под них дают заметный объём NVMe. Чем больше моделей вы держите, тем выше требования.

Канал. Обычно входит в тариф и на цену почти не влияет, если вы не гоняете терабайты.

Практический вывод: при выборе между тарифами с одинаковой картой вы платите за память и диск. Если задача упирается в видеопамять, а не в подготовку данных, младший тариф справится не хуже старшего.

Часы или месяц: где точка перехода

Здесь считается всё однозначно, и это главный способ не переплатить.

Возьмём типовые цифры: почасовая ставка 149 руб и месячный тариф 86 100 руб за ту же конфигурацию. Делим одно на другое:

86 100 / 149 = около 578 часов

В месяце примерно 720 часов. Значит месячный тариф выгоден, если сервер занят больше 578 часов, то есть примерно 24 дня из 30. Всё, что меньше, дешевле брать по часам.

Отсюда самый частый способ переплатить: взять месячный тариф под задачу, которая идёт сессиями. Обучение и генерация редко занимают карту непрерывно, и оплаченное время просто сгорает. Общая логика почасовой модели разобрана в статье почасовая оплата VPS.

Обратная ошибка тоже встречается: держать круглосуточный сервис на почасовой оплате. На постоянной загрузке это дороже месячного тарифа примерно на четверть.

На чём можно сэкономить

Выбрать модель поменьше. Самая недооценённая статья экономии. Хорошо подобранная модель на 7 миллиардов параметров часто решает задачу не хуже крупной, а требует вдвое меньше памяти и работает быстрее. Как считать требования - в статье сколько видеопамяти нужно для нейросети.

Сжать модель. Квантизация уменьшает её вдвое или вчетверо, позволяя уложиться в младший тариф. На многих задачах потери качества незаметны.

Не платить за простой. Сервер под сессию поднимается и удаляется. Главное - забрать результаты до удаления, см. как передать файлы на сервер.

Отделить подготовку от вычислений. Разметка данных, сборка датасета и отсмотр результатов не требуют карты. Эту часть делают на обычном VPS, а дорогую машину занимают только на время расчёта.

Взять скидку за срок. Если загрузка постоянная и понятная, оплата на несколько месяцев вперёд обычно дешевле помесячной.

На чём экономить не стоит

На объёме видеопамяти. Сэкономленные деньги не помогут, если модель не запустится. Память выбирают по задаче, а не по бюджету.

На диске. Кончившееся место останавливает работу посреди эксперимента, а перенос на больший тариф стоит времени.

На оперативной памяти. Слишком скромный объём превращает загрузку модели в многоминутное ожидание при каждом старте.

На проверке гипотезы. Несколько часов аренды перед принятием решения о покупке или о длительном тарифе окупаются всегда.

Как посчитать под себя

1. Определите требования по памяти под конкретную модель. 2. Возьмите карту на пару часов и замерьте реальную скорость на своих данных. 3. Посчитайте, сколько часов в месяц карта будет реально занята. 4. Сравните с ценой месячного тарифа, разделив её на почасовую ставку. 5. Заложите несколько прогонов: первый эксперимент почти всегда выявляет проблемы.

Такой расчёт занимает вечер и обычно экономит заметно больше. Сравнение аренды с покупкой собственной карты, включая расчёт окупаемости по загрузке, разобрано отдельно в статье купить видеокарту или арендовать GPU.

Частые ошибки

Сравнивают тарифы только по цене. Одинаковая карта в разных тарифах идёт с разной памятью и диском, и дешёвый вариант может не подойти по обвязке.

Берут месяц под задачу на несколько дней. Самая частая переплата: оплаченное время сгорает.

Держат постоянный сервис на почасовой оплате. Обратная ошибка, дороже примерно на четверть.

Считают только цену карты. Оперативная память и диск в дорогих тарифах занимают заметную долю стоимости.

Забывают удалить сервер после задачи. Тарификация продолжается, пока машина существует.

Экономят на памяти и не могут запустить модель. Итог - потраченное время и повторная аренда более дорогой конфигурации.

Частые вопросы

Сколько стоит GPU-сервер? Зависит от числа карт, объёма памяти и диска. Ориентир для одной современной карты - от полутора сотен рублей в час или несколько десятков тысяч в месяц при постоянной работе.

Что выгоднее: часы или месяц? Разделите месячную цену на почасовую ставку и получите число часов. Если карта занята больше, выгоднее месяц. При типовых ставках граница проходит примерно на 24 днях из 30.

Почему тарифы с одной и той же картой стоят по-разному? Отличаются процессором, объёмом оперативной памяти и диска. Если задача упирается только в видеопамять, младший тариф справится не хуже.

Как сэкономить, не потеряв в скорости? Взять модель поменьше или сжать её квантизацией, не платить за простой между сессиями и вынести подготовку данных на обычный сервер без карты.

Входит ли трафик в стоимость? Как правило да, и на общую цену он влияет слабо, если вы не передаёте очень большие объёмы.

Можно ли взять сервер на пару часов? Да, это основной сценарий для экспериментов. Сервер поднимается под задачу и удаляется после неё.

Дешевле ли купить свою карту? Только при высокой загрузке. При работе несколько часов в день карта устаревает раньше, чем окупается.

Нужно посчитать под свою задачу? Серверы с RTX 4090 на 48 ГБ - почасовая оплата от 149 руб или помесячно со скидкой за длительный срок, от одной до четырёх карт. Возьмите на пару часов и замерьте скорость на своих данных.