Купить видеокарту или арендовать GPU-сервер: что выгоднее

Вопрос возникает у всех, кто дошёл до регулярной работы с нейросетями: аренда выглядит дорого в пересчёте на месяцы, покупка требует крупной суммы сразу. Спор обычно ведётся на уровне ощущений, хотя считается он за пять минут и упирается в одну переменную.

Разберём, как посчитать точку окупаемости под свой сценарий, какие расходы на владение железом обычно забывают, и в каких случаях каждый вариант объективно выигрывает.

Всё решает загрузка

Главная ошибка в таких расчётах - сравнивать цену покупки с ценой месячной аренды, будто карта будет занята круглосуточно. У подавляющего большинства она занята несколько часов в день.

Формула окупаемости простая:

часов до окупаемости = стоимость железа / цена аренды за час

Возьмём почасовую ставку 149 руб. Если полный комплект с картой обходится примерно в 300 тысяч рублей, то окупаемость наступает через 2000 часов работы. А дальше всё зависит от того, как быстро вы эти часы наберёте:

Вывод, который обычно неприятен любителям своего железа: при загрузке ниже трети суток покупка окупается дольше, чем живёт актуальность самой карты. Поколения GPU меняются каждые пару лет, и трёхлетнее железо стоит уже заметно меньше.

Цены проверяйте на момент чтения: и карты, и ставки аренды меняются. Но структура расчёта остаётся той же.

Что забывают в стоимости владения

Карта - не весь расход. К ней прилагается всё остальное, и обычно этого не считают:

• Остальной компьютер. Процессор, оперативная память под объём видеопамяти, быстрый диск под веса моделей, блок питания с приличным запасом.
• Электричество. Мощная карта под нагрузкой потребляет как несколько системных блоков, и в непрерывной работе это заметная сумма в месяц.
• Охлаждение и шум. В жилой комнате круглосуточная нагрузка ощущается физически.
• Простой. Пока карта не занята, деньги в ней просто лежат.
• Устаревание. Через два-три года железо стоит существенно меньше, а требования моделей выросли.
• Отказы. Сгоревшая карта - ваша проблема и ваши сроки, а не сервисный случай.

При аренде всё это уже в ставке. Именно поэтому разрыв между ценой карты и ценой аренды меньше, чем кажется по чекам магазина.

Когда выгоднее арендовать

Пока требования неизвестны. Самый частый случай. Пока не запустили модель, непонятно, хватит ли памяти, упрётесь ли в диск, нужна ли вторая карта. Проверяется это за несколько часов и стоит соответственно, а не как покупка не той конфигурации.

Нагрузка неровная. Обучение раз в месяц, генерация под проекты, сезонные всплески. Платить за простой между задачами бессмысленно, а почасовая модель ровно для этого и сделана, см. почасовая оплата.

Нужен масштаб на время. Задача требует четырёх карт на выходные. Покупать четыре карты ради этого никто не будет, а арендовать - обычная практика.

Важна доступность сервиса. Если на модели держится продукт, вам нужен дата-центр с резервным питанием и каналами, а не системный блок в офисе.

Расход нужно провести по бухгалтерии. Аренда - понятная ежемесячная услуга с закрывающими документами, см. как оплатить VPS. Покупка железа - это основное средство со своей амортизацией.

Когда выгоднее купить

Карта занята почти постоянно. Круглосуточный инференс на стабильной нагрузке - тот случай, когда покупка окупается за месяцы и дальше работает в плюс.

Требования зафиксированы надолго. Вы точно знаете модель, объём памяти и что это не изменится в ближайший год.

Данные нельзя выпускать наружу. Иногда это требование, которое не обсуждается, и тогда расчёт окупаемости вторичен.

Карта используется не только под нагрузку. Рабочая станция, которая одновременно закрывает и другие задачи, считается иначе.

Здравая практика - комбинировать: постоянную базовую нагрузку держать на своём железе, а пики и эксперименты закрывать арендой. Так делают почти все, кто дорос до регулярной работы с моделями.

Как посчитать под себя

Пять шагов, минут на десять:

1. Определите требования по памяти. От этого зависит и класс карты, и цена. Как считать, разобрано в статье сколько видеопамяти нужно для нейросети. 2. Оцените реальную загрузку в часах, а не в ощущениях. Не "постоянно", а "примерно четыре часа в будни". 3. Посчитайте полную стоимость железа, включая остальной компьютер, а не только карту. 4. Разделите на почасовую ставку и получите часы до окупаемости. 5. Сравните со сроком актуальности конфигурации. Если окупаемость дальше двух лет, вопрос закрыт.

Отдельный аргумент в пользу того, чтобы сначала арендовать: так вы проверите гипотезу на реальном железе, прежде чем принимать решение на сотни тысяч. Ошибиться с конфигурацией при аренде стоит несколько сотен рублей, при покупке - весь бюджет.

Частые ошибки

Сравнивают цену карты с месячной арендой при полной загрузке. Реальная загрузка почти всегда в разы ниже, и весь расчёт разваливается.

Считают только карту. Остальной компьютер, электричество и охлаждение добавляют к сумме заметную долю.

Не учитывают устаревание. Железо, которое окупается четыре года, за это время успевает морально устареть дважды.

Покупают под неизвестные требования. Классический сценарий: купили карту, а модель в память не помещается.

Держат дорогое железо простаивающим ради принципа. Собственная карта, занятая два часа в день, - самая дорогая форма вычислений из возможных.

Частые вопросы

Что дешевле: купить видеокарту или арендовать GPU-сервер? Зависит только от загрузки. При круглосуточной работе покупка окупается за несколько месяцев, при загрузке в несколько часов в день аренда выгоднее на всём горизонте актуальности карты.

Как посчитать окупаемость? Разделите полную стоимость железа на почасовую ставку аренды и получите число часов. Затем прикиньте, за сколько месяцев вы эти часы наберёте при своей реальной загрузке.

Что входит в стоимость аренды? Карта вместе с сервером, каналом, электричеством, охлаждением и обслуживанием в дата-центре. При покупке всё это отдельные статьи расходов.

Выгодно ли арендовать на постоянную работу? При круглосуточной нагрузке помесячный тариф обычно дешевле суммы почасовых за тот же период, поэтому для постоянной работы берут месяц, а не часы.

Можно ли сначала попробовать, а потом решить? Это и есть самый разумный порядок. Несколько часов аренды дают точные требования по памяти и производительности, после чего решение о покупке принимается на фактах.

А если данные нельзя отдавать наружу? Тогда вопрос не в деньгах. Но промежуточный вариант существует: разместить своё оборудование в дата-центре, оставив железо в собственности.

Нужно проверить задачу на реальной карте? GPU-серверы с RTX 4090 на 48 ГБ - от одной до четырёх карт, почасовая оплата от 149 руб, помесячно от 86 100 руб. Полный root-доступ и свой стек CUDA и PyTorch.