Сервер с видеокартой: зачем нужен и чем отличается от обычного

Обычный сервер считает процессором, и для сайта, базы или бота этого достаточно. Но есть класс задач, где процессор проигрывает видеокарте не в проценты, а в десятки раз: нейросети, генерация изображений, рендеринг, обработка видео. Там, где обычный сервер потратит сутки, машина с видеокартой справится за час.

Разберём, чем такой сервер отличается технически, какие задачи без него действительно не решаются, а какие только кажутся требующими, сколько видеопамяти нужно и почему такие серверы чаще арендуют на часы, чем берут в постоянное пользование.

В чём разница

Процессор рассчитан на последовательные вычисления: он быстро выполняет сложные операции одну за другой. У него несколько десятков мощных ядер, и каждое умеет почти всё.

Видеокарта устроена наоборот: тысячи простых ядер, каждое умеет немного, но все работают одновременно. Это бесполезно для запуска сайта и незаменимо там, где одну и ту же операцию надо повторить миллионы раз над разными данными.

Обучение нейросети, генерация картинки, просчёт кадра - это именно такие задачи. Отсюда разница в десятки раз, а не в проценты.

Второе принципиальное отличие - своя память. У видеокарты она отдельная от оперативной, и именно её объём определяет, какая задача вообще запустится. Модель, которая не помещается в видеопамять, не запустится ни на какой карте, сколько бы оперативной памяти ни стояло в сервере.

Каким задачам видеокарта действительно нужна

• Запуск и обучение нейросетей. Языковые модели, распознавание, классификация. Без карты инференс идёт в разы медленнее, а обучение практически невозможно, см. запуск LLM на своём сервере.
• Генерация изображений и видео. На процессоре одна картинка займёт минуты вместо секунд, см. Stable Diffusion на своём сервере.
• Рендеринг трёхмерной графики. Просчёт сцен и анимации - классическая параллельная задача.
• Обработка видео. Перекодирование потоков, особенно когда их несколько одновременно.
• Научные и инженерные расчёты. Моделирование, симуляции, обработка больших массивов данных.

Каким не нужна, хотя кажется

Здесь чаще всего переплачивают.

Сайты, магазины, CMS. Даже нагруженные. Узким местом там оказываются база данных и диск, а не вычисления. Обычный VPS справится лучше и дешевле.

Базы данных. Им нужна память и быстрый диск, видеокарта не ускорит ни один запрос, см. база данных на своём сервере.

Боты и API-сервисы. Если бот не запускает нейросеть локально, а обращается к чужому API, карта простаивает.

1С и корпоративные системы. Упираются в частоту процессора и скорость диска.

Майнинг. Отдельная история: провайдеры это обычно запрещают договором, и такие задачи стоит обсуждать заранее, а не выяснять постфактум.

Простое правило: если задача не про параллельные вычисления над большими массивами данных, видеокарта будет простаивать, а платить за неё придётся.

Сколько видеопамяти нужно

Это главный параметр при выборе, важнее модели карты.

• 8-12 ГБ - генерация изображений базовыми моделями, небольшие задачи компьютерного зрения.
• 24 ГБ - комфортная генерация в высоком разрешении, языковые модели среднего размера в сжатом виде.
• 48 ГБ - языковые модели на 7-13 миллиардов параметров в хорошей точности, дообучение, параллельные запросы.
• Несколько карт - обучение с нуля, крупные модели, тяжёлый рендеринг.

Точный расчёт под конкретную модель, включая формулу и таблицу по размерам, разобран в статье сколько видеопамяти нужно для нейросети.

Второй по важности параметр после памяти - диск. Модели весят десятки гигабайт и читаются при каждом запуске, поэтому под них берут быстрый NVMe и с запасом по объёму.

Своя карта или аренда

Видеокарты стоят дорого и устаревают за пару лет, поэтому вопрос возникает почти сразу.

Всё решает загрузка. Карта, занятая круглосуточно, окупается за месяцы. Карта, работающая пару часов в день, не окупится за срок своей актуальности - и это самый частый сценарий, потому что генерация и обучение идут сессиями, а не непрерывно.

Отсюда популярность почасовой аренды: сервер живёт ровно столько, сколько идёт задача. Подробный расчёт точки окупаемости с таблицей по загрузке разобран в статье купить видеокарту или арендовать GPU.

Отдельный аргумент за аренду на старте: пока задача не запущена, требования неизвестны. Сколько нужно памяти, упрётесь ли в диск, хватит ли одной карты - выясняется за несколько часов работы. Ошибиться при аренде стоит несколько сотен рублей, при покупке - весь бюджет.

Что ещё важно кроме карты

Сервер с видеокартой - это не только карта.

• Оперативная память. Модель проходит через неё при загрузке, поэтому её берут не меньше объёма видеопамяти.
• Процессор. Готовит данные и подаёт их карте. Слабый процессор способен стать узким местом, особенно при обработке видео.
• Диск. Объём под модели и скорость чтения.
• Root-доступ. Версии драйверов и библиотек меняются часто, ставить окружение придётся своё, см. что такое root-доступ.

Частые ошибки

Берут карту под задачу, которой она не нужна. Сайт и база от видеокарты не ускорятся ни на процент.

Выбирают по модели карты, а не по объёму памяти. Модель, которая не влезла в память, не запустится независимо от того, насколько карта быстрая.

Экономят на диске. Несколько моделей занимают сотни гигабайт, и место кончается посреди работы.

Покупают до эксперимента. Требования выясняются за несколько часов аренды, а не в расчётах на бумаге.

Держат карту включённой между задачами. Простаивающая карта - самая дорогая форма вычислений.

Не уточняют условия по нестандартным задачам. Часть нагрузок провайдеры ограничивают договором, и выяснять это лучше до оплаты.

Частые вопросы

Чем сервер с видеокартой отличается от обычного? У него есть отдельный процессор с тысячами простых ядер и собственная память. Это даёт выигрыш в десятки раз на параллельных задачах вроде нейросетей и рендеринга и ничего не даёт сайтам и базам.

Каким задачам нужна видеокарта? Запуску и обучению нейросетей, генерации изображений и видео, рендерингу трёхмерной графики, перекодированию видео, научным расчётам.

Ускорит ли видеокарта сайт или базу данных? Нет. Там узкое место в диске и памяти, а вычисления последовательные. Обычный сервер справится лучше и дешевле.

Сколько видеопамяти нужно? Зависит от задачи: 8-12 ГБ для базовой генерации изображений, 24 ГБ для высокого разрешения, 48 ГБ для языковых моделей в хорошей точности и дообучения.

Выгоднее арендовать или купить? Решает загрузка. При круглосуточной работе покупка окупается за месяцы, при нескольких часах в день выгоднее аренда, потому что карта успевает устареть раньше, чем окупится.

Что важнее: быстрая карта или больше памяти? Сначала память: она определяет, запустится ли задача вообще. Скорость влияет только на то, сколько времени это займёт.

Можно ли взять сервер с видеокартой на несколько часов? Да, при почасовой оплате это обычный сценарий. Генерация и обучение идут сессиями, и платить за простой между ними не нужно.

Нужен сервер с видеокартой под задачу? GPU-серверы с RTX 4090 на 48 ГБ - от одной до четырёх карт, почасовая оплата от 149 руб, NVMe под модели. Полный root-доступ: ставите свой стек драйверов и библиотек.