В сфере Data Science мощное железо с серверным уровнем производительности – необходимый инструмент. Да и в перспективе собственные мощности обходятся куда дешевле, особенно учитывая необходимость постоянного хранения датасетов.

Выбор комплектующих

Большая часть фреймворков адаптируется под карты NVIDIA с их замечательными ядрами CUDA, которые пока никто заменить не смог. Что касается процессора, то выбор тут очевиден – Intel с максимальным количеством ядер и возможностью разгона. Так можно получить хорошую производительность в однопоточных и многопоточных вычислениях. К материнской плате также есть особые требования – это, желательно, 4 канала памяти (чтобы раскрыть потенциал процессора) и хорошее охлаждение на главных узлах питания.

Излишняя мощность не будет вам обузой. Вы всегда сможете предоставлять услуги для облачных вычислений другим специалистам, которые работают с машинным обучением. Все свободное время и даже в ваш отпуск компьютер будет приносить деньги. Хорошая система водяного охлаждения сделает работу бесшумной и позволит не прерывать процесс обучения 24/7.

Видеокарта

Производительность карты при машинном обучении напрямую зависит от скорости и объема памяти, а также от количества ядер CUDA. Такие платформы, как PyTorch, MXNet, TensorFlow, а также основанные на их принципах гибриды используют библиотеки для GPU ускорения, например, cuDNN, DALI и NCCL. Это помогает ускорить обучение с использованием одного или нескольких GPU.
В таблице – характеристики всех топовых решений от NVIDIA.

Ядра CUDAЯдра NVIDIA TensorЯдра NVIDIA RTКоличество памятиШирина шины памятиПропускная способность памятиПроизводительность FP32
Quadro GV100 5120 640 нет 32GB HBM2 4096 бит 870,4 ГБ/с 14.8 TFLOPS
Quadro RTX 8000 4608 576 72 48GB GDDR6 с ECC 384 бит 624 ГБ/с 16.3 TFLOPS
Quadro RTX 6000 4608 576 72 24GB GDDR6 384 бит 624 ГБ/с 16.3 TFLOPS
Quadro RTX 5000 3072 384 48 16GB GDDR6 256 бит 448 ГБ/с 11.2 TFLOPS
Quadro RTX 4000 2304 288 36 8GB GDDR6 256 бит 416 ГБ/с 7.1 TFLOPS
NVIDIA TITAN RTX 4608 576 72 24GB GDDR6 384 бит 672 ГБ/с 16.3 TFLOPS
RTX 2080 Ti 4352 544 68 11GB GDDR6 352 бит 616 ГБ/с 13.5 TFLOPS
RTX 2080 SUPER 3072 384 48 8GB GDDR6 256 бит 496 ГБ/с 11.2 TFLOPS
nvidia gv100

Quadro GV100

Это самый мощный графический ускоритель на данный момент, она разработана именно для обслуживания и обучения нейронных сетей. Главным преимуществом является память, ее объем и скорость доступа. Из недостатков можно выделить цену и отсутствие RT ядер.

nvidia quadro rtx 8000

Quadro RTX 8000

Топовое решение для инженеров, огромное количество памяти и прекрасная производительность. Недостаток – цена, не совсем оправданная для Data Science, так как вы переплатите за целый мешок технологий, созданных специально для работы с трехмерной графикой и инженерными программами.

nvidia quadro rtx 6000

Quadro RTX 6000, 5000, 4000

Три инженерных видеокарты с относительно высоким уровнем производительности. Цена все так же высокая. По сравнению с игровыми решениями, конечно.

nvidia titan rtx

TITAN RTX

Плавно подходим к оптимальным решениям для машинного обучения не инженерной направленности. По производительности эта карта сравнима с Quadro RTX 6000, но стоит в несколько раз дешевле. Причем использование двух и более TITAN RTX даст вам больше производительности, чем одна Quadro RTX 6000. Недостаток – отсутствие полноценной поддержки профессиональных драйверов и ПО от NVIDIA для инженерии и работы в трехмерной среде.

nvidia geforce rtx 2080 ti

RTX 2080 Ti и 2080 SUPER

Топовые игровые видеокарты, которые оборудованы теми же аппаратными решениями, что и их профессиональные «коллеги», но драйвера больше заточены под игры. Хотя их совместимость с фреймворками не ставится под сомнение. Вывод: две RTX 2080 Ti мощнее, чем одна TITAN RTX, хотя стоимость такого решения также будет выше примерно на 1000$.

Процессор

Для машинного обучения необходимо много оперативной памяти. Чтобы ускорить доступ к ней, необходим процессор, который поддерживает четыре канала, а не 2, как в обычных пользовательских решениях. На данный момент среди не серверных решений на рынке есть прекрасный вариант – Intel Core i9. Много ядер, многопоточность, поддержка 4 каналов памяти, хорошая частота и возможность разгона.

Выбор конкретной модели – вопрос бюджета, чем больше ядер и частоты – тем лучше. Также стоит отметить, что желательно иметь возможность разгона для кратковременного увеличения мощности.

Оперативная память

Лучше всего использовать высокочастотную память DDR4, она не такая дорогая и даст вам хороший прирост мощности. 4 канала на процессоре – значит, 8 слотов на материнской плате. Минимум, который стоит ставить на компьютер для машинного обучения, – это 32 Gb, но чем больше – тем лучше. Лучше занять все слоты, чтобы обеспечить каждому ядру процессора максимально быстрый доступ к памяти. Максимально возможный объем памяти для i9 – 256 Gb.

SSD

Быстрый доступ к датасетам нужно обеспечить, чтобы работа накопителя не замедляла остальные элементы компьютера. Новые SSD m.2 дают возможность доступа к данным на скорости до 3,5 Gb в секунду. Не обязательно хранить на них всю информацию, можно поставить один SSD и расширить объем памяти дополнительным HDD. Причем необязательно ставить HDD в систему, можно подключить его к локальной сети, снабдив статичным IP адресом, и вы сможете получить к нему доступ с любого устройства, подключенного к интернету.

Решения от HYPERPC

HYPERPC PRO T

HYPERPC PRO T – это серия рабочих станций, основанная на картах NVIDIA TITIAN RTX.

HYPERPC PRO T5 STUDIO – базовая модель линейки. Она работает на базе процессора Intel Core i9-10900X, это 10 ядер и 20 потоков на частоте 3700 МГц в штатном режиме и до 4700 МГц с функцией Turbo Boost. Материнская плата ASUS WS X299 PRO SE имеет 8 слотов памяти, которая работает в четырехканальном режиме. Стандартная сборка оборудована 64 Gb памяти (4х16Gb HyperX Predator RGB DDR4-3200), что позволяет оставить свободным 4 слота под будущий апгрейд. Тут установлено два накопителя – 1TB Samsung 970 EVO Plus и 4TB Seagate BarraCuda, а это быстрый доступ к данным и неограниченное пространство для хранения результатов вашей работы.

HYPERPC PRO T9 STUDIO – флагманская модель серии, оборудованная топовым процессором Intel Core i9-10980XE, который обладает серверным уровнем производительности. 18 ядер и 36 потоков с частотой 3000 МГц на стандартном множителе и до 4800 МГц в режиме Turbo Boost. Отличительная черта данной модели – две установленные карты NVIDIA TITAN RTX, соединенные мостом NV LINK. В этом компьютере максимально возможное количество оперативной памяти – 256 Gb, это 8 плашек по 32 Gb HyperX Fury DDR4-3200.

HYPERPC PRO T5 STUDIO

Цена 567 200 ₽
HYPERPC PRO T9 STUDIO

Цена 1 106 100 ₽

GAMING X

Серия игровых ПК от HYPERPC – это универсальные мощные машины для самых разных задач.

HYPERPC GAMING X9 – одна из топовых моделей игровых компьютеров, которая собрана на базе процессора Intel Core i9-10900X. 10 ядер и 20 потоков с частотой до 5200 МГц в режиме Turbo Boost. За стабильную работу и эффективный отвод тепла отвечает система водяного охлаждения HYPERPC WaterCooling 240 RGB. Видеокарта ASUS GeForce RTX 2080 Ti Strix обеспечивает достаточную производительность при машинном обучении, но если вам ее недостаточно, то замените карту или любой другой компонент через конфигуратор.

HYPERPC GAMING X12 – топовый компьютер игровой серии. Он работает на базе двух видеокарт ASUS GeForce RTX 2080 Ti Strix. Процессор Intel Core i9-10980XE имеет 18 ядер и 36 потоков с тактовой частотой до 4800 МГц в режиме Turbo Boost. Один из лучших компьютеров начального уровня для нейронных сетей, если вам не по карману профессиональные решения.

HYPERPC GAMING X9

Цена 360 300 ₽
HYPERPC GAMING X12

Цена 632 300 ₽
Ваш город
Начните вводить название своего города или выберите из списка ниже.
Москва, Санкт-Петербург, Новосибирск, Екатеринбург, Нижний Новгород, Казань, Челябинск, Омск, Самара, Ростов-на-Дону, Уфа, Красноярск, Краснодар, Пермь, Воронеж, Волгоград