Графические серверы с NVIDIA H200
Все графические серверы с NVIDIA H200 построены на базе двух центральных процессоров Intel Xeon Gold 5-го поколения — 6548Y+, с тактовой частотой All Core Boost 3,5 ГГц и максимальной тактовой частотой 4,1 ГГц.
Каждый процессор содержит два блока Intel® AVX-512 и поддерживает функции Intel® AVX-512 Deep Learning Boost. Инструкции данного набора многократно ускоряют операции умножения и сложения с пониженной точностью, которые используются во многих внутренних циклах алгоритма глубокого обучения.
Каждый сервер имеет до 8192 ГБ оперативной памяти DDR5 ECC Reg 5600 МГц. Локальное хранилище общей емкостью 3200 ГБ, организовано на твердотельных накопителях Samsung, разработанных специально для дата-центров.
GPU NVIDIA H200
Ускорьте свой переход в новую эпоху работы с искусственным интеллектом благодаря новейшим чипам H200 с тензорными ядрами четвертого поколения.
Графические процессоры H200, оснащенные тензорными ядрами четвертого поколения и Transformer Engine с точностью FP8, ускоряют инференс и обучение до 2 раз по сравнению с H100.
Тензорные ядра четвертого поколения ускоряют все типы точности, включая FP64, TF32, FP32, FP16 и INT8, а Transformer Engine использует FP8 и FP16 вместе, чтобы сократить использование памяти и повысить производительность, сохраняя при этом точность для больших языковых моделей.
| Объем видеопамяти |
141 ГБ |
| Тип видеопамяти |
HBM3e |
| Пропускная способность памяти |
4.8 ТБ/с |
| Декодеры |
7 NVDEC, 7 JPEG |
| Поддержка драйвером |
R565 или новее |
Тесты производительности GPU
Результаты тестов производительности в виртуальной среде для 1 карты NVIDIA H200.
-
Matrix multiply example
GFlop/s
-
Hashcat bcrypt
H/s
Базовые конфигурации с NVIDIA H200 141 GB
↔
Индивидуальная конфигурация
Конфигурации NVIDIA H200 141 GB с NVLink
Представляют собой высший уровень производительности для задач, где критичны не только вычислительная мощность, но и объем памяти. В отличие от стандартных одиночных H200, такие системы объединяют две (или более) GPU через NVLink — высокоскоростной интерконнект с пропускной способностью до 900 ГБ/с на пару GPU. Это в разы превосходит традиционную связь через PCIe и позволяет GPU обмениваться данными почти так же быстро, как если бы они использовали общую память.
Такие конфигурации особенно эффективны в сценариях, где модель не помещается в память одного GPU, а распределение по нескольким узлам через сеть вызывает узкие места. Благодаря NVLink, градиенты, активации и веса передаются между чипами мгновенно — что критично для масштабного обучения, fine-tuning крупных foundation models и сложных multimodal-задач.
В сочетании с архитектурой Hopper, тензорными ядрами четвертого поколения, поддержкой FP8 и рекордной пропускной способностью HBM3e-памяти (4,8 ТБ/с), конфигурации с NVLink превращают сервер в полноценную ИИ-фабрику — готовую к работе с самыми требовательными современным моделями.
Если вам нужна максимальная производительность без покупки железа, вы можете воспользоваться облачным сервером с GPU immers.cloud. У нас доступна аренда сервера с мощными видеокартами, включая не только H200 с NVLink, но и другие топовые решения.
↔
Индивидуальная конфигурация
100% производительности
Мы закрепляем физические ядра процессора и графические адаптеры только за одним клиентом.
Это значит, что:
- Ядра процессора будут доступны на 100% процессорного времени;
- Выбранный графический ускоритель будет зарезервирован только за вашим сервером;
- Вы получите высокую производительность при работе с системой хранения.
Тестирование виртуальных серверов с локальными загрузочными дисками показывает до 75 000 IOPS1 на случайные операции чтения и до 20 000 IOPS на случайные операции записи.
Тестирование виртуальных серверов с сетевыми загрузочными дисками показывает до 70 000 IOPS1 на случайные операции чтения и до 60 000 IOPS на случайные операции записи.
Иммерсионное охлаждение обеспечивает минимальную температуру и гарантирует стабильность и более высокие тактовые частоты для каждого ядра центрального процессора или графического чипа.
Готовые образы с нужным ПО
Создавайте виртуальные серверы на базе любой из предустановленных операционных систем с необходимым набором.
Посмотрите все предустановленные образы
в Маркетплейсе.
Оригинальный API OpenStack
Для разработчиков и системных администраторов доступно управление облаком с помощью полноценного API OpenStack.
Пример аутентификации ninja_user:
$ curl -g -i -X POST https://api.immers.cloud:5000/v3/auth/tokens \
-H "Accept: application/json" \
-H "Content-Type: application/json" \
-H "User-Agent: YOUR-USER-AGENT" \
-d '{"auth": {"identity": {"methods": ["password"], "password": {"user": { "name": "ninja_user", "password": "ninja_password", "domain": {"id": "default"}}}}, "scope": {"project": {"name": "ninja_user", "domain": {"id": "default"}}}}}'
Пример создания ninja_vm:
$ curl -g -i -X POST https://api.immers.cloud:8774/v2.1/servers \
-H "Accept: application/json" \
-H "Content-Type: application/json" \
-H "User-Agent: YOUR-USER-AGENT" \
-H "X-Auth-Token: YOUR-API-TOKEN" \
-d '{"server": {"name": "ninja_vm", "imageRef": "8b85e210-d2c8-490a-a0ba-dc17183c0223", "key_name": "mykey01", "flavorRef": "8f9a148d-b258-42f7-bcc2-32581d86e1f1", "max_count": 1, "min_count": 1, "networks": [{"uuid": "cc5f6f4a-2c44-44a4-af9a-f8534e34d2b7"}]}}'
Пример выключения ninja_vm:
$ curl -g -i -X POST https://api.immers.cloud:8774/v2.1/servers/{server_id}/action \
-H "Accept: application/json" \
-H "Content-Type: application/json" \
-H "User-Agent: YOUR-USER-AGENT" \
-H "X-Auth-Token: YOUR-API-TOKEN" \
-d '{"os-stop" : null}'
Пример включения ninja_vm:
$ curl -g -i -X POST https://api.immers.cloud:8774/v2.1/servers/{server_id}/action \
-H "Accept: application/json" \
-H "Content-Type: application/json" \
-H "User-Agent: YOUR-USER-AGENT" \
-H "X-Auth-Token: YOUR-API-TOKEN" \
-d '{"os-start" : null}'
Пример остановки и освобождения ресурсов ninja_vm (остановка тарификации):
$ curl -g -i -X POST https://api.immers.cloud:8774/v2.1/servers/{server_id}/action \
-H "Accept: application/json" \
-H "Content-Type: application/json" \
-H "User-Agent: YOUR-USER-AGENT" \
-H "X-Auth-Token: YOUR-API-TOKEN" \
-d '{"shelve" : null}'
Пример удаления ninja_vm:
$ curl -g -i -X DELETE https://api.immers.cloud:8774/v2.1/servers/{server_id} \
-H "User-Agent: YOUR-USER-AGENT" \
-H "X-Auth-Token: YOUR-API-TOKEN"
Вся документация
Подпишитесь на нашу рассылку
Получайте уведомления о новых акциях и спецпредложениях на электронную почту.
