NVIDIA представляет новое оборудование для ИИ: H200 NVL PCIe GPU и GB200 NVL4 Superchip

На конференции SC24 Supercomputing Conference компания NVIDIA представила два революционных аппаратных решения для ИИ: графический процессор H200 NVL PCIe и суперчип GB200 NVL4. В этой новости мы затронем немного подробнее все это событие.

Графический процессор H200 NVL PCIe

• Эффективный дизайн:

Предназначенный для сред с ограниченным энергопотреблением, графический процессор H200 NVL PCIe работает с пониженным энергопотреблением до 600 Вт, что меньше, чем 700 Вт у его предшественника H200 SXM. Это делает его подходящим для центров обработки данных с воздушным охлаждением, где мощность часто ограничивается менее чем 20 кВт на стойку.

Используется воздушное охлаждение, что делает его более доступным для стандартных корпоративных систем.

• Производительность и память:

Несмотря на снижение энергопотребления, H200 NVL сохраняет тот же объем памяти HBM и пропускную способность, что и H200 SXM: 141 ГБ памяти и пропускная способность 4,8 ТБ/с. Небольшой компромисс наблюдается в вычислительной производительности: вычислительная мощность ядра INT8 Tensor Core снизилась примерно на 15,6 %. Поддерживаются два или четыре моста NVLink со скоростью 900 ГБ/с на GPU, что расширяет возможности межсоединений.

• Преимущества по сравнению с предшественниками:

Объем памяти в 1,5 раза больше, чем у H100 NVL, а пропускная способность увеличена в 1,2 раза. В 1,7 раза выше производительность в области выводов ИИ и на 30 % выше в приложениях HPC.

Суперчип GB200 NVL4

• Односерверное решение:

Этот суперчип объединяет два процессора Grace с четырьмя графическими процессорами Blackwell, в результате чего образуется огромный пул памяти HBM объемом 1,3 ТБ. По сути, эта конфигурация объединяет два суперчипа GB200 Grace Blackwell в один модуль.

При такой интеграции потребляемая мощность естественным образом возрастает до 5,4 кВт.

• Скачок производительности:

По сравнению с системой GH200 NVL4 предыдущего поколения, в которой было четыре процессора Grace и четыре графических процессора Hopper, GB200 NVL4 может похвастаться:

1. В 2,2 раза выше производительность моделирования.
2. В 1,8 раза выше производительность обучения ИИ.
3. В 1,8 раза более высокая производительность в области выводов ИИ.

• Доступность на рынке:

Выпуск суперчипа GB200 NVL4 запланирован на вторую половину 2025 года, и он обещает переопределить возможности вычислений ИИ в центрах обработки данных.

Последние предложения NVIDIA, графический процессор H200 NVL PCIe и суперчип GB200 NVL4, расширяют границы ИИ и высокопроизводительных вычислений. H200 NVL представляет собой более энергоэффективное решение для предприятий, желающих модернизировать свою инфраструктуру ИИ без существенных изменений в инфраструктуре электропитания. В то же время GB200 NVL4 с улучшенными показателями производительности ориентирован на тех, кому требуется вычислительная мощность высшего уровня в рамках одного сервера. Эти инновации не только отвечают текущим потребностям рынка, но и открывают путь к будущим достижениям в области технологий искусственного интеллекта.