Nvidia представила суперкомпьютер Project DIGITS AI для разработчиков настольных ИИ
Компания Nvidia представила суперкомпьютер Project DIGITS AI для пользователей настольных компьютеров на выставке CES 2025. Суперкомпьютер работает на базе чипа GB10 Grace Blackwell Superchip, что позволяет пользователям настольных компьютеров запускать большие языковые модели (LLM) размером до 200 миллиардов параметров на одном устройстве и до 405 миллиардов параметров на двух сетевых устройствах.
Разработка ИИ LLM требует мощных компьютеров для обработки объёма обрабатываемых данных. Одним из показателей мощности LLM является количество параметров, с которыми он разрабатывается. Модели с большим количеством параметров обычно лучше справляются с тестами ИИ на рассуждения и знания.
Большинство разработчиков настольных ИИ используют либо локальные графические процессоры, такие как Nvidia 4090, которые ограничены по производительности и размеру модели, либо подписные облачные сервисы GPU, которые обходятся дороже.
Размер оперативной памяти Nvidia 4090 ограничивает разработку LLM примерно 30 миллиардами параметров. К сожалению, последние модели ИИ с открытым исходным кодом значительно превосходят возможности Nvidia 4090. Например, Grok-1 от xAI – это модель с 314 миллиардами параметров.
Project DIGITS легко справляется с ними в конфигурации из двух блоков с использованием сетевых адаптеров Nvidia ConnectX. Каждый блок содержит 20-ядерный ЦП ARM, графический процессор Nvidia Blackwell, 128 ГБ оперативной памяти DDR5X и 4 ТБ хранилища NVMe.
Каждый графический процессор Blackwell способен на 1 петафлоп вычислительной производительности FP4 AI. Хотя переход с FP16 или FP8 на FP4 снижает точность каждого вычисления, Nvidia приложила немало усилий для обеспечения разработки LLM на FP4 с аналогичной точностью вывода.
Графический процессор также способен обрабатывать данные обучения LLM быстрее, поскольку FP4 использует меньше бит.
Главным преимуществом использования Project DIGITS по сравнению с другими решениями является возможность лёгкого перемещения проектов из локальных систем в облако с использованием той же архитектуры Grace Blackwell GPU, работающей на платформе Nvidia AI Enterprise.
Заинтересованные разработчики ИИ могут зарегистрироваться на сайте Nvidia Project DIGITS, чтобы получить уведомление об ожидаемом запуске в мае 2025 года устройства стоимостью более 3000 долларов.
Новости партнеров
Похожие публикации
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.