На выставке CES компания NVIDIA представила свой новый продукт — Project Digits, персональный суперкомпьютер для искусственного интеллекта. Сердце системы — это суперчип GB10 Grace Blackwell, который обладает достаточной вычислительной мощностью для запуска сложных моделей ИИ и достаточно компактен, чтобы удобно разместиться на рабочем столе и питаться от обычной розетки. Эта настольная система способна обрабатывать модели ИИ с до 200 миллиардов параметров, а стартовая цена составляет 3000 долларов.
Генеральный директор NVIDIA, Джинсен Хуанг, отметил, что искусственный интеллект станет основным направлением во всех сферах деятельности, и Project Digits обеспечит миллионы разработчиков инструментами для работы с ИИ. Он подчеркнул, что размещение суперкомпьютера для ИИ на рабочих местах специалистов, исследователей и студентов откроет двери для эпохи ИИ.
Каждый комплект Project Digits оснащен 128ГБ унифицированной когерентной памяти (что существенно больше, чем у обычного ноутбука — от 16 до 32ГБ оперативной памяти) и до 4ТБ накопителя NVMe. Для более ресурсоемких задач две системы Project Digits могут объединяться для обработки моделей до 405 миллиардов параметров (лучшая модель Meta Lama 3.1 содержит 405 миллиардов параметров).
Проект Digits основан на чипе GB10, который обеспечивает производительность ИИ до 1 петафлопа (1 триллион операций в секунду) с точностью FP4, что ускоряет вычисления посредством приближённых значений. Система также использует новейшие ядра CUDA и пять поколений ядер Tensor от NVIDIA, соединённые через интерфейс NVLink-C2C с процессором Grace, который состоит из 20 энергоэффективных ядер на базе ARM. Компания MediaTek, известная своими проектами на базе ARM, участвовала в разработке GB10, помогая оптимизировать его производительность и энергопотребление.
Project Digits по размерам не больше мини пк
Пользователи получают доступ к библиотеке программного обеспечения для ИИ от NVIDIA, включая средства разработки, оркестрации и предварительно обученные модели, доступные через каталог NVIDIA NGC. Система работает под управлением операционной системы NVIDIA DGX OS на базе Linux и поддерживает популярные фреймворки, такие как PyTorch, Python и Jupyter Notebooks. Разработчикам предоставляется возможность настраивать модели с помощью платформы NVIDIA NeMo и ускорять анализ данных с использованием библиотек NVIDIA RAPIDS.
Пользователи могут разрабатывать и тестировать свои модели ИИ локально на Project Digits, а затем разворачивать их в облаке или на инфраструктурных центрах обработки данных, используя архитектуру Grace Blackwell и ПО от NVIDIA AI Enterprise.
NVIDIA также предложила аналогичное решение для энтузиастов и стартапов — Jetson Orin Nano Super за $249, который обрабатывает модели до 8 миллиардов параметров.