Эмердженция программы искусственного интеллекта DeepSeek R1 в январе вызвала распродажу на фондовом рынке. Спустя семь недель гигант в производстве чипов Nvidia, доминирующий в ИИ-обработке, стремится занять центральное место в экономике более дешевого ИИ, который представляет собой DeepSeek. Во вторник в SAP Center, Сан-Хосе, Калифорния, соучредитель и генеральный директор Nvidia Дженсен Хуанг обсудил, как чипы Blackwell компании могут резко ускорить работу DeepSeek R1. Также: Google утверждает, что Gemma 3 достигает 98% точности DeepSeek, используя только один GPU. Nvidia утверждает, что ее GPU-чипы могут обработать поток данных в 30 раз больше, чем обычно делает DeepSeek R1 в дата-центре, измеряемый количеством токенов в секунду, используя новое открытое ПО под названием Nvidia Dynamo.
ПО Nvidia Dynamo
«Dynamo может захватить эту выгоду и предоставить в 30 раз больше производительности в том же количестве GPU в той же архитектуре для модельных систем, как DeepSeek», — сказал Йен Бак, глава гипермасштабируемых и высокопроизводительных вычислений Nvidia, в брифинге для СМИ перед основным докладом Хуанга на конференции GTC компании. ПО Dynamo, доступное сегодня на GitHub, распределяет работу по распознаванию на до 1000 чипов Nvidia GPU.
Больше работы может быть выполнено за каждую секунду машинного времени за счет разбиения работы на параллельные задачи. Результат: для задачи по распознаванию, оцененной в $1 за миллион токенов, больше токенов может быть обработано каждую секунду, увеличивая доходы за секунду для услуг, предоставляющих GPU. Бак сказал, что поставщики услуг могут затем решить обработать больше запросов клиентов на DeepSeek или посвятить больше вычислительных мощностей одному пользователю, чтобы взимать плату за «премиальную» услугу.
Премиальные услуги
«AI-заводы могут предложить более высокую премиальную услугу за премиальную цену за миллион токенов», — сказал Бак, «и также увеличить общий объем токенов их всего завода.» Термин «AI-завод» введен Nvidia для обозначения масштабных услуг, которые выполняют огромные объемы ИИ-работы, используя чипы, ПО и оборудование на стойках компании.
Перспектива использования большего количества чипов для увеличения пропускной способности (и соответственно бизнеса) для распознавания ИИ является ответом Nvidia на опасения инвесторов, что будет использовано меньше вычислений в целом, потому что DeepSeek может сократить количество обработок, необходимых для каждого запроса. Используя Dynamo с Blackwell, текущей моделью флагманского AI GPU Nvidia, ПО Dynamo может обеспечить, чтобы такие AI-центры обработки данных производили в 50 раз больше доходов, чем с использованием старой модели Hopper, сказал Бак.
Другие объявления на GTC
Маленький персональный компьютер для разработчиков ИИ, представленный на CES в январе как Project Digits, получил официальное название DGX Spark. Компьютер использует версию комбинации Grace-Blackwell, называемую GB10. Nvidia принимает заказы на Spark, начиная с сегодняшнего дня. Новая версия настольного компьютера DGX «Station», впервые представленная в 2017 году, была анонсирована.
Новая модель использует Grace-Blackwell Ultra и будет оснащена 784 гигабайтами ОЗУ. Это существенное изменение по сравнению с оригинальной DGX Station, которая полагалась на процессоры Intel в качестве основного хост-процессора. Компьютер будет производиться Asus, BOXX, Dell, HP, Lambda и Supermicro и будет доступен «позже в этом году.»
Улучшенные сетевые коммутаторы
Как и ожидалось, Nvidia впервые представила версию своего «Spectrum-X» сетевого коммутатора, которая размещает оптический трансивер внутри одного корпуса с коммутаторным чипом, вместо использования стандартных внешних трансиверов. Nvidia заявляет, что коммутаторы, обладатели портовых скоростей 200- или 800 Gb/сек, улучшают существующие коммутаторы на «3,5 раза большую энергетическую эффективность, 63 раза большую целостность сигнала, 10 раз лучшее сетевое разнообразие в масштабе и 1,3 раза более быстрое развертывание.»
