Фильтр по тематике
Графический процессор Blackwell от NVIDIA успешно зарекомендовал себя в последних тестах MLPerf Inference v4.1, установив новый стандарт производительности генеративного искусственного интеллекта. Платформа Blackwell обеспечила в 4 раза большую производительность на Llama 2 70B large language model (LLM) по сравнению с ее предшественником, графическим процессором NVIDIA H100 Tensor Core. Этот прорыв подчеркивает доминирующее положение NVIDIA в области технологий искусственного интеллекта и знаменует собой важную веху в развитии инноваций в центрах обработки данных.
Поскольку предприятия быстро внедряют генеративный искусственный интеллект, спрос на надежную инфраструктуру центров обработки данных растет. Обучение больших языковых моделей – сложная задача, но предоставление услуг на базе LLM в режиме реального времени – задача еще более сложная. Результаты NVIDIA в тестах MLPerf Inference версии 4.1 свидетельствуют о ее лидерстве в преодолении этих проблем.
Дебютный графический процессор Blackwell продемонстрировал исключительную производительность, особенно в рабочей нагрузке Llama 2 70B. Его успех обусловлен движком Transformer второго поколения и тензорными ядрами FP4, которые значительно повышают способность платформы быстро и эффективно справляться со сложными задачами ИИ.
