Fplus: наши серверы ИИ приближаются к мировому уровню

Fplus: наши серверы ИИ приближаются к мировому уровню

Текст интервью получен посредством автоматического распознавания речи 
и не подвергался редактированию, в связи с чем возможны ошибки и неточности.

Это стандартная история в системе охлаждения процессора (ЦПУ) с тепловыми трубками и вентилятором. На самом деле, здесь используется наша стандартная материнская плата «Спутник». Она уже около двух лет назад была внесена в реестр. Мы новыми решениями расширяем продуктовую линейку и даем ей новую жизнь. Теперь на данной материнской плате, которая была в серверах общего назначения на третьем поколении, есть и сервер для искусственного интеллекта на 8 карт, до 8 карт ассота. И, как я вам рассказывал, есть различные платформы, материнские платы, в рамках которых развиваются различные продуктовые решения в зависимости от потребностей заказчика. Там сервер общего назначения, сервер для обучения моделей к исполнению, сервер хранения данных.

А у сервера ИИ уже есть какие-то приложения, достойные упоминания, где он работает прямо и приносит пользу?

Он, можно сказать, уникален для данной выставки, потому что его мы первый раз показываем. Применение может быть любое. Почему? Потому что это аналог больших крупных систем, которые сейчас используют для обучения больших моделей, как ведущими, лидерами рынка, такими, как Сбер, Яндекс, так и научными различными институтами, которые в Ломоносове, например, аналогично такое же стоит на ассотах карточку, когда 8 карт стоит, но, увы, пока не нашего отечественного производства. Ну и так в других суперкомпьютерах. Соответственно, это полноценное решение, которое может заменить любой иностранный аналог не только для исполнения моделей, но и для обучения. Так в англицизме для inference и deep learning.

Насколько это масштабируемое решение?

Смотрите, оно масштабируется серверами. Здесь максимально это 8 карточек ассотах. Вы недавно смотрели «Союз». В следующем выйдет «Союз-И», который будет поддерживать 8 ассотах. А следующий будет уже «Протон», о котором мы пока не говорили, но он будет уже поддерживать 10 карточек. А в дальнейшем стойка будет набиваться GPU серверами, серверами искусственного интеллекта. Единственный недостаток – это очень большое энергопотребление.

И энергоотвод, видимо, нужен тоже.

Да, соответственно, это отдельные стойки, отдельный дата-центр с отдельной инфраструктурой для отводов и все остальное, и дополнительное питание, электропитание.

Будет какое-то готовое под ключ решение для дата-центров, да? То есть будет уже готовая стойка, разработанная?

И да, и нет. Мы можем сделать для заказчика стойку, но это будет для заказчика. Отдельно пока запроса в виде стойки или стоек под заказчика пока такого не поступало. Чаще всего заказчики потребляют просто вот такими серверами и считают их количественными выражениями. Я видел проекты на сотни таких решений. Это решение аналог SGX у NVIDIA, полноценно, целиком. И здесь сервер будет весь занесен в реестр. Единственное, мы пока не можем отказаться от GPU-карточек. Вот по соседству представлен «Восход» с карточками ТЦ-мода, и вы его можете здесь наблюдать.

Но пока они лучше по энергоэффективности, но с точки зрения производительности пока им есть место для роста. Назовем это так. Главное, что есть не одна, а несколько команд, которые этим занимаются, и они большие молодцы. Мы их как производители конечного оборудования поддерживаем, и как вы видите, везде упоминаем, что НТЦ Модуль является нашим стратегическим партнером. И мы не только, как я уже рассказывал, мы дали еще даже обратную связь, как доработать и сделать это решение лучше. Надеемся, что уже следующее поколение будет отвечать большим запросам заказчиков конечного позитива.

У нас общая беда всех наших разработок такого рода, она, на мой взгляд, в том состоит, что вот у той же NVIDIA, у нее рынок весь мир, а у наших разработок рынок Россия, ближайшее дружественное зарубежье. Это ноль практически, в масштабах мира, если смотреть.

NVIDIA на самом деле уникальная история. Сейчас занимает 95% рынка, и даже такие большие игроки, как AMD, Intel, Snapdragon и даже Intel, которые занимаются процессорами, идут в PCI-Express на исполнение различных карт, работая над собственными разработками, чтобы хоть как-то в этом большом рынке занять какой-то сегмент, какой-то кусочек.

Да, но будем надеяться, что рынок будет расширяться, и наших разработок тоже. Это позволит им стать более рентабельными.

Я очень надеюсь, что кто-то займется в России и создаст полностью свой стек фреймворков для обучения моделей, потому что пока действует, в моем понимании, это узкое место, потому что мы до сих пор все на рынке используем TensorFlow, Paddle и PyTorch.

Открытые.

Они условно открытые, но потому что эти фреймворки лидируют крупные иностранные, а именно больше всего американские большие корпорации – Amazon, Google. Аналог альтернативы есть в Китае, где Huawei запустил Mindsport, это фреймворк, но у нас полноценного глобального фреймворка на Россию, на дружественные страны евразийские пока нет. Вот надо будет, я думаю, к этому вопросу когда-нибудь наш регулятор тоже подойдет и примет решение.

Нет, ИИ это сейчас такая стратегическая тема, без этого, конечно, невозможно.

Да, есть один момент, что основные деньги в искусственном интеллекте не в железе и не в фреймворках, а в конечных моделях. Например, очень много успешных кейсов в индустрии, особенно в горнорудной промышленности. Норникель использует компьютерное зрение, чтобы анализировать руду при добыче.

И там очень легко считается, если они повышают выработку на 1-2%, то если там вроде платина, либо драгметалл, или еще что-то, очень быстро появляется срок окупаемости этой истории. И основным моментом все-таки из направлений сейчас, с точки зрения рентабельности, является компьютер вижн. Не NLP, Neural Language Processing, работа с текстовыми данными, не рейл с беспилотным транспортом, а именно компьютерное зрение.

Даже мы с вами, если вы автолюбитель, тоже затронуты этой историей, что за превышение скорости обеспечивает безопасность и контролирует потоки и скорость движения.


© СТА-ПРЕСС, 2024