Введение
Интернет давно и прочно вошёл в большинство сфер жизни людей: в сферы производства, науки, культуры, индустрии развлечений и во многие другие. Однако в последние годы наметилась и начала активно развиваться новая сфера – так называемая цифровая экономика, одним из ключевых элементов которой наряду с уже привычными нам Интернет-сервисами для людей является внедрение интеллектуальных элементов в управление неодушевлёнными устройствами при помощи непосредственного подключения их к глобальной информационной сети. Важно подчеркнуть, что этот процесс происходит уже сейчас, как в области промышленного производства (концепция Industry 4.0), так и во многих других: интеллектуальные здания и частные дома, бытовая техника, коммунальное хозяйство, медицина, торговля, научные исследования, общественный транспорт, сельское хозяйство, мониторинг окружающей среды и многое другое, характеризуемое общим понятием Интернет вещей (Internet of Things – IoT), рис. 1.Использование концепции Industry 4.0 позволяет вывести промышленное производство на новый уровень, обеспечив его максимальную гибкость, точный учёт и экономию ресурсов, автоматизацию складского учёта, отслеживание перемещения сырья и продукции и эффективное управление в режиме реального времени, а также обеспечить информационную и технологическую безопасность.
Перечислить же все потенциальные применения технологии IoT невозможно уже сейчас, начиная от дистанционного управления отоплением, вентиляцией, стиральной машиной в частном доме со смартфона владельца, и до построения интеллектуальных городов (Smart City) c полностью интегрированными информационными системами в энерго-, тепло- и водоснабжении, интеллектуальными системами управления движением общественного транспорта и дорожным трафиком и так далее.
Количество таких неодушевлённых устройств (вещей), подключённых к Интернету, уже растёт экспоненциально: если на конец 2017 года их численность оценивалась примерно в 5 миллиардов, то к концу 2020 года ожидается подключение к сети порядка 50 миллиардов устройств. Для нормального функционирования Интернета в таких условиях потребуется масштабная модернизация сетевой инфраструктуры, сопровождающаяся не только прямым наращиванием мощности каналов связи и центров обработки данных (ЦОД), но и появлением новых классов устройств сбора, первичной обработки и маршрутизации данных, генерируемых устройствами IoT. Компания Pentair (торговая марка Schroff), ведущий поставщик решений по корпусированию, защите и охлаждению электронного оборудования, сформировала комплекс решений и продуктовую линейку, которые специально ориентированы на задачи формирования и модернизации сетевой инфраструктуры для реализации технологий Industry 4.0 и IoT, краткому обзору которых и посвящается данная статья.
Решения для центрального офиса телекоммуникационных компаний и дата-центров
Крупные телекоммуникационные компании формируют структуру сети Интернет, несут ответственность за её бесперебойную работу и обеспечивают пользователям гарантированный доступ к ней, поэтому оборудование, применяемое в центральных офисах таких компаний, должно иметь высокую мощность и максимальную надёжность, характеризующуюся таким параметром, как коэффициент готовности. Принято считать, что коэффициент готовности таких систем должен быть не менее 99,999 («пять девяток»), это означает, что при круглосуточном и круглогодичном режиме работы допустимое время простоя систем составляет не более нескольких минут в год. Основным средством достижения таких показателей надёжности является полное резервирование как вычислительных средств, так и инженерных систем их обеспечения, в первую очередь систем гарантированного электропитания и охлаждения, а также при необходимости средств физической защиты оборудования от воздействия огня, воды, коррозийных газов, внешних электромагнитных помех и несанкционированного доступа посторонних лиц.Системы AdvancedTCA
В качестве платформы для построения телекоммуникационного оборудования высокой готовности компания Pentair в первую очередь предлагает широкий выбор системных шасси стандарта AdvancedTCA (или АТСА), рис. 2.Этот стандарт, разработанный группой компаний в рамках международной организации PICMG, изначально создавался для решения данного класса задач и предусматривает полное резервирование всех основных подсистем (рис. 3).
При этом для обеспечения максимальной надёжности питание к имеющимся в шасси двум модулям ввода питания может подаваться от разных электроподстанций по независимым фидерам. Кросс-платы с топологией «двойная звезда» (Dual Star) или «полносвязанная сеть» (Full Mesh) позволяют установить два идентичных комплекта активного оборудования и более для обеспечения 100% резервирования.
Рабочие параметры шасси контролируются встроенной резервированной системой управления (Shelf Manager), передающей контрольные параметры на верхний уровень управления. На сегодняшний день актуальным является третье поколение систем ATCA, характеризующееся такими основными параметрами, как пропускная способность кросс-платы до 100 Гбит/с, и максимальная отводимая тепловая мощность до 400 Вт на слот плюс 50 Вт на слот RTM (c задней стороны шасси). Учитывая, что типовое шасси АТСА имеет 14 слотов, суммарное тепловыделение такого шасси может достигать 6300 Вт. Компания Pentair является членом организации PICMG практически с момента её основания и одним из крупнейших производителей шасси АТСА
в мире, предлагая клиентам широкую номенклатуру шасси, от самых мощных до оптимизированных по стоимости и функциональным возможностям изделий.
Вычислительная стойка CERVICITE
Для тех случаев, когда бюджет системы ограничен и не требуется столь высокая производительность и готовность оборудования, как в системах АТСА, компания Pentair предлагает оптимальное по стоимости законченное решение – вычислительную стойку CERVICITE (рис. 4), базирующуюся на переработанной специалистами Pentair с учётом требований телекоммуникационного рынка спецификации Open Compute Project (OCP).Спецификация ОСР была изначально предложена компанией Facebook с целью уменьшения стоимости своих дата-центров при сохранении высокой мощности. В настоящее время она поддерживается такими компаниями, как Facebook, Baidu, Alibaba, HP, AMD, Google и другими, а сама спецификация и конструкторская документация опубликована на сайте www.opencompute.org.
Данная спецификация объединяет стойку, шасси и серверы в единый вычислительный комплекс, при этом серверы выполнены в прямоугольных корпусах и вдвигаются на салазках непосредственно в стойку. Питание всех серверов осуществляется от единой шины напряжением 12 В постоянного тока.
Однако в исходной редакции спецификация ОСР не может быть применена в сфере телекоммуникаций, так как в ней отсутствуют такие обязательные элементы, как система управления и контроля параметров Shelf Management, резервирование основных компонентов и запас по мощности охлаждения, а кроме того, она не соответствует требованиям специальных телекоммуникационных отраслевых стандартов, таких как ETSI (European Telecommunication Standards Institute), NEBS (Network Equipment Building System), UL. Поэтому на основании своего большого опыта и компетенций в области телекоммуникаций специалисты Pentair при разработке стойки CERVICITE оптимизировали спецификацию ОСР для использования в сфере телекоммуникаций (табл. 1).
В базовой конфигурации шкаф CERVICITE имеет следующие технические характеристики.
- Высота 42U, ширина 800 мм, глубина 1000 мм (по заказу 42U × 600 мм × × 1200 мм).
- Вертикальные шины распределения питания 12 В постоянного тока.
- До 136 процессоров Xeon или до 3260 Tбайт хранения.
- Блок питания:
– 2 резервированных 3-фазных ввода питания;
– 2 × (N+1) резервированных модуля питания с выходом 12 В постоянного тока;
– интеллектуальная система управления. - Коммутаторы данных (свитчи):
– 2 резервированных 1U свитча данных на 32×40 Гбит или 96×10 Гбит + 8×40 Гбит портов с оптоволоконными интерфейсами;
– 2 резервированных 1U свитча системы управления на 48×1 Гбит + 2×10 Гбайт портов с оптоволоконными интерфейсами. - Серверы:
– до 17×2U полной ширины для модулей хранения;
– до 34×2U половинной ширины для серверов в любом сочетании.
Охлаждение серверов производится в направлении спереди назад (рис. 5), при этом серверы имеют высоту 2U, что позволяет использовать в них эффективные вентиляторы диаметром 80 мм. При необходимости система охлаждения может быть дополнена эффективным воздушно-водяным теплообменником в виде двери шкафа, экономящим пространство в дата-центре (рис. 6).
Решения для построения и оборудования центров обработки данных (ЦОД)
Серверные шкафы VARISTAR
Ключевым компонентом решений от компании Pentair по оборудованию ЦОД является универсальный шкаф VARISTAR (рис. 7), хорошо зарекомендовавший себя в самых разнообразных областях применения, от простых стационарных 19″ стоек с высокой нагрузочной способностью до специализированных амортизированных платформ для обеспечения работоспособности оборудования в условиях воздействия вибраций и ударов, например при установке на подвижных объектах. Кроме того, этот шкаф может иметь сейсмостойкое исполнение для применения в сейсмоопасных зонах или на ответственных объектах, таких как атомные электростанции, а также эффективную систему электромагнитного экранирования внутреннего оборудования, обеспечивающую не только его защиту от внешних электромагнитных помех, но и предотвращающую возможность приёма электромагнитного излучения от внутреннего электронного оборудования во внешней среде. Эти дополнительные функциональные возможности шкафов VARISTAR в полной мере доступны и для их серверных модификаций, что позволяет использовать такие шкафы в особо ответственных или промышленных ЦОД, в которых серверы могут подвергаться указанным неблагоприятным внешним воздействиям.
Серверные шкафы VARISTAR имеют допустимую статическую нагрузку до 1600 кг и широкий диапазон допустимых стандартных геометрических размеров:
- высота от 24 до 47U,
- ширина от 600 до 800 мм,
- глубина от 600 до 1200 мм.
- стандартные цвета RAL7021 (тёмно-серый) и RAL 7035 (светло-серый) могут быть заменены на любые другие из палитры RAL;
- двери доступны остеклённые, стальные сплошные или перфорированные, одностворчатые или двустворчатые, с одноточечным или трёхточечным запиранием, с углом открывания до 180° и расположением петель на левой или правой стороне;
- крыша доступна сплошная, приподнятая, перфорированная, с кабельными вводами и блоком вентиляции;
- панель основания: составная, с щёточным пыльником или отсутствует;
- боковые панели: с креплением на винтах, или с помощью быстроразъёмных фиксаторов (с возможностью запирания), или отсутствуют.
Шкафы для совместного размещения оборудования VARISTAR Colocation
Отдельным видом серверных шкафов для совместного размещения оборудования является универсальный шкаф серии VARISTAR Colocation (рис. 8) – надёжный шкаф с несколькими секциями, предназначенный для размещения серверов и другого оборудования разных владельцев в одном месте и разработанный специально для объектов ИТ-инфраструктуры и центров обработки данных.Этот шкаф имеет следующие конструктивные особенности:
- 2, 3 или 4 секции, 8 стандартных размеров;
- надёжные разделительные межсекционные перегородки для 100% разграничения доступа между секциями;
- отдельные кабельные лотки для каждой секции с возможностью раздельной укладки силовых и информационных кабелей;
- дополнительные элементы оснащения и облицовки конфигурируются из ассортимента стандартных изделий;
- возможность подвода кабелей сверху, снизу, а также слева или справа во все секции;
- возможность использования перегородок в качестве кабельных полок;
- система двухточечного запирания дверей может оснащаться кодовыми замками (числовой код и универсальный ключ) для разграничения доступа к отсекам шкафа.
Системы изоляции коридоров
Эффективность (особенно в части системы охлаждения) и удобство использования ЦОД существенно повышаются при использовании рядной установки шкафов с организацией изолированных коридоров (камер) для предотвращения потерь мощности охлаждения из-за перемешивания холодного воздуха с уже отработанным горячим воздухом. Компания Pentair предлагает решения (рис. 9) для построения такой системы изолированных коридоров (горячих или холодных) путём подбора совместимых между собой компонентов, таких как:
- различные варианты распашных и раздвижных дверей с автоматическим или ручным приводом и дистанционным управлением;
- система контроля доступа, в том числе с использованием средств биометрической идентификации персонала;
- прочные потолочные панели коридора из безопасного стекла;
- широкие и прочные рамы из листовой стали для установки сопел систем пожаротушения или аспирационных дымовых извещателей;
- универсальные профили Schroff для удобного объединения шкафов в коридор.
Шкафы с воздушно-водяными теплообменниками VARISTAR LHX+
Эффективность охлаждения серверного оборудования в шкафах (а значит, и плотность его размещения) может быть существенно увеличена при использовании систем жидкостного охлаждения, в частности, воздушно-водяных теплообменников, удобство которых состоит в том, что с их помощью можно эффективно охлаждать любое электронное оборудование, изначально рассчитанное на обычное воздушное охлаждение. Компания Pentair предлагает использовать для этого шкафы серии VARISTAR LHX+ с встроенными воздушно-водяными теплообменниками (рис. 10), обеспечивающими возможность отведения от одной стойки до 40 кВт тепловой энергии, причём без теплового загрязнения помещения, так как всё выделяемое оборудованием тепло отводится за пределы серверного зала ЦОД вместе с нагретой водой.Конкретные параметры шкафов VARISTAR LHX+ по возможности отвода тепла определяются рабочими параметрами – начальными и конечными температурами воды и воздуха и их расходом в единицу времени – и могут быть определены по номограммам (рис. 11).
В основе шкафа VARISTAR LHX+ лежит каркас SlimLine размерами 2000×800×1200 мм (В×Ш×Г), внутреннее пространство которого разделено на две функциональные зоны – зону для активного оборудования шириной 600 мм и зону теплообменника шириной 200 мм, при этом шкаф может иметь как единую переднюю дверь, так и две отдельные двери при необходимости разграничения доступа персонала. Допустимый вес активного оборудования в шкафу достигает 1600 кг. Шкафы VARISTAR LHX+ производятся под конкретные проекты, при этом заказчик имеет возможность осуществлять широкий спектр модификаций, как конструкции (различные размеры шкафов, тип и количество дверей, место подвода воды и электропитания, дополнительные крепёжные элементы, система электромагнитного экранирования и т.д), так и внешнего вида шкафов (любые цвета из палитры RAL, нанесение надписей, логотипов и т.д.). Эти шкафы могут также дополнительно оснащаться системами контроля и адаптивного управления с датчиками исправности всех систем и устройств, температуры воды и воздуха, протечки воды, несанкционированного доступа, пожарообнаружения, вандализма и т.д.
Благодаря компактным размерам теплообменника, занимающего всего 200 мм по ширине шкафа, становится возможным использовать шкафы шириной 800 мм для размещения как активного 19-дюймового оборудования по всей высоте, так и самого теплообменника, что позволяет устанавливать в ряды шкафы с шагом 800 мм, что на 100 мм меньше, чем у большинства аналогичных решений, где шаг составляет 900 мм, так как складывается из параметров стандартного шкафа для 19-дюймового оборудования шириной 600 мм и отдельного шкафа-теплообменника шириной 300 мм. При этом в случае охлаждения шкафов, установленных рядами и объединённых в холодные или горячие коридоры, использование теплообменников VARISTAR LHX+ позволяет создавать самые разнообразные конфигурации систем охлаждения с частичным или полным резервированием для обеспечения высокого коэффициента готовности оборудования, требуемого в ответственных применениях, а также рационально использовать теплообменник для охлаждения не одной, а нескольких стоек в том случае, если мощности теплообменника для этого достаточно (рис. 12).
Например, может быть построен кластер из двух шкафов с теплообменниками и двух стандартных 19-дюймовых шкафов с объединённым пространством, как перед активным оборудованием, так и позади него, что обеспечивает размещение 168U пространства для активного оборудования с теплоотводом порядка 500 Вт на U всего лишь на 3,36 м2 площади пола.
Сетевая инфраструктура для IoT – корпуса и шкафы для установки на улице
Наряду с ЦОД и телекоммуникационными системами для центрального офиса важнейшую роль в обработке и передаче сетевого трафика, генерируемого устройствами IoT, играет территориально распределённая сетевая инфраструктура, обеспечивающая надёжный доступ в Интернет для миллиардов устройств, расположенных в самых разных местах.Для размещения на улице коммутаторов, маршрутизаторов и устройств первичной обработки сетевого трафика компания Pentair предлагает широкий модельный ряд корпусов и шкафов серий Outdoоr Modular (рис. 13) – большие шкафы с максимальной степенью защиты и Comline (рис. 14) – упрощённый недорогой шкаф различных размеров, специально приспособленных для установки вне помещений.
В этих шкафах и корпусах, как правило, изготавливаемых с учётом требований конкретного клиента, используется целый ряд специальных технических решений:
- применение двухстенной конструкции (для больших шкафов) для улучшения теплоизоляции;
- изготовление наружных стен из алюминия для повышения коррозионной стойкости;
- дополнительные наклонные крыши для защиты от атмосферных осадков;
- вандалоустойчивые дверные петли и замки, возможность разобрать шкаф только изнутри;
- лакокрасочное покрытие, устойчивое к воздействию солнечных лучей;
- дополнительное нанопокрытие, устойчивое к загрязнениям и граффити.
Эти холодильные агрегаты могут работать при температуре наружного воздуха до –40°С благодаря встроенным во внутренний контур обогревателям для внутреннего пространства шкафа, а также наличию отдельной системы подогрева масляной ванны компрессора самого кондиционера для обеспечения его безопасного пуска весной при необходимости перейти из режима обогрева в режим охлаждения. Для климатизации маленьких корпусов предлагаются также термоэлектрические охладители/обогреватели на основе эффекта Пельтье.
Корпуса малых форм-факторов для шлюзов и концентраторов трафика IoT
Первичными источниками данных, обрабатываемых и передаваемых в рамках IoT, являются миллиарды датчиков, исполнительных устройств, контроллеров, панелей операторов, мобильных терминалов и других самых разнообразных устройств, многие из которых в настоящий момент ещё только разрабатываются или вообще пока не изобретены. Для первичной обработки и концентрации Интернет-трафика от этих первичных устройств, а также для подключения к сети Интернет огромного количества устаревших устройств, изначально для этого не предназначенных (что особенно актуально для систем промышленной автоматизации, имеющих длительный жизненный цикл), потребуется множество малогабаритных шлюзов данных, маршрутизаторов, коммутаторов, точек проводного и беспроводного доступа к сети, а также распределённых систем сбора и обработки данных. Для таких устройств компания Pentair предлагает малогабаритные корпуса серии Interscale, предназначенные для установки одной системной платы. Корпуса данной серии изготовлены целиком из металла, легко собираются и разбираются благодаря стыковке стенок между собой при помощи петлевого соединения, имеют хорошую систему электромагнитного экранирования, а также специально приспособлены для лёгкой модификации с учётом требований конкретного проекта. По способу охлаждения корпуса делятся на три серии: корпуса с воздушным охлаждением Interscale М (рис. 16), корпуса с кондуктивным (безвентиляторным) охлаждением Interscale С и специализированный корпус с кондуктивным охлаждением Interscale СОМ для систем с вычислительным ядром на основе стандартного модуля COM Express Type 6, установленного на плате-носителе.Кроме того, по технологии корпусов Interscale могут быть изготовлены и большие корпуса под системные платы любого размера, с воздушным или комбинированным охлаждением, а также корпуса для установки в 19-дюймовые стойки.
Корпуса с воздушным охлаждением Interscale M
Корпуса Interscale М могут иметь различные размеры, от самых маленьких (например, для точки доступа в Интернет на базе платы формата Raspberry PI, рис. 17) до полноразмерных компьютерных корпусов под системные платы любого размера (рис. 18), и могут быть глубоко модифицированы с учётом требований конкретного клиента.
Корпуса могут окрашиваться в любой цвет, на любой их поверхности могут изготавливаться отверстия любой формы и наноситься надписи и цветные рисунки. Эти корпуса имеют воздушное охлаждение, которое может быть естественным (за счёт конвекции) или принудительным при использовании вентиляторов различных типов.
Корпуса с кондуктивным теплоотводом Interscale С
Данные корпуса предназначены для применения в условиях, когда воздушное охлаждение невозможно или нецелесообразно (рис. 19).
Ключевым компонентом корпуса Interscale C является специальный теплопроводящий модуль (рис. 20), который передаёт тепло от вычислительного ядра процессорной платы к внешнему радиатору, расположенному на крышке корпуса.
Данный модуль, с одной стороны, обеспечивает передачу тепла с минимальными потерями (всего на несколько процентов хуже, чем монолитный алюминиевый брусок такого же размера), а с другой стороны, имеет возможность сжиматься по высоте и перекашивать свою верхнюю часть относительно нижней, компенсируя таким образом возможные отклонения параллельности крышки и печатной платы, а также колебания размера между нижней стороной радиатора и поверхностью микросхемы вычислительного ядра печатной платы. Тепловые характеристики корпуса позволяют устанавливать в него системные платы на самых мощных процессорах с TDP в десятки ватт. Корпуса типа Interscale C могут найти самое широкое применение в качестве необслуживаемых узлов сети в рамках концепции IoT, например, шлюз данных для IoT на базе системной платы стандарта Embedded NUC в корпусе Interscale C (рис. 21) имеет размеры всего 35×110×103 мм.
Смысл данного решения заключается в возможности пользователя быстрее и с меньшими затратами разработать свою систему, так как с учётом требований конкретной задачи необходимо доработать только корпус (рис. 23) и простую в разработке плату-носитель, а не создавать новую системную плату с высокой степенью интеграции.
В базовой конфигурации производитель предлагает использовать универсальную плату-носитель, имеющую следующие внешние интерфейсы:
Автор – сотрудник фирмы ПРОСОФТ
Телефон: (495) 234-0636
E-mail: info@prosoft.ru
Данный модуль, с одной стороны, обеспечивает передачу тепла с минимальными потерями (всего на несколько процентов хуже, чем монолитный алюминиевый брусок такого же размера), а с другой стороны, имеет возможность сжиматься по высоте и перекашивать свою верхнюю часть относительно нижней, компенсируя таким образом возможные отклонения параллельности крышки и печатной платы, а также колебания размера между нижней стороной радиатора и поверхностью микросхемы вычислительного ядра печатной платы. Тепловые характеристики корпуса позволяют устанавливать в него системные платы на самых мощных процессорах с TDP в десятки ватт. Корпуса типа Interscale C могут найти самое широкое применение в качестве необслуживаемых узлов сети в рамках концепции IoT, например, шлюз данных для IoT на базе системной платы стандарта Embedded NUC в корпусе Interscale C (рис. 21) имеет размеры всего 35×110×103 мм.
Корпуса с комбинированным охлаждением Interscale для СОM-модулей
Разновидностью корпуса Interscale C является корпус Interscale COM (рис. 22), предназначенный для систем, вычислительным ядром которых является модуль одноплатного компьютера формата COM Express Type 6, установленный на специальной плате-носителе, основная функция которой – обеспечение связи модуля с внешним миром через набор стандартных компьютерных интерфейсов.Смысл данного решения заключается в возможности пользователя быстрее и с меньшими затратами разработать свою систему, так как с учётом требований конкретной задачи необходимо доработать только корпус (рис. 23) и простую в разработке плату-носитель, а не создавать новую системную плату с высокой степенью интеграции.
В базовой конфигурации производитель предлагает использовать универсальную плату-носитель, имеющую следующие внешние интерфейсы:
- Gigabit Ethernet, USB 2.0 и 3.0, 5.1 HD Audio, DVI-D и DisplayPort;
- порты VGA и UART, 2 разъёма для SIM-карт, 1 разъём для microSD;
- опционально кабели для RS-232, LPT и PS/2;
- интерфейс LVDS для сенсорного экрана, 3 разъёма SATA, 2 слота для плат расширения MiniPCI Express;
- разъёмы для питания, вентилятора и статусных сигналов;
- расширитель USB/PCIe для дополнительных слотов PCIe и MiniPCIe;
- интерфейс для модулей Fieldbus;
- слот для модулей PMC/XMC (например, FPGA-XMC).
Заключение
Технологии IoT и Industry 4.0 в настоящее время находятся в фазе бурного роста, и они могут полностью изменить наш мир через 5–10 лет. Однако этот рост неразрывно связан с ростом и совершенствованием сетевой инфраструктуры для передачи, обработки и хранения данных IoT, что, в свою очередь, потребует соответствующего наращивания сетевой инфраструктуры на всех уровнях – от устройств первичной обработки и шлюзов данных и до крупных ЦОД и центральных офисов телекоммуникационных компаний. Широкий спектр решений по размещению, защите и охлаждению электронного оборудования, предлагаемых компанией Pentair, создаёт прочный базис для развития и совершенствования сетевой инфраструктуры, соответствующей требованиям эпохи IoT и Industry 4.0. ●Автор – сотрудник фирмы ПРОСОФТ
Телефон: (495) 234-0636
E-mail: info@prosoft.ru