Фильтр по тематике

Мультимедийная система диспетчеризации ЦОД Московского городского фонда обязательного медицинского страхования

В статье представлена разработанная ГК «АНТРЕЛ-Автоматизация» и принятая в промышленную эксплуатацию система диспетчеризации центра обработки данных (ЦОД) Московского городского фонда обязательного медицинского страхования. Описанный в данной статье проект представляется перспективной реализацией решения типовых задач, возникающих при создании и эксплуатации центров обработки данных, — быстро развивающегося направления в информационном обеспечении крупных компаний.

Введение

Центр обработки данных Московского городского фонда обязательного медицинского страхования (МГФОМС) наряду с узлом связи входит в состав центрального аппаратно-программного комплекса, используемого для реализации функций аналитики и отчётности в структурах обязательного медицинского страхования и учреждениях Департамента здравоохранения г. Москвы. Важным фактором, определяющим структуру систем диспетчеризации современных ЦОД, является необходимость включения в них мультимедийных компонентов. Они существенно повышают оперативность реагирования технических служб на возникновение нештатных ситуаций, тем самым увеличивая надёжность центра и сохранность данных. Принимая во внимание важность информации, подлежащей хранению и обработке в ЦОД, он был оборудован в модульной комнате безопасности (МКБ) Lampertz 9.3, для которой ГК «АНТРЕЛ-Автоматизация» разработала и инсталлировала мультимедийный программно-аппаратный комплекс диспетчеризации всей его системы обеспечения безопасной эксплуатации (СОБЭ). Кроме модульной комнаты безопасности, в состав СОБЭ входят подсистемы газового пожаротушения, дизель-генераторный агрегат, системы кондиционирования (шкафные прецизионные кондиционеры и потолочные сплит-системы), источник бесперебойного электропитания. Необходимо было также контролировать открытие двери в МКБ и качество внешнего электропитания.

Характеристики оборудования СОБЭ ЦОД. Проектирование системы

Выбор программного обеспечения

Проанализировав на этапе предпроектного исследования технические характеристики аппаратуры, подлежащей мониторингу, и требования технического задания, в качестве основного программного обеспечения мы выбрали SCADA-систему GENESIS32 v. 9.12 американской корпорации ICONICS. Основными критериями при выборе SCADA-системы являлись повышенные требования к надёжности, высококачественный графический интерфейс и развитые мультимедийные возможности. Кроме того, учитывая, что часть технических средств системы была оборудована SNMP-адаптерами (SNMP — Simple Network Management Protocol — Простой протокол управления сетью), желательна была также встроенная в SCADA-систему поддержка этого протокола. Для организации связи с устройствами по другим протоколам, в частности Modbus Ethernet и Modbus RTU, было решено использовать OPC-сервер KEPServerEx (Kepware Enhanced OPC/DDE Server) корпорации Kepware Technologies Inc. Выполнение мультимедийных задач было решено реализовать на основе дополнения к базовому пакету GENESIS32 — подсистемы AlarmWorX32 Multimedia.

Характеристика технических средств СОБЭ ЦОД и решения по организации их мониторинга

Модульная комната безопасности представляет собой решение компании Lampertz, защищающее ЦОД в экстремальных условиях от любых типов физического воздействия, в том числе от пожара, воды, противопожарной жидкости, электромагнитного излучения, несанкционированного доступа, вандализма, землетрясения, проникновения пыли и дыма. Внешний вид интерьера модульной комнаты безопасности Lampertz с установленным оборудованием ЦОД показан на рис. 1. 


Специальная конструкция МКБ позволяет сохранить любые носители информации в течение 60 минут при внешней температуре до 1000°C. Структурная схема сети организации диспетчеризации ЦОД МГФОМС представлена на рис. 2. 


Кроме серверного оборудования, в МКБ расположены источник бесперебойного питания (ИБП) Liebert NXa 100 кВ·А и система кондиционирования Liebert Hiross, состоящая из двух потолочных кондиционеров HPSE (сплит-система) и трёх шкафных прецизионных кондиционеров Himod S23 UA (с воздушным охлаждением под фальшполом). ИБП осуществляет защиту от динамических изменений в сети электропитания, сглаживает возможные скачки напряжения внешнего питания, а также обеспечивает бесперебойную работу ЦОД в случае сбоя в электроснабжении до момента запуска и выхода на штатный режим работы резервного дизель-генератора. Система кондиционирования обеспечивает забор нагретого в МКБ воздуха, осуществляет подачу холодного воздуха под фальшпол и поддерживает заданную влажность внутри комнаты. Кроме того, она распределяет воздушные потоки так, чтобы в помещении не возникало зон перегрева и обеспечивалась требуемая температура внутри серверных стоек. ИБП и система кондиционирования были оборудованы штатными интерфейсными модулями связи с системой диспетчеризации (СД) по протоколу SNMP. Для реализации обмена с ними специальный OPC-сервер не требуется, так как SCADA-система GENESIS32 версий 9.xx обладает встроенными возможностями поддержки данного протокола, в том числе имеет встроенные конфигуратор и браузер SNMP-устройств. Достаточно задать IP-адреса этих модулей и подключить входящие в комплект поставки устройств файлы с базами MIB (Management Information Base — административная база данных, содержащая логические имена и описания всех сетевых информационных ресурсов и используемая для сетевого управления). После этого параметры устройств, подлежащие мониторингу, становятся видны в древовидном списке SNMP-конфигуратора GENESIS32, и с ними можно работать как с обычными OPC-тегами. Интерфейсные SNMP-модули систем кондиционирования и ИБП были подключены к коммутатору (в обозначениях системы — MFOMS-SW-2), расположенному в шкафу системы диспетчеризации внутри МКБ. Собранные сигналы от диспетчеризуемых устройств МКБ передаются с использованием витой пары UTP-5e на коммутатор MFOMS-SW-1 в шкаф системы диспетчеризации, установленный в тамбурном помещении модульной комнаты безопасности. Спецификация подключения — Ethernet IEEE 802.3u (100Base-TX). На этот же коммутатор поступают сигналы от остальных подсистем обеспечения безопасной и бесперебойной работы ЦОД. Обмен с ними система диспетчеризации осуществляет по протоколам Modbus Ethernet и Modbus RTU. В целях обеспечения сохранности данных и оборудования в случае внутреннего возгорания центр обработки данных оснащён системой газового пожаротушения на базе прибора РОСА-2SL, которая активизируется по результатам производимого ею контроля предупредительных и аварийных сигналов пожарной безопасности. При возникновении пожара срабатывает световое и звуковое оповещение персонала, по истечении заданного времени для его эвакуации дверь в МКБ автоматически закрывается, комната герметизируется и система пожаротушения приводится в действие. Дискретные сигналы состояния противопожарной системы, данные о положении входного и выходного шлюзов МКБ, а также сведения об открытии/закрытии входной двери поступают в систему диспетчеризации через модуль дискретного ввода ADAM-6051 (фирма Advantech), подключённый к оборудованию, расположенному в штатном шкафу управления МКБ Lampertz 9.3.

Для контроля качества внешнего электропитания, а также для измерения и регистрации электрических параметров промышленных электросетей в СОБЭ применён анализатор CIRCUTOR, установленный в щите автоматического ввода резерва (АВР). Сетевой обмен системы с анализатором организован через шлюз (RS-485 ↔ Ethernet TCP/IP) ADAM-4571 (фирма Advantech), данные от которого поступают на коммутатор MFOMS-SW-1.

В случае возникновения сбоя (прекращения подачи) внешнего электропитания автоматическая система запуска активизирует дизель-генераторную установку Atlas Copco QIX-140.

В систему диспетчеризации поступают четыре параметра от дизель-генератора: его состояние (включён/выключен), доступная мощность, температура охладителя и количество запусков (требуется для отслеживания необходимости проведения сервисно-профилактических работ). Эти данные поступают через шлюз ADAM-4571L (фирма Advantech), размещённый в шкафу системы диспетчеризации вблизи дизеля и соединённый с коммутатором MFOMS-SW-1 экранированной витой парой FTP-5e. Поскольку этот шкаф расположен вне здания МГФОМС, мы оборудовали его системой обогрева с термостатом, контролирующим температуру воздуха.

АРМ оператора расположено в диспетчерской и подключено к компонентам системы через сетевой коммутатор MFOMS-SW-1. Рабочее место организовано на базе компьютера в настенном исполнении с процессором Intel® Pentium D 925 (3,0 ГГц), промышленной материнской платой IPOX ADE-9040 и ОЗУ Patriot DDR II (2 Гбайт). Внешний вид АРМ оператора показан на рис. 3. 


Питание АРМ осуществляется через ИБП АРС BK650EI. Разработанное на основе SCADA-системы GENESIS32 программное обеспечение выполняет сбор, обработку и архивирование поступающих данных, а также отслеживает критические отклонения контролируемых параметров и сигналы предупреждений от оборудования. Для отображения информации о состоянии инженерных систем ЦОД используется монитор 19" TFT LCD с сенсорным экраном модели AFL-19M/T-R, встроенный в общий корпус оборудования АРМ. Хранение данных выполняется на дисковом массиве (два жёстких диска Seagate SATA II ST380815AS) типа RAID 1. В массиве RAID 1 данные непрерывно копируются с одного диска на другой (зеркалирование). При аварии одного из накопителей оставшийся диск продолжает нормальную работу, а для операционной системы такой массив видится как единый диск. Важным компонентом АРМ является оборудование для экстренной передачи данных территориально удалённому персоналу — GSM-модем Siemens MC35i Terminal с антенной на магнитном основании ANTEY 904 и внутренний факс-модем.

Программные решения системы диспетчеризации

Организация человеко-машинного интерфейса

При разработке системы диспетчеризации мы руководствовались информативностью и эргономичностью подачи информации. Данные, поступающие от подсистем СОБЭ ЦОД, сгруппированы в отдельные мнемосхемы. На рис. 4 представлена главная экранная форма системы диспетчеризации. 


Организация управляющих и информационных полей во всех рабочих формах СД ЦОД примерно одинакова и предполагает наличие трёх областей: заголовок (вверху), область представления данных (середина экранной формы) и навигационная область или главное меню (вдоль левой границы экранной формы). В верхнем правом углу расположен общий для всех форм индикатор тревоги, который в нормальном состоянии не активен и отображён синим цветом, а в случае возникновения нештатной ситуации переключается в режим мигания красным цветом.

Однако наблюдение исключительно данных реального времени не обеспечивает полного контроля ситуации, а также предсказуемости поведения тех или иных параметров. Поэтому в системе предусмотрена возможность анализировать тенденции изменения (тренды) данных. СД ЦОД осуществляет непрерывную архивацию (запись в базу данных на жёсткий диск) всех контролируемых данных. Диспетчер всегда может просмотреть изменение параметров системы за любой заданный им прошедший период. Он также имеет возможность получить сводку об аварийных и предаварийных событиях за прошедший промежуток времени. В режиме просмотра трендов наряду с архивными данными система продолжает отображать и данные реального времени (с точностью до заданного периода дискретизации), что позволяет оценивать динамику процесса. Программная реализация работы с трендами данных основана на использовании входящего в систему GENESIS32 пакета TrendWorX32. При разработке системы диспетчеризации была создана программа на языке VBScript, обеспечивающая вывод на графики трендов произвольного сочетания любых параметров, контролируемых системой. Программой автоматически отслеживается диапазон изменения отображаемого параметра, и он сопоставляется с соответствующей шкалой. Выбор параметра для отображения на графике производится оператором простым прикосновением к отведённому для данного параметра полю в таблице на экранной форме (рис. 5). 


После того как группа параметров выбрана (на рис. 5 видно, что в определённых полях появились отметки), оператору достаточно прикоснуться к клавише «Графики», и на экране отобразятся тренды выбранных величин (рис. 6).


Мультимедийные средства обнаружения и обработки тревог. Интернет-мониторинг

В организации контроля состояния объектов повышенной важности существенное значение приобретает реализация оперативного информирования руководства и технических служб о нештатных ситуациях. Поэтому применение мультимедийных средств становится неотъемлемой частью таких систем. Быстрая оценка ситуации и своевременное принятие мер при возникновении аварии являются необходимыми условиями обеспечения безотказной работы ЦОД и сохранности данных. Естественным дополнением к этому выступает организация дистанционного мониторинга всех инженерных систем ЦОД через Интернет.

При реализации описываемого проекта нами наряду со стандартным компонентом AlarmWorX32, входящим в традиционный пакет поставки GENESIS32, было использовано его мультимедийное расширение — AlarmWorX32 Multimedia. Программный модуль AlarmWorX32 выполняет стандартные задачи подсистемы обнаружения нештатных ситуаций. Он реагирует на дискретные аварийные сигналы и настраивается на превышение предельных значений, экстремальные скорости роста или снижения значений контролируемых параметров. При возникновении нештатной ситуации включается звуковая сигнализация и на экран АРМ оператора (диспетчера) выводится сообщение о тревоге и подсистеме, послужившей её источником. В базу данных аварийных событий заносится полная информация об аварии, времени её возникновения и ликвидации. C использованием дополнительного пакета AlarmWorX32 Multimedia в описываемой системе диспетчеризации все сообщения о тревогах классифицируются по уровням опасности и по группам руководящих лиц, а также технического персонала, которые должны быть оповещены о них, и рассылаются по заранее сформированным спискам одновременно SMS-сообщениями, сообщениями по факсу и по e-mail. Для рассылки SMS-сообщений был использован GSM-модем Siemens MC35i Terminal, подключённый к COM-порту АРМ. Списки рассылки мультимедиа-сообщений, а также состав групп персонала, которые должны быть своевременно оповещены о той или иной тревоге, детально согласовывались с руководством эксплуатационной службы ЦОД МГФОМС на этапе внедрения проекта и корректировались при проведении рабочих испытаний во время опытной эксплуатации системы.

Для удалённого просмотра данных о состоянии инженерных систем ЦОД был инсталлирован мощный инструмент дистанционного мониторинга — WebHMI. С помощью этого программного пакета на АРМ был организован Web-сервер, имеющий внешний IP-адрес. При этом на клиентском компьютере не требуется никакого дополнительного оборудования — все экранные формы открываются в окне браузера, например Internet Explorer. При первом обращении удалённого клиента к Web-серверу системы диспетчеризации происходит однократная установка ActiveX-компонентов, позволяющих в дальнейшем транслировать на него только поток данных, а не графических изображений, что обеспечивает необходимую скорость и надёжность обмена. Функции удалённого рабочего места остаются абсолютно идентичными стационарному рабочему месту оператора (диспетчера), расположенному на территории МГФОМС, а сервер безопасности, входящий в состав GENESIS32, обеспечивает необходимую информационную защиту, предоставляя доступ к данным только руководству и сотрудникам, имеющим на то полномочия.

Заключение

Система диспетчеризации СОБЭ ЦОД МГФОМС после почти годовой промышленной эксплуатации показала исключительную надёжность и эффективность. Собранные в единый информационный центр данные обеспечивают комфортную работу технических специалистов, а применённые Интернет-технологии позволяют удалённо просматривать информацию о состоянии оборудования. SMS-сообщения, а также рассылки по факсу и по e-mail оповещают руководство и технический персонал о тревогах разного уровня, что проверено неоднократными плановыми испытаниями.

Всё это позволяет утверждать, что Группой компаний «АНТРЕЛ-Автоматизация» разработано высокоэффективное решение по диспетчеризации, оповещению о тревогах и дистанционному наблюдению для современных центров обработки данных. Ввиду актуальности задачи и наблюдающегося роста распространения ЦОД мы предлагаем готовое решение, которое может быть адаптировано к конкретной ситуации и внедрено на разных объектах в кратчайшие сроки. ● 

Авторы — сотрудники Группы компаний «АНТРЕЛ-Автоматизация»
Телефоны: (495) 775-1721; (800) 555-1721
E-mail: project@antrel.ru

Комментарии
Рекомендуем

ООО «ПРОСОФТ» 7724020910 2SDnjeti7ig
ООО «ПРОСОФТ» 7724020910 2SDnjeti7ig