УДК 004.7:621.3(470.312)
ОБЕСПЕЧЕНИЕ НАДЕЖНОГО ФУНКЦИОНИРОВАНИЯ УЗЛА СВЯЗИ КОМПЬЮТЕРНОЙ СЕТИ
ТУЛЬСКОГО ГОСУДАРСТВЕННОГО УНИВЕРСИТЕТА
В.М. Степанов, А.Н. Мерцалов, А.М. Мусатов
Рассмотрены вопросы оптимальной системы электроснабжения серверных комнат. Показана надежность предлагаемой системы электроснабжения (на примере ТулГУ) при применении своевременной системы оповещения об аварийных отключениях и использовании современной системы мониторинга качества электроэнергии. Предложено использование микроконтроллерного автоматического ввода резерва с выбором оптимального по качеству электроэнергии ввода электросети.
Ключевые слова: компьютерная сеть, узел связи, электроснабжение, источник бесперебойного питания, параллельная работа.
Согласно нормативно-технической документации [1] электропитание серверной должно состоять из: подсистемы распределения электропитания (ПРЭ), подсистемы технологического заземления (ПТЗ), подсистемы бесперебойного электропитания (ПБЭ).
Распределительная сеть электроснабжения предназначена для распределения и канализации электроэнергии к электроприемникам узла связи КС, оборудования кондиционирования. Распределительная сеть электроснабжения должна обеспечивать: защиту кабельных электропроводок и оборудования при возникновении перегрузок и коротких замыканий путем автоматического отключения аварийных линий отдельных электроприемников, защиту обслуживающего персонала от поражения электрическим током в соответствии с действующими «Правилами устройства электроустановок».
Все серверное и активное сетевое оборудование узла связи КС должно быть размещено в типовых монтажных шкафах. Распределительные щиты системы электроснабжения оборудования узла связи КС должны быть размещены в помещении узла связи КС.
Для каждого установочного места в помещении узла связи КС необходимо предусмотреть бесперебойное трехфазное электропитание 380 В от двух отдельных автоматических выключателей номиналом 40 А, по двум отдельным кабелям, от двух разных подстанций. Сечение кабеля выбрать из расчета возможности протекания длительного рабочего тока 40 А. Установленная мощность серверного и активного сетевого оборудования определена заданием на согласование нагрузок систем общего и гарантированного электроснабжения, приведенным в табл. 1.
Распределительные щиты электроснабжения помещения узла связи КС должны быть выполнены с секционированием, по секции на каждый
вводной кабель. В распределительных щитах узла связи КС должны быть установлены одно- и трехполюсные автоматические выключатели, отдельные шины защитного заземления и рабочей нейтрали.
Таблица І
Таблица нагрузок узла связи КС
№ п/п Наименование оборудования Потребляемая мощность, Вт. Рабочее напряжение, В. Час- тота, Гц. Приме- чания
Стойка № 1 (Суммарная мощность 1084 Вт.)
1 Шасси оптических конверторов № 1 250 100-240 50-60
2 Шасси оптических конверторов № 2 250 100-240 50-60
3 Коммутационная панель № 1 - - - -
4 Коммутатор АТ-9000/24 72 100-240 50-60
5 коммутационная панель № 2
6 коммутатор DGS-3100 70 100-240 50-60
7 коммутатор АТ-9000/24 72 100-240 50-60
8 коммутатор DGS-3100 70 100-240 50-60
9 маршрутизатор 2100 120 100-240 50-60
10 маршрутизатор АТ-х600 150 100-240 50-60
11 коммутатор DES-1228 20 100-240 50-60
12 оптический кросс № 1 - - - -
13 Коммутатор Zyxel 10 100-240 50-60
14 оптический кросс № 2 - - - -
15 оптический кросс № 3 - - - -
Стойка № 2 (Суммарная мощность 2368 Вт, отключенное оборудование не учитывается)
16 коммутационная панель - - - -
17 Сервер Gamma 250 220 50-60 Не работает
18 Сервер Proxy_old 250 220 50-60 Не работает
19 сервер Linux 250 220 50-60
20 сервер Utilis 500 220 50-60
21 сервер H123 500 220 50-60
22 Переключатель KVM 18 100-240 50-60
23 сервер ISP 300 220 50-60
24 сервер Primus 400 220 50-60
25 сервер Certus 400 220 50-60
Стойка № 3 (Суммарная мощность 2402 Вт)
26 коммутационная панель - - - -
27 сервер Reserve 500 220 50-60
28 Сервер Consultant 300 220 50-60
Окончание табл. 1
№ п/п Наименование оборудования Потребляемая мощность, Вт. Рабочее напряжение, В. Час- тота, Гц. Приме- чания
Стойка № 3 (Суммарная мощность 2402 Вт)
29 оборудование СОРМ 300 100-240 50-60
30 сервер БіаЬііів 400 220 50-60
31 оптический кросс № 1
32 Коммутатор АТ-9000/24 72 100-240 50-60
33 оптический кросс № 2 - - - -
34 Коммутатор Huawei 30 100-240 50-60
35 сервер Бесипёа 400 220 50-60
36 сервер ЬШ 400 220 50-60
Дополнительное оборудование размещенное в помещении (Суммарная мощность 700 Вт)
46 АТС Panasonic KX-TD1232 350 180-240 50-60
47 Сервер Update 350 220 50-60
В распределительных щитах электроснабжения узла связи КС должна быть предусмотрена возможность установки блоков мониторинга параметров питающей сети, по каждой вводной кабельной линии.
Распределительные щиты электроснабжения узла связи КС должны быть оборудованы контактами состояния положения автоматических выключателей, выключателей нагрузки с возможностью удаленного мониторинга состояния посредством Ethernet модулей ввода/вывода. Данные модули должны поддерживать протоколы ModBus/TCP, UDP, DHCP, HTTP.
Распределительные щиты электроснабжения узла связи КС должны иметь дверь, закрываемую на ключ.
Все оборудование серверной, должно быть заземлено в одной точке ВРУ здания.
Оборудование, использующееся для связи с объектами, которые не подключены к единой точке заземления, должно иметь гальваническую развязку. Проектные работы и отслеживание выполнения данных требований возлагаются на Заказчика.
Необходимо обеспечить доступ к контуру заземления, с общим сопротивлением не более 4 Ом. Данным контуром является, контур офисного здания.
Система бесперебойного электроснабжения помещения узла связи КС и здания предназначена для обеспечения электроснабжения ответственных потребителей инженерных систем узла связи КС и здания со стабильными показателями качества электроэнергии. К ответственным потребителям инженерных систем узла связи КС и здания относятся потребители особой группы первой категории электроприемников узла связи КС и
здания, а именно:
1) Вычислительное и коммутационное оборудование серверной Руст=6,6 кВт;
2) Оборудование аварийного освещения Руст=0,8кВт;
Создаваемая система бесперебойного электроснабжения обеспечивает надежную работу потребителей как в нормальном режиме - при наличии напряжения ~0.4 кВ от внешнего источника электроснабжения - городской сети, так и в аварийном - при исчезновении напряжения со стороны энергосистемы в течение ограниченного времени автономии комплекса ИБП. При аварии внешнего источника электроснабжения система бесперебойного питания автоматически переходит на питание нагрузок от комплекса собственных аккумуляторных батарей источников бесперебойного питания, в течение ограниченного времени автономии комплекса ИБП что при полном заряде батарей составляет:
для электроприемников узла связи КС в течение:не менее 15 минут при работе в аварийно-нормальном режиме (резервирование комплексов ИБП по схеме N+2, загрузка каждого не превышает 50% номинала), не менее 10 минут при работе в аварийно-аварийном режиме (без резервирования, один из комплексов ИБП отключен, нагрузка не превышает 85% номинала);
для системы кондиционирования серверной:не менее 10 минут при работе в аварийно-нормальном режиме (ИБП работают раздельно каждый на свое плечо нагрузки без резервирования, нагрузка каждого не превышает 80% номинала), при восстановлении напряжения со стороны энергосистемы, в течение времени автономии, СБЭ переходит в нормальный режим работы питания нагрузок и производит подзаряд батарей комплекса ИБП. При отсутствии внешней сети, по истечению времени автономии, для предотвращения полного разряда батарей, СБЭ выдает сообщение о завершении работы и выключается в течение определенного времени.
Создаваемая система бесперебойного электроснабжения состоит из двух независимых комплексов оборудования СБЭ (комплекс 1 - СБЭ серверной, комплекс 2 - СБЭ системы кондиционирования серверной). Комплекс 1 спроектирован по схеме резервирования N+2 и в своем составе имеет один комплекс ИБП, каждый из которых способен поддерживать электроснабжение оборудования узла связи КС, комплекс 2 спроектирован по схеме без резервирования.
Комплекс 1 состоит из ИБП1 + ИБП2 + ИБП3
Комплекс 2 состоит из ИБП4
Основные показатели СБЭ в приведены в табл. 2.
СБЭ обеспечивает надежную работу в следующих режимах: нормальный режим - при наличии напряжения от независимого ввода 0,4 кВ внешнего источника электроснабжения подстанции В данном режиме обеспечивается улучшение качества электроэнергии передаваемое конеч-
ным потребителям, за счет работы системы фильтров и преобразователей источников бесперебойного питания, аварийный режим - аварии на вводе от внешнего источника электроснабжения подстанции(выход показателей КЭ питающей сети за предельно допустимые значения по ГОСТ 13109-97 редакции 2002 г.). В данном режиме электропитание осуществляется за счет применения автономных аккумуляторных батарей источников бесперебойного питания.
Таблица 2
Показатели СБЭ
Наименование нагрузки У становленная нагрузка, кВт. Расчетная нагрузка, кВт.
Комплекс СБЭ (ИБП 1+ИБР2+ИБП3) 6,6 21
Комплекс СБЭ (ИБП4) 0,8 3,5
Для обеспечения бесперибойного электроснабжения узла связи компьютерной сети ТулГУ целесообразным является организация параллельной работы ИБП с двойным преобразованием энергии. Параллельная работа ИБП по принципу N + X позволяет повысить нагрузочную способность системы и ее надежность. Рассмотрены способы распределенного управления параллельно включенными ИБП [2, 3].
При демократическом способе каждый ИБП остается активным в регулировании своего выходного тока, корректируя его таким образом, чтобы приблизить к среднему значению 1ср= 1н/ п, где 1н - ток нагрузки, п= N+ X - общее число параллельно включенных ИБП, N - минимальное количество ИБП, необходимых для функционирования системы по мощно -стным показателям, Х - количество резервных ИБП.
Включение параллельной системы ИБП осуществляется поочередным включением каждого ИБП сетевым автоматом в режим байпас. Когда последний ИБП после самотестирования войдет в этот режим, ИБП поочередно переводятся в инверторный режим. После выполнения условий синхронизации ИБП МК1 формирует сигнал включения выходного реле (ВР), подключающего ИБП к шине нагрузки. После выхода всех ИБП в инверторный режим подключается нагрузка. Наличие выходного реле в каждом устройстве позволяет отключить его в случае неисправности от общей шины нагрузки, обеспечивая тем самым работоспособность всей системы с остальными ИБП.
Для обеспечения бесперебойного электроснабжения КС ТулГУ целесообразно использовать в схеме (рис. 1) ИБП с рассчитанными параметрами.
Рис. 1. Предлагаемая схема организации электроснабжения узла связи КС ТулГУ: АВР - мультипроцессорный блок автоматического ввода резерва (БАВР АТУ8 6Е +СОМ 4х125А); Я3485^1Р-сеть -устройство преобразования интерфейса Я8-485 в среду 1Р (АРЛАН-9000-1Я8485); ИБП1 - ИБП3 - источники бесперебойного питания работающие в параллель (ИБП переменного тока "Штиль" ИШ110Ь, 10кВА, 220/220В, в комплекте с двумя аккумуляторными модулями "Штиль " АМ3-192-12-1);
ИБП4 - источник бесперебойного питания (АРС 8тМгиР8 - 5000УА); Байпас - автоматический байпас переключающий работу кондиционера на ИБП4 в случае отсутствия напряжения сети; АТС - внутренняя телефонная станция подразделения; Стойка № 1 - стойка № 3 - стойки с телекоммуникационным оборудованием; основной ввод от ТП-264 - ввод 0,4 кВ от трансформаторной подстанции № 264 (Тула, ул. Смидович, 10А); Резервный ввод от ТП-125 - ввод 0,4 кВ от трансформаторной подстанции № 125 (Тула, ул. Смидович, 1Б)
В схеме электроснабжения узла связи КС ТулГУ (рис. 1) необходимо учитывать два ввода: основной от ТП - 264 и резервный от ТП -125. Осуществлять контроль над параметрами вводов следует за счет введения в систему электроснабжения мультипроцессорного блока автоматического ввода резерва (АВР). На случай пропадания напряжения на обоих вводах, в схему электроснабжения включены по соединению в параллель три ИБП с резервированием по схеме N+2. Данные ИБП смогут обеспечить электропитание узла связи КС ТулГУ на период времени не менее 30 ми-
нут, что достаточно для принятия мер по переходу на аварийный режим. ИБП4 предназначен для аварийного питания кондиционера. ИБП4 подключен к кондиционеру через байпас, который включает в схему ИБП в случае пропадания напряжения на обоих вводах. Для контроля работы АВР, а так же для сбора статистических данных, отражающих изменения параметров электросети (напряжение -Ц12,В, ток -Ii,2, А, частота - fi,2, Гц, время переключений на резервный ввод - t, мс) на обоих вводах, к АВР по интерфейсу RS-485 в системе предлагается использовать устройство преобразования интерфейса RS-485 в среду IP. Далее данные передаются на персональный компьютер оператора для немедленного оповещения обслуживающего персоналав случаях аварийной ситуации. Информация передается по средствам SMS-сообщений или электронной почты.
ИБП с системой резервирования N+2 обеспечивают автономное питание нагрузки при пропадании сетевого напряжения. В случае выхода из строя одного или двух блоков ИБП система продолжит работу без каких-либо перерывов и переключений со стороны обслуживающего персонала. Посредствам программного обеспечения система ИБП подаст информацию о неисправности какого-либо блока ИБП на персональный компьютер оператора.
Список литературы
1. СН 512-78 (2000) Инструкция по проектированию зданий и помещений для электронно-вычислительных машин. М., 2000. 24 с.
2. Климов В. Современные источники бесперебойного питания: многомодульные структуры ИБП. и организация параллельной работы мо-номодульных ибп.//Электронные компоненты. 2008. №9.
3. Кучеров Д.П. Источники питания ПК и периферии. СПб.: Наука и Техника, 2005. 432 с.
Степанов Владимир Михайлович, д-р техн. наук, проф., зав. кафедрой, [email protected], Россия, Тула, Тульский государственный университет,
Мерцалов Анатолий Николаевич, канд. техн. наук, доц., директор, [email protected], Россия, Тула, Областной центр новых информационных технологий (ОЦНИТ),
Мусатов Алексей Михайлович, программист, [email protected], Россия, Тула, Областной центр новых информационных технологий (ОЦНИТ)
ENSURE RELIABLE OPERA TION OF COMMUNICA TIONS NODE COPUTER NETWORK TULA STATE UNIVERSITY
V.M. Stepanov, A.N. Mertsalov, A.M. Musatov
The problems of optimal power supply system server -tion rooms. Shows the reliability of the proposed system power supply (for example, TSU) in the application of timely warning system emergency shutdown and the use of modern quality monitoring system of electricity . Proposed use microcontroller automatic transfer switch by selecting the best power quality input voltage.
Key words: computer network, a communication , power supply, power supply duty-reboynogo parallel operation.
Stepanov Vladimir, doctor of technical sciences, professor, head chair, [email protected], Russia, Tula, Tula State University,
Mertsalov Anatoly Nikolaevich, candidate of technical science, director, [email protected], Russia, Tula, The Regional Centre of new information technologies (OCNIT),
Musatov Alexiy Michaiylovich, programmer, [email protected], Russia, Tula, The Regional Centre of new information technologies (OCNIT)