IT + Цод

Наверное каждый из нас имеет неприятный опыт поступков, совершив которые мы искренне раскаиваемся в своей глупости, невнимательности, самонадеянности, но изменить уже что-то поздно. В наше время технологий цена самой простой ошибки оператора на производстве, оплошности инженера-монтажника, игнорирования элементарных правил безопасности линейным персоналом может быть грандиозна. Кроме того, что под угрозой может оказаться корректное функционирование производства, но куда более важнее и персональная безопасность людей. Дата-центры тут не являются исключением из правил, даже скорее наоборот. Если классические предприятия: заводы, электростанции работают десятилетиями, и на них уже выработаны писанные и неписаные правила поведения персонала, то с дата-центрами, массово возводимыми в последнем десятилетии, не все так гладко. Отсутствие, либо недостаточное понимание элементарных норм поведения нередко приводит к выходу из строя дорогостоящего оборудования, утери данных и другим малоприятным казусам. Далее в статье пойдет разговор на тему самых распространенных причин по которым в ЦОД возникают нештатные ситуации и как с этим можно бороться.

1. Укладка кабелей

Проблема корректной укладки кабелей в серверных залах является лидером по нанесению ущерба информационной безопасности ЦОД. Применение слишком коротких кабелей — в погоне за экономией, применение слишком длинных кабелей — результат лени, нарушение кабельной маркировки, а то и полное ее отсутствие, ну и конечно же временные перемычки — недаром у нас принято говорить, нет ничего более постоянного чем временное. Все эти факторы могут существенно подорвать безопасность размещенного в серверных стойках оборудования. Кроме проблем с логическим построением соединений, разбросанные по серверной кабели могут нести и чисто физическую угрозу, путаясь под ногами и руками у инженера, плохо уложенные кабели могут существенно нарушить вентиляцию стойки. Кроме того, что инженеру придется тратить кучу времени «разгадывая кабельную головоломку», серверное оборудование может выйти из строя от перегрева, а в самых печальных случаях еще и стать причиной настоящего пожара.

2. Посторонние предметы в серверной

Также одной из основных причин выхода серверного оборудования из строя является присутствие посторонних предметов в серверной. Это могут быть предметы забытые в зале: инструменты, личные вещи, либо предметы вообще неправомерно туда занесенные. Безоговорочным лидером среди таких предметов является еда, а если быть более точным — напитки. Часто сотрудники дата-центров, особенно молодые, забывают, что они имеют дело с плохо защищенным от внешних факторов воздействия оборудованием. Кофе, чай, или любая газировка являются чудесными проводниками электричества. Пролив тот же чай на свой дорогущий ноутбук, вы рискуете получить всего лишь счет из мастерской за его восстановление, пролив жидкость на 10 кВт серверную стойку, вы уже рискуете не только вывести ее из строя, но и также получить серьезную травму.

3. Сбои в электросети

Электропитание это одно из потенциально слабых мест любого дата-центра. Точный расчет нагрузки, которую может создать прожорливое оборудование, и резервирование источников питания — это те опоры на которых стоит безопасность функционирования ЦОД. Чем более крупный ЦОД, тем большей проблемой может стать полноценное резервирование питания. Если речь идет о небольших «офисных» дата-центрах, то тут может быть достаточным банального «бесперебойниках», если обратить внимание на гигантские ЦОДы, что сооружают такие компании как Google, Facebook, Amazon то все гораздо серьезней. Для резервирования электроснабжения вышеупомянутые компании, зачастую не только запитывают свои детища с разных подстанций, но порою и возводят персональные электростанции. Эти источники должны гарантировать не только более дешевую либо экологичную энергию, но в первую очередь именно бесперебойность электроснабжения. Уровень безопасности дата-центра в приведенном контексте, чаще всего, прямо пропорционален средствам вложенным в нее.

4. Проблемы службы безопасности

Это огромная проблема равно как для маленьких дата-центров так и для их больших собратьев. Промышленный шпионаж, месть недовольного сотрудника, воровство дорогого серверного оборудования, бесконтрольный доступ неосведомленных во всех нюансах функционирования оборудования случайных людей — все это лишь малый список рисков связанных с несанкционированным доступом. Именно по этой причине абсолютное большинство успешных дата-центров вкладывают существенный средства в физическую безопасность своего оборудования. Тут перечень инструментов защиты крайне широк, от видеонаблюдение и пропускного режима с разными уровнями аккредитации, до банальных решеток на окнах и амбарного замка на серверном шкафе. Порою желание обезопаситься набирает воистину экстремальных форм, и становится уже сложно провести четкую границу между удачным маркетинговым ходом и банальной паранойей.

5. Дисциплина сотрудников

Банальная халатность и расхлябанность сотрудников могут привести к самого рода ужасным последствиям в дата-центре. Отсутствие дисциплины в коллективе, отсутствие должного внимания управленцев к исполнителям как правило приводит к бедам. Утративший стимулы работник — недовольный уровнем оплаты своего труда, либо долгим отсутствием карьерного роста, будь он даже хорошо подготовлен технически, может нанести ущерб, пусть и не специально, самому технически продуманному и безопасному ЦОД. К сожалению, такого рода риски сложно описать каким-то математическим уравнением, по этой причине они такие не предсказуемые и соответственно опасные.

6. Документирование работы ЦОД

Немало важным фактором успешного ЦОД является качественное ведение внутренней документации. Тут речь идет не только о регистрации оперативной информации, но и о создании полноценного архива. Кроме того что грамотно оформленная документация дает возможность производить без особых последствий ротацию персонала, также существующий архив позволяет подготавливать полноценную статистику без которой просто невозможно осуществлять корректное планирование работы всего дата-центра.

7. Использования рабочих станций не по назначению

Несмотря на тот факт, что большая часть оборудования в ЦОД подключена к сети, инфраструктура дата-центра организована таким образом чтобы было возможным избежать инфицирования, попавшим в эту сеть вирусом, всего оборудования. Для этого существует целый ряд предосторожностей, нарушение которых может повлечь за собою самые печальные последствия. Хорошо отлаженная система безопасности против локально размещенного на серверах потенциально небезопасного ПО, может стать малоэффективной если такого рода ПО попадет на рабочие станции сотрудников дата-центра вместе с принесенной ими зараженной «флешкой». Офисные «десктопы» зачастую используются сотрудниками не по их прямому назначению, кроме решения своих рабочих обязанностей, длинными рабочими сменами с помощью рабочих станций «серфится» интернет, скачиваются самого разного рода файлы. Чего уже говорит о сетевых играх (Counter-Strike, CoD, StarCraft и тд.), которые кроме всего другого являются существенным фактором заражения и распространения вирусов по всему ЦОД.

8. Доверяй — но проверяй

Автоматизация производств в наше время достигла больших высот, это дало возможность минимизировать траты на персонал, а также избавить серверное оборудования от «человеческого» фактора. Но не стоить забывать, что все автоматические системы также разработаны и установлены человеком, и этот пресловутый «человеческий» фактор далее висит над ними как Дамоклов меч. Как часто инженеры ЦОД отрываются от своих уютных кресел и проводят физический мониторинг вверенного им хозяйства? Слепо доверяя датчикам и системам мониторинга, персонал рискует упустить из виду как малую так и большую угрозу функционированию всего серверного оборудования в ЦОД.

9. Искушение туристами

У вас прекрасный ЦОД — современное оборудование, отлично подготовленные сотрудники да и само сооружение исполнено в стиле хай-тек, и вы хотите, чтоб плод ваших усилий увидело как можно больше людей — потенциальных партнеров. Именно тут вас и ожидает самая что не на есть опасность. Порою отсутствие элементарных знаний техники безопасности, плюс искренняя заинтересованность посетителей разноцветными мигающими огоньками может привести к разного рода непредсказуемым ситуациям, непосредственного физического влияния посетителями на оборудование. Еще более эффект может усугубится в том случае, если на самом деле ваш ЦОД не такой уж идеальный да и квалификация сотрудников оставляет желать лучшего. Как результат, вместо счастливых потенциальных клиентов вы рискуете получите перебои в работе для уже существующих.

10. Полуночный аврал

Вы высококвалифицированный и сознательный инженер дата-центра, отработав честно свою смену, без серьезных происшествий, под «занавес» рабочего дня сталкиваетесь с крупным падением сети. Уверен у каждого из нас бывали такие ситуации, когда мы вынуждены были оставаться в нерабочее время решать внезапно возникшую проблему, в которой кроме всего прочего для начала еще и разобраться надо. Отработав уже 10 часов, даже самый опытный и квалифицированный сотрудник рискует вместо того чтоб решить проблему усугубить ее еще больше. Чрезмерная сознательность уставшего физически и морально сотрудника может сыграть с ним злую шутку, именно по этой причине очень важно грамотно организовать рабочие смены и не перегружать сотрудников. Все глобальные работы, проводимые в ЦОД, должны планировался заранее и на начало заступаемой смены. Желание руководства максимально эффективно использовать оплаченное сотрудникам рабочее время может привести к самым неожиданным последствиям и как результат к серьезным убыткам, которые в первую очередь понесет сам владелец дата-центра.

P/S

Кому интересно. Некоторые регламенты и стандарты, касающиеся построения и эксплуатации центров обработки данных (ЦОД):

ГОСТ Р 58811-2020 «Центры обработки данных. Инженерная инфраструктура. Стадии создания». Стандарт определяет этапы создания инженерной инфраструктуры ЦОД и перечень работ на каждом этапе.

ГОСТ Р 58812-2020 «Центры обработки данных. Инженерная инфраструктура. Операционная модель эксплуатации. Спецификация». Стандарт формулирует требования к эксплуатации инженерных систем ЦОДов для предоставления услуг высокого качества.

ГОСТ Р ИСО/МЭК 30134-2-2018. Стандарт вводит систему оценок ключевых показателей эффективности ЦОД.

ГОСТ Р 70139–2022 «Центры обработки данных. Инженерная инфраструктура. Классификация».

ГОСТ Р 70627–2023 «Центры обработки данных. Инженерная инфраструктура. Документация. Техническая концепция. Требования к составу и содержанию».

Сервера перед установкой:

Монтаж в стойки:

Рабочие коридоры:

Великобритания страдает от аномального зноя — впервые за историю наблюдений была зафиксирована температура +40°C. В результате британские центры обработки данных вынуждены использовать обычную воду для полива и охлаждения кондиционеров. Даже простое распыление воды снижает температуру окружающей среды вокруг внешних блоков промышленных кондиционеров и это автоматически ведет к снижению температуры в машинном зале ЦОДа. Об этом сообщает Питер Джадж (Peter Judge), корреспондент издания Data Center Dynamics.

Особому риску подвергаются небольшие дата-центры в густонаселенных кварталах, где операторы хостинговых компаний, как правило не могут выделить дополнительные мощности для резервирования системы охлаждения. Агентство Bloomberg, например, говорит, о применении нестандартного метода борьбы с жарой в Лондоне в районе М25, где были зафиксированы особенно высокие температуры. Однако большинство центров обработки данных стремится держать в секрете этот авральный способ использования воды.

“Шланговый” подход — экстренная мера, которая может выручить в полуденное пекло — говорит София Флакер, директор консалтинговой фирмы Operational Intelligence, специализирующейся на центрах обработки данных, — Но такой способ охлаждения, особенно в местностях с жесткой водой, снижает срок службы кондиционеров, поскольку ведет к образованию накипи на радиаторных решетках”.

Комментарий дата-центра ITSOFT. О том, как проводить работы, связанные с профилактикой кондиционеров, обычно расположенных на крыше, ЦОДов мы говорили в статье с говорящим названием: “Тополиный пух, жара, июль, или Как этим летом работают кондиционеры ЦОДа”. Добавим к вышесказанному лишь картинку внешнего контура кондиционеров, поясняющую, примерно над каким оборудованием британцы создают водяную завесу.

В отрасли наблюдается странная тенденция. Центры обработки данных, которые обычно считаются тихими и чистыми соседями, обеспечивающими экономический бум в сельских районах, встречают негатив. Подобная реакция имеет обобщенное название NIMBY (not in my back yard) — “только не у меня на заднем дворе”, обычно присущее торговым центрам и приютам для бездомных. Тему раскрывает Шэрон Фишер (Sharon Fisher) в журнале Data Center Knowledge.

Вот лишь несколько недавних примеров:

- Амстердам: Запланированное строительство центра обработки данных компании Facebook Meta было отменено из-за экологических соображений;

- Вирджиния: В этом штате самая высокая плотность ЦОдов в США, жители округов Лаудон, Принс-Уильям и Калпепер отклоняют предложения из-за экологических проблем, а также близости к историческим местам;

- Коннектикут: Штат принял закон о предоставлении дата-центрам налоговых льгот, призванных стимулировать их размещение, но такие города, как Гротон, отвергают предложения на их размещение;

- Аризона: Рассматривается возможность введения моратория на строительство центров обработки данных из-за нанесения вреда природе и шума;

- Нидерланды: Голландские фермеры выступили против возведения нового дата-центра Microsoft;

- Люксембург: Жители не хотят допустить строительство дата-центра Google, в результате столкнувшись с рядом препятствий проект стоимостью 1 млрд евро продвигается с «большим скрипом».

Что вызывает недовольство?

Участники кампании против центров обработки данных, некоторые из которых, как это ни странно звучит, используют Facebook для организации протестов против ЦОДов Meta, говорят, что у них нет проблем с концепцией центров обработки данных, а только с их расположением.

“Я вообще не возражаю против центров обработки данных, — говорит Карен Шихан, директор Коалиции в защиту округа Принс-Уильям – Мы все используем данные, любим наши телефоны, любим выходить в интернет. Но мы должны быть честными и заявить о влиянии, которое они оказывают”.

В Северной Вирджинии есть район площадью более 40 квадратных километров, предназначенный для размещения центров обработки данных, и он не заполнен. ИТ-компании пытаются размещать ЦОДы за пределами этого района, потому что в других местах земля дешевле. Земля в промзоне стоит более 400 тыс. долларов за гектар и 10 тыс. долларов за гектар в сельской местности, где граждане собственно и протестуют. Коалиция также обеспокоена и тем, что местные жители вынуждены платить за инфраструктуру, необходимую для центров обработки данных.

Что центры обработки данных делают для реагирования

В ответ центры обработки данных более тесно сотрудничают с сообществами, публикуя информацию о том, как они поддерживают регион. Например, в округе Лаудон дата-центры дают тысячи рабочих мест, а также полмиллиарда долларов местных налоговых поступлений только за последний год.

После того как у застройщиков появится площадка, им необходимо создать общественную коалицию с тем, чтобы помочь процессу утверждения. Дата-центры должны знать о демографии сообщества и соответствующим образом продвигать свои предложения. Например, богатые сообщества будут больше озабочены сохранением открытых пространств и проблемами шума. С этой точки зрения их необязательно будут убеждать разговоры о высокооплачиваемых технических должностях. А вот в отношении шумового загрязнения — проблемы, которая становится все более актуальной, операторы ЦОДов должны рассмотреть вопрос, что они могут предложить для снижения шума: как вариант, применение систем жидкостного, а не воздушного охлаждения.

Главная проблема заключается в том, что индустрия центров обработки данных недостаточно открыта, она нуждается в образовательных программах и пропаганде. Закрытость индустрии из соображений безопасности не удивительна. Она не делает много рекламы, не размещает вывески, не делает экскурсии для заинтересованных сторон. И как закрытая отрасль она вызывает много вопросов. Что происходит за этими стенами? Какие воздействия существуют? Что мы не знаем?

Однако сейчас есть определенные подвижки. Например, некоторые центры обработки данных теперь размещают вывески и логотипы там, где их раньше не было, и проводят экскурсии от школьников до пожилых людей и политиков с тем, чтобы они могли увидеть, что происходит внутри.

Встреча со студентами также помогает решить задачу набора персонала. В округе были центры обработки данных, которые изо всех сил пытались заполнить вакансии. В то же время студенты каждый день проезжая на автобусе мимо ЦОДов думали, что это пустые здания, в которых нет сотрудников. В местных колледжах студенты могли бы получить сертификат инженера дата-центра с хорошими условиями оплаты труда и перспективами карьерного роста. Да и жителям будет гораздо проще смотреть на здания, зная, что в них работают их соседи.

Дата-центры совершенно верно уделят время и силы на благотворительную деятельность. В прошлом году в округе Лаудон была проведена акция вакцинации от COVID-19 и каждый центр обработки данных спонсировал грузовик с едой, который доставил более 700 обедов в течение недели. Основная проблема заключается в том, чтобы спонсорские акции не были разовыми.

Важно понимать, что отзывы сообщества являются частью процесса работы дата-центров. В качестве положительного примера, Коалиция центров обработки данных округа, в которую входит 19 членов, утвердила почти 1 миллион квадратных метров площадей и получила отказ лишь в строительстве одного объекта.

Комментарий дата-центра ITSOFT. В настоящее время стоит задача дать реальное представление о работе центров обработки данных и развеять некоторые мифы, например, таких, как облучение местности ионизирующим излучением от электрического и телекоммуникационного оборудования. В то же время требуется правдиво рассказать и о минусах, т.е. о достаточно серьезном энергопотреблении серверами, СХД и иным оборудованием, а также системами охлаждения ЦОДов. Дата-центры потребляют около 1% мировой выработки электроэнергии и соответственно косвенно загрязняют окружающую среду.

Необходимо рассказать и об усилиях дата-центров, направленных на снижение так называемого углеродного следа и переход на потребление от возобновляемых источников электроэнергии. Многие дата-центры уже применяют технологии зеленой энергетики: солнечные и ветровые электростанции. Помимо этого дата-центры стараются оптимизировать энергопотребление с помощью методик на базе искусственного интеллекта.

До ковидных ограничений центры обработки данных организовывали экскурсии на свои объекты. Посещение машинных залов сейчас ограничено, потому задача СМИ, да и самих дата-центров восполнить этот пробел и правдиво рассказать о себе, пояснить, почему например ЦОДы, оказывающие услуги colocation должны быть рядом со своими клиентами, почему объекты, где происходит хранение и обработка данных должны быть приближены к местам генерации этих данных, иначе говоря к мегаполисам.