Назад | Перейти на главную страницу

Почему водяное охлаждение ЦОД не получило широкого распространения?

Из того, что я читал и слышал о центрах обработки данных, не так много серверных комнат, в которых используется водяное охлаждение, и ни один из самых крупных центров обработки данных не использует водяное охлаждение (поправьте меня, если я ошибаюсь). Кроме того, относительно легко купить обычные компоненты ПК с водяным охлаждением, в то время как стоечные серверы с водяным охлаждением практически отсутствуют.

С другой стороны, использование воды может (ИМО):

  1. Уменьшите энергопотребление крупных центров обработки данных, особенно если есть возможность создавать объекты с прямым охлаждением (т. Е. Объект расположен рядом с рекой или морем).

  2. Снижайте уровень шума, делая работу в центрах обработки данных менее болезненной.

  3. Уменьшите пространство, необходимое для серверов:

    • На уровне сервера я полагаю, что как в стоечных, так и в блейд-серверах легче пропустить трубки водяного охлаждения, чем тратить пространство, чтобы позволить воздуху проходить внутрь,
    • На уровне центра обработки данных, если по-прежнему требуется сохранить проходы между серверами для обслуживания доступа к серверам, пустое пространство под полом и на уровне потолка, используемое для воздуха, может быть удалено.

Так почему же системы водяного охлаждения не получили широкого распространения ни на уровне центров обработки данных, ни на уровне стоечных / блейд-серверов?

Потому что:

Вода + Электричество = Катастрофа

Водяное охлаждение обеспечивает большую удельную мощность, чем воздушное охлаждение; так что выясните экономию затрат за счет дополнительной плотности (скорее всего, никакой, если у вас очень мало места). Затем рассчитайте стоимость риска водной катастрофы (скажем, 1% * стоимости вашего объекта). Затем проведите простое сравнение риска и вознаграждения и посмотрите, имеет ли это смысл для вашей среды.

Поэтому я разделю свой ответ на несколько частей:

  • Физические свойства воды по сравнению с воздухом и минеральным маслом
  • Риски использования воды и исторический негативный опыт
  • Общая стоимость охлаждения центра обработки данных
  • Слабые стороны классических систем жидкостного охлаждения

Физические свойства воды по сравнению с другими

Для начала несколько простых правил:

  • Жидкость может переносить больше тепла, чем газы
  • При испарении жидкого экстракта больше тепла (используется в холодильнике)
  • Вода обладает лучшими охлаждающими свойствами из всех жидкостей.
  • Движущаяся жидкость отводит тепло лучше, чем неподвижная
  • Турбулентный поток требует больше энергии для перемещения, но отвод тепла лучше, чем ламинарный поток.

Если вы сравните воду и минеральное масло с воздухом (для того же объема)

  • минеральное масло примерно в 1500 раз лучше воздуха
  • вода примерно в 3500 раз лучше воздуха

  • Масло плохо проводит электричество в любых условиях и используется для охлаждения трансформаторов большой мощности.

  • масло в зависимости от его точного типа является растворителем и способно растворять пластик
  • вода является хорошим проводником электричества, если она не чистая (содержит минералы ...) в противном случае не
  • вода - хороший электролит. Таким образом, металлы, контактирующие с водой, могут растворяться при определенных условиях.

Теперь несколько комментариев по поводу того, что я сказал выше: сравнения производятся при атмосферном давлении. В этом состоянии вода закипает при 100 ° C, что выше максимальной температуры для процессоров. Таким образом, при охлаждении водой вода остается жидкой. Охлаждение с помощью органических соединений, таких как минеральное масло или фреон (который используется в холодильнике), является классическим методом охлаждения для некоторых приложений (электростанции, военные автомобили ...), но никогда не использовалось долгосрочное использование масла в прямом контакте с пластиком. в сфере IT. Так что его влияние на надежность серверных частей неизвестно (Green Evolution ни слова не говорит об этом). Важно заставить вас двигаться плавно. Полагаться на естественное движение внутри неподвижной жидкости для отвода тепла неэффективно, а правильное направление жидкости без трубы затруднительно. По этим причинам иммерсионное охлаждение - далеко не идеальное решение проблем с охлаждением.

Технические неполадки

Обеспечить движение воздуха легко, и утечки не представляют угрозы для безопасности (в целом для эффективности). Он требует много места и потребляет энергию (15% потребления вашего настольного компьютера идет вашим поклонникам)

Делать жидкий ход хлопотно. Вам потребуются трубы, охлаждающие блоки (холодные пластины), прикрепленные к каждому охлаждаемому компоненту, резервуар, насос и, возможно, фильтр. К тому же обслуживание такой системы затруднено, так как нужно удалить жидкость. Но для этого требуется меньше места и меньше энергии.

Еще один важный момент заключается в том, что было проведено множество исследований и стандартизации того, как проектировать материнские платы, настольные компьютеры и серверы на основе воздушной системы с охлаждающими вентиляторами. И полученные конструкции не подходят для систем на жидкой основе. Больше информации на formfactors.org

Риски

  • Системы водяного охлаждения могут протечь, если ваша конструкция сделана некачественно. Тепловые трубы - хороший пример системы на жидкой основе, у которой нет утечек (смотрите здесь для получения дополнительной информации)
  • Обычные системы водяного охлаждения охлаждают только горячий компонент и, следовательно, по-прежнему требуют воздушного потока для другого компонента. Таким образом, у вас есть две системы охлаждения вместо одной, и вы ухудшаете производительность вашей системы воздушного охлаждения.
  • В стандартных конструкциях протечка воды имеет огромный риск нанести большой ущерб при контакте с металлическими частями.

Замечания

  • Чистая вода - плохой проводник электричества
  • Почти каждая часть электронных компонентов покрыта непроводящим покрытием. Только паяных площадок нет. Так что несколько капель воды могут быть безвредными
  • Водные риски можно снизить с помощью существующих технических решений.

Охлаждающий воздух снижает его способность удерживать воду (влажность), поэтому существует риск конденсации (плохо для электроники). Поэтому, когда вы охлаждаете воздух, вам нужно удалить воду. Это требует энергии. Нормальный уровень влажности для человека составляет около 70% от влажности, поэтому не исключено, что вам нужно после охлаждения снова налить воду в воздух для людей.

Общая стоимость дата-центра

Когда вы рассматриваете охлаждение в центре обработки данных, вы должны учитывать все его аспекты:

  • Кондиционирование воздуха (фильтрация, удаление избыточной влажности, перемещение ...)
  • Ни в коем случае нельзя смешивать холодный и горячий воздух, иначе вы снизите свою эффективность и возникнет риск возникновения горячей точки (точки, которые недостаточно охлаждаются).
  • Вам нужна система для отвода избыточного тепла или вам необходимо ограничить плотность производства тепла (меньше серверов на стойку)
  • Возможно, у вас уже есть трубы для отвода тепла из комнаты (для транспортировки на крышу)

Стоимость центра обработки данных определяется его плотностью (количество серверов на квадратный метр) и потребляемой мощностью. (некоторые другие факторы также принимаются во внимание, но не для этого обсуждения) Общая площадь центра обработки данных делится на поверхность, используемую самим сервером, системой охлаждения, коммунальными услугами (электричество ...) и помещениями для обслуживания. Если у вас больше серверов на стойку, вам нужно больше охлаждения и, следовательно, больше места для охлаждения. Это ограничивает фактическую плотность вашего центра обработки данных.

Привычки

Дата-центр - это нечто очень сложное, требующее большой надежности. Статистика причин простоев в центре обработки данных говорит о том, что 80% простоев вызвано человеческими ошибками.

Для достижения наилучшего уровня надежности вам потребуется множество процедур и мер безопасности. Таким образом, исторически в центрах обработки данных все процедуры выполнялись для систем воздушного охлаждения, а вода ограничивалась наиболее безопасным использованием, если не запрещалась в центрах обработки данных. В принципе, вода не может контактировать с серверами.

До сих пор ни одна компания не могла предложить достаточно хорошее решение для водяного охлаждения, чтобы изменить это положение вещей.

Резюме

  • Технически вода лучше
  • Конструкция серверов и дата-центров не приспособлены к водяному охлаждению
  • Текущие процедуры обслуживания и безопасности запрещают использование водяного охлаждения внутри серверов.
  • Ни один коммерческий продукт не подходит для использования в центрах обработки данных

Хотя у нас есть несколько стоек с водяным охлаждением (на самом деле, HP, не знаю, делают ли они их до сих пор), прямое водяное охлаждение в наши дни - это немного старая школа. Большинство новых крупных центров обработки данных строятся с вытяжными туннелями, в которые вы вставляете стойку, которые затем втягивают наружный воздух и отводят или улавливают для повторного использования тепло, собираемое при прохождении через оборудование. Это означает отсутствие охлаждения вообще и экономию огромного количества энергии, сложности и обслуживания, хотя это действительно ограничивает системы использованием стоек / размеров очень специфических и требует, чтобы свободное место в стойке было «заглушено» спереди.

Вода - универсальный растворитель. Если будет достаточно времени, он проглотит ВСЕ.

Водяное охлаждение также добавит значительного (и дорогостоящего) уровня сложности центру обработки данных, о котором вы упоминаете в своем сообщении.

Системы пожаротушения в большинстве центров обработки данных не содержат воду по нескольким очень конкретным причинам, во многих случаях ущерб от воды может быть больше, чем ущерб от пожара, а также потому, что центрам обработки данных поручено поддерживать время безотказной работы (с резервными генераторами для питания и т. Д.) , это означает, что довольно сложно отключить питание чего-либо (в случае пожара), чтобы брызнуть на него водой.

Можете ли вы представить себе, что в вашем центре обработки данных есть сложная система водяного охлаждения, которая избавляет от призраков в случае пожара? Ой.

Я думаю, короткий ответ состоит в том, что это значительно усложняет ситуацию. Это не столько вопрос места.

Если вам нужно иметь дело с большим количеством воды (трубопроводы, сток и т. Д.), Вы добавляете большой риск ... вода и электричество плохо сочетаются (или они смешиваются слишком хорошо, в зависимости от того, как вы смотрите на Это).

Другая проблема с водой - влажность. По большому счету, все ваши системы кондиционирования заморочатся. Затем происходит накопление минералов в результате испарения и, без сомнения, масса других вещей, о которых я здесь не думал.

Для охлаждения центра обработки данных НЕ следует использовать воду, а следует использовать минеральное масло, которое хорошо сочетается с электричеством. видеть http://www.datacenterknowledge.com/archives/2011/04/12/green-revolutions-immersion-cooling-in-action/

Несмотря на то, что решение новое, технология довольно старая, однако внести изменения такого типа в существующие центры обработки данных становится очень сложно, поскольку вам необходимо заменить существующие стойки на стойки нового типа ...

Большим препятствием для отказа от использования воды в центрах обработки данных является то, что большинство систем водяного охлаждения примитивны. Все они нуждаются в быстром подключении для подключения сервера к источнику воды в стойке, и это является источником сбоев, особенно если у вас могут быть тысячи таких устройств в DC. Они также усложняют обслуживание серверов, и в большинстве случаев вам по-прежнему нужны вентиляторы. Таким образом, вы усложняете ситуацию.

С человеческой точки зрения, большинство руководителей предприятий сопротивляются изменениям. Они очень хорошо разбираются в воздушном охлаждении, и переход на жидкостное охлаждение сделает эти навыки устаревшими. Кроме того, каждый OEM-производитель оборудования будет сопротивляться изменениям, так как это будет означать переделку всей производственной линии.

Изменения произойдут только с а) улучшенными конструкциями жидкостного охлаждения и б) законодательством, требующим изменений

Они есть, но вам нужны компоненты, спроектированные по индивидуальному заказу. OVH (одна из крупнейших компаний-центров обработки данных в мире) использует водяное охлаждение более 10 лет.

По этой ссылке вы можете увидеть их стойки: http://www.youtube.com/watch?v=wrrZxmfevoE

Основная проблема для классических компаний заключается в том, что для использования такой технологии необходимо провести исследования и разработки.

Дата-центры с водяным охлаждением очень эффективны и позволяют сэкономить на энергии при условии наличия очищенной воды. однако опасность возрастает, если они находятся в тесном контакте. 1) влажность / влажность
2) вода против электричества.

На самом деле вода может быть не лучшей жидкостью для использования. Как уже указывалось, со временем он растворяется во всем. Несомненно, вода хорошо используется в системах охлаждения, но не во всех отношениях. Как бы то ни было, минеральное масло тоже может пригодиться, но это тоже не лучший вариант.

Доступны специальные масла-теплоносители, которые не вызывают коррозии - в отличие от воды - и были специально разработаны для использования в качестве теплоносителя. Paratherm уже производит широкий спектр таких устройств.

Проблема заключалась бы в подключении материала к теплообменнику с замкнутым контуром, и мы говорим о большом количестве.

Решение уже сделано, но не используется в электронной среде и исходит от сельскохозяйственной техники. Иначе говоря, гидравлика. Концы шлангов с быстрой защелкой являются герметичными, если по какой-либо причине они отсоединяются, они также закрывают себя как с охватываемой, так и с внутренней стороны. в худшем случае при отключении останется не более 1-2 маленьких капель.

Так что мы можем убрать эту часть. Однако разработка правильных медных деталей, подходящих для каждого отдельного чипа / схемы, нуждающейся в охлаждении, является сложной задачей. Как и в случае с жидкостным охлаждением, необходимо накрыть каждую деталь, которая должна избавиться от лишнего тепла. Потребуются насос относительно высокого давления, датчики давления и редукторы, чтобы убедиться, что в каждой стойке циркулирует надлежащее количество жидкости, и предотвратить отказ. Также потребуются электронные запорные клапаны. В этом нет ничего нового, поскольку эти детали уже сделаны, даже если изначально для разных целей. Многие небольшие вентиляторы обладают преимуществом резервирования, поэтому было бы желательно использовать несколько насосных агрегатов, чтобы предотвратить вероятность отказа в одной точке.

Кроме того, если это реальный цикл с замкнутым контуром, то перемещение жидкого теплоносителя с низкой вязкостью, а не огромного количества воздуха, естественно, окупится.

На самом деле для этого было бы несколько способов. Во-первых, сократятся расходы на кондиционирование и эксплуатацию вентиляторов. Никогда не недооценивайте эти затраты. Даже маленький вентилятор может потреблять несколько ватт мощности, и со временем вентиляторы выходят из строя. Гидравлический насос может работать - учитывая низкое давление, связанное с этим приложением, - буквально годами 24/7, заменяя огромное количество вентиляторов. Далее, микросхемы серверного уровня способны противостоять злоупотреблениям и могут работать при очень высоких температурах по сравнению с настольными компьютерами. Даже в этом случае держите их в более прохладном месте, и ожидаемый срок службы будет дольше, что никогда не следует недооценивать, учитывая цену этих вещей. Больше не потребуется фильтрация воздуха для предотвращения попадания пыли и влаги.

Эти факторы значительно перевешивают недостатки такой технологии охлаждения. Однако первоначальные вложения выше. Несомненно, это решение может обеспечить установку серверов с более высокой плотностью размещения, но в настоящее время в центрах обработки данных просто не учитываются инвестиции. Восстановление существующего решения для охлаждения потребует времени, а время - деньги. Обслуживание также будет очень простым, поскольку не потребуются громоздкие радиаторы и вентиляторы. Следует помнить о сокращении количества потенциальных точек отказа (каждый вентилятор является одним из них), а также резервные насосы могут включиться без какого-либо вмешательства со стороны операторов. Также вентиляторы сами нагреваются. Рассмотрим блок с 20 вентиляторами внутри каждый, мощность которых не превышает 5 Вт. Конечным результатом будет еще 100 ватт тепла, от которого нужно как-то избавиться. Насосы и приводные двигатели также будут выделять тепло, но не внутри стеллажа. Скорее отделен и изолирован от целевой системы. В случае короткого замыкания, например, короткого замыкания активного элемента источника питания, этот вид жидкостного охлаждения может действительно отвести достаточно тепла и, следовательно, снизить вероятность распространения огня. Перенести свежий воздух возле костра - не лучшая идея. Также пластмассовые детали плавятся, а пластмассовые детали легко воспламеняются. Жидкий теплоноситель будет без проблем работать при температурах, при которых могут расплавиться вентиляторы, что потенциально может привести к возникновению другого источника короткого замыкания.

Так будет ли опасно жидкостное охлаждение? Я считаю, что с точки зрения безопасности куча маленьких вентиляторов намного опаснее. На мой взгляд, с точки зрения срока службы жидкостное охлаждение гораздо предпочтительнее. Единственные минусы - обучение персонала и первоначальные вложения. Кроме того, это гораздо более жизнеспособное решение, которое хорошо окупается даже в среднесрочной перспективе.

Он отлично работает, но требует больших затрат времени и средств для установки на тысячи машин и занимает много места. Плюс в этом нет необходимости. Игровые установки могут быть тесно переполнены. Все, что имеет приличную вентиляцию, прекрасно подойдет с хорошим потоком воздуха 70f даже на 100%, чего они никогда не делают.