Jinkyun Cho
(조진균)
1†
Hosuk Kang
(강호석)
1
-
Construction Technology Team, Samsung C&T Corporation, Seongnam, 13530, Korea
(삼성물산(주) 건설부문 기술팀)
Copyright © 2016, Society of Air-Conditioning and Refrigeration Engineers of Korea
keywords
Data center, Cooling system, Chilled water plant, Thermal analysis, Under fault condition, CFD simulation
키워드
데이터센터, 냉방시스템, 냉열원, 열성능평가, 열원중단 비상시, 전산유체역학
기호설명
C:CRAC 유닛 코일 열량 [kW]
Q:냉수순환 유량 [m3/min]
V:냉수순환 배관내 관수량 [m3]
T:온도 [℃]
cp:물의비열 [kWh/kg℃], 1.16E-03 kWh/kg℃
ρ:물의밀도 [kg/m3], 1.0 kg/m3
t:시간
하첨자
CHS:냉수공급(in CRAC unit)
CHR:냉수환수(in CRAC unit)
n:데이터 수
1. 서론
지난 10년 동안 데이터센터는 운영효율 및 신뢰성을 확보하기 위한 상당한 노력이 요구되어 왔고 시설의 규모와 안정성도 막대한 수요의 증가와 함께
고도화 되어왔다.(1) 데이터센터는 가장 낮은 단계인 Tier 1의 운영 가용성(96.671%의 신뢰성)을 위한 최소 요구사항을 확보하기 위해서도 상당한 기술적 솔루션이
요구된다. 특히, 사업을 목적으로 하는 전용 데이터센터의 경우, Tier 3~4단계의 높은 가용성(99.982% 이상) 확보(2)를 위한 무중단 연속운전 등 시스템 구축비용이 막대하게 소요된다. 이러한 데이터센터는 비상발전기, 무정전 전원공급장치 등 전원의 공급경로를 이중화하여
안정성을 강화하고 있다. IT서버에는 전원 뿐 아니라 냉각시스템도 무중단 공급이 되어야하고(3) 이를 위해 열원시스템이 중단되고 비상전력 및 예비 냉동기가 가동하여 다시 열원을 공급하기 위한 시간동안의 안정적인 서버냉각을 위해 냉수 버퍼탱크를
설치하여 냉수공급이 가능하게 계획한다. 이렇듯 데이터센터의 안정적인 운전을 위한 시설계획은 막대한 비용의 증가로 이어지기 때문에 계획초기 단계부터
신중한 검토가 필요하다.(4) 이러한 비상상황이 데이터센터의 건물 생애주기 동안 발생할 빈도수가 매우 작고, IT서버의 기술의 발전에 의해 운영환경에 대한 민감도가 과거에 비해
월등하게 향상된 것을 고려하여 볼 때, 버퍼탱크의 가동시간과 용량을 감소시킬 수 있는 여지가 많다. 본 연구는 최근에 완공된 A 데이터센터의 사례분석을
통해, 20 MW급의 냉열원 시스템의 비상상황을 가정하여 냉수의 온도변화와 순차적으로 영향을 받는 IT서버룸의 실내온도 변화를 평가하고자 하였다.
이를 위해 CFD 모델을 통하여 데이터센터의 온열환경을 분석하고, 열원공급 중단시 2차측 냉수순환만으로 IT서버룸의 실내환경이 얼마간 유지되는가를
정량적으로 검토하였다. 또한 해석결과로부터 초기 냉방대응 한계시간을 설정하고 적정한 버퍼탱크 용량을 결정하여 시스템의 신뢰성을 높이고자 하였다.
2. 데이터센터 모델링
2.1 데이터센터 냉각시스템
해당 데이터센터의 냉각시스템은 Fig. 1과 같이 총 9개층의 IT서버룸을 담당하는 중앙냉수식 CRAC유닛과 냉수를 공급하는 지역냉방 시스템으로 구성되어 있다. 항온항습기인 CRAC 유닛은
예비를 포함하여 층당 43개가 설치되었고 기본적으로 IT서버 배치가 cold aisle containment로 구성되어 비교적 높은 온도로 급기가
가능하다. 따라서 냉수공급온도는 1차측 지역냉수를 열교환하여 비교적 고온의 냉수를 2차측으로 공급한다. 또한 비상시 냉수공급이 중단될 상황을 고려하여
버퍼탱크를 구성하고 있다.
Fig. 1. Data center cooling system:a) Secondary loop chilled water and b) Typical floor of IT server room.
table 1은 주요 냉각시스템의 공급조건을 보여준다. 데이터센터의 특성상 단계별로 IT서버룸이 채워지는데 운영초기에 먼저 구성되는 상부의 5개층을 대상으로 분석을
실시하였다.
Table 1. Operating condition of IT cooling system
Item
|
CRAC-1
|
CRAC-2
|
Type
|
for water-side economizer
|
Indirect air-side economizer
|
Capacity(usRT)
|
43
|
15
|
Air volume(CMH)
|
31,000
|
8,500
|
SA temperature(℃)
|
20.0
|
20.0
|
RA temperature(℃)
|
34.5
|
34.5
|
Chilled water(LPM)
|
391
|
144
|
CWS temperature(℃)
|
10~14
|
10
|
CWS temperature(℃)
|
15.5~19.5
|
15.5
|
Nos(EA/floor)
|
12
|
31
|
전용 데이터센터의 냉각시스템 배관구성은 비상시를 고려하여 이중으로 입상을 구성하고 각 층에서는 루프형식으로 설치하는 것이 일반적이다. 열원장비 고장시
예비 장비가 기동하기 전까지 안정적인 냉수를 공급하기 위한 목적으로 버퍼탱크가 설치되는데, 그 전에 배관 내의 냉수를 열원공급 없이 IT서버 운영환경에
영향을 주지 않는 범위에서 재순환하여 사용할 수 있는 시간을 판단하여 경제적이고 최적화된 버퍼탱크 용량을 결정하는 것이 중요하다. 이를 위해서 배관내의
관수량을 우선적으로 산정하였다. table 2와 같이, 입상부분은 관경별로 구간을 나누어 산출하고 기계실부분과 기준층 수평배관은 동일한 관경의 길이로 계산하였다. 해당 냉수배관의 총 관수량은
220 ㎥로 산출되었다.
Table 2. Water content in chilled water pipes
Size (㎜)
|
Length(m)
|
Volume (㎥)
|
Water content
|
Horizontal
|
Riser
|
Total
|
200
|
1,850(typical floor)
|
-
|
1,850
|
58.0
|
220 ㎥
|
250
|
-
|
82
|
82
|
4.0
|
350
|
-
|
82
|
82
|
7.8
|
400
|
-
|
82
|
82
|
10.2
|
450
|
-
|
82
|
82
|
13.0
|
500
|
440(mechanical room)
|
280
|
720
|
141.3
|
2.2 IT서버룸 분석 모델
IT서버룸 분석 모델은 CRAC 유닛의 토출온도와 IT서버로 인입되는 공기온도를 분석하고 각 서버 인입공기온도는 ASHRAE T.C 9.9 허용온도를
만족하는지를 판단한다. 그리고 CRAC 유닛 토출 온도범위가 확인되면 허용 가능한 냉수인입 온도범위를 찾아내고 해당하는 인입온도에 도달하는 시간을
계산하는 목적으로 CFD 시뮬레이션을 수행하였다. CFD 모델의 신뢰성을 위해서는 IT장비의 특성을 정확하게 반영하여야 한다. 분석을 위한 상용 시뮬레이션
프로그램은 다양하게 존재하지만, 그 중 데이터센터의 특수성을 반영한 특화된 시뮬레이션 프로그램인 6 sigma DC를 사용하였다. 6 Sigma DC는
데이터센터 기계설비 설계자를 위해 개발된 전용 설계 프로그램이며, 그 중의 하나의 해석모듈인 6 Sigma DC Room은 IT서버룸의 종합적인 효율검토가
가능한 CFD 시뮬레이션 프로그램이다. 본 프로그램의 특징은 데이터센터를 구성하는 가장 중요한 IT장비의 다양한 정보와 데이터베이스를 보유하고 있어
정확한 IT환경 구현이 가능하다.(5) 기본모듈은 cold aisle과 hot aisle을 최소 7개로 구성하였고(Fig. 1의 A’ 영역) 실의 깊이는 일반적인 CRAC 유닛이 공급 가능한 거리인 15 m 이하로 적용하였다.
Fig. 2와 같이, IT장비는 IU 서버를 42개 최대 설치할 수 있는 Rack으로 구성하여 전력밀도는 4.0 kW/rack으로 용량을 설정하였고 ASHRAE
TC 9.9에서 제시하는 기준으로 192개를 배치를 하였다.
Fig. 2. IT server room CFD simulation model.
공조방식은 현재 가장 보편적으로 적용되고 있는 바닥급기+측면환기 방식이며 기류분포에 영향을 주는 R/F높이는 900 mm, 천장고는 3.0 m로
구성되어 있다(Fig. 3).
Fig. 3. Room section and supply air temperature.
CRAC 유닛의 취출온도는 공조/냉각시스템의 에너지 소비와 밀접한 영향을 주는 중요한 요소이다. CRAC 유닛의 취출온도가 상향되면 공급되는 냉수를
상승시킬 수 있기 때문에 열원시스템의 상호 영향을 주게 된다. IT서버의 운영조건을 고려하여 시뮬레이션 경계조건은 table 3과 같으며, CRAC 유닛 취출온도 20~25℃에 대응하여 냉수온도 10~18℃로 변경하여 해석을 하였다.
Table 3. Simulation boundary conditions
Item
|
Factor
|
Room size(㎡)
|
544.3
|
Raised Floor Height(m)
|
0.8
|
Number of Cabinets
|
192 EA
|
Number of CRAC unit
|
6 EA
|
Air Flow Rate(CMH/CRAC)
|
31,000
|
Supply air temperature(℃)
|
20~25
|
Room height(m)
|
5.1
|
False ceiling height(m)
|
3.0
|
Rack IT limit(kW/rack)
|
4.0
|
Cooling capacity(kW/CRAC)
|
150(43 RT)
|
Cold aisle/Hot aisle
|
Cold aisle containment
|
Chilled water temperature(℃)
|
10~18
|
IT서버가 정상운전이 가능한 데이터센터의 환경기준 범위(6)는 Class A1~A4의 권장치인 IT서버의 인입온도 18~27℃(40~60%)를 판단기준으로
선정하였다.
table 4는 CFD 모델의 적정성을 판단하는데 가장 기본적으로 요구되는 기준으로 4개의 Class 구분으로 IT장비의 운영환경을 보여주고 있다. 제시된 조건은
실제로 냉각을 위해 IT서버로 인입되는 공기의 조건을 나타내는 것으로 서버룸 실내의 평균 조건을 만족해야하는 것은 아니다. 비상시에는 허용 조건까지
범위를 확장하는 것도 가능하지만, 열적 균형이 깨지게 되면 허용 조건을 초과하는데 많은 시간이 소요되지 않기 때문에 본 연구에서는 권장조건에 준하여
분석 하였다.
Table 4. Temperature rate of change clarification
Class
|
DB (℃)
|
RH (%)
|
DP (℃)
|
Change Rate (℃/hr)
|
Recommended
|
A1 to A4
|
18 to 27
|
5.5℃(DP) to 60%
|
N/A
|
N/A
|
Allowable
|
A1
|
15 to 32
|
|
17
|
5/20
|
A2
|
10 to 35
|
|
21
|
5/20
|
A3
|
5 to 40
|
|
24
|
5/20
|
A4
|
5 to 45
|
|
24
|
5/20
|
|
2.3 시뮬레이션 결과
IT서버룸의 CRAC 유닛은 인입 냉수온도의 기준에 의해 냉방코일(열교환기)의 용량이 결정되기 때문에 인입되는 냉수의 온도가 변경되면 코일 냉각능력이
변경되고 실내로 취출되는 공기의 온도도 연차적으로 변화하게 된다. 적용된 CRAC 유닛의 기술 데이터를 기반으로 냉수입구온도 변화에 따른 공기 입,
출구(SA/ RA) 온도변화를 분석한 결과, Fig. 4와 같이 냉수온도 14℃까지는 정상적인 운전이 가능하지만 냉수온도 15℃ 이상으로 공급되면 코일의 냉각능력이 저하되어 실내로 취출되는 공기온도가 상승하고
CRAC 유닛 냉방코일의 냉각능력이 저하되기 시작된다.
Fig. 4. CRAC unit’s supply air temp. and capacity according to chilled water temp. condition.
CFD 시뮬레이션 결과, CRAC 유닛의 실내공기 토출온도에 따른 IT서버의 인입온도 및 IT서버룸의 온도분포는 냉수공급온도 조건에 따라서 table 5, table 6과 같다.
Table 5. CFD simulation results of normal condition and fault condition-1&2
[Normal condition]
▪ Supply air temperature:20.0℃
▪ Supply chilled water temperature:10~14℃
|
Max rack inlet temperature:22.3℃
|
CRAH unit supply and return temperature
|
|
|
Z = 0.2 m
|
Z = 1.0 m
|
Z = 1.8 m
|
X = 5.5 m
|
X = 9.5 m
|
X = 14.5 m
|
|
|
|
|
|
|
Min:20.0℃
Max:41.2℃
|
Min:20.0℃
Max:39.3℃
|
Min:20.0℃
Max:41.2℃
|
Temperature distribution
|
.
|
[Fault condition-1]
▪ Supply air temperature:21.0℃
▪ Supply chilled water temperature:15.0℃
|
Max rack inlet temperature:23.2℃
|
CRAH unit supply and return temperature
|
|
|
Z = 0.2 m
|
Z = 1.0 m
|
Z = 1.8 m
|
X = 5.5 m
|
X = 9.5 m
|
X = 14.5 m
|
|
|
|
|
|
|
Min:21.0℃
Max:42.2℃
|
Min:21.0℃
Max:40.4℃
|
Min:21.0℃
Max:42.2℃
|
Temperature distribution
|
.
|
[Fault condition-2]
▪ Supply air temperature:22.0℃
▪ Supply chilled water temperature:16.0℃
|
Max rack inlet temperature:24.3℃
|
CRAH unit supply and return temperature
|
|
|
Z = 0.2 m
|
Z = 1.0 m
|
Z = 1.8 m
|
X = 5.5 m
|
X = 9.5 m
|
X = 14.5 m
|
|
|
|
|
|
|
min:22.0℃
Max:43.2℃
|
Min:22.0℃
Max:41.4℃
|
Min:22.0℃
Max:43.2℃
|
Temperature distribution
|
Table 6. CFD simulation results of fault condition-3, 4&5
[Fault condition-3]
▪ Supply air temperature:23.0℃
▪ Supply chilled water temperature:16.0℃
|
Max rack inlet temperature:25.2℃
|
CRAH unit supply and return temperature
|
|
|
Z = 0.2 m
|
Z = 1.0 m
|
Z = 1.8 m
|
X = 5.5 m
|
X = 9.5 m
|
X = 14.5 m
|
|
|
|
|
|
|
Min:23.0℃
Max:44.2℃
|
Min:23.0℃
Max:42.4℃
|
Min:23.0℃
Max:44.2℃
|
Temperature distribution
|
.
|
[Fault condition-4]
▪ Supply air temperature:24.0℃
▪ Supply chilled water temperature:17.0℃
|
Max rack inlet temperature:26.3℃
|
CRAH unit supply and return temperature
|
|
|
Z = 0.2 m
|
Z = 1.0 m
|
Z = 1.8 m
|
X = 5.5 m
|
X = 9.5 m
|
X = 14.5 m
|
|
|
|
|
|
|
Min:24.0℃
Max:45.2℃
|
Min:24.0℃
Max:43.4℃
|
Min:24.0℃
Max:45.2℃
|
Temperature distribution
|
.
|
[Fault condition-5]
▪ Supply air temperature:25.0℃
▪ Supply chilled water temperature:18.0℃
|
Max rack inlet temperature:36.8℃
|
CRAH unit supply and return temperature
|
|
|
Z = 0.2 m
|
Z = 1.0 m
|
Z = 1.8 m
|
X = 5.5 m
|
X = 9.5 m
|
X = 14.5 m
|
|
|
|
|
|
|
min:32.1℃
Max:56.1℃
|
Min:32.1℃
Max:53.3℃
|
Min:32.1℃
Max:54.0℃
|
Temperature distribution
|
IT서버룸의 공조효율 평가의 가장 중요한 요소는 온도분포이며, 특히 IT서버로 인입되는 공기온도이다. 인입공기가 상승하면 서버장애의 주요 원인이
되기 때문에 IT서버의 공기 인입부를 물리적으로 구역하는 cold aisle containment를 적용하여 효율을 높였다. 취출온도에 따라서 온도영역은
차이가 나지만 전체적으로 cold aisle과 hot aisle은 구분되어서 분포하며, containment로 구성된 대안은 그 온도가 확연한 차이를
보이고 있다. 인입공기가 재순환에 의해서 상승하면 서버장애의 주요 원인이 되며, 대부분의 랙-서버의 상부에서 발생한다. 실내(서버)발열이 CRAC
유닛 용량의 85% 이하 수준이면 실내 취출온도 약 24.0℃까지는 적용된 설계용량으로 운전이 가능하고 이때의 냉수온도는 17℃이다.
Fig. 5와 같이 냉수온도가 17℃를 넘게되면 CRAC 유닛의 냉각용량이 80% 이하로 감소하고 실내의 온도가 급격하게 증가하는 것을 볼 수 있다. 이것은
CRAC 유닛 코일의 냉각능력만을 기준으로 온도변화를 분석한 정상상태의 결과이다.
Fig. 5. Maximum IT server inlet temp. according to supply air and chilled water conditions.
3. 열원시스템 분석
3.1 배관내 냉수온도 변화율
CFD 분석 결과, 허용 가능한 냉수온도 범위가 도출되었고 이에 따라서 온도도달 시간을 산출해야한다. 열원 중단 후 냉수온도 상승 해석은 기준층
1개층 계산을 위한 시스템 scale-down을 실시하여 수행하였다. 이에 따라서 총 관수량은 1개의 층을 기준으로 약 45 ㎥/층이 된다. table 7 은 기준층 CRAC 유닛의 용량 및 운전조건을 보여주고 있으며 Fig. 6은 기준층 서버룸의 냉수공급 scale-down 개념과 조건을 보여주고 있다.
Table 7. IT cooling system for a typical floor
Item
|
CRAC-1
|
CRAC-2
|
Total cooling capacity(kW)
|
150×11 EA
|
50×17 EA
|
→ 2,500 kW
|
Total CW flowrate(LPM)
|
391×11 EA
|
144×17 EA
|
→ 6.75 ㎥/min
|
Total CW content in pipes
|
45 ㎥
|
Fig. 6. Schematic diagram of system scale-down.
열원 중단 후 배관내 냉수온도 변화율 및 지연시간 계산을 위한 기본식은 식(1)~식(3)과 같다.
식(4)와 같이 IT서버룸의 발열부하가 일정하면 CRAC 유닛의 냉각코일에서 일정한 열량을 공급해야하고 냉수 입, 출구온도의 차는 일정하다고 가정하면, 식(5)와 식(6)과 같이 냉수온도 변화 및 지연시간의 함수를 도출할 수 있었다. 도출된 함수식을 사용하여 시간별 열손실에 의한 냉수온도 상승범위를 산출하기 위해 열원이
중단된 시점을 T0로 설정한다. 이 시점에서는 총 관수량인 V2의 45 ㎥ 중 CRAC 유닛을 통과한 CHR 배관내 15.5℃에 도달한 냉수량을 제외한 CHS 배관내의 10℃의 냉수량은 50%인 22.5 ㎥이며,
이때의 관수량은 V1이다. 그리고 V1의 관수량의 열용량을 모두 소진하여 15.5℃에 도달하는 시간 t1은 식식(5)에 의해 3.45분이 된다. 이때가 총 관수량 V2가 모두 15.5℃에 도달하는 시간이다. 다시, V2가 모두 21.0℃에 도달하는 시간 t2는 10.36분이 경과되고, 동일하게 V2가 모두 26.5℃에 도달하는 시간 t3은 17.27분이 된다.
세부 구간별로 냉수온도 변화의 시간함수는 식(7)과 같이 도출될 수 있다.
단, x는 냉수공급온도
3.2 열원 중단시 IT환경 정상운전 가능 시간분석
IT서버룸 CRAC 유닛으로 공급되는 열량을 관수량 보유열량 기준으로 분석한 결과, 10℃ 기준 배관 내 냉수가 14℃까지 상승하는 시간은 약 150초(2분
30초)가 소요된다.
장비선정은 외기냉수냉방을 위해 냉수공급온도 14℃까지는 CRAC 유닛이 실내의 설정온도 유지가 가능하도록 구현하여 이 시각까지는 안전구간 범위 안에
해당된다. 장비 제조사 기술 데이터를 기반으로 한 냉수 입, 출구 온도변화에 따른 공기 입, 출구 온도변화는 냉수온도 14℃까지는 IT환경유지에 어떠한
영향을 주지 않는다. CFD 시뮬레이션을 통해 도출된 IT서버로 인입되는 공기온도가 ASHRAE T.C 9.9 허용온도를 만족시키기 위한 CRAC
유닛 취출온도 범위는 최대 24℃이다. 그리고 공기온도의 유지가 가능한 허용 냉수인입온도 범위는 17℃이다. 해당하는 냉수 인입 온도에 도달하는 시간은
열원중단 후 약 320초(5분 20초)간 정상운전이 가능하다. Fig. 7은 냉수온도 변화의 시간함수는 식에 맵핑된 안전운전구간과 정상운전구간의 허용가능 시간을 보여주고 있다.
Fig. 7. A function of time for rising chilled water temperature under fault conditions.
4. 결 론
데이터센터의 냉각시스템의 안정적이고 경제적인 설계 및 장비선정을 위해서 비상시 열원중단 후 CRAC 유닛의 냉수 또는 공기측 온도조건 및 정상운전
시간을 분석을 하였다. 단계별로는 CFD 분석을 통하여 CRAC 유닛의 취출 공기온도와 냉각능력 변화에 따른 IT서버의 발열 제거를 위한 서버인입
공기온도를 ASHRAE TC 9.9 기준 대비 평가하였고, 냉수입구온도 변화에 따른 CRAC 유닛의 취출공기온도 및 냉각능력 변화를 예측하였다. 마지막으로
냉수배관 내의 관수량 및 열용량을 기준으로 IT서버룸 부하제거 시 냉수온도 상승시간을 산출하고 안전구간 및 정상구간을 도출하였다.
(1) 냉수공급온도 17℃, CRAC 유닛의 취출공기온도 24℃까지는 IT서버로 인입되는 공기온도가 ASHRAE 기준(18~27℃)에 부합하였고
CRAC 유닛 코일용량의 85% 이상으로 작용하여 열원중단 후 약 320초간 정상운전이 가능하였다.
(2) CRAC 유닛의 냉수인입온도 18℃, 취출공기온도 25℃부터는 코일용량이 부하량 보다 작아져 급격한 온도상승 발생하여 IT장비의 심각한 장애
원인이 된다.
(3) 최근, Cold Aisle Containment를 적용하여 비교적 높은 냉수공급온도 및 공기취출온도로 설계를 하는 사례가 증가하는데 열원
중단시 IT서버룸의 급격한 실내온도 상승이 발생할 가능성이 크기 때문에 300초 안에 즉각적인 백업 시스템이 가동되어야 한다.
데이터센터의 운영특성을 파악하고 최적화된 공조/냉각시스템을 설계하는 것이 고밀도화 된 데이터센터의 신뢰성을 위해서는 매우 중요한 선행업무이다. 이러한
물리적 결과를 고려하여 비상용 냉동기 가동을 위한 시간과 냉수 버퍼탱크 가용시간 등을 복합적으로 검토가 필요할 것으로 판단된다. 또한 향후 종합적인
안전성 평가와 각 설계요소에 대한 영향도를 제시할 수 있도록 후속연구가 요구된다.