2.1. 연구대상 지역

대청호는 1981년 대청댐 준공과 함께 형성된 인공 저수 지이며, 금강 하구로부터 약 150 km 상류에 위치한다. 상 류 용담댐의 유역면적을 제외한 총 유역면적은 3,204 km² 이며, 금강 수계 전체 면적의 32.4%에 해당한다. 대청호는 유역 내 인근 도시들의 물 공급을 위한 최대 상수원으로 사용되고 있으며, 이외에도 관개용수, 수력발전, 홍수조절 등의 다목적으로 사용되고 있다. 대청호는 추동(R1), 댐 앞 (R2), 문의취수탑(R3), 장계(R4), 회남(R5), 대정리(R6) 총 6개 지점에서 환경부 정기수질측정망이 운영되고 있다(Fig. 1). 이 중 수질자동측정망이 운영되고 있는 회남 대교(R5) 지점을 본 연구의 대표지점으로 선정하였다. 수질 자동측정 망은 수온, pH, DO, 전기전도도(EC)와 같은 기본항목을 5 분단위로 측정하며, TOC, Chl-a, T-N, T-P를 포함한 선택 항목을 시간단위로 측정한다. Alk 자료는 K-water의 C 정 수장에서 원수 수질관리를 위해 일별로 실측한 자료를 제 공 받아 사용하였다.

Fig. 1. Layout of Daecheong Reservoir and locations of monitoring stations (Chung et al., 2016).

2.2. 다중회귀 및 기계학습 모델

2.2.1. 다중회귀(MLR)모델

MLR모델(식 (1))은 주어진 하나의 종속변수(Y)와 여러 개의 독립변수들(X₁, X₂, ..., X_n) 간에 선형 관계(Linear Relationship)가 있음을 가정하고, 주어진 학습데이터를 바 탕으로 각 독립변수의 예측력(영향력)인 회귀계수(β)를 추 정하는 모형이다(^{Bae and Kim, 2016}). 다중회귀분석은 데 이터를 이용하여 최적의 회귀계수를 산정하는 과정이며, 독 립변수들 간에 상관관계가 없고 오차항(ε)이 독립적이며 정 규분포를 보이는 것을 가정한다. 따라서 이러한 가정이 위 반될 때 회귀모델의 모의 결과는 신뢰성을 잃게 된다(^{Kim et al., 2016}). 금번 연구에서 적용한 MLR모델은 R 프로그 램의 glm 함수를 사용하여 개발하였다. Fig. 2.

Fig. 2. A schematic description of random forest algorithm.

(1)

Y = β 0 + β 1 X 1 + β 2 X 2 ⋅ ⋅ ⋅ β nXn + ε

2.2.3. 인공신경망(Artificial Neural Network, ANN)

ANN 모형은 통계적 학습 알고리즘의 하나로 생물학의 신경망을 모방하여 만들어 졌다. 인간의 두뇌를 구성하고 있는 기본단위인 뉴런(Neuron)의 인식과정을 수학적 모형 으로 일반화시키기 위해 개발된 시스템이며, 함수 추론, 회 귀분석, 시계열 예측, 근사 모델링 등에 사용될 수 있다 (^{Brooks et al., 2016}; ^{Kim et al., 2016}). ANN의 학습기법 은 크게 지도학습, 자율학습, 준지도학습으로 나누어진다. 지도학습은 목표값을 포함한 훈련된 데이터로부터 함수를 추론하는 것이며, 주어진 변수사이의 관계를 학습함으로써 입력 값을 받으면 학습 결과를 토대로 새로운 예측 값을 제시한다. 이와 반대로 자율학습은 예측변수에 대한 어떠한 사전정보를 가지고 있지 않기 때문에, 예측 인자만을 이용 하여 출력을 계산한다. 준지도학습은 지도학습과 자율학습 의 중간 형태이며, 자율학습과정에 적은양의 훈련된 데이터 를 입력하여 예측의 정확도 향상시키는 방법이다. 신경망에 서 뉴런을 모방한 노드들은 입력층(Input Layer), 은닉층 (Hidden Layer), 출력층(Output Layer) 으로 구분된다. 입력 층노드(i)에 값이 주어지면 은닉층노드(j)로 전달되며, 은닉 층의 노드는 주어진 입력에 따라 활성화된다. 활성화된 노 드들이 출력값을 계산하며, 이는 모델의 최종 예측 결과가 된다(Fig. 3). 각 화살표에 가중치(연결강도)가 부여되고, 은 닉층노드(j,k,l)에 전달되는 값을 넷 활성화(Net activation) 라 한다.

Fig. 3. A schematic description of multi-layer artificial neural network algorithm.

신경망 학습은 이 가중치를 조절하는 작업이다. 입력값 X와 원하는 출력값 Y가 있을 때 입력 값을 입력층에 준 다음 원하는 출력값이 나오는지를 확인하여 가중치를w를 조절한다. 모델 출력값은 에러의 제곱합(Sum of Squared Error, SSE)으로 평가한다(식 (2)). 여기서, y i ˆ 는 출력노드 i 의 출력값, y_i는 원하는 출력값을 의미한다. SSE가 0이 아 닐 경우 해당 출력 노드에 연결된 은닉노드로, 은닉노드에 서 입력노드로 거슬러 올라가며 가중치를 조절하여 0에 근 사하게 한다. 이와 같은 과정을 수회 반복하면 적절한 가 중치가 발견되며, 이러한 학습방법을 역전파 알고리즘(Back Propagation Algorithm)이라 한다.

(2)

SSE = ∑ y i − y i ˆ 2

금번 연구에서 적용한 ANN 모델은 딥러닝의 구현이 가 능한 R 프로그램의 neuralnet 패키지를 사용하여 개발하였 다(^{Fritsch et al., 2016}).

2.3. CO₂ 배출량 산정

본 연구에서 ML 모델의 개발에 사용한 독립변수와 종속 변수는 선행연구(^{Chung et al., 2016})에서 다중선형회귀모델 을 개발하는데 사용한 변수들과 동일하다. 독립변수는 선행 연구에서 CO₂ NAF 변동성을 가장 우수하게 설명했던 수 온, pH, Alk, 풍속, Chl-a 농도, 그리고 일별 pH 변화와 종 속변수인 CO₂ NAF의 분산에 큰 영향을 미친 강수량 (PRCP) 자료를 포함하였다. 기계학습모델의 학습과 성능평 가에 사용한 종속변수인 대청호의 일별 CO₂ NAF는 ^{Cole and Prairie (2009)}이 제시한 방법을 사용하여 이론적으로 산정하였다. 이 방법은 대청호에서 일별로 측정한 실측 pH 와 Alk를 식 (3)에 입력하여 수중의 용존무기탄소(DIC)의 농도를 계산하고, 식 (4)를 이용하여 수중의 CO₂ 농도를 산 정한다. 그리고 실측 수온과 풍속의 함수로 기체전달 속도 를 산정하는 ^{Wanninkhof and Knox (1996)} 방법으로 CO₂ 기체전달 속도(k_g)를 산정한 후 식 (5)을 이용하여 대기-수 표면 경계에서의 CO₂ 배출량 또는 흡수량을 산정한다.

보다 상세한 CO₂ 배출 및 흡수량 산정방법과 입력변수의 특성은 선행 연구논문(^{Chung et al., 2016})에 상세히 제시 되어 있다.

2.4. 기계학습 모델 적용 절차

기계학습 알고리즘을 적용하기 위해서는 먼저 탐색적 데 이터 분석(Exploratory Data Analysis, EDA) 단계가 필수적 으로 수행되어야 한다. 이 단계에서는 데이터 수집 및 정 렬, 결측값 처리 등의 전처리 작업이 이루어진다. 이러한 과정을 거친 후 해당 알고리즘의 학습이 이루어진다. 본 연구에서는 각각의 기계 학습 모델을 생성하기 위해 다음 의 절차를 통해 결과를 추정하였으며, 전체 데이터의 75% 를 학습 자료로 사용하고 나머지 25%를 검정 자료로 분할 하여 실행하였다.

2.4.1. RF 모델

RF 모델링 절차도를 Fig. 4에 나타내었으며, 각 단계별 수행 내용은 다음과 같다.

• STEP 1. 트리의 수(ntree)와 무작위추출 변수의 수(mtry) 결정

• STEP 2. 오차가 가장 작은 mtry를 선정하여 학습용과 검 정용 데이터로 분할

• STEP 3. 학습 데이터를 무작위 복원추출하는 방식으로 실 제 모집단과 가깝게 표본의 크기를 복원하는 과 정을 반복함 → 다수의 부트스트랩 표본(X_i, i = 1, ..., n)을 생성 추출

• STEP 4. 회귀 트리를 최대 크기로 성장할 때까지 ntree회 반복

  회귀 앙상블 트리의 경우 연속형 변수인 최종 예 측값을 평균하여 모델 생성

• STEP 5. 생성된 RF 모델에 검정용 데이터를 사용하여 검 정하며, 5회 반복실행

  학습용과 검정용 데이터 각각의 RMSE의 평균값 으로 오차 비교

Fig. 4. Modeling procedure of the random forest model.

2.4.2. ANN 모델

ANN 모델링 절차도는 Fig. 5에 나타내었으며, 각 단계별 수행 내용은 다음과 같다.

• STEP 1. Scaling 기법을 사용한 데이터 표준화

• STEP 2. 최적의 은닉층 노드수를 선정

  여러 경우의 수를 설정 하여 예측 결과 정확도를 평가하여 최적의 노드 수 선정

• STEP 3. 선정된 최적 은닉층 노드수를 기준으로 학습용과 검정용 데이터 분할 후 학습데이터로 ANN 모델 생성

• STEP 4. 생성된 ANN 모델에 검정용 데이터를 사용하여 검정하며, 5회 반복실행

  학습용과 검정용 데이터 각각의 RMSE의 평균값 으로 오차 비교

Fig. 5. Modeling procedure of the artificial neural network model.

2.5. 모델 검정 및 평가

신규 구축한 기계학습 모델의 예측성능 평가를 위해 k-fold교차 검정(Cross Validation)을 실시하였다. 교차검정 은 모델의 학습과정에서 발생할 수 있는 과적합 문제를 해 결하는 하나의 방법이며, 학습과 훈련 데이터 선정과정에서 특정 데이터에서만 발견되는 결과를 일반화 시키는 오류가 있는지 검정하는 절차이다. 본 연구에서는 총 연구데이터의 90%를 학습데이터, 10%를 검정 데이터로 선택하여 교차검 정을 수행하였으며, 검정절차는 다음과 같다.

모델의 평가는 평균제곱근 오차인 RMSE (Root Mean Squared Error)와 실측 평균값에 대한 상대오차(%error)로 평가하였다. 계산식은 Table 2에 나타내었으며, 여기서 n은 샘플 수, A_i는 실측값, P_i는 예측값이다. Table 1.

3.1. MLR 모델

MLR 모델은 전체 데이터의 75%를 학습 자료로 사용하고 나머지 25%를 검정 자료로 분할하여 총 5회 반복 실행하였 다. Table 2에 MLR 분석 모델 분석 결과를 제시하였다. 학 습 데이터와 검정 데이터의 평균 RMSE는 각각 1,438.9 mg CO₂ m^-2day^-1와 1,452.1 CO₂ m^-2day^-1이었으며, 실측 평균값 에 대한 상대오차는 각각 85.6%와 86.4%이었다.

선행연구에서 도출한 대청호의 평균 NAF 산정값인 1,680.5 CO₂ m^-2day^-1와 비교하여 학습 데이터와 검정 데이터 모두 매우 큰 오차범위를 나타냈다.

3.2. RF 모의 결과

RF 모델의 ntree 값은 ^{Breiman and Cutler (2015)}가 제시 한 기본값인 500으로 설정하였으며, mtry의 값은 ^{Liaw and Wiener (2002)}의 연구결과를 참고하여 결정하였다. mtry의 개수를 2에서 6까지 모두 적용하여 모델링을 수행하였으 며, 그 결과를 Table 3에 나타내었다. 모의결과 NAF 예측 오차는 mtry가 증가할수록 감소하였으며, mtry가 6개인 모 델에서 RMSE 값이 172.1 mg CO₂ m^-2day^-1, 상대오차는 10.2%로써 가장 낮은 편차를 보여, 최종 매개변수로 선정 하였다.

최종 모델(mtry = 6)을 5회 반복 실행 하였으며, 그 결과 를 대청호 실측 NAF대비 오차로 분석하여 Table 4에 나타 내었다. 학습데이터와 검정용 데이터의 평균 오차는 각각 181.2 mg CO₂ m^-2day^-1와 429.1 mg CO₂ m^-2day^-1로 나타났 으며, MLR 모델에 비해 상대적으로 높은 예측 성능을 보 였다.

3.3. ANN 모의 결과

본 연구의 ANN 모델은 2개의 은닉층으로 구성하였다. 첫 번째 은닉층 노드 수를 5개로 고정하고, 두 번째 은닉 층의 노드 수는 ^{Zhang et al. (1998)}이 권장하는 방법에 따 라 설정하여 시행 착오법을 거쳐 최적 모델을 선정하였다. 최종적으로 5-5-3-1, 5-5-6-1, 5-5-12-1, 5-5-13-1의 구조의 다층 퍼셉트론을 구성하였으며, 각 모델들의 평균 RMSE 비교 결과를 Table 5에 나타내었다. 두 번째 은닉층 노드 수가 최소인 모델(n = 3개)에서 RMSE는 109.9 mg CO₂ m^-2day^-1로 6.5%의 낮은 상대오차를 나타냈으며, 노드수가 최대인 모델(n = 12)에서 RMSE는 137.7 mg CO₂ m^-2day^-1 로 나타났다. 또한 노드의 수가 많을수록 과대적합이 발생 한 것으로 나타났다. 이는 ANN 모델의 성능을 향상시키기 위해 적절한 은닉층의 수를 설정해야하며, 많은 노드를 사 용하는 것이 모델의 성능을 향상시키는 것이 아님을 의미 한다.

최종적으로 선택된 ANN 모델(5-5-3-1)을 5회 반복 실행 하였으며, 그 결과를 대청호 실측 NAF대비 오차로 분석하 여 Table 6에 나타내었다. 학습 데이터의 평균 예측 오차는 136.3 mg CO₂ m^-2day^-1이고 검정 데이터의 평균 RMSE는 158.7 mg CO₂ m^-2day^-1로 각각 8.1%, 9.4%의 상대오차를 나타냈다.

3.4. 교차검정

MLR모델과 기계학습 모델의 개발과정에 특정 자료를 사 용한 학습으로 인해 발생할 수 있는 오류를 점검하고 생성 된 모델들에 대한 보다 객관적인 성능 평가를 위해 10-flod 교차검정을 수행하였고, 각 flod 마다 생성된 모델을 검정 자료에 적합시켜 발생한 RMSE의 평균과 표준편차를 Table 7에 제시하였다.

10-flod 교차검정에서 얻은 MLR 모델의 평균 RMSE는 Table 2에 제시된 5회 임의추출 모델의 평균 RMSE보다 27.3 mg CO₂ m^-2day^-1만큼 감소, RF는 31.7 mg CO₂ m^-2day^-1 증가, ANN은 6.8 mg CO₂ m^-2day^-1 감소하는 것으로 나타 났다. 이는 75% 임의추출로 학습한 MLR, RF, ANN 모의 결과 대비 -1.88%, 7.38%, -4.28%의 변동률에 해당한다. 기계학습 모델 개발 과정에서 학습자료의 추출 방법은 어 느 정도 모델 성능 평가에 영향을 미치는 것으로 보이나, 전반적으로 평가할 때 기계학습 모델인 ANN과 RF가 MLR보다 우수한 성능을 보였다.

3.5. 계절별 CO₂ NAF 산정 성능 평가

선행연구에서 MLR 모델은 CO₂ 배출량이 크게 발생하는 시기에 예측값이 과소하게 평가되는 문제점이 발생하였다. 금번 연구에서 개발한 기계학습 모델의 CO₂ NAF 예측성 능을 평가하기 위해 학습데이터와 검정데이터에 대한 NAF 산정 시계열 모의결과를 선행연구에서 산정한 NAF 실측값 과 비교하여 Fig. 6에 나타내었으며, 각각의 모델에 대한 결정계수(R²)를 분석하여 Table 8에 나타내었다. MLR 모 델은 실측값과 상당히 큰 분산을 보였으며, ANN 모델이 실측값에 가장 근접한 것으로 나타났다. 전체 데이터에 대 한 RF 모델과 ANN 모델의 결정계수는 각각 0.988과 0.998로 실측값과 높은 상관관계를 보였으며, Fig. 7과 같 이 2012년부터 2013년까지의 NAF 시계열변동 특성을 적 절하게 재현하였다.

Fig. 6. Linear relationships between observed and simulated NAFs for each model: (a) training data, (b) testing data.

Fig. 7. Comparisons of daily CO2NAF time series during 2012 and 2013 with (a) multiple regression model, (b) random forest model, and (c) artificial neural network model.