2.1. 연구대상 지역 및 데이터 구축

본 연구의 대상 지역은 금강 수계의 주요 지류인 미호강 유역으로 선정하였다^{(Kim, Jones et al., 2021)}. 미호강은 대한민국 중부권에 위치하며 청주시와 세종시 등 도심지와 광범위한 농경지를 관류하는 특성을 보인다^{(Legesse et al., 2022)}. 지리적 특성으로 인해 강우 시 유역 내 점오염원 및 비점오염원으로부터 다량의 영양염류가 하천으로 유입되어 수질 오염에 취약한 특성을 보인다^{(Kim et al., 2014)}. 본 연구에서는 환경부 국립환경과학원 물환경정보시스템에서 제공하는 국가 수질자동측정망 자료를 활용하여 데이터를 구축하였다^{(Yu et al., 2024)}. 분석 기간은 2016년 4월 1일부터 2025년 4월 1일까지이며, 약 9년 동안 수집된 시계열 자료를 바탕으로 데이터셋을 구성하였다.

조류 발생 예측 모형의 구축을 위해 수질 및 수생태계 변화에 영향을 미치는 주요 인자를 선별하였다. 조류 발생의 정량적 지표인 Chl-a를 종속변수로 설정하였다^{(Reckhow et al., 2005)}. 독립변수로는 수온(Temp), 수소이온농도(pH), 전기전도도(EC), 용존산소(DO), 탁도(NTU), 총유기탄소(TOC) 등 총 6가지 물리화학적 수질 인자를 선정하여 활용하였다^{(Kim and Ahn, 2022)}. 전처리 과정을 거치기 전의 raw data는 총 3,288개로 집계되었다.

2.2. 이상치 탐지 및 데이터 전처리

수질 데이터의 신뢰성을 확보하기 위해 우선적으로 결측치 제거 과정을 수행하였다. 독립변수인 수온, pH, EC, DO, NTU, TOC 및 종속변수인 Chl-a 중 하나의 항목이라도 결측이 존재하는 경우 해당 데이터를 분석에서 제외하였다. 결측치 제거 후 초기 3,288개의 데이터 중 2,054개의 유효 데이터가 확보되었다.

이후 회귀 모형의 학습 성능을 저하시킬 수 있는 다변량 이상치를 식별하기 위하여 IForest 알고리즘을 적용하였다^{(Liu et al., 2020)}. IForest는 고차원 데이터셋 내에서 정상 데이터와 다른 분포를 보이는 이상치를 탐지하는 데 효과적인 것으로 알려져 있다^{(Shao et al., 2020)}. 알고리즘 구현에는 Python의 Scikit-learn 라이브러리를 활용하였으며, 데이터셋 내 이상치 비율을 결정하는 contamination 매개변수는 0.03으로 설정하였다^{(Lee and Park, 2025)}. 앙상블 학습을 위한 base estimator의 수는 100으로 설정하였으며, 분석의 재현성을 위해 random state를 고정하였다^{(Ashraf and Islam, 2023)}. IForest 적용 결과, 전체 데이터의 약 3.02%에 해당하는 62개의 데이터가 이상치로 판별되어 제거되었다. 제거된 데이터는 주로 탁도와 Chl-a 간의 상관관계 등에서 일반적인 하천의 거동 범위를 벗어나는 특이점을 보인 것으로 확인되었다. 최종적으로 이상치가 제거된 1,992개의 데이터셋이 머신러닝 모형 구축 및 데이터 불균형 해소 전략 적용에 활용되었다.

데이터 스케일링과 관련하여, SMOGN 알고리즘 적용 시 k-최근접 이웃 기반의 거리 계산이 목표 변수(Chl-a)의 크기에 의해 왜곡되지 않도록, 독립변수와 종속변수 전체에 대해 Standard Scaling을 선행 적용하였다^{(Zhang et al., 2024)}. SMOGN을 통한 합성 샘플 생성 후에는 역변환(inverse transform)을 수행하여 원래의 물리적 단위로 복원하였다.

2.3. 데이터 불균형 해소 전략

일반적으로 하천 수질 데이터는 저농도 구간이 빈번하게 관측되고 고농도 조류 발생 구간은 드물게 나타나는 long-tailed 분포 특성을 보인다^{(Wang and Convertino, 2023)}. 이러한 데이터 불균형은 회귀 모형이 고농도 구간을 과소예측하게 만드는 원인이 되므로 적절한 데이터 증강 기법의 적용 중요성이 대두되고 있다^{(Mori et al., 2022)}. 본 연구에서는 이를 해결하기 위해 GN 주입 기법과 SMOGN 알고리즘을 적용하여 그 효과를 비교⋅분석하고자 한다. 두 기법 모두 학습 데이터(Train set)에 한하여 적용하였으며, 증강 전후의 Chl-a 분포 변화 및 합성 샘플의 통계적 특성을 검토하여 데이터 품질을 확인하였다. 증강된 학습 데이터는 원본 평가 데이터(Test set)와 엄격히 분리되어 모형 평가에 사용되었다.

2.4. 머신러닝 모델 구축 및 학습

Chl-a 농도 예측을 위한 모형으로는 앙상블 기반의 XGBoost 알고리즘을 선정하였다. XGBoost는 과적합 방지와 빠른 연산 속도 등의 장점이 있어 수질 예측 분야에서 ANN, SVM, RF, LSTM 등 다양한 머신러닝 기법과 함께 널리 활용되고 있다^{(Xie et al., 2024)}. 모형의 구축은 (1) 전처리된 원본 데이터를 활용한 Baseline 모형, (2) GN 기법으로 증강된 데이터를 활용한 모형, (3) SMOGN으로 증강된 데이터를 활용한 모형의 3단계로 구분하여 수행하였다(Fig. 1).

각 증강 기법의 최적 성능 도출을 위해 앞서 설정한 다양한 임계값 시나리오(GN: 상위 10∼15%, SMOGN: threshold 0.65∼0.85)에 대해 예비 모형 전 성능을 평가하였다. 평가 결과 가장 우수한 성능을 보인 조건을 최종 비교 분석 대상으로 선정하였다. 시계열 데이터의 시간적 의존성을 반영하기 위해 데이터셋의 분할은 시간 순서에 따른 chronological split 방식을 적용하였다^{(Cerqueira et al., 2020)}. 전체 데이터의 80%에 해당하는 과거 데이터(2016년 4월∼2023년 9월)를 학습용(Training set)으로, 나머지 20%에 해당하는 최근 데이터(2023년 9월∼2025년 4월)를 평가용(Test set)으로 엄격히 분리하였다(Train: 811개, Test: 203개). 학습 데이터에 대해 시간적 순서를 보존하는 5-Fold 시계열 교차 검증(Time-Series Cross-Validation)을 수행하여 모형의 일반화 성능 및 견고성을 추가로 검증하였다^{(Cerqueira et al., 2020)}. 모형 간의 공정한 비교를 위해 모든 XGBoost 모형의 하이퍼파라미터는 동일하게 적용하였다(Table 2).

Fig. 1. Schematic diagram of the research methodology.

2.5. 모델 성능 평가

구축된 머신러닝 모델의 예측 성능 평가는 수문 및 수질 분야에서 통용되는 통계적 지표인 결정계수(R²), 평균 제곱근 오차(RMSE), 평균 절대 오차(MAE)를 활용하였다^{(Zhu et al., 2022)}. 각 지표의 산정 식은 다음과 같다:

여기서 $n$은 데이터의 개수, $y_i$는 실측값, $\hat{y}_i$는 예측값, $\bar{y}$는 실측값의 평균을 의미한다. 전체 데이터에 대한 성능 평가와 더불어, 실제 수질 관리에서 중요성이 높은 고농도 조류 발생 구간에 대한 예측력을 검증하기 위해 구간별 평가를 추가로 수행하였다. 평가 데이터셋을 기준으로 상위 25%에 해당하는 고농도 구간(>8.65 µg/L, N=51)에 대해 별도로 R², RMSE, MAE를 산출하여 분석하였다. 해당 임계값은 연구 대상 지역의 조류 경보 발령 기준(∼10 µg/L)에 근접한 농도 구간으로, 실무적 수질 관리의 핵심 구간에 해당하며, 평가 데이터셋 내 통계적 유의성 검토를 위한 최소 표본 수를 확보할 수 있는 기준으로 설정하였다. 이는 조류경보 기준 농도를 임계값으로 활용한 ^{Shin et al. (2021)} 및 고농도 구간을 상위 분위수로 정의한 ^{Kim, Shin et al. (2021)}의 접근 방식과 일관성을 가진다. 모형 간 성능 비교의 공정성을 확보하기 위해, 데이터 증강(GN 및 SMOGN)은 학습 데이터에만 적용하였으며 평가 데이터셋은 원본 데이터를 사용하였다(^{Kim, Shin et al., 2021}; ^{Shin et al., 2021}). 모든 모형에 동일한 하이퍼파라미터 및 random seed를 적용하여 결과의 재현성을 확보하였다.

본 연구에서는 미호강 유역의 수질 자동측정망 자료를 기반으로 IForest를 이용한 이상치 제거 과정을 수행하고, 데이터 불균형 해소를 위해 GN 및 SMOGN 기법을 적용하여 데이터를 증강하였다. 이후 XGBoost 알고리즘을 통해 각 시나리오별 Chl-a 예측 모형을 구축하고, 전체 구간 및 고농도 구간에 대한 예측 성능을 비교⋅평가함으로써 데이터 증강 기법의 적용성을 확인하고자 한다.

3.1. 기초 통계 및 이상치 탐지 결과

초기 수집된 raw data는 3,288개였고, 결측치 제거 과정을 거쳐 2,054개의 유효 데이터가 1차 분석에 선정되었다. 이상치 탐지 적용 전 입력 변수들의 기초 통계 분석 결과, 종속변수인 Chl-a의 평균 농도는 32.35 µg/L, 표준편차는 40.00 µg/L로 분석되었다. 최솟값은 0.80 µg/L, 최댓값은 250.80 µg/L로 나타나 데이터 내에 평수기의 안정적인 수질과 고농도 algal bloom 사상이 혼재되어 있음을 확인하였다(Table 3).

IForest 알고리즘의 contamination 비율을 3.0%로 설정하여 분석을 수행한 결과, 전체의 3.02%에 해당하는 62개의 레코드가 이상치로 식별되었다. 이를 제외한 1,992개(96.98%)의 데이터가 cleaned dataset으로 분류되었다. 이상치 그룹과 정상 데이터 그룹 간의 수질 특성을 비교 분석한 결과, 이상치 그룹의 평균 Chl-a 농도는 99.91 µg/L로 정제된 데이터 평균(30.25 µg/L) 대비 약 230.3% 높게 나타났다. 특히 탁도 항목에서 가장 큰 편차를 보였는데, 이상치 그룹의 평균 탁도는 123.35 NTU인 반면 정제된 그룹은 10.71 NTU에 불과하여 1,000% 이상의 차이를 보였다. 이는 IForest 알고리즘이 센서 오류나 집중 호우와 같은 일시적 물리적 교란에 의한 비대표적 극한 사상을 효과적으로 선별한 것으로 판단된다.

Fig. 2. Time series of observed Chl-a concentrations, with training (blue) and testing (orange) periods separated at September 2023 (a). Kernel density distributions of the training set before and after augmentation using Gaussian Noise (b) and SMOGN (c) are shown at two threshold levels.

이상치 제거 후 Chl-a의 평균은 32.35 µg/L에서 30.25 µg/L로, 표준편차는 40.00 µg/L에서 35.98 µg/L로 감소하여 데이터의 안정성이 확보되었다.

3.2. 데이터 불균형 해소 기법에 따른 분포 변화

Training set의 Chl-a 농도 빈도 분포는 right-skewed 비대칭 형태를 보였다^{(Seifi et al., 2025)}. Fig. 2에 제시된 바와 같이, Baseline 분포는 10 µg/L 미만의 저농도 구간에 데이터가 밀집되어 있으며 고농도 구간으로 갈수록 빈도가 급격히 감소하는 롱테일 특성을 나타냈다.

GN 증강 기법의 효과를 분석하기 위해 고농도 임계값을 상위 15%와 상위 10%로 설정하여 두 가지 모형(GN Model 1, GN Model 2)을 구축하였다. GN 기법 적용 결과, 기존 분포의 전체적인 형태는 유지하면서 tail regions의 밀도가 소폭 증가하는 경향을 보였다. GN Model 1은 122개의 가상 샘플을 추가하여 총 933개로 확장되었으며, GN Model 2는 82개를 추가하여 893개의 데이터를 확보하였다. GN 모형의 밀도 곡선이 Baseline과 유사한 형태를 보이는 것은 해당 기법이 기존 고농도 데이터 포인트 주변을 보강하는 역할에 그치며, 분포 구조 자체를 근본적으로 변화시키지는 못함을 시사한다.

SMOGN 알고리즘은 목표 변수의 분포를 유의미하게 변화시키는 것으로 나타났다(Fig. 2). 관련성 임계값을 각각 0.65와 0.85로 설정한 SMOGN Model 1과 SMOGN Model 2는 각각 454개와 587개의 합성 샘플을 생성하여 학습 데이터 크기를 1,265개와 1,398개로 증가시켰다. SMOGN 기법은 저농도 구간의 피크를 완화하고, 50-100 µg/L 범위의 중⋅고농도 구간 확률 밀도를 현저히 증가시켰다. 특히 threshold 0.65 조건에서 최적의 성능을 보인 점은 SMOGN이 극단적인 피크값뿐만 아니라 넓은 범위의 ‘고농도’ 영역을 보간할 때 효과적임을 의미한다.

3.3. 예측 모델 성능 비교 평가

구축된 모형들의 예측 성능을 평가하기 위해 전체 테스트 셋과 고농도 서브셋에 대한 RMSE 및 R² 값을 산출하여 비교하였다(Fig. 3). 데이터 균형 처리를 수행하지 않은 Baseline 모형은 전체 구간에서 RMSE 4.82 µg/L, R² 0.78로 양호한 성능을 보였다. 그러나 8.65 µg/L를 초과하는 고농도 구간에서는 RMSE가 9.40 µg/L로 급증하고 R²는 0.37로 급락하였다. 이는 불균형 데이터로 학습된 일반적인 머신러닝 모형이 희소한 극한 사상을 예측하는 데 한계가 있음을 시사한다.

GN Model 1과 GN Model 2의 전체 RMSE는 각각 4.72 µg/L, 4.52 µg/L로 감소하였으며, R²는 각각 0.79, 0.81으로 소폭 향상되었다. 고농도 구간에서 GN Model 2는 R² 0.45를 기록하여 Baseline 대비 약 22.2%의 성능 개선을 확인하였다. 이는 노이즈 주입을 통한 데이터 보강이 모델의 일반화 성능 향상에 기여한 것으로 판단된다.

Fig. 3. Comparison of overall and high-concentration prediction performance for GN and SMOGN augmentation strategies, measured in terms of RMSE (a, b) and R² (c, d), against the baseline model.

SMOGN-Model 1는 전체 RMSE 4.49 µg/L, R² 0.81로 모든 비교군 중 가장 우수한 성능을 나타냈다. 특히 고농도 구간에서의 성능 향상이 두드러졌는데, RMSE는 8.54 µg/L로 감소하였고 R²는 0.48을 기록하였다. 이는 Baseline 모형 대비 R²가 약 30.25% 향상된 결과이다. Fig. 4의 산점도 분석 결과에서도 Baseline 모형은 고농도 값을 과소평가하는 경향을 보인 반면, SMOGN Model 1는 40 µg/L 이상의 구간에서도 1:1 기준선 주변에 대칭적으로 분포하여 예측 정확도가 개선되었음을 확인하였다. 5-Fold 시계열 교차 검증 결과, Baseline 모형의 CV RMSE는 9.82 µg/L (±6.84)로 fold 간 편차가 크게 나타나 계절적 변동에 취약함을 확인하였다. SMOGN 기법의 고농도 구간 예측 편향 완화 효과는 hold-out 평가 데이터셋 기반 성능 비교를 통해 확인하였다. 단순한 노이즈 주입 방식인 GN 기법과 달리, SMOGN은 고차원 특성 공간 내에서 희소 영역의 매니폴드(manifold) 구조를 보존하는 생성적 보간(generative interpolation) 방식으로 합성 샘플을 생성한다. 이로 인해 모형이 실제 고농도 조류 발생 사상의 특성 패턴을 보다 충실히 학습할 수 있었던 것으로 판단되며, GN 기법 대비 고농도 구간에서의 우월한 예측 성능으로 나타난 것으로 해석된다. 본 연구의 결과는 ADASYN 기반 오버샘플링을 적용하여 고농도 구간 예측 성능을 향상시킨 ^{Kim, Shin et al. (2021)}의 연구와 유사한 방향성을 보이나, 분류(classification) 문제가 아닌 연속형 회귀(regression) 문제에 데이터 균형 기법을 적용하였다는 점에서 차별성을 가진다^{(Kim, Jones et al., 2021)}. 또한 ^{Ly et al. (2021)}의 연구에서 단일 모형 대비 앙상블 기법의 우수성이 보고된 바와 같이, 본 연구에서도 XGBoost 기반의 앙상블 학습이 고농도 구간 예측에 효과적임을 확인하였다^{(Ly et al., 2021)}.

Fig. 4. Scatter plots of predicted versus measured Chl-a concentrations for the Baseline, GN-Model (a), and SMOGN-Model (b).

3.4. 고농도 구간별 오차 분석

예측 성능을 보다 세밀하게 분석하기 위해 테스트 데이터를 Chl-a 농도에 따라 4분위수(0-25%, 25-50%, 50-75%, 75-100%)로 구분하여 MAE를 산출하였다(Fig. 5). 0-50%에 해당하는 저농도 구간에서는 모든 모형의 MAE가 0.61∼0.73 µg/L 범위로 유사한 수준을 보였다.

수질 관리의 핵심 대상인 상위 25% 고농도 구간에서는 모형 간 성능 차이가 확연하게 나타났다. Baseline 모형의 MAE는 6.77 µg/L로 가장 높았으나, GN-Model 2는 6.47 µg/L로 오차가 다소 감소하였다. 반면 SMOGN-Model 1는 6.07 µg/L의 가장 낮은 MAE를 기록하여 Baseline 대비 약 10.3%의 오차 감소율을 보였다. 고농도 구간에서의 R² 개선율을 비교했을 때, SMOGN(30.25%)이 GN(22.23%)보다 월등히 우수한 것으로 분석되었다. 이는 특성 공간 내에서 합성된 샘플들이 모델로 하여금 극한 사상의 패턴을 학습하는 데 필요한 정보를 효과적으로 제공했기 때문으로 사료된다.

Fig. 5. Comparison of Mean Absolute Error (MAE) distribution across different Chl-a concentration quartiles for the Baseline, GN-Model 2, and SMOGN-Model 1.

3.5. 변수 중요도 분석

XGBoost 알고리즘의 gain 지표를 기반으로 산출된 feature importance 결과는 Fig. 6와 같다. 모든 모형에서 pH와DO가 가장 영향력 있는 인자로 도출되었다. Baseline 모형의 경우 pH의 중요도가 0.32로 가장 높았으며, DO(0.25), TOC(0.15) 순으로 나타났다. 이는 조류의 광합성 활동이 pH 상승을 유발하고 유기물 부하에 기여한다는 기존의 수질학적 기작과 일치한다.

SMOGN-Model 1의 경우 DO(0.42)가 주된 인자로 Baseline(0.25) 대비 크게 상승하였고, pH(0.25)가 Baseline(0.32) 대비 하락하였다. 이는 고농도 데이터의 균형 학습을 통해 모델이 조류 대발생 시 수반되는 용존산소 증가 현상을 주요한 예측 신호로 인지하게 되었음을 시사한다. SMOGN 적용이 모델의 물리적 해석력을 강화시키는 데 기여한 것으로 판단된다.

Fig. 6. Relative feature importance scores for predicting Chl-a concentration in the Baseline, GN-Model 2, and SMOGN-Model 1.