2.1 AutoKeras

본 연구에서는 학습 자료 구성 외에 딥러닝 모형에 영향을 주는 인위적인 요인을 최대한 배제하고자 AutoKeras를 활용하여 최적의 딥러닝 신경망 구조를 결정하고, 각 데이터별 학습을 통해 최적화하고자 하였다. AutoKeras는 딥러닝 모델의 자동 설계 및 최적화를 지원하는 오픈소스 라이브러리로, 모델 구조 구성 및 하이퍼파라미터 최적화에 있어 시행착오나 인간 경험의 영향을 최소화하기 위해 이 접근법을 선택하였다.

AutoKeras는 텍사스 A&M 대학교의 DATA Lab에서 개발된 도구로 Keras 라이브러리를 기반으로 구축되었다^{(Jin et al., 2019)}. 이 도구는 하이퍼파라미터 튜닝과 모델 최적화 작업을 자동화하여 다양한 과제에 신속하게 머신러닝 모델을 적용할 수 있도록 한다. AutoKeras의 모델 아키텍처 탐색 과정은 Neural Architecture Search(NAS)와 베이지안 최적화 기법(Bayesian Optimization) 기법이 결합되어 작동된다.

NAS는 인간이 직접 설계하지 않고도 모델 아키텍처를 탐색하는 알고리즘 기반으로 성능 기준을 최대로 충족할 수 있도록 신경망 구조를 자동으로 설계한다. 초기에는 간단하게 신경망 구조로 시작하여, 레이어의 수, 커널 크기, 필터 수를 다양하게 조정하여 성능이 점차 향상될 수 있도록 구조를 진화시킨다. 여기에 결합된 베이지안 최적화 기법이 모델 구조나 하이퍼파라미터 탐색 시 무작위나 단순 반복이 아닌, Gaussian Process와 같이 확률적 모델을 통해 현재까지의 평가 결과를 바탕으로 다음 탐색 후보를 선택함으로써, 탐색 효율성을 높여 제한된 자원과 시간 내에서도 전역 최적(global optimum)에 가까운 결과를 도출할 수 있게 한다.

AutoKeras의 강점은 NAS와 베이지안 최적화를 결합한 아키텍처 탐색을 통해 최소한의 사용자 개입으로 고성능 딥러닝 네트워크를 구축할 수 있다는 점에 있다. 이 도구는 데이터 특징 분석(특징 발굴, 선택, 구성 포함)과 네트워크 구성(하이퍼파라미터 선택 및 미세 조정 포함)과 같은 중요한 프로세스를 자동화하여, 최적의 딥러닝 모델을 개발하는 데 소요되는 복잡하고 시간이 많이 드는 과정을 간소화한다^{(Ahmed et al., 2023; Perez, 2019)}. 특히, 딥러닝 네트워크 모델 구축 및 최적화 과정에서 인위적인 영향이 최소화되므로, 본 연구에서 규명하고자 하는 학습데이터 최적 구성에 따른 실시간 하천 홍수 예측 정확도 개선 정도 평가에 객관성을 담보할 수 있다.

2.2 딥러닝 모델 학습

본 연구에서는 하천 수위 예측을 위해 AutoKeras를 활용하여 딥러닝 모델을 최적화하였다. 전 처리된 데이터셋은 모델 평가의 대표성을 보장하기 위해 훈련 세트와 검증 세트를 80:20 비율로 전략적으로 분할하였다. 모델의 학습을 목적함수로 Eq. (1)과 같이 평균절대오차(Mean Absolute Error, MAE)를 사용하였고, 수문학적 모델링의 특정 요구 사항을 충족하기 위해서 Nash-Sutcliffe Efficiency(NSE)라는 사용자 정의지표(Custom Metric)를 추가 사용하였다. NSE는 수문학 모델 성능 평가에 중요한 지표로 정의되며, 식은 다음과 같다.

여기서 $y_{true}$는 관측값 $y_{pred}$는 모델예측값 𝑖는 데이터 세트 i에서의 값을 나타낸다.

AutoKeras의 설정에서 모델 기본 구조를 회귀 모델로 설정하고, 단일 입력 노드와 회귀 헤드로 구성되도록 하였다. 모델 아키텍처 탐색은 MAE를 손실 함수로 사용하고, 성능 평가를 위해 NSE 지표를 포함하였다. 모델 아키텍처를 폭넓게 탐색하면서도 계산 효율성을 유지하기 위해 탐색 공간은 최대 50회의 실험으로 제한하였다.

3.1 연구대상 지역

본 연구에서는 한반도 중부에 위치한 강원도 내 상류 한탄강 유역을 연구 대상 지역으로 선정하였다. 해당 유역은 Fig. 1에 제시된 바와 같이 한탄대교를 기준으로 상류에 위치하고 있으며, 임진강의 주요 지류인 한탄강이 이 지역의 주요 수로를 형성하고 있다. 한탄강의 본류 길이는 175.81 km에 이르며, 전체 유역 면적은 1,063.96 km²이다. 이 유역 내 수위 관측을 위해 3개의 수위 관측소가 설치되어 있으며, 이들은 각각 삼합교(관측소 1), 장수대교(관측소 2), 한탄대교(관측소 3)이다. 또한, 해당 유역의 강우량 정보는 청양리, 오덕초교, 서면초교, 다목초교, 용담교, 명월리 등 6개의 인근 강우 관측소로부터 수집된다.

Fig. 1. Study Area and Location of Waterlevel and Rain Stations

3.2 학습자료 전처리

본 연구에서는 2019년 7월 1일부터 2021년 10월 31일까지 삼합교, 장수대교, 한탄대교에서 수집된 연속적인 수위 데이터를 이용하였다. 수위 데이터는 10분 간격으로 측정되었으며, 이는 Fig. 2와 Fig. 3의 (b)-(d)에 해당한다. 또한, 인근 6개의 강우 관측소에서 수집된 강우 데이터를 이용하여 Thiessen 가중 평균법을 통해 평균 면적 강우를 산출하였다. 이는 Fig. 2와 Fig. 3의 (a)에 해당한다.

본 연구에서는 실시간 홍수예보 활용을 목표로 딥러닝 기반의 하천 수위 예측 모델을 설계하였다. 일반적으로 연속적인 데이터에 대한 딥러닝 예측 모델은 크게 3가지 방법으로 구성될 수 있다^{(Han et al., 2023)}. 첫 번째는 단일타겟(single target) 모델로 기존 하천 수위 예측 시 일반적으로 사용되던 방식으로, 예측 시간별로 각 모델을 구축하여 개별적으로 예측을 수행하므로, 예측시간이 m개인 경우, 모델 개수도 m개로 동일하며, 각 모델의 출력갯수는 1개가 된다. 두 번째는 재귀적(recursive) 모델로, 단일 모델이 예측한 결과를 다음 단계의 입력자료로 다시 정의해서 사용하는 모델이다. 따라서 예측 시간과 무관하게 모델 개수는 1개이나, 예측 시간이 증가하면서 모델 오차가 누적되어 예측 정확도가 저하된다는 단점이 있다. 세 번째 방식인 다중타겟(multi target) 모델은 시계열 예측과 유사하게 예측 시간 m까지 예측을 수행하므로, 모델 1개로 인한 출력 개수는 m개가 된다. 일반적으로 많이 사용되는 단일타겟 모델은 예측 시간별로 개별 모델 구축이 필요하고, 예측 시간이 늘어날수록 모델의 수가 증가되어 구축 복잡성이 높아지고, 유지 관리에 소요되는 전산 자원이 과다하게 소모된다는 단점이 있다. 특히, 각 모델이 독립적으로 예측을 수행하므로, 예측에 필요한 데이터의 상관관계를 효과적으로 반영하지 못하고, 시간 간의 일관성 있는 패턴을 유지하기 어려우므로, 시간에 따른 연속성을 고려할 때 한계가 있을 수 있다. 반면 다중타겟 모델은 전체 손실을 최소화하여 다양한 선행시간에 대해 학습되므로 특정 리드 타임에 대한 성능이 저하될 수 있지만, 일관성 있는 시계열 패턴 유지 및 예측 효율성을 높일 수 있다는 장점이 있다. 본 연구에서는 실시간 관점에서 수위 자료의 시계열 일관성을 고려하고, 연산 및 모델 유지관리의 효율성을 고려하여 다중타겟 모델 개념으로 학습을 수행하고자 하였다.

이에 따라 학습 및 검증 데이터셋은 실시간 입력 데이터 형식을 모방하여 구성되었다. 기본적으로 모델은 과거 720분 동안의 72개의 시점에서 수집된 관측 데이터를 이용하여, 향후 360분까지의 36개의 시점을 예측하는 것을 목표로 한다.

데이터의 처리 절차는 다음과 같다. 먼저 데이터 정제 및 정규화 작업을 수행하였다. 결측값 처리를 위해 중위값 대체(median imputation) 데이터 보간 기법을 적용하였다. 이 보간 방법은 각 열의 중위값으로 결측값을 대체하여 데이터 연속성을 유지하면서 잠재적인 이상치의 영향을 최소화한다. 또한, 데이터의 표준화를 위해 파이썬 머신러닝 라이브러리인 scikit-learn의 StandardScaler를 사용하였으며, 이는 각 데이터($x_{i}$)에 대하여 Eq. (3)과 같이 평균을 0, 분산을 1로 맞추는 방식으로 수행된다.

또한, 시계열 데이터를 시퀀스-투-시퀀스(sequence-to-sequence) 예측을 위해 준비하는 과정에서는 슬라이딩 윈도우(sliding window) 방식을 사용하였다. 이 방법을 통해 입력-출력 쌍을 생성하였으며, 각 입력 시퀀스는 72개의 시간 단계(input_steps)로 구성되었고, 여기에는 강우 및 3개 관측소의 수위 데이터가 모두 포함된다. 이에 대응하는 출력 시퀀스는 36개의 시간 단계(output_steps)로 구성되며, 목표 변수는 관측소 3의 수위이다. 슬라이딩 윈도우 기법은 창을 점진적으로 이동시키면서 시퀀스 데이터를 생성하게 된다.

본 연구에서는 홍수 예경보 발령 예측 정확도를 높이기 위해서 중요 기준이 되는 고수위 및 수위 상승 시퀀스들을 별도로 분리하여 학습데이터 세트를 구분하고 이로 인한 예측 성능의 차이를 확인하고자 하였다. 이를 위해 데이터 세트 구성 과정에서 두 가지 필터링 기준을 적용하였다. 첫 번째는 입력데이터 시간 범위에서 강우량이 0.1 mm 이상인 데이터가 있는 경우만을 필터링하여 총 30,067개 학습 데이터세트(Dataset type 1)를 구성하였다. 다만, 이렇게 구성된 데이터 세트에서는 강우와 그에 따른 수위 변화가 없는 기간이 강우로 인한 수위 상승이 있는 기간보다 더 빈번하게 나타났다. 이러한 데이터를 학습에 사용하면 모델이 낮은 수위 상승을 예측하는 데 최적화될 수 있으며, 이는 홍수와 같은 중요한 사건에서의 예측 성능을 저하시킬 수 있다.

이에 모델의 성능, 특히 첨두유량 및 수위 상승 예측 성능을 향상시키기 위해 두 번째 필터링 기준을 적용하였다. 적용 기준은 입력 데이터 시간 범위에서 강우량이 0.1 mm 이상이고, 예측 데이터 시간 범위에서 예측하고자 하는 한탄대교(관측소 3)의 최대 수위가 EL.2m 이상인 데이터를 필터링하였다. 그 결과 13,801개 학습 데이터세트(Dataset type 2)를 구성하였고, 이 필터링 기준에 따라 구분된 학습 데이터 세트의 일부를 Fig. 4에 표시하였다. 파란색 선은 입력자료이며 주황색 선은 예측 목표값이다.

최종적으로 구성된 학습데이터 세트를 정리하면 다음 Table 1과 같다.

Fig. 2. Observed Rain and Waterlevel Data for Training. (a) Rain Data, (b) Waterlevel Data(Station 1), (c) Waterlevel Data(Station 2), (d) Waterlevel Data(Station 3)

Fig. 3. Observed Rain and Waterlevel Data for Test. (a) Rain Data, (b) Waterlevel Data(Station 1), (c) Waterlevel Data(Station 2), (d) Waterlevel Data(Station 3)

Fig. 4. Pre-processed Dataset with Filtering for Training and Validation

3.3 하천홍수예측을 위한 딥러닝 신경망 최적화

Dataset type 1과 Dataset type 2를 각각 이용하여 AutoKeras가 최적화한 딥러닝 모델은 다음 Table 2와 같은 하이퍼파라미터를 갖는다. AutoKeras를 통해 최적모델을 선정할 때 100번까지 모델 구조 탐색을 시도하도록 조건을 설정하여, 오차가 적고 정확도가 높은 모델이 선정되도록 하였다.

30,067개의 데이터세트(Dataset type 1)를 모두 이용하였을 때, 16번째 모델 구성에서 최적화된 것으로 나타났다. 옵티마이저로 확률적 경사 하강법(SGD), 학습률 0.01일 때 학습 손실(loss)는 0.0817, NSE는 0.9111이었고, 검증 손실은 0.0907, NSE는 0.9763로 나타나 과적합 되지 않고 안정적으로 딥러닝 신경망을 최적화하였다.

Fig. 5는 Dataset type 1 활용한 모델의 학습 및 검정 과정의 epoch 별 오차와 NSE의 변화를 보여준다. 결정된 딥러닝 모델(Model 1)은 Fig. 6과 같이 크기(None, 72, 4)를 갖는 입력 레이어로 시작한다. 여기서 72는 시간 단계(time steps)를, 4는 입력변수(features)의 수를 나타낸다. 이어서 데이터 타입 변환 레이어(cast_to_float32), 다차원 입력 데이터를 일차원 벡터로 변환하는 평탄화 레이어(flatten), 평탄화된 데이터를 입력으로 받아 36개의 출력을 생성하는 회귀 출력 레이어(regression_head_1)와 완전 연결층(Dense)으로 이어지는 구조이며, 총 10,404개의 학습 가능한 파라미터를 갖는다.

최적 결정된 두 모델 모두 시계열 수위 예측에 좋은 성능을 보인 LSTM 구조를 갖지 않지만, 인위적인 조정없이 100번의 모델 탐색 과정에서 최적 선정된 모델로써 각 데이터 특성을 반영하여 가장 높은 정확도와 낮은 오차로 학습된 것이다.

13,801개의 데이터세트(Dataset type 2)를 이용하였을 때는 3번째 시도한 모델 구성에서 최적화되었다(Fig. 7). 이때 회귀 헤드의 dropout 비율 0.5, 확률적 경사 하강법(SGD) 옵티마이저, 학습률 0.01이 사용되었다. 검증 손실은 0.1773으로 학습 손실 0.2300보다 낮았으며, 검증 NSE는 0.964이다.

최적화된 모델(Model 2)의 구조는 Fig. 8에 나타난 바와 같이 여러 핵심 요소로 구성된다. 모델은 입력층에서 (None, 72, 4) 형태의 3D 입력을 받는다. 데이터 전처리 단계에서는 CastToFloat32 레이어를 사용하여 네트워크 전체에서 일관된 데이터 타입을 유지함으로써 계산 효율성과 수치적 안정성을 향상시킬 수 있다. 과적합을 방지하기 위해 드롭아웃(dropout) 레이어가 적용되었는데, 이 드롭아웃은 학습 중 일부 뉴런을 무작위로 제거하여 모델 복잡도를 조절하고 일반화 성능을 향상시키는 모델 정규화이다.

특징 추출 단계에서는 평탄화(flatten) 레이어가 3D 입력을 1D 벡터로 변환하며, 72 * 4개의 피처로 구성된 288개의 요소를 생성한다. 출력층은 36개의 유닛을 가진 단일 Dense 레이어로 구성되며, 이 레이어는 평탄화된 피처를 36개의 시간 단계로 직접 매핑하여 수위 예측을 수행한다.

Fig. 5. Model Training Result of Each Epoch Using Dataset Type 1. (a) Regression Loss (MAE), (b) Nash-Sutcliffe Efficiency (NSE)

Fig. 6. Structure of the Optimized Deep Learning Model Using Dataset Type 1

Fig. 7. Model Training Result of Each Epoch Using Dataset Type 2. (a) Regression Loss (MAE), (b) Nash-Sutcliffe Efficiency (NSE)

Fig. 8. Structure of the Optimized Deep Learning Model Using Dataset Type 2

4.1 사전학습된 딥러닝 모델을 이용한 실시간 홍수예측

본 연구에서는 사전 학습된 수위 변화 여부와 관계없이 강우가 발생한 모든 학습데이터 셋(Dataset type 1)을 사용하여 구축한 딥러닝 모델(Model 1)과 일정 수준 이상의 수위 상승 변화가 있는 학습데이터 셋(Dataset type 2)을 사용하여 구축한 딥러닝 모델(Model 2)로 Fig. 3의 테스트 데이터를 대상으로 수위 시계열 및 홍수 위험 예측의 정확성을 평가하였다. 예측 결과를 실제 관측된 수위와 비교하여 모델의 성능을 평가하였다. 이 평가를 수행하기 위해, 세 개의 관측소에서 수집한 72개의 시간 단계에 걸친 강우량 및 수위 데이터를 활용하여 현재 시점으로부터 720분 이전까지의 데이터를 입력으로 사용하고, 목표 수위 관측소인 한탄대교에서 10분부터 360분 후의 수위 및 홍수 위험 수준을 예측하였다.

본 연구에서는 Table 3 및 Fig. 9~Fig. 11과 같이 테스트 기간 내 발생한 세 강우 사례에 대해 시계열 수위 예측 및 홍수 발생 예측 여부를 분석하였다. 한탄대교의 홍수위기 대응(관심·주의·경계·심각) 기준은 관심 5.0 m, 주의 7.9 m 경계 10.1 m, 심각 12.2 m로, 각 홍수 위기 대응 단계(real flood level)를 그래프상에서 1, 2, 3, 4로 표기하고, 관심 단계 수위 이하일 경우는 0으로 표기하였다.

Fig. 9는 2022년 6월 30일 22시 50분에 Model 1과 Model 2로 수행한 시계열 수위 예측과 홍수 위험 수준 결과이다. 두 모델 모두 홍수 위험 수준을 직접 예측하지 않으므로, 수위 예측을 바탕으로 홍수 위험 수준을 추론하였다. 해당 예측 시점에서는 실제 2022년 7월 1일 02시 30분에 한탄대교에서 5 m 이상의 관심 단계 이상의 수위 상승이 관측되었다. 홍수 예측 시점(6월 30일 22시 50분)을 기준으로 Model 2를 이용한 경우, 예측 시간(6시간) 범위 내에서 관심 단계 이상의 수위 상승을 실제 발생 시간보다 3시간 40분 빠르게 예상하였으며, Table 3에서 보듯이, Model 1은 6월 30일 23시 50분에 Model 2보다 1시간 느리게 예상하였다. 예측된 수위 시계열(파란색 네모)을 살펴보면, Model 1은 Model 2보다 관측된 수위(검은 점)와 상당한 차이를 보였다. Fig. 10은 2022년 8월 8일 11시 10분에 예측한 수위 및 홍수 위험 수준이다. 실제 2022년 8월 8일 14시 30분에는 강우로 인해 홍수 위험 수준이 관심 단계를 초과하였다. Model 2와 Model 1 모두 11:20에 앞으로 6시간 이내에 관심 단계를 초과해서 수위가 상승할 것으로 예측하였다. 이 사례에서는 Model 2의 시계열 결과가 상대적으로 관측 수위 유사한 경향을 보였다. Fig. 11은 2022년 9월 5일 23시 50분 시점에서의 시계열 수위 예측과 홍수 위험 수준을 보여준다. 실제로는 2022년 9월 6일 04시 10분에 강우로 인해 홍수 위험이 관심 단계를 초과하였다. Model 2는 23:50에 관심 단계 이상의 수위 상승을 예측하였지만, Table 3에서 보듯이 Model 1은 30분 후인 00:20에 관심 단계 이상의 수위 상승을 예측하였다. 다만, 예측된 수위시계열은 전반적으로 과소 추정 경향을 여전히 보이므로 홍수예측 실무적 활용에는 다소 주의가 필요하며, 향후 연구를 통해 정확도 확보를 위한 데이터 셋 구성 기준 및 학습 모델 보완이 필요하다.

Table 3은 특정 호우 사례 대상으로 실시간 시계열 하천홍수예측 성능을 상관계수(Correlation Coefficient), 평균 제곱근 오차(Root Mean Square Error, RMSE), NSE 및 홍수 여부(Flooding)로 분석한 결과이다. 상관계수를 보면 Model 1은 대부분의 시간에서 높은 상관계수를 나타내 수위 변동 패턴을 잘 모의하는 것으로 나타났다. Model 2도 전반적으로 높은 상관계수를 기록했으나, 일부 시점에서는 Model 1보다 약간 낮은 값을 보였다. 평균 제곱근 오차에서는 Model 1이 전반적으로 낮은 값을 나타냈으며, Model 2는 상대적으로 큰 값을 보였다. NSE는 Model 1은 시점에 따라 값이 크게 변동하며, 일부 시점에서는 음수 값을 나타냈다. 반면 Model 2는 대부분의 시점에서 양의 값을 유지하면서 전반적으로 안정적인 예측 성능을 나타냈다. 홍수 예측 성공 여부에 대한 결과를 보면 Model 2가 Model 1보다 여러 시점에서 홍수를 성공적으로 예측했다. 결론적으로 시계열 수위 예측의 성능을 보여주는 지표인 상관계수, 평균 제곱근 오차는 학습데이터를 많이 사용하여 학습된 Model 1이 우수하였고, 홍수 예측은 수위상승 경향이 큰 데이터 위주로 학습된 Model 2가 더 우수하였다.

Fig. 9. Predicted Water Levels Using a Deep Learning Model on June 30, 2022, at 22:50. (a) Model 1, (b) Model 2

Fig. 10. Predicted Water Levels Using a Deep Learning Model on August 8, 2022, at 11:10. (a) Model 1, (b) Model 2

Fig. 11. Predicted Water Levels Using a Deep Learning Model on September 5, 2022, at 23:50. (a) Model 1, (b) Model 2

4.2 실시간 하천 홍수 예측 정확도 결과

본 연구에서는 학습데이터 구성별 차이를 반영하여 구축된 Model 1과 Model 2의 홍수 예측 성능을 미래 6시간 이내에서 홍수의 발생 유무 예측을 기준으로 평가하고자 하였다. Table 4는 테스트 기간인 2022년 4월 1일부터 10월 31일 기간 내 4,428건에 대해 홍수 발생 여부를 예측하는 데 있어 Model 1과 Model 2의 성능을 비교한 일치 표(contingency table)이다.

Model 1은 모델은 실제 홍수가 발생한 경우를 180건 정확하게 예측하였으며(Hits), 홍수가 발생하지 않았음에도 홍수로 잘못 예측한 경우가 88건(False Alarms), 홍수를 예측하지 못한 경우가 65건(Misses), 홍수가 발생하지 않았음을 정확히 예측한 경우는 4,095건(Correct Negatives)이었다. 반면, Model 2는 홍수 예측에서 더 나은 성능을 보였으며, 192건의 홍수(Hits)를 정확히 예측하였다. False Alarms은 90건으로 다소 증가했으나, Misses는 49건으로 감소하였다. 또한, 홍수가 발생하지 않은 경우를 정확히 예측한 횟수(Correct Negatives)도 4,097건으로 약간 향상되었다. 이 결과는 홍수 예측을 목적으로 수위 상승 위주의 데이터 구성이 홍수 발생 여부 예측의 향상에 기여함을 보여주었다.

또한 구축된 Model 1과 Model 2의 홍수 예측 성공 여부에 대해서 아래 Eq. (4)~Eq. (7)과 같이 이진 분류 모델의 성능을 측정하는 대표적인 지표인 정밀도(Precision), 재현율(Recall), F1-score, 임계성공지수(Critical Success Index, CSI)를 이용하여 Table 5와 같이 평가하였다.