2.3.1 Multi-layer perceptron(MLP)

본 연구에서는 MLP(multi-layer perceptron) 모델을 사용하였다. 은닉층은 4개로 구성하였다. 입력층의 노드 개수는 입력 데이터 특징 개수와 동일하며, 첫 번째 은닉층의 노드 개수는 1,024개, 두 번째와 세 번째 은닉층의 노드 개수는 512개, 네 번째 은닉층의 노드 개수는 256개, 출력층은 예측된 유간 결과를 출력하도록 하였다. Table 1에 유간 예측에 사용한 입력 특징(feature, 영향인자)을 정리하였다. 교량 상부구조 형식, 신축이음 장치, 받침, 유간 설계 요인, 유간의 5개 범주로 구성되어 있으며, 유간은 MLP 학습을 통해 예측하고자 하는 목표값이다. 상부구조 형식은 고속도로에서 가장 많은 형식을 차지하는 PSC 교량을 I 거더(PSCI)와 BOX 거더(PSCB)로 구분하였으며, 그 외에 교량은 강교(ST), RC교(RC), 합성거더교(CG)와 특수교(Special)로 구분하였다. 신축이음 장치는 레일형(Rail), 핑거형(Finger), 모노셀(Mnocell)로 구분하였다. 무조인트(유)(Nojoint_y)은 설계형식은 일체식 교대 교량으로 신축조절부가 접속슬래브와 본선 포장부 사이에 설치된 사례이다. 받침은 탄성(Elastic), 포트(Pot), 스페리컬 및 고력황동받침(Oilless)을 구분하였고 받침의 종류가 명확하지 않거나(Etc_b) 시공 여부가 명확하지 않은 경우(Non)를 정의하였다. 설계요인에는 온도에 따른 신축거동 계산 인자인 온도와 신축장(Length), 강 및 콘크리트의 열팽창계수(Steel, Concrete)를 정의하였다. 온도의 경우 측정장비에서 획득한 현장온도(Temp)와 기상청의 일평균온도(Temp_day)를 구분하여 측정 오차에 따른 영향을 추가로 검토하였다. 하중, 건조수축 및 크리프 등은 데이터 수집 대상이 이미 공용중인 교량임을 감안하여 제외하였다.

가중치는 모델 학습 전 Xavier uniform initializer를 통해 초기화 하였다^{(Glorot and Bengio, 2010)}. MLP 모델의 모든 층 사이에 ELU(Exponential Linear Unit) 활성화 함수를 사용하였다. 최적화 도구로는 Adam optimizer를 사용하였고 손실 함수는 평균 제곱 오차(MSE)를 사용하였다.

2.3.2 Shapley additive explanations(SHAP)

설명 가능한 AI 방법 중 게임 이론의 Shapley value 개념을 활용하는 SHAP을 적용하였다([11]Štrumbelj and Kononenko, 2010; ^{Lundberg and Lee, 2017)}.

Shapley value는 게임이론에 기반하여 주어진 특징들의 가능한 모든 조합을 고려한 후 해당 특징이 예측이 포함될 때의 기여도를 측정한 값이다. 입력 데이터의 각 특징값과 해당 예측을 각각 플레이어와 게임의 결과로 가정한 후 기여도를 구한다^{(Song et al., 2023)}.

MLP 결과에 각 특성이 미친 영향도를 식 (2)와 같이 additive feature attribution methods를 활용하여 선형 함수로 설명할 수 있다.

$g$는 주어진 특징들로 선형함수를 구성하여 기여도를 측정하고 특징들이 예측에 미친 영향도를 설명하는 함수, $M$은 특징의 개수, $z'$는 해당 특징의 존재 여부, $\phi_{0}$은 사용자가 정의하는 reference point로, 여기서는 데이터 내에서 해당 특징의 평균값을 사용한다. $\phi_{i}$는 해당 특징이 존재할 때 예측 결과에 미치는 영향도로 shapley value를 사용한다.

DeepSHAP은 SHAP 종류 중 하나이며, 예측값에 대한 입력값의 효과를 계산하는 DeepLIFT(Deep Learning Important Features)에 Shapely value를 적용한 것으로 이를 통해 각 특징이 유간에 미치는 영향을 정량화 할 수 있다.

$F$는 가능한 모든 특징의 조합, $S$는 가능한 모든 특징 조합의 부분집합, $f_{S}$는 $S$ 특징 조합으로 학습한 학습 모델의 prediction score이다. 따라서 $i$번째 특징의 shapley value를 구하기 위해 해당 특징이 포함되었을 때 가능한 모든 특징 조합과 포함되지 않았을 때 가능한 모든 특징 조합의 prediction score 차이를 이용해 영향도를 측정한다.

3.2.1 데이터 정규화

입력 데이터의 크기에 따른 차이를 왜곡하지 않도록 정규화를 진행하였다. 교량 형식, 신축이음 장치, 받침 등 범주형 데이터는 1과 0의 더미변수(dummy variable)화를 진행하였다. 이후 전체 입력 특징에 대하여 표준화, min-max, Robust 정규화 방식을 검토하였다. 표준화 방식은 평균 0, 분산 1이 되도록 값을 조정하고, min-max 방식은 값의 범위를 0~1로 조정한다. Robust 정규화는 중앙값 0, 사분위수를 기준으로 정규화한다. 각 방법을 시험한 결과 표준화 방식이 가장 높은 성능을 나타내었다.

훈련세트와 테스트 세트는 편향을 방지하기 위해 계층화된 샘플링을 구현하였으며^{(Neyman, 1934)}, 훈련 데이터 8, 테스트 데이터 2의 비율로 나누었다.

3.2.2 예측 성능

MLP를 활용한 신축이음장치 유간 평가의 예측 성능을 비교하기 위하여 Decision tree, Random forest, XGBoost 등의 다양한 기계학습 기법과 비교를 수행하였다. 각 모델의 비교는 평균 절대 오차(Mean Absolute Error, MAE), 평균 제곱근 오차(Root Mean Squared Error, RMSE), 결정계수(Coefficient of Determination, R2)를 활용하였다. MAE와 RMSE 값은 낮을수록 성능이 좋으며, R2는 1에 가까울수록 성능이 좋다.

여기서 $\overline{y}$는 데이터 목표값의 평균값이다.

Table 3에 비교 결과를 나타내었다. 예측값의 오차를 나타내는 MAE 및 RMSE는 MLP 대비 비교군 3개 알고리즘이 매우 낮은 수준이다. MLP의 경우 예측값의 오차는 다소 큰 수준이다. 다만 결정계수는 0.9 이상의 값을 가지고 있어 SHAP 적용을 위한 충분한 성능을 가진 것으로 판단된다. 따라서 이후의 영향 분석은 MLP 모델의 결과를 사용하였다. Fig. 3(a)에 목표값과 MLP 학습에 따른 예측값을 비교하였다. 전반적인 오차가 확인되며, 추후 이상 거동의 원인 분석에 활용하기 위해서는 모델의 지속적인 개선이 필요하다. 다만, 다소 오차가 증가하더라도 교량 상부구조의 복잡한 거동을 밝히기 위해서는 인공지능을 활용한 학습이 합리적일 것으로 판단된다.

Fig. 3(b)와 Fig. 3(c)에 테스트 샘플에 대한 각 특징의 평균값과 영향 정도를 나타내었다. Fig. 3(b)를 보면 신축이음 유간 계산에 활용되는 특징이 높은 영향을 가지는 것으로 나타났다. 신축장(length)이 가장 큰 영향을 보였으며, 측정온도(temp), 일평균온도 (temp_day)순으로 유간 변화에 영향을 끼치고 있었다. 측정온도와 일평균 온도의 영향도는 유의미한 차이는 없는 것으로 판단된다. 열팽창계수를 반영한 재료 특징(steel, concrete)의 경우 계수 값의 크기가 작기 때문에 영향도가 낮게 나온 것으로 판단된다. 이후에는 신축이음 장치 종류가 신축장 다음으로 유간 변화에 높은 영향을 끼쳤다. 신축장 100 m 이하에서는 주로 레일형(rail), 신축장 100 m 이상에서는 주로 핑거형(finger)이 설치된다. 즉, 길이와 연관된 신축장, 핑거형 및 레일형 신축이음 연관성이 밀접한 것으로 보아 모델의 학습 결과를 신뢰할 수 있을 것으로 판단된다. 일체식 교대 교량 중 신축이음부가 설치된 사례(nojoint_y)는 이상 거동과 높은 연관성이 있을 것이라 예상되는 인자이며, 정상 거동을 보여주는 데이터에서는 영향도가 낮게 나타났다. 또한 학습에 필요한 데이터가 전체 대비 2.6%에 그쳐 의미 있는 결과를 얻기 어려웠다. 상부구조 형식과 받침의 종류는 특정 경향 없이 분포되었다. 포트(pot) 받침이 비교적 상위권의 영향을 나타내었으며, 나머지 받침은 중간 이하의 영향도를 가졌다. 상부구조 형식에서는 강교량(ST)이 중간 정도의 영향력을 가지고 있으며, 이는 강 열팽창계수의 영향이 가깝게 위치한 것을 볼 때 온도에 따른 신축 거동이 콘크리트 교량보다 명확하기 때문으로 판단된다. 다른 형식에서는 PSC box 거더교(PSCB)만이 강교량과 유사한 영향도를 보였다.

Fig. 3(c)에 각 특징별 테스트 데이터의 shap value를 나타내었다. 특징의 크기는 색상으로 나타내어져 파란색(low)에서 빨간색(High)이 그래프 상에서 오른쪽으로 변화하면 유간의 크기와 양의 관계를 가지며, 왼쪽으로 바뀌면 음의 관계를 가진다. 신축장(length)의 경우 신축량의 크기가 증가하면 온도 변화에 따른 변화량 또한 커지며, 동시에 100 m 미만에서 기본 신축량의 20%와 추가 10 mm의 여유랑, 신축장 100 m 이상 교량의 경우 30 mm의 고정 여유량을 산정하기 때문에 유간 크기와 양의 관계를 가진다. 온도의 경우 낮을수록 상부구조의 신축량이 작아지며 유간이 커지기 때문에 음의 관계를 가지는 것을 판단할 수 있다. 크기 변화에 따른 상관관계는 신축장을 제외하고 가장 확실한 관계를 보였다. 핑거형 신축이음 장치와 레일형 신축이음 장치는 서로 반대의 관계를 가지며 영향도는 비슷하다. 모노셀(monocell)이 시공된 경우에는 음의 관계를 가지는 것으로 나타났는데, 모노셀 또한 신축장 100 m 이하 교량에 많이 적용되기 때문이다. 포트 받침의 경우 음의 관계 비중이 조금 더 강하게 나타났다. 그 외 특징의 경우 뚜렷한 상관관계를 가지고 있다고는 판단하기 어려웠으며, 상부구조 형식의 경우 목표 경간장에 따른 형식의 결정에 따른 영향이 나타났으나 RC, PSC I 거더교(PSCI), 합성거더교(CG)에서는 뚜렷한 관계가 나타나지 않았다.

Fig. 3 Results of MLP and SHAP