2.1 지수 감쇠 정현파 신호 모델

전력계통 진동 분석에서 시간영역 측정 신호 $x(t)$는 $M$개의 지수 감쇠 정현파의 합으로 모델링되며, 추정 목표는 모드별 파라미터 벡터 $\theta = \{f_m, \alpha_m, A_m, \phi_m\}_{m=1}^M$이다. 여기서 $f_m$는 진동 주파수, $\alpha_m$은 감쇠 계수, $A_m$은 모드 진폭, $\phi_m$은 초기 위상이다.

전력계통 안정도 판정에서 핵심 지표인 감쇠비는 감쇠 계수 $\alpha_m [s^{-1}]$로부터 다음과 같이 정의되며, 통상 $\zeta_m < 0.05$를 저감쇠 모드로 분류한다.

온라인 추정의 제약은 사양에 따라 다르지만, 본 논문에서의 제약은 샘플링 주파수 $f_s = 256 \text{ Hz}$, 분석 윈도우 길이 $T = 12 \text{ s}$, 샘플 수 $N = f_s \times T = 3072$이다. 측정 잡음 $\epsilon(t)$는 정규 분포 $\mathcal{N}(0, \sigma_\epsilon^2)$을 따르며, 각 시점에서 서로 독립인 가산 백색 가우시안 잡음이다. 신호 대비 잡음비(Signal-to-Noise Ratio, SNR)는 신호 분산 $\sigma_s^2$과 잡음 분산 $\sigma_\epsilon^2$의 비로 정의되며, SNR[dB]= $10 \log_{10}(\sigma_s^2 / \sigma_\epsilon^2)$이다. 본 논문에서는 $\infty$~10dB 범위를 다룬다. 모드 차수 $M$은 미지수이며, 기법마다 추정 방식이 다르다. 본 논문이 다루고자 하는 문제는 단일 채널 윈도우 신호 $x[n]_{n=0}^{N-1}$에서 위의 파라미터 벡터 $\theta$(각 모드의 주파수, 감쇠 계수, 진폭, 위상)를 추정하고, 3가지 기법 간의 정밀도와 연산 비용을 정량화하는 것이다.

2.2 Prony 모델 분석

등간격 샘플 $x[n] = x(n\Delta t)$를 이용하면 식 (1)의 표현은 복소 지수의 합으로 재작성된다.

여기서 $s_m$은 연속 시간 극점, $z_m$는 이산 시간 복소 극점, $b_m = \frac{A_m}{2} \exp(j\phi_m)$은 복소 진폭이며, $\Delta t = 1/f_s$는 샘플링 주기이다.

Prony 분석은 두 단계로 $z_m$을 추정한다. 신호가 자기회귀 모델 $a_0 x[n] + a_1 x[n-1] + \cdots + a_p x[n-p] = 0$을 만족한다고 가정한다(단, $a_0 = 1$). 1단계에서 $\mathbf{a} = [a_1, a_2, \dots, a_p]^T \in \mathbb{R}^p$를 Hankel 구조 데이터 행렬 $\mathbf{H} \in \mathbb{R}^{(N-p) \times p}$로 최소자승 추정한다. 2단계에서 특성 다항식의 근 $z_m$으로부터 식 (4)에 따라 주파수와 감쇠 계수를 계산한다.

$z_m$이 결정된 후 $b_m$은 별도 최소자승 적합으로 결정한다.

2.3 Matrix Pencil (MP-SVD) 모델 분석

Matrix Pencil(MP)은 Pencil 파라미터 $L = N/2$에 대해 Hankel 행렬 $\mathbf{Y} \in \mathbb{R}^{(N-L) \times (L+1)}$을 구성한다.

$\mathbf{Y}$의 마지막 열을 제거한 부분행렬 $\mathbf{Y}_0$과 첫 열을 제거한 부분행렬 $\mathbf{Y}_1$는 $L = N/2$이므로 모두 $L \times L$ 크기를 가지며, 식(3)의 신호 모델로부터 $\mathbf{Y}_1 = \mathbf{Y}_0 \mathbf{Z}$가 성립한다. 여기서 $\mathbf{Z}$는 이산 시간 극점 $z_m$을 성분으로 갖는 대각행렬이다. $\mathbf{Y}_0$의 특이값 분해(SVD)를 통해 얻은 특이값 $\sigma_i$에 대해 비율 $\sigma_i / \sigma_1 \geq \tau$을 만족하는 상위 $r$개의 성분으로 신호 부분 공간을 구성한다. 이때 SVD 연산 비용은 $L \times L$행렬에 대해 $\mathcal{O}(L^3)$에 달한다. 이를 바탕으로 일반화 고유값 식 (6)으로부터 극점 $z_m = \lambda_m$을 추출한다.

2.4 Matrix Pencil (MP-RSVD) 모델 분석

MP-RSVD는 연산 효율을 확보하기 위해 Full SVD 단계를 Halko-Martinsson-Tropp 랜덤 투영^[6]으로 대체한다. 랜덤 투영은 큰 데이터 행렬에 가우시안 랜덤 행렬을 곱해 원 행렬의 주요 정보를 보존하는 저차원 표본 행렬을 얻는 기법이다. 이 작은 표본에 SVD를 수행하면 원 행렬을 직접 분해하지 않고도 주요 부분공간을 근사할 수 있어, Full SVD 대비 연산 비용이 크게 감소한다.

실제 부분공간 근사에는 표본 차원 $l = k_{tgt} + p_{os}$가 사용된다. 표적 랭크 $k_{tgt}$는 추출할 신호의 부분공간 차원의 상한, 과샘플링 $p_{os}$는 수치 안정성을 위해 더하는 추가 차원이며, 거듭제곱 반복 횟수 $q$는 근사 정밀도를 높이기 위한 반복 단계 수이다. 각 파라미터는 Halko-Martinsson-Tropp^[6] 권고에 따라 $k_{tgt} = 100$, $p_{os} = 10$, $q = 4$로 설정하였으며, 이로부터 $l = 110$이 된다.

본 실험의 분석 행렬 차원은 윈도우 길이에 따라 자동 결정된다. $N = 3072 (= 12\text{s} \times 256\text{Hz})$ 샘플과 표준 Hankel 분할 $L = \lfloor N/2 \rfloor = 1536$으로부터 데이터 행렬 $\mathbf{Y} \in \mathbb{R}^{1536 \times 1536}$이 결정된다. 행렬 최소 차원 $\min(N-L, L+1) = 1536$에 대한 $k_{tgt} = 100$과 $l = 110$은 각각 약 6.5%, 7.2% 수준이며, RSVD의 적용 조건 $l \ll \min(N-L, L+1)$이 충족된다. 이렇게 얻은 $l$차원 근사 부분공간에서 MP-SVD와 동일하게 $\sigma_i / \sigma_1 \geq \tau$을 만족하는 상위 $r$개의 성분을 신호 부분공간으로 채택한다.

2.5 성능 평가 지표

알고리즘 평가에 3가지 지표를 사용한다. $R^2$은 평균을 제거한 신호에서 산출되는 신호 재현도이며, 식 (7)과 같다. RMSE는 잡음이 없는 참 신호와의 오차로 식 (8)에, $f_{err} [\%]$는 주파수 추정 오차로 식 (9)에 정의된다. 출력된 극점 집합 $\{z_m\}$에 대해 진폭 $b_m$을 최소자승으로 결정하여 재구성 신호 $\hat{x}[n] = \text{Re}\left(\sum_m b_m z_m^n\right)$를 정의한다. 평균 제거된 신호로 추정한 경우, 추정 결과에 다시 $\bar{x}$를 더하여 RMSE를 원신호 도메인에서 계산한다.

여기서 $f_{est}$는 알고리즘이 추정한 주파수, $f_{true}$는 참 주파수로 합성 신호 설계값 0.6 Hz를 사용한다. 주파수 매칭 허용 오차(tolerance)는 $\max(0.02 \text{ Hz}, 0.05 \times f_{true})$이며, 매칭 모드가 없을 때 $f_{err}$는 미식별(-)로 표기한다. RMSE는 잡음에 독립적인 모델 일치도 평가를 가능하게 한다.

3.1 시뮬레이션 환경 구성

분석 입력은 256Hz로 샘플링된 약 1,260s 길이의 합성 전압 신호이며, 모든 진폭은 기준 전압 대비 per-unit(pu)으로 정규화하였다. 본 신호는 2025년 4월 28일 이베리아 계통 대정전 사례에서 보고된 0.6 Hz 로컬 진동 및 0.2 Hz 광역 진동의 주파수 대역만을 참고하여 구성한 합성 벤치마크 신호이다. 본 신호는 해당 사고의 실측 파형이나 그 시간 전개를 재현한 것이 아니며, 알고리즘 비교를 위해 주요 진동 주파수 대역과 진폭 특성만을 모사한 합성 데이터로서, 신호의 구조는 식 (10)과 같다.

식 (10)에서 $g_j(t)$는 활성 구간 $[t_{j,start}, t_{j,end}]$에서 ramp 길이 $r_j$의 half cosine 포락선이며, $r_j$는 event 1과 선구 진동에 대해 r=20s, event 2에 대해 r=25s로 설정하였다. $\epsilon(t) \sim \mathcal{N}(0, \sigma_\epsilon^2)$은 가산 백색 가우시안 잡음이다. Baseline $\mu = 1.000 \text{ pu}$, $A_{0.03} = 8.0 \times 10^{-4} \text{ pu}$, $A_{0.01} = 6.0 \times 10^{-4} \text{ pu}$이다. 표 1에 이벤트 성분의 파라미터가 나타나 있으며, 모든 이벤트의 감쇠 계수 $\alpha = 0$으로 순수 정현파에 $g_j(t)$를 곱한 형태이다.

본 합성 신호의 측정 조건은 위상측정장치(Phasor Measurement Unit, PMU) 기반 광역계측시스템(Wide-Area Monitoring System, WAMS) 또는 고속 계측 데이터로부터 구성된 실제 분석 신호가 아니라, PMU/WAMS에서 기대되는 시간 분해능과 잡음 강도 범위를 모의한 것이다. 256 Hz 샘플링은 알고리즘 비교를 위한 고분해능 분석 조건으로 설정하였다. 12 s 분석 윈도우는 약 0.083 Hz의 기본 주파수 간격에 해당하며, 0.6 Hz 로컬 진동 모드의 단기 추정 성능을 평가하기 위한 조건으로 설정하였다. 잡음 강도는 $\infty$, 40, 30, 20, 10dB 다섯 단계로 설정하였으며, 40dB는 고 SNR 계측 환경을, 30dB와 20dB는 외란 이후 측정 신호 품질이 저하된 상황을 가정한 조건이다. 10dB는 강한 잡음 환경에서 각 알고리즘의 한계 거동을 확인하기 위한 스트레스 조건으로 설정하였다.

3.2 분석 윈도우 및 잡음 조건

본 비교의 분석 윈도우는 0.6 Hz 로컬 모드를 포함하는 W-A 구간(186.5~198.5s, $N = 3072, f_s = 256 \text{ Hz}$)으로 한다. W-A는 event 1 활성 구간 중 포락선이 거의 일정한 평탄부(약 80~280s)에 위치하므로, 신호가 일정 진폭 정현파의 합에 가까워 지수 정현파 가정이 잘 성립한다. 포락선이 상승·하강하는 ramp 구간에서는 진폭 변화로 이 가정이 약화된다. 이때 윈도우 길이 12s로부터 Hankel 행렬 차원 $\mathbf{Y}_0 \in \mathbb{R}^{1536 \times 1536}$이 자동으로 결정된다. 0.2 Hz 광역 모드는 event 2 중앙의 W-B 구간(1,074~1,086s)에 해당하나, 12s 동안 약 2.4 주기만 포함되어 정량 추정의 불확실성이 크므로 W-B는 그림 1의 파형 예시로만 제시한다. 그림 1에 전체 합성 신호 파형이, 그림 2에 분석 윈도우의 시간영역 파형과 잡음이 가산된 신호 예시가 나타나 있다.

그림 1. 전체 합성 신호 파형(0–1,260s)과 event 1·precursor·event 2 구간, 분석 윈도우 W-A(186.5–198.5s)·W-B(event 2 중앙)

Fig. 1. Full synthetic voltage waveform (0–1,260s) with event 1, precursor and event 2 segments, and analysis windows W-A and W-B

그림 2. 분석 윈도우(186.5–198.5s)의 시간영역 파형. (상) 잡음이 없는 합성 신호, (하) SNR 20dB 잡음이 추가된 신호 예시

Fig. 2. Time-domain voltage waveform within the 12-s analysis window (186.5–198.5s): (top) noise-free synthetic signal; (bottom) one realization with additive noise at SNR 20dB

신호 분산 $\sigma_s^2$은 분석 윈도우 내 event 1 정현파에 대해 $\sigma_s^2 = A^2/2 = 0.028^2/2 = 3.92 \times 10^{-4} \text{ pu}$로 정의하며, 무잡음 조건을 제외한 40, 30, 20, 10dB 조건의 noise RMS pu는 순서대로 $1.98 \times 10^{-4}, 6.26 \times 10^{-4}, 1.98 \times 10^{-3}, 6.26 \times 10^{-3}$로 설정하였다.

3.3 비교 알고리즘 구성

Prony 분석은 9가지 차수 ($p \in \{4, 10, 20, 50, 100, 200, 400, 1024, 1536\}$)를 적용하고, MP-SVD는 특이값 임계 비율 $\tau = 0.01$을 사용하며, MP-RSVD는 $k_{tgt} = 100$, $p_{os} = 10$, 거듭제곱 반복 횟수 $q = 4$를 적용한다. 이렇게 총 11가지 알고리즘 구성을 비교한다.

비교 결과는 최적 튜닝 조건의 최고 성능, 고정 파라미터 조건의 온라인 적용성, 파라미터 민감도와 수치 안정성의 세 관점으로 구분하여 제시한다. 최고 성능은 Prony 차수 sweep의 최저 RMSE로, 온라인 적용성은 단일 설정 MP-RSVD와 BIC-Prony로, 민감도와 안정성은 $\tau$, $k_{tgt}$, $q$ 변화에 대한 거동으로 각각 평가하며, 서로 다른 관점의 수치는 직접 비교하지 않는다.

비교 공정성을 위해 세 기법 모두 평균 제거된 신호 $x_d = x - \bar{x}$를 공통 입력으로 사용하며, 평균 제거 외에 추가적인 전·후처리는 적용하지 않는다. 본 신호에서 DC 성분 $\mu=1 \text{ pu}$가 진동 진폭 $10^{-2} \text{ pu}$보다 수십~100배 크므로, 평균 제거 없이는 DC 성분이 모드 추정에 지배적으로 반영되기 때문이다.

Prony 분석은 9개 차수 중 자동 선정을 수행하기 위해 BIC(Bayesian Information Criterion)^[7]를 적용한다.

여기서 $\hat{\sigma}_{res}^2$는 모델 잔차 분산, $N$은 샘플 수, $p$는 모델 차수이다. 안전 영역 $p \leq \lfloor N/4 \rfloor = 768$로 후보 집합을 제한한다. 사전 실험에서 AIC(Akaike Information Criterion)가 잡음 환경에서 안전 영역 최대 차수를 일관되게 선택하는 과적합 경향을 발견하여 페널티가 강한 BIC를 채택하였다. $\tau = 0.01$과 $k_{tgt} = 100$, $p_{os} = 10$, $q = 4$는 Halko–Martinsson–Tropp 권고와 사전 탐색에서 정한 값이며, $\tau, k_{tgt}, q$의 변화가 rank, RMSE, 연산 시간에 주는 영향도 함께 분석한다.

본 비교의 정량 지표는 정밀도(RMSE)와 실행 시간(wall-clock time [ms])이며, 온라인 감시 환경에서 12s 슬라이딩 윈도우의 갱신 주기에 대한 적합성을 평가하는 데 활용된다. 실행 시간은 SNR 조건당 30개 잡음 시드에 대해 각각 5회 반복 측정 후 매 시드의 중위값을 산출하며, 30개 시드에 대해 평균과 10,000회 재추출 기반 95% paired-bootstrap 신뢰구간(Confidence Interval, CI)을 산출한다. SNR $\infty$ 조건은 결정론적 단일 측정에 해당한다.

모든 실행 시간은 단일 워크스테이션에서 측정하였다. 연산 환경은 CPU Intel(R) Core Ultra 7 265K(3.90GHz), DDR5 32 GB (5,600 MT/s), 운영 체제 Windows 11 Pro, Python 3.12.10 / NumPy 2.4.1, 수치 라이브러리 scipy-openblas 0.3.30이며, 스레드 수 환경변수를 별도 설정하지 않아 BLAS 기본 다중 스레드로 동작한다. 윈도우 갱신 주기는 2s로 가정하며, 각 기법의 실행 시간이 이 주기 이내일 때 온라인 적용 가능으로 본다.

4.1 SNR 조건별 전체 비교

표 2에 SNR 조건별 RMSE 기준 최저값 구성이 나타나 있다. 잡음 조건(SNR 40–10dB)의 셀은 30개 잡음 시드에 대한 Monte-Carlo 평균과 95% bootstrap 신뢰구간으로 집계하며, MP 계열은 시드마다 자동 결정 rank가 달라지므로 각 SNR에서 30 시드를 풀링하여 평균하고, Prony는 고정 차수별로 집계한다. Prony 차수 p와 MP rank는 물리적 의미가 다르므로 별도 열로 구분한다.

표 2에서 RMSE는 30개 시드의 95% bootstrap CI, $R^2$와 $f_{err}$는 평균±표준편차로 제시하며, SNR $\infty$ 조건은 결정론적 단일 측정이다. SNR $\infty$조건에서 Prony $p = 400$이, 40dB 조건에서는 Prony $p = 200$이 RMSE 최저값을 기록한다. SNR 30dB부터 MP 계열의 RMSE가 Prony 방식과 동등한 자릿수에 도달하며 표준편차 $3.7 \times 10^{-5} \text{ pu}$ 내에서 두 계열이 통계적 동률에 가깝다. 또한 SNR 30dB에서 MP-SVD와 MP-RSVD의 RMSE는 표시 자릿수 기준으로 동일하게 나타났으며, 20dB에서는 MP-SVD가 MP-RSVD보다 근소하게 낮으나 그 차이는 표준편차 범위 내이다. SNR 10dB에서는 $k_{tgt}=100$ 상한의 영향으로 MP-RSVD의 RMSE가 가장 낮게 나타났다.

그림 3. SNR $\infty$ 조건에서 11개 알고리즘 구성의 RMSE-실행시간 트레이드 오프 산점도

Fig. 3. RMSE vs. computation time trade-off across all eleven algorithm configurations at SNR $\infty$

그림 3에 SNR $\infty$ 조건의 11개 알고리즘 구성이 RMSE-실행시간 평면에 배치되어 있다. 주파수 추정 오차 측면에서, SNR $\infty$ 조건에서 MP 계열은 $f_{err} = 0.0044 \text{ \%}$ (약 0.026 mHz)를 기록하며, Prony 분석($p = 400$)은 0.0099%(약 0.059 mHz), 사실상 0에 가까운 주파수 오차를 기록한다. 이는 합성 신호에 대한 알고리즘 식별 오차이며, 두 기법 모두 모달 분석에 적용 가능한 정확도 수준이다.

한편 무잡음 조건에서 MP 계열이 보이는 $10^{-4} \text{ pu}$ 수준의 잔차는 유한 윈도우 경계효과에 기인한다. 감쇠계수 추정값 $\hat{\alpha} \approx 9.6 \times 10^{-5}$로 사실상 0이나, 재구성 잔차의 경계/중앙 RMS 비가 1.37로 윈도우 경계에서 잔차가 집중된다.

4.2 감쇠 모드 추정 검증

비감쇠 벤치마크와 별도로, 감쇠비를 부여한 통제 합성 모드에서 세 기법의 감쇠비 추정 정확도를 평가한다. 감쇠비 $\zeta_{true} \in \{1, 3, 5, 10\}\%$의 단일 0.6 Hz 모드에 동일한 SNR 조건을 적용하였다. 표 3에 $\zeta_{true}$별 평균 $|\hat{\zeta} - \zeta_{true}|$가 정리되어 있다. SNR 40dB에서 MP 계열의 오차는 모든 감쇠비에서 0.006%p 이하이며, 10dB까지 모든 조건에서 검출률 100%를 유지한다. 고잡음·고감쇠 조건($\zeta = 10\%$, 10dB)에서는 MP-RSVD의 오차(0.281%p)가 MP-SVD(0.800%p)와 Prony(0.433%p)보다 낮다. 감쇠비와 주파수는 계통 안정도 평가의 직접 지표이므로 본 논문은 이 두 오차를 중심 지표로 제시하며, 진폭과 위상 오차는 부차 지표로 둔다.

또한 다중 모드(0.2 Hz와 0.6 Hz 동시 존재)와 근접 모드(0.55/0.65 Hz, $\Delta f=0.1 \text{ Hz}$)에 대한 분리 성능을 검토하였다. MP 계열은 두 경우 모두 전 SNR에서 두 모드를 100% 분리하였으나, Prony는 차수 의존적이어서 근접 모드를 전 SNR(10dB 포함)에서 분리하려면 p$\geq$400이 필요하였다(p=200은 20·10dB에서 두 모드가 분리 불가). 이는 고정 파라미터 MP 계열의 근접 모드 강건성을 보여준다.

4.3 MP-RSVD와 MP-SVD 성능 차이 분석

MP-RSVD는 동일한 Matrix Pencil 패러다임 안에서 Full SVD를 RSVD로 대체한 기법이다. 본 절에서는 MP-SVD에 MP-RSVD의 $k_{tgt}$와 동일한 rank 상한 $r \leq 100$을 부과한 방식(이하 cap=100 SVD)을 대조군으로 추가하여 비교한다. 이때 $r$는 신호로부터 추정 가능한 모드 수의 상한을 의미한다. 이를 통해 MP-RSVD의 이점을 rank 상한 부과에 의한 차원 제한 효과와 Full SVD 연산 우회에 의한 랜덤 투영 효과로 분리한다. 차원 제한 효과는 잡음 성분에서 비롯되는 허위 모드를 배제하고 일반화 고유값 분해 비용을 축소하며, MP-SVD와 cap=100 SVD의 비교로 측정된다. 랜덤 투영 효과는 연산 시간을 추가로 절감하고 잡음 성분에 의해 자동 결정 rank가 과도하게 증가하는 것을 억제하며, cap=100 SVD와 RSVD의 비교로 측정된다. 표 4에 세 기법의 5가지 SNR 조건별 비교 결과가 정리되어 있다.

실행 시간 차이는 SNR에 따라 두 양상으로 나타난다. 저잡음(SNR $\infty$~ 20dB) 조건에서는 자동 결정된 rank가 $\tau = 0.01$ 임계에 의해 이미 2~4로 작아 cap=100 상한이 비활성화되며, 차원 제한 효과 없이 랜덤 투영 효과만 작용한다. 이 구간에서 MP-RSVD는 MP-SVD와 cap=100 SVD 대비 약 2.04~2.67배의 속도 향상을 보인다. 고잡음(SNR 10dB)에서는 두 효과가 모두 작용한다. MP-SVD에서는 자동 결정 rank가 716까지 증가하여 실행 시간이 1,969ms ($\pm 59$ms)에 이르지만, 동일 신호에 rank 상한 100을 부과하면 일반화 고유값 행렬 $\hat{A}$의 차원이 $716 \times 716$에서 $100 \times 100$으로 축소되어 857ms($\pm 18$ms)로 약 2.30배(95% CI: 2.27~2.33배) 단축된다. 이는 차원 제한 효과의 단독 기여이다. MP-RSVD는 동일 rank 제한 하에서 410ms ($\pm 34$ms)로 추가로 약 2.10배(95% CI: 2.04~2.17배) 단축되는데, 이는 Full SVD 단계 자체를 $l = 110$차원 부분공간의 SVD로 대체한 결과로서 랜덤 투영 효과의 기여이다. 즉 SNR 10dB에서의 시간 절감 약 1,559ms 중 1,112ms는 차원 제한 효과에, 447ms는 랜덤 투영 효과에 해당한다.

정밀도 차이는 SNR 10dB에서만 의미 있게 분리된다. 저잡음(SNR $\infty$ ~ 20dB) 조건에서 세 기법의 RMSE는 30개 시드 모두 부동 소수 정밀도 한계 내에서 동일하다. 20dB에서는 MP-RSVD가 $10^{-6} \text{ pu}$ 높으나 표준편차 범위 내 차이이며, 차원 제한도 랜덤 투영도 RMSE에 영향을 주지 않는다. 고잡음(SNR 10dB)에서는 RMSE가 ($4.42$, $1.81$, $1.20$)$\times 10^{-3} \text{ pu}$ 순으로 단계적으로 감소한다. 이 조건에서 rank가 716까지 증가한 것은 최대 특이값 대비 고정 비율 $\tau$로 차원을 정하는 rank 선정 방식이 잡음에 민감하기 때문이며, cap=100을 부과하면 그중 상위 100개만 신호 부분공간으로 채택되어 RMSE가 약 1/2.42 수준으로 감소한다(95% CI: 1/2.39 ~ 1/2.46). 이는 차원 제한 효과의 RMSE 측면 단독 기여이다. MP-RSVD는 동일한 100차원 제한 하에서 RMSE를 추가로 약 1.52배(95% CI: 1.48~1.55배) 감소시킨다. 이는 cap=100 SVD가 잡음에 분포된 716개 특이벡터 중 상위 100개를 선택하는 반면 RSVD는 $l=110$차원의 랜덤 투영과 $q=4$회 거듭제곱 반복으로 부분공간을 근사하기 때문이다. 본 실험 조건에서 RSVD의 저차원 근사 과정은 잡음 성분에 의한 과도한 rank 증가를 억제하는 정규화 효과로 작용한 것으로 해석된다. 다만, SNR 10dB의 우위는 RSVD가 일반적으로 우수해서가 아니라, $k_{tgt} = 100$의 차원 제한과 $l = 110$ 랜덤 투영의 정규화가 함께 작용한 결과이다. $k_{tgt}$를 낮추면 본 조건에서 RMSE가 추가로 감소하며, rank 선정 방식이나 신호 잡음 조건이 달라지면 우열도 달라진다.

그림 4에 SNR 10dB에서 30개 시드 RMSE의 분포가 나타나 있다. MP-RSVD는 사분위 폭이 MP-SVD보다 좁아 시드 변동에 대해서도 일관된 결과를 보인다.

그림 4. SNR 10dB에서 5개 알고리즘의 30개 시드 RMSE 분포

Fig. 4. RMSE distribution across 30 noise seeds at SNR 10dB for five algorithm configurations

표 5에 MP 계열의 파라미터 민감도를 정리하였다. MP-SVD의 특이값 임계 비율 $\tau$에 대한 평균 자동 rank와 RMSE, 그리고 MP-RSVD의 표적 랭크 $k_{tgt}$ 및 거듭제곱 반복 횟수 $q$에 대한 RMSE를 함께 제시한다.

자동 rank는 SNR $\infty$~30 dB에서 $\tau$에 무관하게 2–4이나, 10dB에서는 $\tau=0.005, 0.01, 0.02, 0.05$에 대해 각각 1,181, 715, 73, 2로 $\tau$가 작을수록 급증한다. RMSE는 $\tau$가 작을수록 rank가 커져 함께 증가하며, 10dB에서 $\tau = 0.005$가 $5.52 \times 10^{-3} \text{ pu}$로 가장 크고, $\tau = 0.05$가 $3.53 \times 10^{-4} \text{ pu}$로 가장 작다. $\tau=0.01$은 최대 특이값의 1% 미만을 잡음으로 간주하는 통상 기준으로 채택하였으나, 고정 비율 임계는 SNR에 따라 자동 rank를 크게 바꾸어 단일 $\tau$가 모든 조건에서 최적은 아니다. $\tau$는 두 기법 공통 임계이며, 상한이 없는 MP-SVD는 10dB에서 rank가 715까지 증가하는 반면 MP-RSVD는 동일 $\tau$를 $k_{tgt}$ 상한 내에서 적용하여 rank가 100으로 제한된다.

$k_{tgt}$의 영향은 SNR에 따라 방향이 달라, 20dB 이상에서는 $k_{tgt}$가 클수록 다소 유리하나 10dB에서는 작을수록 RMSE가 낮다($k_{tgt}=20$: $5.83 \times 10^{-4} \rightarrow k_{tgt}=200$: $1.75 \times 10^{-3} \text{ pu}$). $k_{tgt}$는 추정 가능한 모드 수의 상한이므로 과도하게 작으면 신호 부분공간을 과소 선택할 수 있어 $k_{tgt}=100$을 채택하였다.

$q$역시 SNR에 따라 영향의 방향이 반대로 나타난다. 20dB에서는 $q$가 클수록 RMSE가 낮아지나, 10dB에서는 $q$가 작을수록 낮아진다. 고 SNR의 정확도와 RSVD의 권고값을 고려하여 $q=4$를 채택하였으며, 10dB에서의 RMSE 증가는 같은 자릿수에 그친다.

$\tau=0.01$, $k_{tgt}=100$, $q=4$는 본 신호·잡음 조건의 기준 설정이며, 파라미터 변화에 대한 RMSE 차이는 SNR 10dB에서만 두드러진다.

4.4 MP-RSVD와 Prony 분석: 단일 파라미터 설정의 안정성

Prony 분석의 차수 $p$는 사전에 설정해야 하는 하이퍼파라미터로, 신호와 잡음 조건에 따라 적정값이 달라진다. 저잡음에서 RMSE 최저값은 SNR $\infty$에서 Prony $p=400$, 40dB에서 Prony $p=200$이 기록한다. SNR $\infty$에서 Prony $p=400$의 RMSE는 $1.62 \times 10^{-4} \text{ pu}$, MP-RSVD는 $2.33 \times 10^{-4} \text{ pu}$로 같은 자릿수이며, Prony가 근소하게 낮다. 단, 표 6에서 보듯이 $p \leq 20$에서는 모드 미식별($R^2 < 0$), $p=50$에서는 정확도 저하 (RMSE=$1.36 \times 10^{-2} \text{ pu}$, $f_{err} = 0.421\%$)가 발생한다.

$k_{tgt}$는 모드 수의 상한을 가정한 파라미터로, 상한보다 작으면 정확도가 저하되지만 크게 설정해도 연산 비용만 증가할 뿐 정확도는 유지된다. 따라서 잡음 환경(SNR $\leq$ 30dB)에서는 MP-RSVD가 단일 $k_{tgt} = 100$ 설정으로 SNR $\infty$부터 10dB까지 일관된 성능을 보인다. SNR 10dB에서 Prony $p = 400$의 RMSE는 $(2.44 \pm 0.07) \times 10^{-3} \text{ pu}$인 반면 MP-RSVD는 $(1.20 \pm 0.10) \times 10^{-3} \text{ pu}$로 약 2.04배 낮다.

Prony 분석의 차수를 BIC로 자동 선정하면 본 신호의 모든 SNR 조건에서 $p=200$이 선택되며, SNR 40dB에서 평균 RMSE $(1.78 \pm 0.07) \times 10^{-4} \text{ pu}$로 MP 계열 $(2.33 \pm 0.04) \times 10^{-4} \text{ pu}$와 같은 자릿수의 정밀도를 달성하나, 9개 후보 차수를 모두 실행한 후 선정하는 절차상 실행 시간 평균 9,750ms로 MP-RSVD(334ms) 대비 약 29.2배의 시간 비용이 소요된다. 이는 앞서 가정한 2s 갱신 주기를 초과하므로, 정확도는 MP 계열과 대등하더라도 후보 차수를 전수 평가하는 방식인 BIC-Prony는 온라인 환경에 직접 적용하기는 어렵다.

다만 본 비교에서 Prony 분석은 9개 후보 차수 중 최저 RMSE를 기록한 결과를 포함하는 반면, MP-RSVD는 단일 $k_{tgt} = 100$ 설정으로 평가되었다. 따라서 본 절의 비교는 최적으로 조정된 Prony와 단일 설정 MP-RSVD의 상대 성능 비교로 해석해야 하며, 두 기법의 완전한 파라미터 최적화 비교를 의미하지 않는다.

단일 윈도우 결과가 전체 신호에서도 유지되는지 확인하기 위해, 1,260s 신호에 12s 윈도우를 2.0s 간격으로 이동시키며 비활성 구간의 오검출과 윈도우당 연산 시간을 평가하였다. 여기서 오검출률은 진동 모드가 존재하지 않는 비활성 구간의 전체 윈도우 중 모드가 검출된 윈도우의 비율이다. 그 결과 오검출률은 BIC-Prony 0.000, MP-RSVD 0.027, MP-SVD 0.675로 나타났다. 이 값이 높은 것은 고정 비율 임계 $\tau$가 진동 성분이 없는 비활성 구간에서 잡음 특이값을 신호 부분공간으로 채택하기 때문이다. 윈도우당 연산 시간은 MP-RSVD 273ms, BIC-Prony 712ms, MP-SVD 2,215ms로, MP-RSVD와 축소 후보 BIC-Prony는 2s 갱신 주기 안에서 동작한다. 검출 지연은 12s 윈도우 축적과 2s hop, 수백 ms의 연산으로 결정된다. half-cosine 포락선이 변하는 ramp 구간에서는 추정 감쇠 계수의 분산이 커 단일 윈도우만으로 감쇠 여부를 단정할 수 없으며, 연속 윈도우의 추세로 판단한다.

4.5 Prony 분석 차수 민감도와 $N/2$ 수치 붕괴

표 6에 SNR 40dB 조건의 차수별 주요 지표가 정리되어 있다. 미식별 구간($p \leq 20$)에서 $R^2 < 0$이며 주파수 식별이 불가능하며, $R^2$도 음수이거나 0에 근접한다. 안정 추정 영역($p = 100 \sim 400$)에서 $R^2 > 0.9999$, RMSE $\leq 3.68 \times 10^{-4} \text{ pu}$, 실행 시간 65~491ms다. 과도 구간($p = 1,024$)에서는 정밀도가 더 개선되지 않고(RMSE= $2.44 \times 10^{-4} \text{ pu}$), 실행 시간만 약 5.4배 증가한다. 발산 구간($p = 1,536 = N/2$)에서 $R^2 = -2,603$, RMSE $\approx 1.0 \text{ pu}$ 수준의 수치적 발산이 발생한다. SNR이 낮아질수록 안정 추정 영역의 하한이 상승하며, SNR 10dB에서 Prony 평균 제거 방식($p = 400$)은 RMSE= $(2.44 \pm 0.07) \times 10^{-3} \text{ pu}$를 기록하는 반면 MP-RSVD는 동일 조건에서 $(1.20 \pm 0.10) \times 10^{-3} \text{ pu}$로 더 낮은 오차를 보인다.

$p = 1,536 = N/2$ 조건에서 Prony 분석에 심각한 수치 불안정이 발생한 원인은 다음과 같다. 데이터 행렬은 $(N-p) \times p$ 크기인데, $p = N/2$이면 정확히 정방에 가까워져 관측 수 대비 파라미터 수의 비율이 1에 근접한다. 이때 조건수(condition number)가 급격히 상승하고 최소자승 해의 잡음 성분이 신호 성분보다 더 크게 증폭된다. 그 결과 추출된 다항식 근 $\{z_m\}$이 단위원 주변으로 흩어져 다수의 허위(spurious) 모드가 생성되고, 재구성 신호 $\hat{x}$가 원신호와 무관해져 $R^2$가 음으로 발산하고, RMSE가 1 pu 수준까지 발산하며, 다항식 근 추출의 $\mathcal{O}(p^3)$ 비용이 $p = 1,536$에서 급증한다. 따라서 $p = N/2$ 조건은 수치적 이상점이며, 운영 시스템에서는 차수 상한을 $N/2$ 미만으로 제한하는 안전장치가 필수적이다.

차수 $p$는 안전 영역($p \leq \lfloor N/4 \rfloor = 768$), 경계 영역($N/4 < p < N/2$, 잡음 환경에서는 정상 동작하나 실행 시간이 2.7~6.3s로 증가), 발산 영역($p \geq N/2$)으로 구분된다. 이 가운데 운영에서 의미 있는 구간은 안전 영역 $p \leq N/4$이며, 안정 추정 영역의 하한이 잡음 수준에 따라 상승하므로 고정된 차수 후보 집합이 모든 잡음 조건에서 유효하지 않다.

그림 5. Prony 차수 p에 따른 RMSE와 실행시간 (SNR $\infty$ vs. 20dB)

Fig. 5. Prony order sensitivity at SNR $\infty$ and 20dB: RMSE (top) and computation time (bottom) as functions of order p

4.6 Prony 차수 안전 영역

그림 6에 5가지 SNR 조건의 Prony 데이터 행렬 조건 수의 차수 의존성이 나타나 있다. 잡음이 없는 SNR $\infty$ 조건에서는 $p = 10$ 수준에서 이미 조건수가 $4.7 \times 10^9$에 달하고 $p = 20$에서 $4.4 \times 10^{14}$로 급증한다. 이는 순수 신호에서 Prony 행렬의 수치 불안정성이 낮은 차수에서도 발현됨을 보여준다. 반면 잡음 환경에서는 오히려 잡음이 조건수를 낮추는 안정화 효과로 작용한다. 본 신호의 극점(pole)은 0.6 Hz 단일 정현파에 대응하는 극점 2개를 중심으로 분포하며, 단위원 근처에서 서로 근접해 분포한다. Prony $p=1,536$은 이 소수의 극점을 1,536 차수의 자기회귀 모델로 표현하므로, 데이터 행렬이 담는 독립적인 정보가 차원에 비해 크게 부족하게 된다. 이로 인해 행/열 사이의 선형 종속성이 강해져 일부 특이값이 0에 가까워지고, 그 결과 최대 특이값과 최소 특이값의 비율로 정해지는 조건수가 급증한다. 그러나 잡음이 가해지면 모든 차원에 분포된 무작위 성분이 이러한 극점 분포를 흩뜨리고, 행/열의 종속성을 약화시켜 조건수가 완화된다. 그 결과 SNR 10dB, $p = 1,536$ 조건에서도 조건수는 $3.8 \times 10^4$ 수준에 그친다. 그러나 앞선 실험에서 확인했듯이 $p = N/2$의 발산 문제는 조건수 단일 임계만으로 예측되지 않는다.

이상의 관찰로부터 본 실험 조건에서는 $p \leq N/4$범위에서 수치적 발산이 관찰되지 않았으며, 이를 Prony 차수 선택을 위한 경험적 안전 영역으로 설정하였다. 이 기준은 모든 신호 조건에 대해 보편적으로 성립하는 이론적 충분조건은 아니지만, 본 논문의 합성 신호 및 잡음 조건에서는 차수 탐색 범위를 제한하고 불안정한 고차 모델을 배제하는 데 효과적이었다. 또한 $R^2 < 0$인 결과는 신호 재현에 실패한 경우로 판단하여 차수 선택 과정에서 제외하는 것이 바람직하다.

그림 6. Prony 데이터 행렬 조건수 vs. 차수 p (SNR $\infty$–10dB, 임계 cond= $10^{10}$)

Fig. 6. Condition number of the Prony data matrix versus order p across five SNR conditions, with reference threshold cond = $10^{10}$.