Mobile QR Code QR CODE : The Transactions of the Korean Institute of Electrical Engineers

  1. (Dept. of Automotive Engineering, Kookmin University, Korea.)



Adaptive filter, Affine projection algorithm (APA), Robust, Measurement noise, High power

1. 서 론

일반적으로 적응형 필터는 에코 제거, 소음 제거, 채널 추정 및 시스템 식별 등의 다양한 분야의 도구로 사용되어져 왔다(1,2). 대표적으로 알려져 있는 적응형 필터인 Least mean square (LMS) 알고리즘과 normalized LMS 알고리즘은 적은 계산 양과 구현의 용이함으로 인해 산업 전반에서 실용적으로 활용되고 있다. 하지만 LMS 타입의 알고리즘들은 입력 신호가 서로 연관 관계가 있을 때, 성능이 저하되는 단점이 존재한다. 이러한 연관 관계 특성을 가지는 입력에 대해 성능 저하를 방지하면서 보다 나은 성능을 보장하기 위해, 입력 신호를 벡터로 쌓아서 사용하는 인접 투사 알고리즘(affine projection algorithm, APA)이 개발되었다 (3). 이러한 입력 신호 특성에 따른 장점으로 인해서 인접 투사 알고리즘은 가변 스텝 사이즈를 통한 성능 개선, 입력 신호 벡터의 수를 조절하는 방법 및 인접 투사 부호 알고리즘 등으로 다양하게 확장되어 활발히 연구가 진행되고 있다[4,5,6].

최근 들어 적응형 필터의 사용에 있어서 Noise, 즉 잡음 특성에 따른 필터 설계에 대한 연구가 활발히 이루어지고 있다. 열악한 측정 잡음(measurement noise) 상황 또는 충격성 잡음(impul- sive noise)이 존재할 때 성능 저하를 막기 위해서 이를 극복하기 위한 방법론들이 다양하게 연구되어 발표되어 왔다[7,8,9]. 이 중에서 측정 잡음의 출력이 큰 경우에 강인한 필터 특성을 지닌 새로운 NLMS 알고리즘(R-NLMS)을 제시한 논문은 다양한 알고리즘에 확장 가능한 개념의 방법론이다 (7). 따라서 이 개념을 적용할 수 있도록 필터 Cost를 설계한다면 다양한 적응형 필터마다의 좋은 특성을 살리면서 동시에 고출력 잡음 환경에 강인한 필터를 제안할 수 있다.

따라서 본 논문은 인접 투사 알고리즘의 cost를 새롭게 설계하여, 고출력 잡음 환경에서 정상상태 오차를 줄이도록 개선하는 알고리즘을 제안한다. 제안하는 알고리즘의 핵심 개념은 현재 필터 계수 벡터와 과거 필터 계수 벡터들의 차이의 합에 대한 Euclidean norm 요소를 Cost function에 넣는 전략을 통해서 측정 잡음이 열악한 상황에서도 성능이 강인하도록 Cost를 설계한 부분이다. 기존 인접 투사 알고리즘(3) 뿐만 아니라 R-NLMS 알고리즘(7) 성능과도 비교해 본 결과, 고출력 잡음 환경에서 제안하는 알고리즘은 기존의 알고리즘들에 비해 정상상태 오차를 확연히 감소시킨다는 것을 확인할 수 있었다.

그림. 1. 기본적인 적응형 필터 구조

Fig. 1. Structure of the adaptive filter

../../Resources/kiee/KIEE.2019.68.7.890/fig1.png

본 논문은 전체적으로 4개 부분으로 구성된다. 서론의 적응형 필터에 대한 배경 설명에 이어서 본론에서 먼저 기존의 APA에 대해 간략히 설명하고, 이어서 고출력 측정 잡음에 강인한 알고리즘을 제안한다. 다음으로는 제안한 알고리즘의 실험 결과를 제시하여 제안하는 알고리즘 성능에 대하여 증명한다. 마지막으로 본 논문의 결론을 제시한다.

2. 본 론

2.1 인접 투사 알고리즘(Affine Projection Algorithm, APA)

그림 1에서 보는 바와 같이 임의의 입력에 대하여 미지의 시스템을 통과한 시스템 결과 벡터는 아래와 같이 표현된다.

(1)
$$d(n)=u^{T}(n) w_{0}+v_{0}(n)$$

여기서 $w_{0}$는 추정하고자 하는 m 차원의 행 벡터이며, $v_{o}(n)$는 분산 $\sigma_{v_{o}}^{2}$을 지니는 측정 잡음이고, 입력 벡터는

$u(n)=[u(n)u(n-1)\cdots u(n-m+1)]^{T}$과 같다. 여기서 $m$은 필터의 tap 길이를 의미하며, 그림 1에서의 unknown system과 adaptive filter의 dimension을 나타내는 값이다.

인접 투사 알고리즘은 복수의 입력 신호를 쌓아서 사용하기 때문에 입력 신호와 출력 신호 그리고 에러 신호가 복수의 dimension으로 확장되는 개념의 필터이다. 따라서 에러 벡터는 $e(n)= d(n)- U^{T}(n)\hat w(n)$로 정의되고, 여기서

$U(n)=[ u(n) u(n-1)\cdots u(n-M+1)]$는 입력 벡터를 쌓아서 만든 입력 매트릭스를 의미하고,

$d(n)=[d(n)d(n-1)\cdots d(n-M+1)]$는 필터가 추정해야 할 이상적인 결과 벡터를 의미한다. 그리고 $\hat w(n)$은 $n$번째에 $w_{o}$에 대하여 필터가 추정한 결과 값이다.

기본적인 인접 투사 알고리즘은 필터 계수들의 차이의 $L_{2}-no$을 최소화하고, $a posteriori$ 에러를 0으로 두는 제한 조건을 이용하여 업데이트 식을 유도한다.

(2)

$\min_{\hat w(n+1)}||\hat w(n+1)-\hat w(n)||_{2}^{2}$

$subject$ $to$ $d(n)= U^{T}(n)\hat w(n+1)$

$Lagran\ge m ultiplier$를 이용하여 위의 (2)식으로부터 cost function을 유도하고, $gradient descent$ 방법을 이용하여, 기존의 인접 투사 알고리즘의 업데이트 식을 유도할 수 있다 (3). 아래의 (3)의 식이 기본적인 인접 투사 알고리즘의 필터 계수에 관한 업데이트 식이다.

(3)
$\hat w(n+1)= \hat w(n)+\mu U(n)( U^{T}(n) U(n))^{-1} e(n)$

위 식에서 $\mu$는 업데이트의 정도를 조절하는 변수인 스텝 사이즈이다.

2.2 제안하는 인접 투사 알고리즘(Proposed Affine Pro- jection Algorithm)

고출력 측정 잡음에 강인하도록 필터를 설계하기 위해서 본 논문은 아래의 cost를 설계하여 제안한다. 제안하는 cost, $J(n)$은 과거 $P$개에 대한 필터 계수들의 차이의 $L_{2}-no$을 합해서 최소화하고, $a posteriori$ 에러를 0으로 두는 제한 조건을 이용하여 업데이트 식을 유도한다.

(4)

$\min_{\hat w(n+1)}\sum_{p=0}^{P-1}||\hat w(n+1)-\hat w(n-p)||_{2}^{2}$

$subject $to$ $ d(n)- U^{T}(n)\hat w(n+1)=0$

(4)식을 $Lagran\ge m ultiplier$를 이용하여 cost 함수를 설정하면 아래와 같은 식을 얻을 수 있다.

(5)
$J(n)$$=\sum_{p=0}^{P-1}||\hat w(n+1)-\hat w(n-p)||_{2}^{2}+\lambda( d(n)$ $- U^{T}(n)\hat w(n+1))$

(5)식을 $\hat w(n+1)$에 관하여 미분하여 0으로 설정하면 아래의 (6)과 같은 식으로 표현할 수 있고, 이를 정리하면 (7)식을 도출할 수 있다.

(6)
\begin{align*} \dfrac{\partial J(n)}{\partial\hat w(n+1)}= 2\sum_{p=0}^{P-1}(\hat w(n+1)-\hat w(n-p))- U(n)\lambda^{T}\\ =0 \end{align*}

(7)

$2P\hat w(n+1)= 2\sum_{p=0}^{P-1}\hat w(n-p)+ U(n)\lambda^{T}$

$\hat w(n+1)=\dfrac{1}{P}\sum_{p=0}^{P-1}\hat w(n-p)+\dfrac{1}{2P} U(n)\lambda^{T}$

(7)식의 양변에 $-U^{T}(n)$을 곱하고 $ d(n)$을 더해주면 등호의 왼쪽 항은 (4)식의 제한 조건으로 인해서 0으로 설정할 수 있다. 따라서 아래의 (8)식처럼 $Lagran\ge m ultiplier$를 표현할 수 있다.

(8)
$\dfrac{1}{2P}\lambda^{T}= (U^{T}(n) U(n))^{-1}[ d(n)- U^{T}(n)\dfrac{1}{P}\sum_{p=0}^{P-1}\hat w(n-p)]$

최종적으로 유도한 $Lagran\ge m ultiplier$에 관한 (8)식(7)식에 대입하여 정리하면, 제안하는 알고리즘의 필터 업데이트 식을 아래와 같이 얻을 수 있다.

(9)
$\hat w(n+1)=\dfrac{1}{P}\sum_{p=0}^{P-1}\hat w(n-p)+$ $ U(n)( U^{T}(n) U(n))^{-1}[ d(n)- U^{T}(n)\dfrac{1}{P}\sum_{p=0}^{P-1}\hat w(n-p)]$

3. 실험 결과

제안된 알고리즘의 성능을 증명하기 위해 컴퓨터 시뮬레이션을 통해 시스템 식별 상황을 구현하였다. 추정하고자 하는 미지의 시스템과 적응형 필터는 차수가 같다는 가정하였고, 그 차수는 $m=128$로 설정하였다. 입력 신호를 몇 개 쌓아서 사용할지를 결정하는 인접 투사 알고리즘의 projection order, 즉 투영 차수는 모두 $M=2$로 두고 실험하였다. 또한, 성능의 공평한 비교를 위하여 스텝 사이즈는 모든 알고리즘에 $\mu =0.5$로 통일하였다. 모든 실험은 50회 이상 ensemble averaging하여 신뢰있는 결과를 도출할 수 있도록 하였다. 연관 관계가 있는 입력 신호들은 가우시안 잡음 신호들을 대표적인 모델인 Autore- gressive(AR) 모델, $G(z)$에 통과시켜서 생성하였다.

$G(z)=\dfrac{1}{(1-0.9^{-1})}$

고출력 측정 잡음 환경을 만들기 위하여 신호 대비 잡음 비율 ($SNR$)은 20dB로 설정했으며, 오차의 정도를 가늠하기 위해 mean square deviation ($MSD$)를 기준으로 성능을 비교하였다. 아래는 실험에서 사용한 $SNR$과 $MSD$의 정의를 의미한다.

$SNR=10\log_{10}(E[y^{2}(n)]/E[v_{o}^{2}(n)])where y(n)= u^{T}(n) w_{o}$

$MSD= 10\log_{10}\left(\dfrac{E[ w_{e}^{T} w_{e}]}{ w_{o}^{T} w_{o}}\right)where w_{e}= w_{o}-\hat w(n)$

그림. 2. 기존 APA (3)와 $P$의 값 변화에 따른 제안하는 알고리즘의 MSD 기준 성능 비교

Fig. 2. 2 MSD plot for comparison of conventional APA (3) and proposed algorithm according to several values of P.

../../Resources/kiee/KIEE.2019.68.7.890/fig2.png

그림 2는 기존 APA와 제안하는 알고리즘의 $P$값을 변화해 가며 MSD 기준으로 성능을 비교해 본 결과이다. 그림 2에서 알수 있듯이 고출력 측정 잡음 환경에서 제안하는 알고리즘은 더 낮은 정상상태 오차를 가질 수 있게 된다. 또한 (9)식에서 알 수 있듯이 $P$의 수가 증가함에 따라 averaging 효과가 넓은 범위에 걸쳐 발생하기 때문에 정상상태 오차는 더 낮아지는 장점을 가지고 있지만, 수렴 속도는 감소하는 것을 확인할 수 있다. 이는 적응형 필터에서 주로 발생하는 정상상태 오차와 수렴 속도 간의 trade off 관계와 비슷한 현상을 보인다.

그림 2은 기존 APA와 고출력 측정 잡음에 강인한 NLMS 알고리즘(7)과 제안하는 알고리즘의 MSD 기준 성능 비교를 나타낸 그림이다. 공평한 비교를 위하여 R-NLMS와 제안하는 알고리즘 모두 $P=4$로 설정하였다. 그림 3에서 보는 바와 같이 입력 신호들이 서로 연관 관계가 있는 상황이므로 NLMS는 성능이 저하되고, 기존 APA에 비해 고출력 잡음 환경에서 확연히 낮은 정상상태 오차를 가지게 되는 것을 확인할 수 있었다. 또한 10000 번째의 iteration에서 추정하고자 하는 시스템의 계수를 $w_{o} \rightarrow-w_{o}$로 급작스럽게 바꿔서 성능에 이상이 없는지도 확인하였다.

그림. 3. 기존 APA (3), R-NLMS (7), 제안하는 알고리즘과의 MSD 기준 성능 비교

Fig. 3. MSD plot for comparison of conventional APA (3), R-NLMS (7) and proposed algorithm

../../Resources/kiee/KIEE.2019.68.7.890/fig3.png

4. 결 론

본 논문은 고출력 측정 잡음 환경에서 강인한 성능을 보장하는 새로운 인접 투사 알고리즘(APA)을 제안하였다. 제안하는 알고리즘은 현재 필터 계수 벡터와 과거 필터 계수 벡터들의 차이의 합에 대한 Euclidean norm 요소를 Cost function에 넣는 전략을 통해서 측정 잡음이 열악한 상황에서도 성능이 강인하도록 Cost를 설계하였다. 입력 신호들끼리 서로 연관 관계가 있는 상황에서 출력이 높은 상태의 측정 잡음 환경을 설정하고, 이 상황에서 제안하는 본 알고리즘이 기존 알고리즘들보다 정상상태 오차가 확연히 낮아지는 것을 확인하여 성능을 증명하였다.

References

1 
S. Haykin, 2002, Adaptive Filter Theory,, NJ: Prentic e-HallGoogle Search
2 
A. H. Sayed, 2003, Fundamentals of Adaptive Filterin g,, New York:WileyDOI
3 
K. Ozeki, T. Umeda, 1984, An adaptive filtering al gorithm using an orthogonal projection to an affi ne subspace and its properties, Electronics and Communication in Japan, Vol. 67, No. 5, pp. 19-27DOI
4 
J. W. Shin, J. W. Yoo, P. G. Park, 2012, Variable ste p-size affine projection sign algorithm, Electronics Letters, Vol. 48, No. 9, pp. 483-485DOI
5 
S. E. Kim, S. J. Kong, W. J. Song, 2009, An aff ine projection algorithm with evolving order, I EEE Signal Processing Letters, Vol. 16, No. 11, pp. 937-940DOI
6 
N. W. Kong, J. W. Shin, P. G. Park, 2011, A two-stag e affine projection algorithm with mean-square-error-matching step- sizes, Signal Processing, Vol. 91, No. 11, pp. 2639-2646DOI
7 
H. W. Cho, C. W. Lee, S. W., 2009, Derivation of a ne w normalized least mean squares algorithm with m odified minimization criterion, Signal Processing, Vol. 89, No. 4, pp. 692-695DOI
8 
T. Shao, Y. Zheng, J. Benesty, 2010, An affine projec tion sign algorithm robust against impulsive inte rference, IEEE Signal Processing Letters, Vol. 17, No. 4, pp. 327-330DOI
9 
J. W. Yoo, J. W. Shin, P. G. Park, 2015, Variable ste p-size sign algorithm against impulsive noises, IET Signal Pro- cessing, Vol. 9, No. 6, pp. 506-510DOI

저자소개

유진우(JinWoo Yoo)
../../Resources/kiee/KIEE.2019.68.7.890/au1.png

JinWoo Yoo received his BS, MS, Ph.D. in electrical engineering from Pohang University of Science and Technology (POSTECH) in 2009, 2011, 2015, respectively. He was a senior engineer at Samsung Electronics from 2015 to 2019. He is currently an assistant professor in the department of automotive engineering at Kookmin University. His current research interests are signal/image processing and autonomous driving.