Performance analysis of the DCT-LMS adaptive filtering algorithm

• Published in: Signal processing Vol. 80; no. 8; pp. 1629 - 1654
• Main Authors: Kim, Dai I., Wilde, P.De
• Format: Journal Article
• Language: English
• Published: Amsterdam Elsevier B.V 01.08.2000; Elsevier Science
• Subjects: Applied sciences; DCT-LMS adaptive filter; Detection, estimation, filtering, equalization, prediction; Eigenvalue spread ratio; Exact sciences and technology; Information, signal and communications theory; Signal and communications theory; Signal, noise; Telecommunications and information theory; Eigenvalue spread ratio; DCT-LMS adaptive filter; Performance evaluation; Least squares method; Discrete transformation; Adaptive filtering; Convergence rate; Signal processing; Cosine transform; Mean square error
• ISSN: 0165-1684; 1872-7557
• DOI: 10.1016/S0165-1684(00)00098-0

This paper presents the convergence analysis result of the discrete cosine transform-least-mean-square (DCT-LMS) adaptive filtering algorithm which is based on a well-known interpretation of the variable stepsize algorithm. The time-varying stepsize of the DCT-LMS algorithm is implemented by the modified power estimator to redistribute the spread power after the DCT. The performance analysis is considerably simplified by the modification of a power estimator. First of all, the proposed DCT-LMS algorithm has a fast convergence rate when compared to the LMS, the normalised LMS (NLMS), the variable stepsize LMS (VSLMS) algorithm for a highly correlated input signal, whilst constraining the level of the misadjustment required by a specification. The main contribution of this paper is the statistical performance analysis in terms of the mean and mean-squared error of the weight error vector. In addition, the decorrelation property of the DCT-LMS is derived from the lower and upper bounds of the eigenvalue spread ratio, λ max/ λ min. It is also shown that the shape of sidelobes affecting the decorrelation of the input signal is governed by the location of two zeros. Theoretical analysis results are validated by the Monte Carlo simulation. The proposed algorithm is also applied in the system identification and the inverse modelling for a channel equalisation in order to verify its applicability. In dieser Arbeit wird eine Konvergenzanalyse des “discrete cosine transform-least mean square” (DCT-LMS) adaptiven Filteralgorithmus präsentiert, welche auf einer bekannten Interpretation des Variablen Schrittgröße-Algorithmus beruht. Die zeitvariante Schrittgröße des DCT-LMS-Algorithmus wird durch den modifizierten Leistungsschätzer implementiert, um die gestreute Leistung nach der DCT umzuverteilen. Die Analyse der Leistungsfähigkeit wird durch die Modifikation eines Leistungsschätzers erheblich vereinfacht. Der vorgeschlagene DCT-LMS-Algorithmus besitzt verglichen mit dem LMS-Algorithmus, dem normierten LMS-Algorithmus (NLMS-Algorithmus) und dem LMS-Algorithmus mit variabler Schrittgröße (VSLMS-Algorithmus) eine schnelle Konvergenzrate für ein stark korreliertes Eingangssignal, wobei die durch eine Spezifikation geforderte Größe der Fehleinstellung eingeschränkt wird. Der Hauptbeitrag dieser Arbeit liegt in der statistischen Analyse der Leistungsfähigkeit hinsichtlich des Mittelwerts und des mittleren quadratischen Fehlers des Gewichts-Fehlervektors. Zusätzlich wird die Dekorrelationseigenschaft des DCT-LMS aus der unteren und oberen Schranke der Konditionszahl λ max/ λ min abgeleitet. Es wird weiters gezeigt, daß die Form von Nebenmaxima, die die Dekorrelation des Eingangssignals beeinflussen, durch die Lage zweier Nullstellen bestimmt wird. Die Ergebnisse der theoretischen Analyse werden durch Monte Carlo-Simulation überprüft. Der vorgeschlagene Algorithmus wird zur Verifizierung seiner Anwendbarkeit auch auf die Systemidentifikation und inverse Modellierung im Rahmen einer Kanalentzerrung angewandt. Cet article présente le résultat de l'analyse de convergence de l'algorithme de filtrage adaptatif par transformation en cosinus discret et moindre carrés moyens (DCT-LMS), qui repose sur l'interprétation bien connue de l'algorithme à taille de pas variable. La taille de pas variant dans le temps de l'algorithme DCT-LMS est mise en œuvre par l'estimateur de puissance modifié pour redistribuer la puissance étalée après la DCT. L'analyse de performance est considérablement simplifiée par la modification de l'estimateur de puissance. Tout d'abord, l'algorithme DCT-LMS proposé a un taux de convergence rapide en comparaison avec les algorithmes LMS, LMS normalisé, et LMS à taille de pas variable pour un signal d'entrée hautement corrélé, tout en contraignant le niveau de mésajustement demandé par les spécifications. La principale contribution de cet article est l'analyse de performances statistique en termes de l'erreur moyenne et de l'erreur quadratique moyenne du vecteur d'erreur des poids. De plus, la propriété de décorrélation du DCT-LMS est dérivée des bornes inférieures et supérieures du rapport d’étalement des valeurs propres λ max/ λ min. Nous montrons aussi que la forme des lobes latéraux affectant la décorrélation du signal d'entrée est gouvernée par la position de deux zéros. Des résultats d'analyse théorique sont validés par une simulation Monte Carlo. L'algorithme proposé est aussi appliqué en identification de systèmes et en modélisation inverse pour l’égalisation de canal afin de vérifier son applicabilité.