Reduction of stochastic noise in instrumentation readings: a comparison of simple moving average and Savitzky-Golay filters

ABSTRACT: The displacement of a landslide for monitoring purposes is measured by different instruments, such as GPS units, with the results usually fed into an early warning system (EWS). The main objective in the processing stage of readings is to reduce the stochastic scatter to ensure the EWS has an appropriate degree of reliability. Scatter interference can obscure the true values of displacement and the velocity of a landslide, thus inaccurately detecting acceleration moments, erroneously predicting maximum displacement rates, and triggering false alarms in an EWS. This paper considers the performance of simple moving average--a conventional filter frequently used in the literature--and the Savitzky-Golay (S-G) filter. To this end, numerical analysis of a synthetic database was conducted with a total of 10 scenarios often observed in instrument outputs to which different levels of scatter were added. Furthermore, these two filters were applied to data from Geocube units installed at the Ten-mile landslide to evaluate their applicability in practice. The findings show the S-G filter is a promising tool as it tends to better preserve the variation trend and is more able to identify significant points, such as the onset of acceleration, more promptly.

RÉSUMÉ: Le déplacement d'un glissement de terrain à des fins de surveillance est mesuré par différents instruments tels que les unités GPS et les résultats sont généralement utilisés dans des systèmes d'alerte (SA). Le principal objectif de l'étape de traitement des données est de réduire la dispersion stochastique afin de garantir que le SA possède un degré de fiabilité approprié. L'interférence de diffusion obscurcit les valeurs réelles de déplacement et de vitesse du glissement de terrain, ce qui peut déclancher de fausses alarmes dans le SA, une détection inexacte des moments d'accélération et une prédiction erronée des taux de déplacement maximum. Cet article étudie les performances d'un filtre conventionnel connu sous le nom de moyenne mobile simple qui est fréquemment utilisé dans la littérature, et le compare à un autre filtre appelé Savitzky-Golay (S-G). À cette fin, une analyse numérique sur une base de données synthétique a été utilisée dans laquelle un total de 10 scénarios souvent observés dans les résultats des instruments ont été générés et du bruit y a été ajouté. De plus, ces deux filtres ont été appliqués sur les données provenant d'unités Geocube installées sur le glissement de terrain de Ten-mile afin d'évaluer leur applicabilité dans la pratique. Les résultats ont montré que le filtre SG est un outil prometteur car il a tendance à préserver davantage la tendance de variation et il capable d'identifier plus rapidement les points significatifs tels que le début de l'accélération.