Please use this identifier to cite or link to this item:
http://doi.org/10.25358/openscience-10143
Authors: | Röder, Lenard Lukas |
Title: | Advanced analysis techniques and deep learning for atmospheric measurements |
Online publication date: | 14-Mar-2024 |
Year of first publication: | 2024 |
Language: | english |
Abstract: | This work explores a wide range of data analysis and signal processing methods for
different possible applications in atmospheric measurements. While these methods
and applications span a wide area of disciplines, the evaluation of applicability and
limitations and the results of this evaluation show many similarities.
In the first study, a new framework for the temporal characterization of airborne
atmospheric measurement instruments is provided. Allan-Werle-plots are applied to
quantify dominant noise structures present in the time series. Their effects on the drift
correction capabilities and measurement uncertainty estimation can be evaluated via
simulation. This framework is applied to test flights of an airborne field campaign
and reveals an appropriate interval between calibration measurements of 30 minutes.
During ground operation, the drift correction is able to reduce the measurement uncertainty
from 1.1% to 0.2 %. Additional short-term disturbances during airborne
operation increase the measurement uncertainty to 1.5 %.
In the second study, the applicability and limitations of several noise reduction methods
are tested for different background characteristics. The increase in signal-noiseratio
and the added bias strongly depend on the background structure. Individual
regions of applicability show almost no overlap for the different noise reduction methods.
In the third study, a fast and versatile Bayesian method called sequential Monte Carlo
filter is explored for several applications in atmospheric field experiments. This algorithm
combines information provided via the measurements with prior information
from the dominant chemical reactions. Under most conditions the method shows
potential for precision enhancement, data coverage increase and extrapolation. Limitations
are observed that can be analyzed via the entropy measure and improvements
are achieved via the extension by an additional activity parameter.
In the final study, state-of-the-art neural network architectures and appropriate data
representations are used to reduce the effect of interference fringes in absorption spectroscopy.
Using the neural network models as an alternative to linear fitting yields
a large bias which renders the model approach not applicable. On the task of background
interpolation the neural network approach shows robust de-noising behavior
and is shown to be transferable to a different absorption spectrometer setup. Application
of the interpolation to the test set lowers the detection limit by 52%.
This work highlights the importance of in-depth analysis of the effects and limitations
of advanced data analysis techniques to prevent biases and data artifacts and to determine
the expected data quality improvements. An elaboration of the limitations
is particularly important for deep learning applications. All presented studies show
great potential for further applications in atmospheric measurements. In dieser Doktorarbeit wird eine breite Palette von Datenanalyse- und Signalverarbeitungsmethoden für verschiedene mögliche Anwendungen für atmosphärische Messungen untersucht. Während diese Methoden und Anwendungsfälle verschiedene Disziplinen umfassen, lassen sich viele Gemeinsamkeiten in der Analyse von Anwendbarkeit und Limitierungen sowie den Ergebnissen dieser Analyse aufzeigen. Ein neues Verfahren für die zeitliche Charakterisierung von flugzeuggetragenen atmosphärischen Messungen wird in der ersten Studie definiert. Mithilfe von Allan-Varianz Graphen werden dominante Hintergrundstrukturen der Zeitreihe quantifiziert. In Simulationen können die Effekte dieser Strukturen auf die Driftkorrektur und Schätzung der Messunsicherheit erforscht werden. Das neue Verfahren wurde auf Daten von Testflügen einer Flugmesskampagne angewandt und bestätigte ein ausreichendes Intervall von Kalibrierungen von 30 Minuten. Während des Bodenbetriebs konnte durch die Driftkorrektur die Messunsicherheit von 1.1% auf 0.2% gesenkt werden. Zusätzliche kurzweilige Störungen während des Flugbetriebs erhöhten die Messunsicherheit auf 1.5 %. In einer zweiten Studie wurden die Anwendbarkeit und die Limitierungen verschiedener Methoden zur Rauschunterdrückung für unterschiedliche Hintergrundstrukturen getestet. Die Verbesserung des Signal-Rausch-Verhältnisses und das Bias zeigen dabei eine starke Abhängigkeit von der Hintergrundstruktur. Bereiche der Anwendbarkeit für die individuellen Methoden zeigen kaum Überlappungen. Der sequentielle Monte Carlo Filter, eine schnelle und vielseitige Methode aus der Bayes’schen Statistik, wird in einer dritten Studie für mehrere Anwendungen in atmosphärischen Feldmessungen untersucht. Der Algorithmus vereint Informationen aus den Messungen mit bekannten chemischen Reaktionen. In den meisten Fällen zeigt diese Methode großes Potential für die Verbesserung von Präzision, Datenabdeckung und Extrapolation. Mithilfe der Entropie können Limitierungen der Methode untersucht werden und die Einführung eines zusätzlichen Parameters führt zu verbesserter Robustheit. In der letzten Studie werden Architekturen von neuronalen Netzwerken auf dem neuesten Stand der Technik und entsprechende Repräsentierung von Daten verwendet, um die Effekte von Etalon Interferenzen auf Absorptionsspektren zu verringern. Als Alternative für lineare Regression wird wegen eines hohen Bias keine gute Anwendbarkeit erzielt. Als Alternative zur linearen Interpolation von Hintergrundspektren zeigen die neuronalen Netzwerke robuste Ergebnisse zur Rauschunterdrückung. Mit geringem Trainingsaufwand können diese Netzwerke auch auf ein anderes Spektrometer angewandt werden. Im Test-Datensatz wurde das Detektionslimit um 52% gesenkt. Die Resultate dieser Doktorarbeit heben hervor, wie wichtig eine detaillierte Analyse der Effekte und Limitierungen von Datenanalysemethoden ist, um Artefakte und Verzerrungen zu verhindern und die Verbesserungen der Datenqualität abzuschätzen. Die Analyse der Limitierungen ist besonders wichtig in Anwendungen von tiefen neuronalen Netzwerken. Alle Studien zeigen darüber hinaus großes Potential für zukünftige Anwendungen in atmosphärischen Messungen. |
DDC: | 004 Informatik 004 Data processing 500 Naturwissenschaften 500 Natural sciences and mathematics 530 Physik 530 Physics 540 Chemie 540 Chemistry and allied sciences |
Institution: | Johannes Gutenberg-Universität Mainz |
Department: | MaxPlanck GraduateCenter |
Place: | Mainz |
ROR: | https://ror.org/023b0x485 |
DOI: | http://doi.org/10.25358/openscience-10143 |
URN: | urn:nbn:de:hebis:77-openscience-1ee075f2-3a5d-43e8-bc25-c10461bef9a31 |
Version: | Original work |
Publication type: | Dissertation |
License: | In Copyright |
Information on rights of use: | http://rightsstatements.org/vocab/InC/1.0/ |
Extent: | x, 110 Seiten ; Illustrationen, Diagramme |
Appears in collections: | JGU-Publikationen |
Files in This Item:
File | Description | Size | Format | ||
---|---|---|---|---|---|
advanced_analysis_techniques_-20240301140653771.pdf | 14.16 MB | Adobe PDF | View/Open |