Sequenzbasiertes Lernen

Die Forschung zur Analyse von Zeitreihen hat in den letzten Jahren an Dynamik gewonnen, da Erkenntnisse aus der Zeitreihenanalyse den Entscheidungsprozess für industrielle und wissenschaftliche Bereiche verbessern können. Zeitreihenanalyse zielt darauf ab, Muster und Entwicklungen zu beschreiben, die im Laufe der Zeit in Daten auftreten. Unter den vielen nützlichen Anwendungen von Zeitreihenanalyse sind die Klassifikation, Regression, Prognose und Anomaliedetektion von Zeitpunkten und Ereignissen in Sequenzen (Zeitreihen) besonders hervorzuheben, da sie wichtige Informationen beispielsweise zur Entscheidungsfindung von Unternehmen beitragen. In der heutigen informationsgetriebenen Welt werden an jedem Tag unzählige numerische Zeitreihen von Industrie und Forschung generiert. Für viele Anwendungen – unter anderem im Bereich Biologie, Medizin, Finanzen und Industrie – sind hochdimensionale Zeitreihen erforderlich. Der Umgang mit derart umfangreichen Datensätzen wirft verschiedene neue und interessante Herausforderungen auf.

Herausforderungen in natürlichen Prozessen

Trotz erheblicher Entwicklungen bei der multivariaten Analysemodellierung treten beim Umgang mit hochdimensionalen Daten immer noch Probleme auf, denn nicht alle Variablen haben direkten Einfluss auf die Zielvariable. So werden die Prognosen ungenau, wenn nicht verwandte Variablen berücksichtigt werden. Dies ist in praktischen Anwendungen wie der Signalverarbeitung häufig der Fall. Natürliche Prozesse, wie wir sie in den folgend genannten Applikationen finden, verarbeiten Daten, die durch einen multivariaten stochastischen Prozess beschrieben werden, um Beziehungen zu berücksichtigen, die zwischen den einzelnen Zeitreihen bestehen.

Anwendungsspezifische Modelloptimierung

Kernschwerpunkte sind die geeignete Datenerhebung (»Welche Informationen müssen gesammelt werden?«), Datenanalyse (»Welche Abstraktionsebene ist für das vorliegende Problem und Verfahren optimal?«), Datenvorverarbeitung (»Wie müssen die Daten normalisiert und standardisiert sein, um aussagekräftige Vorhersagen zu treffen?«) und das Ableiten der optimalen Merkmale und Architektur für ein abgestecktes und möglichst atomares Problem, um mit stochastischen Prozessen umzugehen. So werden in einer initialen Analysephase applikationsspezifisch optimale Klassifikations- und Regressionsverfahren für Zielkategorien und -variablen aber auch zur Identifikation, Detektion und Prognose von Anomalien abgeleitet. Dabei wird ebenfalls untersucht welche Effekte die Fusion von zeitlichen, räumlichen, spektralen und gemischten Informationsextraktoren auf die Ergebnisqualität haben. Ein weiterer anwendungsspezifischer Schwerpunkt ist die Untersuchung der Auswirkungen der zeitlichen Architektur neuronaler Netze wie Kontextvektoren in Langzeit-Kurzzeitgedächtniszelle LSTM sowie Aufmerksamkeit und Rückverfolgbarkeit von langfristigen, kurzfristigen und zukünftigen Abhängigkeiten in kontinuierlicher Information.

Unsicherheitsminimierung der Prognoseverfahren

Ein weiterer Schwerpunkt ist die Unsicherheit der Prädiktionsverfahren zu reduzieren »Wie kann mit steigender Komplexität und Dimension der Daten die Fehlervarianz und der Bias der Vorhersage reduziert werden?« Deshalb werden in der Kompetenzsäule unter anderem die Effekte von Monte Carlo Dropout Verfahren auf die Modellgenauigkeit und -unsicherheit und deren Ausbalancierung erforscht und die tiefe Kopplung zeitlicher neuronaler Netze mit Bayes'schen Methoden zur zuverlässigen Vorhersage untersucht.

Zeitreihendaten sind im Gesamtprojekt allgegenwärtig

Auch wenn die Zeitreihendaten nicht immer direkt offensichtlich sind, ist es aus Sicht der Methode, nahezu immer sinnvoll zeitliche Zusammenhänge in den zugrundeliegenden Daten und Informationen zu identifizieren. Oftmals verbergen sich zusätzliche temporale Interkorrelationen in den Daten, die zur Lösung gewinnbringend ausgebeutet werden sollten. Die Anzahl der wissenschaftlichen Beiträge der Kompetenzsäule zeigen, dass sowohl in methodischen, als auch anwendungszentrierten Forschungsgemeinden ein großes Interesse an Zeitreihenbasierten Lernverfahren besteht.