Absicherung autonomer Systeme – Automotive und Industrie 4.0

Da Verfahren wie Neuronale Netze von außen jedoch nicht nachvollzogen und validiert werden können, sind sie in sicherheitskritischen Systemen wie Fahrerlosen Transportsystemen (FTS) oder autonomen Fahrzeugen nicht einsetzbar und verhindern eine erfolgreiche Einführung sicherer autonomer Systeme. Daher erforscht das ADA Lovelace Center neue Methoden, die eine ausreichende Absicherung von KI-Verfahren auf hochperformanten eingebetteten System-Plattformen erlauben. Dazu werden Überwachungsmechanismen entwickelt, die nachgewiesen alle zur Sicherheit des autonomen Systems notwendigen Eigenschaften überwachen. Hierfür wird außerdem ein flexibles Absicherungskonzept erarbeitet, das sowohl für verschiedene Lernverfahren als auch verschiedene Sensor-Ausstattungen anwendbar sein soll. Kommen zum Beispiel teilweise nachvollziehbare maschinelle Lernverfahren (wie Explainable AI) zum Einsatz, so sollen diese zusätzlich verfügbaren Informationen in die Absicherung mit einfließen. Darüber hinaus untersucht das ADA Lovelace Center geeignete KI-Methoden für die Überwachung selbst, um diese als redundante Pfade oder zum Monitoring nicht nachvollziehbarer maschineller Lernverfahren nutzen zu können.