Teilprojekte

Projektstruktur

Teilprojekt 2:
Transfer Learning

Ziel des Projektes ist es, Methoden zu entwickeln, die es KI-Systemen erlauben, mit wechselnden Gegebenheiten effizient umzugehen – ohne notwendige Änderungen der Architektur und ohne komplett neues Training. Dabei wird der Ansatz des kontinuierlichen Lernens angewendet: hier wird das erlernte Wissen bei Wechseln zwischen Domänen nicht vergessen. Außerdem werden Verfahren entwickelt, die mit mehreren Domänen gleichzeitig umgehen können.

Kontinuierliches Lernen

Als Grundlage für die Betrachtung konkreter Delta Learning Use Cases wird eine breite Sammlung von Methoden des kontinuierlichen Lernens entwickelt und untersucht. Diese adressieren vor allem Situationen bei denen zu einer weiterhin relevanten Datenbasis vergleichsweise wenige neue Daten hinzukommen. Bei traditionellen Ansätzen kommt es hier zu „katastrophalem Vergessen“: die Netze verlernen den Umgang mit der ursprünglichen, bereits gut beherrschten Datenbasis. Diese Problematik wird durch Gegenmaßnahmen, darunter die Untersuchung von Zwischenrepräsentationen und das kontinuierliche Training, adressiert.

Nutzung synthetischer Daten

Synthetische Daten aus Simulationsumgebungen versprechen eine günstige Beschaffung großer Mengen annotierter Trainingsbeispiele und eine explizite Kontrolle über die darin abgebildeten Szenarien. Dies ermöglicht einerseits die Untersuchung von Szenarien, die in der realen Welt nur selten vorkommen oder Menschenleben gefährden. Andererseits ermöglicht die genaue Kontrolle über die Datengenerierung die präzise, isolierte Untersuchung einzelner Deltas. Trotz der Fortschritte moderner Rendering-Engines sind diese jedoch nicht photorealistisch genug, um angelernte Modelle ohne Weiteres von der Simulation, der Quelldomäne, in die reale Welt, der Zieldomäne, übertragen zu können. Aus diesem Grund werden Methoden zur Überwindung des Deltas zwischen synthetischen und realen Daten analysiert.

Cross-Sensor-Anpassung

Im Bereich der Cross-Sensor-Anpassung werden sensorspezifische Fälle der Domänen-Adaption, also Deltas bezüglich ihrer unterschiedlichen Sensorkonfiguration, untersucht. Neben den Änderungen in Sensortyp und Sensortechnologie sind für die zu überbrückenden Deltas Parameter, wie Auflösung, Öffnungswinkel und Einbauposition, zu berücksichtigen. Methoden, die sich bezüglich ihrer Eignung zur Schließung der Deltas herauskristallisiert haben, sind Meta-Lernmethoden, Verfahren, die invariante Merkmale nutzen, GAN-Methoden, Verfahren zur physikalischen Transformation und Wissensgraphmethoden.

Orts- und Zeitdomäne

Änderungen in der Ortsdomäne sowie langfristige Änderungen in der Zeitdomäne stellen zurzeit eine große Herausforderung für auf anderen Daten trainierte KI-Module dar. Beispiele hierfür sind Jahreszeitenwechsel oder landestypische Erscheinungsbilder, wie unterschiedliche Fahrbahnmarkierungen oder Beschilderungen. Oft müssen KI-Module für unbekannte oder anders anmutende Orte neu trainiert werden. Das Projekt erforscht den effizienten Umgang mit diesen Änderungen und entwickelt Methoden für das Erlernen der Deltas und den Wissenstransfer.

Umgebungsanpassung

Neben langfristigen zeitlichen Änderungen sollen auch kurzfristige Umgebungsänderungen, zum Beispiel aufgrund von Wetterbedingungen oder Tageszeiten, untersucht werden. Hier wird die Adaption von KI-Modulen an verschiedene dynamische Änderungen derselben Umgebung behandelt, ohne für jeden Umgebungstyp alle Änderungen aufgezeichnet zu haben.

Teilprojekt 3:
Didaktik

Im Anwendungsbereich der automobilen Umfeldwahrnehmung ist es notwendig, eine große Anzahl von annotierten und hochauflösenden Trainingsdatenpunkten bereitzustellen, um den hohen Anforderungen an die Leistungsfähigkeit der Algorithmen in einer hochkomplexen Umgebung gerecht zu werden.  Für automobile Anwendungen bringt das überwachte Training neuronaler Netze mehrere Nachteile mit sich, die sich in zwei Kernprobleme komprimieren lassen: Enormer Zeit- und Ressourcenverbrauch sowohl für das Training als auch das Data-Labeling. Zusammenfassend lässt sich sagen, dass es sowohl aus ökonomischer als auch aus ökologischer Sicht sinnvoll ist, den Trainingsprozess zu optimieren, das heißt eine gezielte Didaktik zu betreiben.

Teilüberwachtes und unüberwachtes Lernen

Teilüberwachtes und unüberwachtes Lernen bezeichnet eine Kategorie des maschinellen Lernens, in der keine expliziten Annotationen von Daten für bestimmte Aufgaben benötigt werden. Dies sind wichtige Lernstrategien für die Einsparung von Ressourcen. In diesem Projekt wird das unüberwachte Lernen anhand einer Vielzahl unterschiedlicher Ansätze untersucht.

Trainingsorganisation

Das erfolgreiche Training eines neuronalen Netzes ist abhängig von verschiedenen Faktoren, beispielsweise von sauberen Daten, leistungsfähigen Modellarchitekturen und optimierten Hyperparametern. In diesem Projekt wird der Fokus auf Augmentierung in der Trainingsorganisation, hierarchische Datenmodelle und Detektion von Anomalien zur Verbesserung und Optimierung der Trainingsorganisation gelegt.

Aktives Lernen

Aktives Lernen ist ein Sammelbegriff für Algorithmen, die (teilweise) selbst bestimmen, für welche Trainingsbeispiele sie Annotationen benötigen. Beispielhaft hierfür ist die spezielle Berücksichtigung von aktuell falsch klassifizierten Datenpunkten oder die Identifikation derjenigen Situationen, welche nicht der bisherigen Trainingsdatenverteilung entsprechen. Dadurch wird sowohl der Labeling-Aufwand reduziert als auch die Trainingszeit verkürzt.

Knowledge Transfer

Der Begriff Knowledge Transfer bezeichnet den Transfer von in einem Algorithmus eingebettetem Wissen hin zu einem zweiten Algorithmus. Oft wird als Analogie ein Lehrer, der einen Schüler unterrichtet, verwendet. Knowledge Transfer ist also kein spezifisches Verfahren, sondern eine Methodik, die zwei Konzepte beinhaltet: die Repräsentation von Wissen und die Weitergabe dessen zwischen Algorithmen.

Teilprojekt 4:
Automotive-Tauglichkeit

Zwei konkrete Bereiche werden für den sauberen Einsatz der KI-Module näher untersucht, in denen aktuelle KI-Verfahren Schwächen aufweisen, die aber kritisch für den Erfolg hochautomatisierter Fahrzeuge sind: die Robustheit in einer Open-World mit unzähligen Kombinationen von Szenarien sowie die Herausforderungen Künstliche Intelligenz auf eingebetteten Systemen mit eingeschränkten Hardwareressourcen unter Einhaltung von Randbedingungen zu betreiben.

Robustheit der KI-Systeme auch in unbekannten Situationen und unter Störungen

Die Anzahl an Situationen, denen ein Fahrzeug ausgesetzt sein kann, wird durch die Komplexität der Umwelt extrem groß. Hinzu kommen eventuelle Störungen wie beispielsweise Rauschen in den Sensordaten. Ein System, das mit solchen Einflüssen umgehen kann, wird als robust bezeichnet und der erste Lösungsansatz zur Steigerung der Automotive-Tauglichkeit befasst sich mit der Quantifizierung dieser Robustheit von KI-Methoden. Die daraus entwickelten Methoden und Metriken sollen im Anschluss in verschiedene Anwendungsfelder eingebracht werden, um die Robustheit der Systeme in Open World-Szenarien gezielt zu steigern.

Einhaltung von Randbedingungen unter bestimmten Hardwareanforderungen

Der zweite Lösungsansatz beschäftigt sich mit den Herausforderungen, die sich bei der Übertragung von trainierten KI-Modellen von der Laborhardware auf die stark ressourcenbeschränkte, in Fahrzeugen eingebettete Hardware ergeben. Um sicher agieren zu können, müssen eingebettete KI-Module trotz der beschränkten Hardwareressourcen in Echtzeit antworten können, gleichzeitig aber auch zusätzliche Randbedingungen, wie beispielsweise einen gewissen Energieverbrauch, einhalten. Entsprechende Kriterien werden aufgearbeitet, um somit die Entwicklung von Verfahren zur Optimierung von KI-Komponenten bezüglich dieser Kriterien zu leiten.

Teilprojekt 5:
Evaluation

Um eine einheitliche und konsistente Evaluation über alle Arbeiten hinweg zu gewährleisten, werden gewisse Aktivitäten zentralisiert durchgeführt. Je nach Aufgabe, wie beispielsweise aktives Lernen oder Änderungen in der Ortsdomäne und Datentyp, werden für die Projektinkremente im Projektverbund verbindliche Metriken und Testdaten festgelegt. Es einigen sich beispielsweise die Projektpartner im aktiven Lernen auf bestimmte Datensätze und Metriken. Am Ende des Projektinkrements werden die einzelnen Ansätze verglichen und neue Daten oder Metriken basierend auf den identifizierten Herausforderungen festgelegt. Außerdem wird nach jeder Phase recherchiert, ob besonders innovative Neuentwicklungen außerhalb des Projektes in die Arbeiten von KI Delta Learning aufgenommen werden sollten, wie beispielsweise neue Algorithmen. Letztlich kann außerdem der Stand vor dem Projekt effektiv mit den Ergebnissen am Ende des Projekts verglichen und somit der Innovationsschub einer Entwicklung beurteilt werden.