Monitoring-Methoden zur Absicherung von KI-basierter Software innerhalb automatisierter Fahrfunktionen
Seiten
2025
RPTU Rheinland-Pfälzische Technische Universität Kaiserslautern Landau (Verlag)
978-3-95974-248-1 (ISBN)
RPTU Rheinland-Pfälzische Technische Universität Kaiserslautern Landau (Verlag)
978-3-95974-248-1 (ISBN)
Kurzfassung
Künstliche Intelligenz (KI) ermöglicht das Lösen von komplexen Aufgaben, die nicht oder nur
eingeschränkt manuell zu spezifizieren sind. Anstatt Software auf Basis konkreter Regeln zu
programmieren, lernt die KI komplexe Zusammenhänge eigenständig aus einer Vielzahl von
Daten. Ein bekanntes Anwendungsbeispiel aus der Industrie ist die Umgebungswahrnehmung
beim automatisierten Fahren mithilfe von tiefen neuronalen Netzen. Die Vorteile des
datengetriebenen Entwicklungsansatzes gehen jedoch im Kontext der funktionalen Sicherheit mit
großen Herausforderungen einher. Bekannte Unzulänglichkeiten von KI, wie bspw. die mangelnde
Interpretierbarkeit oder die mangelnde Repräsentation von Unsicherheiten, erschweren den
Einsatz in sicherheitsrelevanten Systemen. Ein bedeutsamer Sicherheitsmechanismus stellt in
diesem Zusammenhang die Überwachung von KI-basierter Software zur Laufzeit dar. Durch
zusätzliches Monitoring können falsche Vorhersagen der KI erkannt werden, um Fail-Safe-
Strategien und nachträgliche System-Verbesserungen zu unterstützen. In dieser Dissertation wird
die Laufzeit-Überwachung von KI innerhalb automatisierter Fahrfunktionen unter
Berücksichtigung etablierter Sicherheitsstandards im Automobilbau betrachtet. In diesem
Zusammenhang wird ein generisches Monitor-Modell zur Überwachung unterschiedlicher KI-
spezifischer Unzulänglichkeiten entwickelt. Hierzu werden heterogene Monitore zur Anomalie-
Erkennung, Plausibilisierung, Erklärung, Eingangsrauschen-Erkennung und Unsicherheits-
Berechnung in einem Metamodell kombiniert. Im Rahmen der experimentellen Untersuchung am
Anwendungsfall der Verkehrszeichen-Erkennung wird eine zuverlässige Detektion von KI-
bedingten Fehlern durch das Monitor-Modell demonstriert.
Künstliche Intelligenz (KI) ermöglicht das Lösen von komplexen Aufgaben, die nicht oder nur
eingeschränkt manuell zu spezifizieren sind. Anstatt Software auf Basis konkreter Regeln zu
programmieren, lernt die KI komplexe Zusammenhänge eigenständig aus einer Vielzahl von
Daten. Ein bekanntes Anwendungsbeispiel aus der Industrie ist die Umgebungswahrnehmung
beim automatisierten Fahren mithilfe von tiefen neuronalen Netzen. Die Vorteile des
datengetriebenen Entwicklungsansatzes gehen jedoch im Kontext der funktionalen Sicherheit mit
großen Herausforderungen einher. Bekannte Unzulänglichkeiten von KI, wie bspw. die mangelnde
Interpretierbarkeit oder die mangelnde Repräsentation von Unsicherheiten, erschweren den
Einsatz in sicherheitsrelevanten Systemen. Ein bedeutsamer Sicherheitsmechanismus stellt in
diesem Zusammenhang die Überwachung von KI-basierter Software zur Laufzeit dar. Durch
zusätzliches Monitoring können falsche Vorhersagen der KI erkannt werden, um Fail-Safe-
Strategien und nachträgliche System-Verbesserungen zu unterstützen. In dieser Dissertation wird
die Laufzeit-Überwachung von KI innerhalb automatisierter Fahrfunktionen unter
Berücksichtigung etablierter Sicherheitsstandards im Automobilbau betrachtet. In diesem
Zusammenhang wird ein generisches Monitor-Modell zur Überwachung unterschiedlicher KI-
spezifischer Unzulänglichkeiten entwickelt. Hierzu werden heterogene Monitore zur Anomalie-
Erkennung, Plausibilisierung, Erklärung, Eingangsrauschen-Erkennung und Unsicherheits-
Berechnung in einem Metamodell kombiniert. Im Rahmen der experimentellen Untersuchung am
Anwendungsfall der Verkehrszeichen-Erkennung wird eine zuverlässige Detektion von KI-
bedingten Fehlern durch das Monitor-Modell demonstriert.
| Erscheinungsdatum | 24.10.2025 |
|---|---|
| Reihe/Serie | Berichte aus dem Lehrstuhl für Messtechnik und Sensorik ; 19 |
| Sprache | deutsch |
| Maße | 145 x 210 mm |
| Themenwelt | Technik ► Maschinenbau |
| Schlagworte | Absicherung • Automatisiertes Fahren • Künstliche Intelligenz |
| ISBN-10 | 3-95974-248-7 / 3959742487 |
| ISBN-13 | 978-3-95974-248-1 / 9783959742481 |
| Zustand | Neuware |
| Informationen gemäß Produktsicherheitsverordnung (GPSR) | |
| Haben Sie eine Frage zum Produkt? |
Mehr entdecken
aus dem Bereich
aus dem Bereich
Buch | Softcover (2024)
Springer Vieweg (Verlag)
CHF 46,15
Buch | Softcover (2025)
Springer Vieweg (Verlag)
CHF 39,15
Lösungshinweise, Ergebnisse und ausführliche Lösungen
Buch | Softcover (2025)
Springer Fachmedien Wiesbaden GmbH (Verlag)
CHF 41,95
