Joshua Ransiek

M. Sc. Joshua Ransiek

  • Forschungszentrum Informatik (FZI)
    Haid- und Neu-Str. 10 - 14
    76131 Karlsruhe

Forschung

Softwaretests mittels Reinforcement Learning

Die Verifikation und Validierung von Software stellen einen kritischen Bestandteil moderner Entwicklungsprozesse dar. Mit dem kontinuierlich steigenden Funktionsumfang moderner Softwaresysteme wächst der Bedarf an effizienten, skalierbaren und automatisierten Testverfahren. Reinforcement Learning (RL) bietet mit seinen auf der Agent-Umgebung-Interaktion basierenden Ansätzen ein vielversprechendes Framework zur Automatisierung von Softwaretests. Insbesondere eignet sich RL zur Identifikation von komplexen Fehlerszenarien, die durch spezifische und nicht-triviale Abfolgen von Zuständen und Aktionen ausgelöst werden. Durch die iterative Anpassung von Teststrategien auf Basis ihrer Gütefunktion können RL-Agenten dynamisch Testszenarien generieren, die bisher unentdeckte Fehler und Anomalien aufdecken. Am ITIV&FZI wird an der Entwicklung neuartiger RL-Methoden geforscht, die darauf abzielen, den Softwaretestprozess sowohl in Bezug auf Effizienz als auch auf die Abdeckung potenzieller Fehlerzustände zu optimieren und die Entdeckung von schwer identifizierbaren Anomalien zu erleichtern.

Intelligente and adaptive Verkehrssimulation

Die Validierung automatisierter Fahrfunktionen stellt aufgrund der Diskrepanz zwischen Simulationen und realen Verkehrssituationen eine zentrale Herausforderung dar. Bisherige Ansätze, die auf vorab aufgezeichnete Trajektorien von Verkehrsteilnehmern zurückgreifen, sind begrenzt, da diese Agenten nicht in der Lage sind, auf das Verhalten automatisierter Fahrzeuge adäquat zu reagieren. Dies führt zu unrealistischen Simulationsergebnissen, die für die zuverlässige Bewertung von Fahrfunktionen nicht ausreichend sind. Lernbasierte Methoden bieten jedoch neue Potenziale, um realistische und reaktive Verkehrsagenten zu entwickeln, die dynamisch auf das Verhalten automatisierter Fahrzeuge reagieren und gezielt kritische Verkehrsszenarien generieren. Dies ermöglicht eine gezielte Untersuchung des Verhaltens automatisierter Fahrzeuge in herausfordernden Situationen und trägt zur Verbesserung ihrer Robustheit bei. Am ITIV&FZI werden neuartige Verfahren erforscht, um diese Ansätze effizient zu implementieren und die Validierung automatisierter Fahrzeuge durch realistische und adaptive Simulationsumgebungen signifikant zu verbessern.

Publikationen


2024
Generation of Adversarial Trajectories using Reinforcement Learning to Test Motion Planning Algorithms
Ransiek, J.; Schütt, B.; Hof, A.; Sax, E.
2024. 2023 IEEE 26th International Conference on Intelligent Transportation Systems (ITSC), Institute of Electrical and Electronics Engineers (IEEE), Bilbao, 24th - 28th September 2023, 2819–2826, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/ITSC57777.2023.10422130
2023
Statistical Consideration of the Representativeness of Open Road Tests for the Validation of Automated Driving Systems
Langner, J.; Pohl, R.; Ransiek, J.; Elspas, P.; Sax, E.
2023. 2023 IEEE International Automated Vehicle Validation Conference (IAVVC), Institute of Electrical and Electronics Engineers (IEEE)Austin, 16th-18th October 2023, 1–8, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/IAVVC57316.2023.10328090
1001 ways of scenario generation for testing of self-driving cars: A survey
Schütt, B.; Ransiek, J.; Braun, T.; Sax, E.
2023. IEEE Intelligent Vehicles Symposium (IV), Institute of Electrical and Electronics Engineers (IEEE), Anchorage, 4th-7th June 2023, 1–8, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/IV55152.2023.10186735
2022
Robust Parameter Estimation and Tracking through Lyapunov-based Reinforcement Learning
Rudolf, T.; Ransiek, J.; Schwab, S.; Hohmann, S.
2022. IECON 2022 – 48th Annual Conference of the IEEE Industrial Electronics Society, 1–6, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/IECON49645.2022.9968893