Software Dependability

Die besondere Herausforderung liegt dabei in der Entwicklung und dem Betrieb kognitiver CPS. Diese Systeme können autonom agieren und Entscheidungen treffen sowie mittels Verfahren der Künstlichen Intelligenz (KI) aus Daten und Erfahrungen lernen. So sind sie in der Lage ihr Verhalten an sich verändernde Umgebungen anzupassen. Effektive und erschwingliche Methoden zur Absicherung von CPS sind dabei Grundvoraussetzung für den erfolgreichen Einsatz autonom agierender, CPS-basierter Produkte.

• Verifikation maschineller Intelligenz
  Methoden und Werkzeuge zur Verifikation insbesondere neuronaler Netze und Verfahren zum Testen KI-basierter Systeme
• Softwareverifikation und -zertifizierung
  Verfahren zur automatisierten und kontinuierlichen Verifikatio von Software gemäß Entwicklungs- und Zertifizierungsstandards für sicherheitskritische Systeme
• Automatisches Programmieren
  Formalismen und Algorithmen zur automatischen Synthese korrekter Steuerungsprogramme und Laufzeitmonitore für eingebettete und KI-basierte Systeme

In unserer Forschung setzen wir hauptsächlich mathematisch-logische Verfahren (z.B. lineare Programmierung, logische Erfüllbarkeit, Modellüberprüfung) zur Lösung abgeleiteter Problemstellungen ein. Darüber hinaus entwickeln wir Methoden für szenarienbasiertes Testen sowie Testansätze basierend auf abdeckungsgesteuertem Fuzz-Testing, mit dem Software auf Fehleranfälligkeit geprüft wird, um eventuelle Sicherheitslücken aufzuspüren. Unsere Forschung trägt dazu bei, neuartige Verfahren zu entwickeln, um autonom agierende CPS abzusichern und zu zertifizieren. Damit wird insbesondere auch der Einsatz von KI-Technologien in missionskritischen autonomen Softwaresystemen und Diensten ermöglicht.