Software Dependability

Software Dependability

Rigorose Validierung und Verifizierung für verlässliche und sichere Softwaresysteme

Software Dependability

Das Kompetenzfeld Software Dependability erforscht und erprobt neuartige Methoden, Algorithmen und Werkzeuge zur beherrschbaren Entwicklung von Software für nachweislich verlässliche (dependable) und sichere cyber-physische Systeme (CPS).

Die besondere Herausforderung liegt dabei in der Entwicklung und dem Betrieb kognitiver CPS. Diese Systeme können autonom agieren und Entscheidungen treffen sowie mittels Verfahren der Künstlichen Intelligenz (KI) aus Daten und Erfahrungen lernen. So sind sie in der Lage ihr Verhalten an sich verändernde Umgebungen anzupassen. Effektive und erschwingliche Methoden zur Absicherung von CPS sind dabei Grundvoraussetzung für den erfolgreichen Einsatz autonom agierender, CPS-basierter Produkte.

Forschungsschwerpunkt

  • Verifikation maschineller Intelligenz
    Methoden und Werkzeuge zur Verifikation insbesondere neuronaler Netze und Verfahren zum Testen KI-basierter Systeme
  • Softwareverifikation und -zertifizierung
    Verfahren zur automatisierten und kontinuierlichen Verifikation von Software gemäß Entwicklungs- und Zertifizierungsstandards für sicherheitskritische Systeme
  • Automatisches Programmieren
    Formalismen und Algorithmen zur automatischen Synthese korrekter Steuerungsprogramme und Laufzeitmonitore für eingebettete und KI-basierte Systeme

In unserer Forschung setzen wir hauptsächlich mathematisch-logische Verfahren (z.B. lineare Programmierung, logische Erfüllbarkeit, Modellüberprüfung) zur Lösung abgeleiteter Problemstellungen ein. Darüber hinaus entwickeln wir Methoden für szenarienbasiertes Testen sowie Testansätze basierend auf abdeckungsgesteuertem Fuzz-Testing, mit dem Software auf Fehleranfälligkeit geprüft wird, um eventuelle Sicherheitslücken aufzuspüren. Unsere Forschung trägt dazu bei, neuartige Verfahren zu entwickeln, um autonom agierende CPS abzusichern und zu zertifizieren. Damit wird insbesondere auch der Einsatz von KI-Technologien in missionskritischen autonomen Softwaresystemen und Diensten ermöglicht.

Weitere Informationen

Whitepaper Knowledge as Invariance
Whitepaper Knowledge as Invariance
Dr. Holger Pfeifer

Ihr Kontakt

Dr. Holger Pfeifer

+49 89 3603522 29
pfeifer@fortiss.org

Projekte