Künftig sollen KI-Systeme kontinuierlich lernen und neue Fähigkeiten entwickeln, um sich an neue Situationen anpassen zu können. Allerdings wird diese Entwicklung zu neuem, unvorhersehbarem Verhalten selbstlernender KI-Systeme führen. Um dieser Herausforderung zu begegnen, hat fortiss ein Expertenteam zusammengestellt. Dieses wird radikal neue Ansätze für Design, Entwicklung, Absicherung und Zertifizierung KI-basierter Systeme entwickeln.
Aktuelle selbstlernende Systeme sind unzuverlässig und unsicher, und werden derzeit nicht in operativen, unternehmenskritischen Systemen eingesetzt. Es fehlt nicht nur eine Rückfallebene auf einen verantwortlichen (menschlichen) Operator, der im Notfall eingreifen kann. Mit den derzeitigen Vorgehensweisen und Standards können solche KI-Systeme nicht zugelassen werden und sind deshalb auch nicht marktfähig.
Deshalb lautet die Frage an Wissenschaftler und Ingenieure: Wie können KI-verstärkte und insbesondere kontinuierlich selbstlernende Softwaresysteme zuverlässig und sicher entwickelt und betrieben werden?
Forschungsbedarf
Hier gibt es eine Reihe offener Forschungsfelder. Diese betreffen alle Phasen des traditionellen System-Engineerings und umfassen nicht nur die Spezifikation, das Architekturdesign, die Implementierung, das Testen und die Verifizierung. Der Forschungsbedarf reicht bis zur datengesteuerten Anpassung und Optimierung von KI-Systemen und dynamischen Zertifizierung unternehmenskritischer selbstlernender Systeme während des Betriebs.
Das fortiss-Expertenteam wird mit seinen Arbeiten zu folgenden Aspekten beitragen:
- ein validiertes Vorgehensmodell zur beherrschbaren Entwicklung und zum Betrieb vertrauenswürdiger, kognitiver cyberphysischer Systeme
- eine durchgehend verlässliche und sichere KI-Architektur für missionskritische autonome Systeme
- neue Ansätze zum Design, zur Verifikation und Zertifizierung für kontinuierlich selbstlernende und robuste KI-gestützte Softwaresysteme
- Management transparenter Mensch-KI-Interaktion durch intelligente Benutzerschnittstellen