Fallstudie KIEZ4-0 – Künstliche Intelligenz europäisch zertifizieren unter Industrie 4.0
Die Luftfahrtbranche steht vor steigender Komplexität und begrenzten Kapazitäten – gleichzeitig sind die aktuellen Zertifizierungsverfahren nicht auf KI-basierte Systeme ausgelegt. Im Rahmen des Projekts KIEZ4-0 hat fortiss formale Verifikationsmethoden und menschzentrierte Designstrategien entwickelt, um KI-gestützte Luftfahrtanwendungen zertifizierbar zu machen. Das Ergebnis: grundlegende Werkzeuge und Konzepte, die den zuverlässigen und nachweislich sicheren Einsatz von KI in einer der sicherheitskritischsten Branchen der Welt ermöglichen.
Das Projekt KIEZ4-0 war Teil des Luftfahrtforschungsprogramms LuFo VI-1 und wurde vom Bundesministerium für Wirtschaft und Energie (BMWE) gefördert. Das Konsortium umfasste Partner aus Industrie, Wissenschaft und Zertifizierung. Gemeinsam mit der Europäischen Agentur für Flugsicherheit (EASA) wurde an zukünftigen Zertifizierungsstandards für KI in der Luftfahrt gearbeitet.
Herausforderung
KI-Systeme bieten großes Potenzial für die Luftfahrt – etwa für autonome oder Ein-Pilot-Betriebskonzepte. Unter den aktuellen Sicherheitsstandards gelten sie jedoch als weitgehend nicht zertifizierbar. Klassische Verfahren der Luftfahrtzulassung sind nicht auf die Komplexität und Intransparenz moderner KI-Technologien vorbereitet. Es fehlen robuste Methoden zur Verifikation und Zertifizierung von KI-basierten Systemen.
Lösung
fortiss konzentrierte sich auf zwei zentrale Bereiche: formale Verifikation und menschzentrierte Systemgestaltung. Mit Verfahren wie Model Checking und Theorembeweisen wies das Team die Zuverlässigkeit und Sicherheit von KI in Flugführungs- und Assistenzsystemen nach. Parallel dazu entwickelte das fortiss Team Leitlinien, um KI-Risiken frühzeitig im Entwicklungsprozess zu adressieren und die Abstimmung zwischen menschlichen Erwartungen und KI-Verhalten sicherzustellen. Demonstratoren zeigten beispielhaft, wie sich symbolische KI und formale Beweisverfahren auf zukünftige Cockpit-Assistenzsysteme anwenden lassen.
Ergebnis
- Entwicklung formaler Verifikationsmethoden zur Unterstützung der Zertifizierung von KI-basierten Avionikfunktionen.
- Erstellung von Leitlinien für menschzentrierte KI-Systeme, um Risiken zu minimieren und Bediener:innen gerecht zu werden.
- Nachweis, wie symbolische KI in zertifizierungsrelevante Prozesse der Luftfahrt integriert werden kann.
- Entwicklung von simulationsbasierten Demonstratoren für Flugumleitungen und Missionsassistenz.
- Enge Zusammenarbeit mit der EASA, um regulatorische Kompatibilität sicherzustellen und harmonisierte Zulassungsverfahren voranzutreiben.
- Beitrag zu internationalen Standardisierungsaktivitäten zur Sicherheit von KI im Luftfahrtbereich.
- Aufbau eines übertragbaren Rahmenwerks für weitere sicherheitskritische Domänen wie Robotik oder autonomes Fahren.
- Stärkung der deutschen Position bei der Integration vertrauenswürdiger KI in die Luftmobilität der Zukunft.
Fazit
Das Projekt KIEZ4-0 zeigt, wie formale Verifikationsmethoden und menschzentrierte Gestaltung den Weg für die Zertifizierbarkeit von KI in der Luftfahrt ebnen – auch für innovative Konzepte wie den Ein-Pilot-Betrieb. Damit entsteht eine fundierte Grundlage für den sicheren, nachvollziehbaren Einsatz von KI in hochkritischen Anwendungen und zukünftigen Luftfahrtsystemen.
Projektpartner
