Adaptive Richtlinien für sichere und vertrauenswürdige KI-Agenten
Künstliche Intelligenz gewinnt in Unternehmen zunehmend an Bedeutung, insbesondere in den Bereichen Automatisierung, Entscheidungsunterstützung und datenbasierte Prozesse. Dies wirft die zentrale Frage auf, wie KI-Agenten zuverlässig, transparent und regelkonform agieren können. Das vorliegende Projekt adressiert diese Herausforderung durch die Entwicklung eines adaptiven Frameworks, das Richtlinien automatisch erzeugt, prüft und durchsetzt.
Das Projekt entwickelt ein adaptives Framework, das KI-Agenten ein sicheres, transparentes und regelkonformes Handeln ermöglicht. Ziel ist es, Richtlinien automatisch zu erzeugen, zu validieren und durchzusetzen, sodass das Verhalten der Agenten stets mit den Nutzerabsichten, organisatorischen Anforderungen und gesetzlichen Vorgaben übereinstimmt.
Das Forschungsvorhaben liefert ein Prototyp-Framework, das Organisationen die Nutzung vertrauenswürdiger, prüfbarer und regulatorisch konformer KI-Agenten ermöglicht. Durch die Kombination der Expertise von fortiss mit dem domänenspezifischen Wissen der Projektpartner stärkt diese Initiative die regionale Innovationskraft in Bayern und fördert die Zusammenarbeit zwischen Forschung und Industrie.
Jetzt melden und mehr erfahren
Wir suchen einen KMU-Partner mit einem Anwendungsfall für einen hochgradig autonomen KI-Agenten. Der KI-Agent sollte in einem kritischen Bereich eingesetzt werden oder eingesetzt werden sollen, in dem Ausfälle wie Datenlecks oder Missbrauch schwerwiegende Folgen haben könnten. Eine Bereitstellung ist nicht erforderlich, da das Projekt auf die Entwicklung eines Proof of Concept abzielt.
• einen Anwendungsfall mit hochgradig autonomen KI-Agenten bereitstellen.
• in kritischen, missionskritischen oder regulierten Umgebungen tätig sein oder diese zum Ziel haben (z. B. industrielle Systeme, Gesundheitswesen, Mobilität, Energie, kritische Infrastruktur, Finanzen, öffentliche Dienste).
• über ausreichende technische und organisatorische Kapazitäten verfügen, um an einem Forschungsprojekt mitzuarbeiten, einschließlich des Zugangs zu relevanten Systemen, Daten oder Fachwissen.
Der Partner erhält frühen Zugang zum entwickelten Framework und gewinnt wertvolle Expertise durch die Anwendung auf eigene Anwendungsfälle. Weitere Vorteile umfassen die Zusammenarbeit mit fortiss an zukunftsweisender Forschung, die Möglichkeit, einflussreich auf aufkommende KI-Standards einzuwirken, sowie Chancen für gemeinsame Publikationen, Demonstratoren und potenzielle Folgefinanzierungen.
Dann melden Sie sich bitte über das nebenstehende Formular an. Wir werden Sie umgehend und ausführlich über die nächsten Schritte informieren.