KI-Agenten in KMU: Anforderungen an einen sicheren Einsatz
KI-Agenten übernehmen immer komplexere Aufgaben: Sie treffen Entscheidungen, verarbeiten sensible Daten und automatisieren ganze Arbeitsabläufe. Für kleine und mittlere Unternehmen (KMU) bringt das jedoch große Herausforderungen mit sich:
- Kontrollverlust: Wie lässt sich garantieren, dass ein KI-Agent nur das tut, was der Nutzer tatsächlich freigegeben hat?
- Sicherheitslücken: KI-Systeme können durch gezielte Eingaben ausgetrickst werden (sogenannte Jailbreak- oder Prompt-Injection-Angriffe), um Firmengeheimnisse preiszugeben oder Regeln zu umgehen.
- Bürokratie: Die Einhaltung strenger Vorgaben wie des europäischen EU AI Acts ist für KMU ohne teure Experten kaum zu bewältigen.
Unser Lösungsansatz
Gemeinsam mit Ihnen entwickeln wir ein Sicherheits-Framework, das KI-Agenten absolut verlässlich und prüfbar macht. Das Projekt basiert auf vier Säulen:
- Verlässliche Identität: Jede Aktion der KI wird strikt an die Identität und die echte Absicht des Nutzers gekoppelt.
- Echtzeitschutz: Angriffe und Manipulationsversuche werden blockiert, noch bevor der Agent die Aktion ausführt.
- Automatisierte Compliance: Rechtliche Vorgaben (z. B. der EU AI Act) und interne Firmenregeln werden automatisch in konkrete Schutzschilde für die KI übersetzt.
- Prüfbarer Nachweis: Das System liefert automatisch digitale Belege (Assurance Cases), die Kunden und Prüfbehörden zeigen, dass Ihre KI sicher und gesetzeskonform arbeitet.
Projektziel
Ein praxistauglicher Prototyp, der es KMU ermöglicht, KI-Agenten ohne Sicherheits- und Compliance-Sorgen im Betrieb einzusetzen. Durch die gemeinsame Entwicklung sicherer und regulatorisch konformer Agenten-Systeme eröffnet das Projekt zudem die Chance, neue, zukunftsfähige Innovations- und Geschäftsfelder für Ihr Unternehmen zu erschließen.
Ihr Anwendungsfall als Innovationsbasis
Wir suchen einen Partner, der einen konkreten industriellen oder betrieblichen Anwendungsfall für KI-Agenten einbringt. Relevante Szenarien sind beispielsweise:
- Prozessautomatisierung: Autonome Workflows in internen Systemen (z. B. ERP, CRM, HR-Management).
- Wissens- und Datenmanagement: Intelligente Assistenzsysteme zur automatisierten Analyse, Aggregation und Aufbereitung komplexer Unternehmensdaten.
- Markt- und Trendanalysen: Agentenbasierte Systeme zur kontinuierlichen, automatisierten Informationsbeschaffung und Auswertung.
Ihre Rolle im Projekt
- Anforderungsdefinition: Sie stellen den industriellen Use Case bereit und definieren die betrieblichen sowie regulatorischen Anforderungen der Praxis.
- Validierung: Sie unterstützen das Testen und die Evaluation des Prototyps unter realen Bedingungen in Ihrer Systemumgebung.
- Transfer: Sie beteiligen sich an der Verwertung der Ergebnisse und präsentieren gewonnene Erkenntnisse in Ihrem industriellen Netzwerk.
Ihre Vorteile auf einen Blick
- Technologievorsprung: Exklusiver, frühzeitiger Zugriff auf ein hochinnovatives Framework zur Absicherung Ihrer KI-Anwendungen.
- Rechtssicherheit: Direktes Know-how und technische Lösungen zur Einhaltung des EU AI Acts im eigenen Betrieb.
- Wissenstransfer: Direkte Zusammenarbeit mit fortiss-Forschern, Co-Publikationen und Optionen auf zukünftige Konsortialförderungen.
- Förderung: Gemeinsame Bewerbung im Förderprogramm KMU Innovativ. Nach erfolgreicher Förderzusage erfolgt die Mittelbereitstellung für das Forschungsvorhaben.
Partnerprofil
Gesucht wird ein KMU aus den Bereichen Künstliche Intelligenz, Softwareentwicklung oder Cybersicherheit, das autonome Agentenstrukturen in betrieblichen Anwendungsfällen einsetzen möchte. Vorkenntnisse in den Bereichen Zugriffskontrolle, Compliance oder Large Language Models (LLMs) sind von Vorteil, jedoch nicht zwingend erforderlich.
Gemeinsam die Zukunft sicherer KI gestalten
Get in touch with us and discover opportunities for joint research and innovation in the field of trustworthy AI systems.