Menschenzentrierte und vertrauenswürdige KI im Einklang mit europäischen Werten und Normen
HumaneAI
Projektbeschreibung
Ziel ist es, KI-Systeme zu fördern, die die menschlichen Fähigkeiten erweitern und den Einzelnen und die Gesellschaft als Ganzes befähigen, während gleichzeitig die Autonomie und die Selbstbestimmung des Menschen respektiert werden. Die zentrale Herausforderung ist die Entwicklung robuster, vertrauenswürdiger KI, die Menschen „versteht“, sich an unterschiedliche Situationen anpasst und mit einem komplexen sozialen Umfeld angemessen interagieren kann. KI-gestützte Systeme sollen die menschliche Intelligenz ergänzen, sie jedoch nicht ersetzen.
Die Initiative verfolgt fünf Stoßrichtungen:
- Human-in-the-loop-(HITL-) Maschinelles Lernen, Denken und Planen
- multimodale Wahrnehmung und Modellierung
- Mensch-KI-Interaktion und -Kollaboration
- KI für die Gesellschaft
- KI-Ethik, -Recht und Responsible KI
Das HumaneAI-Netzwerk wird die Forschungsergebnisse der europäischen KI-Gemeinschaft über die AI4EU-Plattform und in einem virtuellen Laboratorium zur Verfügung stellen sowie eine Reihe von Summer Schools, Tutorials und Massive Open Online Courses (MOOCs) organisieren. Es wird auch ein spezielles Innovationsökosystem aufgebaut, um Forschungsergebnisse in Innovationen zu transformieren, die wirtschaftlichen Nutzen und Werte für die Gesellschaft aufbauen, sowie ein industrielles Doktorandenprogramm eingeführt.
Forschungsbeitrag
Zu den zentralen Innovationen gehören:
- Werkzeuge zur Erweiterung der kognitiven menschlichen Fähigkeiten, Kanalisierung von Kreativität, Einfallsreichtum und Intuition sowie zur Befähigung von Menschen, wichtige Entscheidungen auf Basis besserer Informationen zu treffen,
- in offenen Umgebungen eingesetzte, KI-gestützte Systeme, die in komplexen sozialen Umgebungen intelligent handeln können,
- Basistechnologien für nachvollziehbare, transparente, validierte und vertrauenswürdige KI-gestützte Systeme,
- neue Ansätze für die Einbettung einer wertebasierten Ethik sowie der kulturellen, rechtlichen und sozialen Werte Europas als Grundprinzip für die Entwicklung sämtlicher KI-gestützter Systeme und Anwendungen.
Förderung
EU ICT-48-2020
EU-Förderprogramm „Horizont 2020“ für Forschung und Innovation Fördernummer 761758
Projektdauer
01.09.2020 - 31.08.2024
Kontakt
Weitere Informationen
Projektpartner
Publikationen
- AI, Help Me Think—but for Myself: Assisting People in Complex Decision-Making by Providing Different Kinds of Cognitive Support In Proceedings of the 2025 CHI Conference on Human Factors in Computing Systems, pages 255:1-255:19, 2025. ACM. Details URL DOI BIB
- Measuring the effect of mental workload and explanations on appropriate AI reliance using EEG Behavior & Information Technology, ():1-19, 2024. Details URL DOI BIB
- Connected vehicle simulation framework for parking occupancy prediction (demo paper) In SIGSPATIAL '22: Proceedings of the 30th International Conference on Advances in Geographic Information Systems, 2022. ACM. Details URL DOI BIB
- Forward Reasoning Decision Support: Toward a More Complete View of the Human-AI Interaction Design Space In CHItaly '21: 14th Biannual Conference of the Italian SIGCHI Chapter, pages 18:1-18:5, 2021. Details DOI BIB