HCML Erklärbarkeit

Selbst für Experten auf dem Gebiet des maschinellen Lernens sind viele lernbasierte Algorithmen, die für einen Großteil der Fortschritte in der KI verantwortlich sind, nicht leicht zu erklären. Trotz der zunehmenden Zahl von Publikationen, klafft nach wie vor eine Lücke zwischen dem, was die Forschungsgemeinschaft produziert, und dem, was die Gesellschaft braucht. Dabei haben verschiedene Nutzergruppen unterschiedliche Anforderungen an Form und Inhalt der bereitgestellten Erklärungen.

Im Rahmen des Projekts werden verschiedene Erklärungsmethoden hinsichtlich ihrer Zuverlässigkeit bei der Beschreibung des Algorithmusverhaltens sowie ihrer Nützlichkeit bei der Entscheidungsfindung für verschiedene Nutzergruppen anhand von Nutzerstudien untersucht. Auf Basis der gewonnenen Erkenntnisse entwickeln wir neue Erklärungstechniken, die den Bedürfnissen der Nutzer entsprechen sollen. Dabei fokussieren wir uns hauptsächlich auf die Anwendungsfälle Betrugserkennung, Luftfahrt und bildgestützte medizinische Diagnostik.

Die Wirksamkeit von Erklärungsmethoden ist stark abhängig von einer Vielzahl menschlicher Faktoren, wobei die Zusammenhänge oftmals noch nicht ausreichend untersucht sind. Wir leisten in dieser Hinsicht beispielsweise Beiträge in den Bereichen Betrugserkennung und bildgestützte Diagnostik, indem wir visuelle Erklärungsmethoden, welche für die Entscheidungsfindung wichtige Bestandteile hervorheben, in kontrollierten Experimenten mit Nutzer:innen evaluieren.

Während solche Experimente für die Untersuchung kausaler Zusammenhänge unabdingbar sind, sind die kontrollierten Laborbedingungen oftmals zu simpel, um die Realität angemessen abzubilden. Aus diesem Grund untersuchen wir zusätzlich naturalistischere Entscheidungsszenarien, etwa im Kontext intelligenter Cockpit-Assistenzsysteme. Anhand nutzerzentrierter Methoden tragen wir hier zu einer ganzheitlicheren Sicht auf das Thema KI-Erklärbarkeit bei.

01.04.2022 – 31.03.2023