data2day 2024

Download des Vortrags „Der Mensch im Fokus: nutzerzentriert, vertrauenswürdige KI-Technologie entwickeln“ von Alina Döring

Der Mensch im Fokus: nutzerzentriert, vertrauenswürdige KI-Technologie entwickeln

Vortrag von Alina Döring auf der Konferenz data2day 2024

Leistungsstarke KI-Technologie gleicht häufig einer Blackbox, und das „Warum?“ hinter ihren Entscheidungsprozessen einem Mysterium, selbst für ihre Entwickler:innen. Das stellt die Vertrauenswürdigkeit von KI-Systemen infrage.

Explainable AI (XAI) findet Antworten – primär in algorithmischen Methoden, die komplexe Entscheidungsprozesse von KI-Systemen für Menschen verständlich machen. Die Richtung stimmt, beleuchtet das Problem aber nur eindimensional, denn Ihre Effektivität hängt ebenso davon ab, wie gut nicht-technische Nutzergruppen die Erklärungen verstehen.

Human-Centered Explainable AI stellt Endanwender:innen ins Zentrum der KI-Entwicklung. In interaktiven User Interfaces werden XAI-Methoden visualisiert und es den Nutzer:innen so ermöglicht, auf explorative Weise mit den KI-Modellen zu interagieren, um Einblicke in ihre Funktionsweise zu gewinnen und Vertrauen aufzubauen.

Wie sieht das in der Praxis aus?

Am Beispiel eines ML-basierten Nachfrageprognose-Systems führt der Vortrag praxisnah durch die Wichtigkeit von User Research, die Selektion und Visualisierung von XAI-Methoden in einem User Interface. Ziel ist es, das Potenzial aufzuzeigen, KI-Entwicklung interdisziplinär zu denken, um vertrauenswürdige Lösungen zu bauen, die menschliche Kompetenz nicht ersetzen, sondern ergänzen.

Vorkenntnisse:
Vorkenntnisse in Machine Learning, Explainable AI und UI/UX Design werden für das Verständnis des Vortrags nicht vorausgesetzt. Grundprinzipien, Design Pattern und XAI-Methoden werden erläutert.

Über die Speakerin:
Alina Döring
ist UI/UX-Designerin bei inovex und studiert im Master „Computer Science and Media“. Der Schwerpunkt ihrer Forschung liegt auf der Schnittstelle von User Experience Design und Machine Learning. Dabei untersucht sie die Gestaltung von Human-AI-Interaction durch Human-centered Explainable AI und integriert Erkenntnisse aus der Verhaltenspsychologie für einen holistischen Designprozess.

Haben Sie Fragen?

Alina Döring

UI/UX-Designerin