Wenn die KI sich irrt: Was Bildfehler über unsere wirklichen Präferenzen verraten

Generative KI-Systeme erzeugen längst überzeugende Bilder – aber sie treffen
dabei ständig kleine, unaufgeforderte Entscheidungen: eine bestimmte Kleidung,
eine bestimmte Haltung, ein bestimmter Gesichtsausdruck, die niemand explizit
verlangt hat. Bislang gelten solche Abweichungen als reine Fehler, die
Systeme möglichst schnell korrigieren sollen.

In diesem Workshop drehen wir die Perspektive um: Was, wenn genau diese
kleinen KI-Fehler uns etwas über unsere eigenen, bisher unausgesprochenen
Vorstellungen erzählen können? Wir zeigen an einem konkreten Beispiel – der
Gestaltung eines persönlichen digitalen Lernassistenten – wie generative
Bildmodelle funktionieren, wo ihre Grenzen liegen und wie man aus ihren
„Fehlern" systematisch etwas über Designpräferenzen lernen kann.

Der Workshop richtet sich an alle, die sich für KI, digitale Bildung und
menschzentrierte Technikgestaltung interessieren – Vorwissen ist nicht
erforderlich. Im Anschluss stellen wir ein aktuelles wissenschaftliches
Forschungsprojekt vor, das genau diese Frage untersucht, und laden zur
freiwilligen Teilnahme ein.