Forschungsthema

Mensch-KI-Interaktion.

Wie sieht eine gute Interaktion zwischen Mensch und Maschine aus, damit komplexe Datentechnologien in den Dienst der Menschen gestellt werden? Diese Frage steht im Zentrum unserer Forschung.

← Forschung

Zwei Seiten einer Begegnung

Auf der einen Seite steht der Mensch – mit seinen kognitiven Prozessen, mit der Art, wie er Wissen aufnimmt, ordnet, abstrahiert und auch wieder vergisst, mit seinen Begabungen und seiner Wirkung in der Welt. Auf der anderen Seite stehen Datentechnologien – maschinelles Lernen, neuronale Netze, Datenwissenschaft –, die in gemessenen Daten Merkmale, Strukturen und Beziehungen finden. Mensch-KI-Interaktion fragt, wie beide Seiten so aufeinander einwirken, dass der Mensch gestärkt wird und nicht übergangen.

Drei Interaktionsfelder

Die Begegnung von Mensch und KI ist kein einmaliger Moment, sondern begleitet ein System über seinen ganzen Lebenszyklus:

  • Entwicklung. Entwicklerinnen und Entwickler verstehen die Mechanismen der KI, interpretieren Ergebnisse und Zwischenergebnisse und können sie gezielt beeinflussen.
  • Nutzung. Nutzerinnen und Nutzer verstehen die Arbeitsweise in angepasster Form, können Ergebnisse nachvollziehen und angemessen reagieren.
  • Weiterentwicklung. Lernende Systeme verändern sich fortlaufend. Mensch und System bleiben im Austausch, damit die Ziele des Menschen dauerhaft gewahrt bleiben.

Was gute Interaktion ausmacht

  • Verständlich: Das System zeigt, was es tut und wie sicher es ist.
  • Kontrollierbar: Der Mensch behält die Entscheidung und kann eingreifen.
  • Angemessen: Rückmeldung und Erklärung passen zu Person, Aufgabe und Situation.
  • Lernfähig in beide Richtungen: Das System lernt aus dem Menschen – und der Mensch versteht das System mit der Zeit besser.
Wie eine solche Verständigungsschicht technisch entsteht, beschreibt unser Schalenmodell →

Mensch-KI-Interaktion in unseren Projekten

Interdisziplinär aus Chemnitz

Mensch-KI-Interaktion verbindet Informatik, Ingenieurwissenschaft und Psychologie. In unserem Team und Beirat kommen diese Perspektiven zusammen – und in Projekten mit Partnern aus Chemnitz und Sachsen werden sie praktisch.

Haben Sie Fragen?

Interessieren Sie sich für eine Zusammenarbeit oder möchten Sie mehr über unsere Forschung erfahren? Wir freuen uns auf den Austausch.

Kontakt aufnehmen →