Bias und Fairness
KI verstehen · Länge 0:59
Warum eine KI Schieflagen aus den Trainingsdaten übernimmt und nicht per se neutral ist – und wie man das eindämmt.
Was im Video gezeigt wird
Die Kapitel des Videos mit dem gesprochenen Text.
-
Wirkt objektiv
KI wirkt objektiv. Aber sie ist nur so ausgewogen wie die Daten, aus denen sie gelernt hat.
-
Verzerrung aus den Daten
Wenn die Trainingsdaten einseitig sind, übernimmt das Modell diese Schieflage, ganz ohne böse Absicht. Das nennt man Bias, also Verzerrung.
-
Die Folge
Die Folge können unfaire oder einseitige Antworten sein, etwa bei Bewerbungen, Sprache oder Personengruppen.
-
Was hilft
Ganz vermeiden lässt sich das nicht, aber eindämmen: vielfältige Daten, bewusstes Prüfen der Ergebnisse und der Mensch, der kontrolliert.
-
Und in skai?
Deshalb bleibt bei skai der Mensch in der Verantwortung, und Antworten sind über Quellen nachvollziehbar.