Können Algorithmen besser Entscheidungen treffen als Menschen?

Algorithmen können die Kreditwürdigkeit einer Person einschätzen oder im Bewerbungsprozess Personen filtern, die besonders gut für eine Stelle geeignet sind. Macht das solche Prozesse fairer? Oder führt eine automatische Selektion eher zu sozialer Ungerechtigkeit? Corinna Hertweck von der ZHAW School of Engineering stellte dazu am Schweizer Digitaltag ein Projekt vor.

Am Schweizer Digitaltag am 10. November stellte die ZHAW verschiedene Projekte vor. Eins davon ist von Corinna Hertweck von der ZHAW School of Engineering. Sie ist Doktorandin am Institut für Datenanalyse und Prozessdesign und arbeitet zum Thema «Socially Acceptable and Fair AI», das heisst, Systeme, die datenbasierte Entscheidungen treffen und somit vermehrt im Alltag von Menschen zu spüren sind. «Am Schweizer Digitaltag geht es bei uns um die Fairness von Algorithmen. Es geht also darum, wie wir Algorithmen heute schon einsetzen, um datenbasierte Entscheidungen zu treffen und um die Frage, ob diese auch fair sind», erklärt Corinna.

Kreditvergabe durch eine KI?

In Zusammenarbeit mit AlgorithmWatch Schweiz, der Universität Zürich, dem Museum für Gestaltung Zürich und der Schweizer Produktionsfirma Tristesse hat sie mit ihrem Team einen Film produziert. Darin geht es um «credit scores», also wie mit Algorithmen die Kreditwürdigkeit von Personen eingeschätzt werden kann. Wie gehen solche Algorithmen mit Menschen um, zu denen quasi keine Datenpunkte vorliegen, weil sie zum Beispiel aus dem Ausland zugezogen sind? Was, wenn der Algorithmus aus Daten lernt, die mit Vorurteilen gespickt sind?

Testet selbst, wie eine KI euch einschätzen würde

Auch in Bewerbungsprozessen werden häufig Algorithmen eingesetzt, um bei einer grossen Anzahl von Bewerbenden eine erste Auswahl zu treffen. «Es handelt sich hierbei beispielsweise um Tools, die Lebensläufe automatisch lesen und bewerten. Mitarbeitenden in Personalabteilungen werden dann nur die geeigneten Kandidatinnen und Kandidaten angezeigt», erklärt Corinna. Es gibt auch Videotools, die Videos der Bewerbenden automatisch auswerten. So ein Videotool konnte am Schweizer Digitaltag selbst getestet werden.

Algorithmen können auch Videos, beispielsweise in einem Bewerbungsgespräch, analysieren und auf die Art geeignete Personen selektieren. Ein solches Tool konnte am Schweizer Digitaltag am 10. November getestet werden.

«Firmen bemühen sich oft fair zu sein und möchten sich dahingehend verbessern», sagt Corinna. Aber auch hier gebe es einiges zu beachten, um dafür zu sorgen, dass das Tool auch wirklich zu mehr Fairness führt. «Es gibt allgemein bekannte Probleme bei der Nutzung dieser Tools. Beispielsweise werden von manchen Tools Personen mit Brille anders bewertet als ohne. Auch untypische Lebensläufe, Sprechmuster oder Verhaltensweisen werden von KI-Tools nicht immer richtig eingeordnet und sorgen unter Umständen für verzerrte Ergebnisse».

Andere Neuigkeiten