Episode 7: Algorithmen einfach erklärt
Eigentlich sollte eine neue Amazon Software helfen die besten Bewerber*innen für einen Job einzuordnen. Tatsächlich bevorzugte das System Männer und diskriminierte Frauen. Ein unabsichtlicher Fehler, der das Problem von Algorithmen gut beschreibt.
Algorithmen steuern im Hintergrund unseren Alltag. Auf Basis von Informationen erhalten sie Handlungsanweisungen, die uns helfen ein Problem zu lösen. Nicht selten werden sie mit Wegbeschreibungen verglichen. Sie zeigt uns, wie wir Schritt-für-Schritt einen neuen Ort erreichen. Dabei ist es wichtig, dass die Informationen korrekt sind, damit wir auch dort ankommen.
Im Amazon-Fall lernte der Algorithmus zu identifizieren, was einen guten Kandidaten ausmacht und wann eine solche Bewerbung eingeht. Dabei basierte er sich auf Daten, welche Menschen zusammenstellten. Es ist also nicht der Algorithmus der diskriminierend ist, sondern es sind die Informationen mit denen er lernt Entscheidungen zu treffen. Dieses Wissen führt dazu, dass Algorithmen mittlerweile auch lernen diskriminierende Muster zu erkennen und darauf hinzuweisen. Sie stellen somit eine Chance dar, systemische Benachteiligung zu stoppen.
In dieser Folge haben wir mit Stefan Pabst von der Stadt Zürich und W.I.R.E über die fehlende Transparenz von algorithmischen Entscheidungen gesprochen und weshalb es dafür globale Regeln braucht.
Digitalsalat ist eine Gemeinschaftsproduktion von Dezentrum und der Stiftung Mercator Schweiz.
Co-hosts:
Jeannie Schneider (Dezentrum) und Torben Stephan (Stiftung Mercator Schweiz)
Redaktion und Intro:
Laura Marsch (Stiftung Mercator Schweiz)
Produktion:
Mirko Fischli (Dezentrum)
Weiterführende Links:
NZZ - Unkontrollierte Algorithmen: Was bei Algorithmen hinten herauskommt, weiss niemand so genau – und warum, noch viel weniger
FAZ - Algorithmen sprechen Recht: Vom Computer zur Gefahr für die Gesellschaft erklärt
ProPublica - Maschinelle Befangenheit (USA Beispiel): There’s software used across the country to predict future criminals. And it’s biased against blacks.
ZEIT - Der Bewerbungsroboter von Amazon: Künstliche Intelligenz diskriminiert (noch)
Buchtipp: Decoding Artificial Intelligence - Warum die Künstliche Intelligenz die menschliche braucht. Erhältlich hier.