Coded Bias © pa/Women Make Movies / Courtesy Everett Collection
pa/Women Make Movies / Courtesy Everett Collection
Bild: pa/Women Make Movies / Courtesy Everett Collection Download (mp3, 4 MB)

Dokumentation - "Coded Bias"

Bewertung:

"Coded Bias" heißt übersetzt "vorprogrammierte Diskriminierung". Wenn Menschen, in der Regel weiße Männer, Algorithmen schreiben, dann übertragen sie unbewusst ihr Weltbild auf den Code. Einem Virus gleich verbreiten sich auf diese Weise schleichend auch rassistische, klassengeprägte oder frauenfeindliche Ansichten. Was das genau für die Gesellschaft bedeutet, untersucht Shalini Kantayya in ihrem gleichnamigen Dokumentarfilm.

Es beginnt mit einer so frappierenden wie schlichten Feststellung: Im ersten Semester ihres Studiums am Massachusetts Institute for Technology will die Computerwissenschaftlerin Joy Buolamwini für ein Kunstprojekt mit einer Gesichtserkennungssoftware arbeiten – und scheitert: Die Software, die ihr Gesicht abtasten sollte, funktionierte nicht. Erst als sie ihre schwarze Haut mit einer weißen Maske bedeckte, erkannte die Software ein Gesicht.

Mit schlechten Lichtverhältnissen oder einem ungünstigen Blickwinkel war das nicht zu erklären. So wurde sie sensibilisiert für die Diskriminierung die sich in die Technologie einschleicht.

Die Tücken der Gesichtserkennungs-Software

Weltweit stieß Joy Buolamwini immer wieder auf dasselbe Problem. Wenn Daten von Maschinen verarbeitet werden, klingt das nach objektiver Entscheidungsfindung. Doch genau das ist trügerisch! Denn was im Code als normal gilt, wird von einer kleinen, homogenen Gruppe definiert. Im Film sind an dieser Stelle Jeff Bezos von Amazon zu sehen, Steve Jobs von Apple und Mark Zuckerberg von Facebook: männlich, weiß, meist älter, gelegentlich auch mal jünger.

Unkontrollierte Schwächen des Systems

Konkret heißt das, dass die Gesichtserkennungs-Software am besten darin ist, weiße Männer zu erkennen, weil diese die Datensätze füttern. Schon bei weißen Frauen funktioniert sie nicht mehr so gut. Und die nun wirklich weltberühmte, amerikanische Talkmasterin Oprah Winfrey wird von der Gesichtserkennungs-Software für einen Mann gehalten.

Unablässig werden wir aufgezeichnet und bewertet, nicht nur ganz offiziell wie in China, wo sich jede Aktion eines Bürgers im Social Credit System positiv oder negativ niederschlägt, sondern auch unterschwellig in den westlichen Staaten. Denn längst geht es auch nicht mehr nur um Marketingstrategien, wie viel wir online für ein Produkt oder eine Leistung bezahlen müssen. Immer öfter bestimmen Algorithmen auch, ob wir einen Job, einen Kredit, eine Versicherung bekommen oder wie lange wir im Gefängnis sitzen. Die bisher völlig unkontrollierten Schwächen des Systems haben also enorme gesellschaftliche Auswirkungen.

Visuell vielfältig

Ein Film über Algorithmen, das könnte eine trockene Angelegenheit sein, ist es aber nicht: Weil Shalini Kantayya eine Fülle an Schauplätzen in Amerika, Hongkong, China, London und Paris vernetzt. Weil sie die abstrakte, künstliche Intelligenz in einem sich schlängelnden roten Farbwirbel verbildlicht, der die Zuschauer*innen mit verführerischer Kunststimme umgarnt und einlullt. Und weil die Regisseurin in Joy Buolamwini und ihren Mitstreiter*innen mitreißend und leidenschaftlich argumentierende Aktivistinnen an ihrer Seite hat. Dass es vor allem Frauen sind, die sich hier engagieren, liegt daran, dass sie die ersten sind, die die schleichende Diskriminierung der Codes zu spüren bekommen.

Es betrifft jeden, der ein Gesicht hat

Das Problem ist allgegenwärtig: In mehr als 189 Algorithmen von 99 verschiedenen Firmen, also in der Mehrheit der weltweit eingesetzten Software, wurden rassistische alters- oder frauendiskriminierende Kriterien nachgewiesen. So stellten sie etwa im Personalbüro bei Amazon selber fest, dass die Einstellungskriterien des eigenen Algorithmus dafür sorgten, dass Frauen praktisch automatisch von Leitungsfunktionen ausgeschlossen waren.

Die Aktivist*innen fordern, dass der Wildwuchs der Algorithmen, die Kriterien, nach denen die Algorithmen Chancen verteilen und die Gesellschaft formen, gesetzlich geregelt und kontrolliert werden. Jeder, der ein Gesicht hat, fordert Joy Buolamwini, muss sich an dieser Diskussion beteiligen. Es sei extrem unverantwortlich, eine Technologie einzusetzen, die derart frappierende Fehlerquoten aufweise.

Der Dokumentarfilm "Coded Bias" ist auf Netflix zu sehen - zusammen mit zwei weiteren Dokumentationen über digitale Technologien und deren Auswirkungen auf die wirkliche Welt: "The Great Hack" ("Cambridge Analyticas großer Hack") und "The Social Dilemma" ("Das Dilemma mit den sozialen Medien").

Anke Sterneborg, rbbKultur

weitere rezensionen

In den Uffizien © zero one film
zero one film

Dokumentation - "In den Uffizien"

Die Kulturdokumentarist:innen Corinna Beltz und Enrique Sánchez Lansch gewähren in ihrem Dokumentarfilm Einblicke in den laufenden Betrieb der Uffizien - eines der ehrwürdigsten Museen Italiens und der Welt.

Bewertung:
Walchensee Forever © Flare Film
Flare Film

Dokumentation - "Walchensee Forever"

Ausgezeichnet mit den Bayerischen Filmpreis 2020 war Janna Ji Wonders Dokumentation "Walchensee Forever" letztes Jahr schon bei der Berlinale zu sehen, wo er seine Weltpremiere feierte. Jetzt kommt der Film, der im beschaulichen Bayern spielt, in die Kinos.

Bewertung:
Die Rote Kapelle – Der Historiker Guillaume Bourgeois; © Lichtblick Film
Lichtblick Film

Dokumentarfilm - "Die Rote Kapelle. Das verdrängte Widerstandsnetz"

Die Rote Kapelle, das ist nicht der Name einer Widerstandsgruppe gegen die Nationalsozialisten, sondern es ist die Bezeichnung, unter der die Gestapo ihre Fahndung nach Spionagegruppen in Berlin, Belgien und Frankreich zusammengefasst hat. In den 70er Jahren entstanden sowohl in der DDR als auch in der Bundesrepublik Filme über die Rote Kapelle. Jetzt gleicht ein neuer Dokumentarfilm von Carl-Ludwig Rettinger diese beiden Darstellungen des Widerstandes in Deutschland ab und erzählt die Geschichte der Roten Kapelle noch einmal neu.

Bewertung: