Coded Bias © pa/Women Make Movies / Courtesy Everett Collection
pa/Women Make Movies / Courtesy Everett Collection
Bild: pa/Women Make Movies / Courtesy Everett Collection Download (mp3, 4 MB)

Dokumentation - "Coded Bias"

Bewertung:

"Coded Bias" heißt übersetzt "vorprogrammierte Diskriminierung". Wenn Menschen, in der Regel weiße Männer, Algorithmen schreiben, dann übertragen sie unbewusst ihr Weltbild auf den Code. Einem Virus gleich verbreiten sich auf diese Weise schleichend auch rassistische, klassengeprägte oder frauenfeindliche Ansichten. Was das genau für die Gesellschaft bedeutet, untersucht Shalini Kantayya in ihrem gleichnamigen Dokumentarfilm.

Es beginnt mit einer so frappierenden wie schlichten Feststellung: Im ersten Semester ihres Studiums am Massachusetts Institute for Technology will die Computerwissenschaftlerin Joy Buolamwini für ein Kunstprojekt mit einer Gesichtserkennungssoftware arbeiten – und scheitert: Die Software, die ihr Gesicht abtasten sollte, funktionierte nicht. Erst als sie ihre schwarze Haut mit einer weißen Maske bedeckte, erkannte die Software ein Gesicht.

Mit schlechten Lichtverhältnissen oder einem ungünstigen Blickwinkel war das nicht zu erklären. So wurde sie sensibilisiert für die Diskriminierung die sich in die Technologie einschleicht.

Die Tücken der Gesichtserkennungs-Software

Weltweit stieß Joy Buolamwini immer wieder auf dasselbe Problem. Wenn Daten von Maschinen verarbeitet werden, klingt das nach objektiver Entscheidungsfindung. Doch genau das ist trügerisch! Denn was im Code als normal gilt, wird von einer kleinen, homogenen Gruppe definiert. Im Film sind an dieser Stelle Jeff Bezos von Amazon zu sehen, Steve Jobs von Apple und Mark Zuckerberg von Facebook: männlich, weiß, meist älter, gelegentlich auch mal jünger.

Unkontrollierte Schwächen des Systems

Konkret heißt das, dass die Gesichtserkennungs-Software am besten darin ist, weiße Männer zu erkennen, weil diese die Datensätze füttern. Schon bei weißen Frauen funktioniert sie nicht mehr so gut. Und die nun wirklich weltberühmte, amerikanische Talkmasterin Oprah Winfrey wird von der Gesichtserkennungs-Software für einen Mann gehalten.

Unablässig werden wir aufgezeichnet und bewertet, nicht nur ganz offiziell wie in China, wo sich jede Aktion eines Bürgers im Social Credit System positiv oder negativ niederschlägt, sondern auch unterschwellig in den westlichen Staaten. Denn längst geht es auch nicht mehr nur um Marketingstrategien, wie viel wir online für ein Produkt oder eine Leistung bezahlen müssen. Immer öfter bestimmen Algorithmen auch, ob wir einen Job, einen Kredit, eine Versicherung bekommen oder wie lange wir im Gefängnis sitzen. Die bisher völlig unkontrollierten Schwächen des Systems haben also enorme gesellschaftliche Auswirkungen.

Visuell vielfältig

Ein Film über Algorithmen, das könnte eine trockene Angelegenheit sein, ist es aber nicht: Weil Shalini Kantayya eine Fülle an Schauplätzen in Amerika, Hongkong, China, London und Paris vernetzt. Weil sie die abstrakte, künstliche Intelligenz in einem sich schlängelnden roten Farbwirbel verbildlicht, der die Zuschauer*innen mit verführerischer Kunststimme umgarnt und einlullt. Und weil die Regisseurin in Joy Buolamwini und ihren Mitstreiter*innen mitreißend und leidenschaftlich argumentierende Aktivistinnen an ihrer Seite hat. Dass es vor allem Frauen sind, die sich hier engagieren, liegt daran, dass sie die ersten sind, die die schleichende Diskriminierung der Codes zu spüren bekommen.

Es betrifft jeden, der ein Gesicht hat

Das Problem ist allgegenwärtig: In mehr als 189 Algorithmen von 99 verschiedenen Firmen, also in der Mehrheit der weltweit eingesetzten Software, wurden rassistische alters- oder frauendiskriminierende Kriterien nachgewiesen. So stellten sie etwa im Personalbüro bei Amazon selber fest, dass die Einstellungskriterien des eigenen Algorithmus dafür sorgten, dass Frauen praktisch automatisch von Leitungsfunktionen ausgeschlossen waren.

Die Aktivist*innen fordern, dass der Wildwuchs der Algorithmen, die Kriterien, nach denen die Algorithmen Chancen verteilen und die Gesellschaft formen, gesetzlich geregelt und kontrolliert werden. Jeder, der ein Gesicht hat, fordert Joy Buolamwini, muss sich an dieser Diskussion beteiligen. Es sei extrem unverantwortlich, eine Technologie einzusetzen, die derart frappierende Fehlerquoten aufweise.

Der Dokumentarfilm "Coded Bias" ist auf Netflix zu sehen - zusammen mit zwei weiteren Dokumentationen über digitale Technologien und deren Auswirkungen auf die wirkliche Welt: "The Great Hack" ("Cambridge Analyticas großer Hack") und "The Social Dilemma" ("Das Dilemma mit den sozialen Medien").

Anke Sterneborg, rbbKultur

weitere rezensionen

Vor mir der Süden © 2021 Neue Visionen
2021 Neue Visionen

Dokumentation - "Vor mir der Süden"

Pier Paolo Pasolini war einer der wichtigsten Intellektuellen Italiens im 20. Jahrhundert: Dichter, Filmemacher, Maler und Kommunist – ein Mann, dessen Werk bis heute nachwirkt. Ende der 50er Jahre hat sich Pasolini in einem alten Fiat Millecento auf den Weg gemacht, um die italienische Halbinsel einmal zu umrunden und eine Art Sittengemälde seiner Heimat zu erstellen. Diese Fahrt wird nun zum Ausgangspunkt des Films "Vor mir der Süden". Eine gelungene Mischung aus Dokumentarfilm und Roadmovie.

Bewertung:
Film aktuell © rbbKultur
rbbKultur

Berlinale - "Nous": Preisgekrönte Dokumentation

Als die französische Filmemacherin Alice Diop im März von Berlinale-Chef Carlo Chatrian die frohe Botschaft überbracht bekam, dass ihr Film "Nous" als bester Film der Reihe "Encounters" ausgezeichnet wurde, war sie aus dem Häuschen vor Freude. Nun kam auch noch der vom rbb ausgelobte Dokumentarfilmpreis hinzu.

Bewertung:
The Movies; © Studio Hamburg Enterprises
Studio Hamburg Enterprises

12-teilige Chronik des amerikanischen Kinos - "The Movies. Die Geschichte Hollywoods"

Die Geschichte der Traumfabrik Hollywood in 12 mal 45 Minuten zu erzählen – das versucht die Serie "The Movies", die zunächst bei CNN zu sehen war und nun als DVD und Blu-ray auf den Markt kommt. Ein ehrgeiziges Unterfangen, meint unser Kritiker, bei dem man viel lernen kann, das einen mit einer Vielzahl an Informationen und Eindrücken manchmal aber auch erschlägt.

Bewertung: