Coded Bias © pa/Women Make Movies / Courtesy Everett Collection
pa/Women Make Movies / Courtesy Everett Collection
Bild: pa/Women Make Movies / Courtesy Everett Collection Download (mp3, 4 MB)

Dokumentation - "Coded Bias"

Bewertung:

"Coded Bias" heißt übersetzt "vorprogrammierte Diskriminierung". Wenn Menschen, in der Regel weiße Männer, Algorithmen schreiben, dann übertragen sie unbewusst ihr Weltbild auf den Code. Einem Virus gleich verbreiten sich auf diese Weise schleichend auch rassistische, klassengeprägte oder frauenfeindliche Ansichten. Was das genau für die Gesellschaft bedeutet, untersucht Shalini Kantayya in ihrem gleichnamigen Dokumentarfilm.

Es beginnt mit einer so frappierenden wie schlichten Feststellung: Im ersten Semester ihres Studiums am Massachusetts Institute for Technology will die Computerwissenschaftlerin Joy Buolamwini für ein Kunstprojekt mit einer Gesichtserkennungssoftware arbeiten – und scheitert: Die Software, die ihr Gesicht abtasten sollte, funktionierte nicht. Erst als sie ihre schwarze Haut mit einer weißen Maske bedeckte, erkannte die Software ein Gesicht.

Mit schlechten Lichtverhältnissen oder einem ungünstigen Blickwinkel war das nicht zu erklären. So wurde sie sensibilisiert für die Diskriminierung die sich in die Technologie einschleicht.

Die Tücken der Gesichtserkennungs-Software

Weltweit stieß Joy Buolamwini immer wieder auf dasselbe Problem. Wenn Daten von Maschinen verarbeitet werden, klingt das nach objektiver Entscheidungsfindung. Doch genau das ist trügerisch! Denn was im Code als normal gilt, wird von einer kleinen, homogenen Gruppe definiert. Im Film sind an dieser Stelle Jeff Bezos von Amazon zu sehen, Steve Jobs von Apple und Mark Zuckerberg von Facebook: männlich, weiß, meist älter, gelegentlich auch mal jünger.

Unkontrollierte Schwächen des Systems

Konkret heißt das, dass die Gesichtserkennungs-Software am besten darin ist, weiße Männer zu erkennen, weil diese die Datensätze füttern. Schon bei weißen Frauen funktioniert sie nicht mehr so gut. Und die nun wirklich weltberühmte, amerikanische Talkmasterin Oprah Winfrey wird von der Gesichtserkennungs-Software für einen Mann gehalten.

Unablässig werden wir aufgezeichnet und bewertet, nicht nur ganz offiziell wie in China, wo sich jede Aktion eines Bürgers im Social Credit System positiv oder negativ niederschlägt, sondern auch unterschwellig in den westlichen Staaten. Denn längst geht es auch nicht mehr nur um Marketingstrategien, wie viel wir online für ein Produkt oder eine Leistung bezahlen müssen. Immer öfter bestimmen Algorithmen auch, ob wir einen Job, einen Kredit, eine Versicherung bekommen oder wie lange wir im Gefängnis sitzen. Die bisher völlig unkontrollierten Schwächen des Systems haben also enorme gesellschaftliche Auswirkungen.

Visuell vielfältig

Ein Film über Algorithmen, das könnte eine trockene Angelegenheit sein, ist es aber nicht: Weil Shalini Kantayya eine Fülle an Schauplätzen in Amerika, Hongkong, China, London und Paris vernetzt. Weil sie die abstrakte, künstliche Intelligenz in einem sich schlängelnden roten Farbwirbel verbildlicht, der die Zuschauer*innen mit verführerischer Kunststimme umgarnt und einlullt. Und weil die Regisseurin in Joy Buolamwini und ihren Mitstreiter*innen mitreißend und leidenschaftlich argumentierende Aktivistinnen an ihrer Seite hat. Dass es vor allem Frauen sind, die sich hier engagieren, liegt daran, dass sie die ersten sind, die die schleichende Diskriminierung der Codes zu spüren bekommen.

Es betrifft jeden, der ein Gesicht hat

Das Problem ist allgegenwärtig: In mehr als 189 Algorithmen von 99 verschiedenen Firmen, also in der Mehrheit der weltweit eingesetzten Software, wurden rassistische alters- oder frauendiskriminierende Kriterien nachgewiesen. So stellten sie etwa im Personalbüro bei Amazon selber fest, dass die Einstellungskriterien des eigenen Algorithmus dafür sorgten, dass Frauen praktisch automatisch von Leitungsfunktionen ausgeschlossen waren.

Die Aktivist*innen fordern, dass der Wildwuchs der Algorithmen, die Kriterien, nach denen die Algorithmen Chancen verteilen und die Gesellschaft formen, gesetzlich geregelt und kontrolliert werden. Jeder, der ein Gesicht hat, fordert Joy Buolamwini, muss sich an dieser Diskussion beteiligen. Es sei extrem unverantwortlich, eine Technologie einzusetzen, die derart frappierende Fehlerquoten aufweise.

Der Dokumentarfilm "Coded Bias" ist auf Netflix zu sehen - zusammen mit zwei weiteren Dokumentationen über digitale Technologien und deren Auswirkungen auf die wirkliche Welt: "The Great Hack" ("Cambridge Analyticas großer Hack") und "The Social Dilemma" ("Das Dilemma mit den sozialen Medien").

Anke Sterneborg, rbbKultur

weitere rezensionen

Schwarze Adler © picture alliance/dpa/BROADVIEW Pictures
picture alliance/dpa/BROADVIEW Pictures

Dokumentation - "Schwarze Adler"

Einmal das Trikot der deutschen Nationalmannschaft zu tragen – mit dem Schwarzen Adler auf der Brust, das ist das Größte für jeden Fußballer und jede Fußballerin. So wird es zumindest oft behauptet. Wie aber sieht das für Menschen aus, die eine dunklere Hautfarbe haben oder einen Migrationshintergrund besitzen? Mit welchen Problemen sie zu kämpfen haben, das zeigt Torsten Körners großartiger Dokumentarfilm.

Bewertung:
The Great Green Wall © Tim Cragg Great Green Wall Ltd
Tim Cragg Great Green Wall Ltd

Dokumentation - "The Great Green Wall"

Eine grüne Mauer, 8.000 Kilometer lang, soll sich eines Tages quer durch ganz Afrika ziehen. Sie soll die Sahel-Zone, das Randgebiet der Sahara, vor der Verödung schützen. Der australische Filmemacher Jared P. Scott hat das Projekt mit Unterstützung der Vereinten Nationen dokumentiert.

Bewertung:
Serie Hausboot © Netflix
Netflix

Doku-Serie auf Netflix - "Das Hausboot"

Gunter Gabriel galt als der "deutsche Johnny Cash". Songs wie "Hey Boss, ich brauch‘ mehr Geld" sind Ohrwürmer. Gabriel starb 2017 und hinterließ ein Hausboot. Das erstanden die beiden Musiker Olli Schulz und Fynn Kliemann auf eBay – was sie damit machten, davon erzählt die vierteilige Doku-Serie "Das Hausboot" bei Netflix.

Bewertung: