Der Dokumentarfilm „The Cleaners“ enthüllt eine gigantische Schattenindustrie digitaler Zensur in Manila, dem weltweit größten Outsourcingstandort für Content Moderation. Dort löschen zehntausende Menschen im Auftrag der Silicon-Valley-Konzerne Gewalt verherrlichende oder pornografische Fotos und Videos von Facebook, Youtube, Twitter & Co. Die Vorgaben, nach denen sie agieren, sind geheim. Der Debütfilm von Hans Block und Moritz Riesewieck zeigt die Arbeit der Content-Moderatoren.
heute.de: Herr Block, Herr Riesewieck, wie sind Sie darauf gekommen, einen Film über diese Schattenindustrie zu drehen?
Hans Block: Wir sind 2013 darauf aufmerksam geworden, dass ein Kindesmissbrauchsvideo auf Facebook 16.000 Mal geteilt und 4.000 Mal geliked wurde. Und fragten uns: Wie kann ein so schockierender Inhalt dort landen? Die US-Medienwissenschaftlerin Sarah T. Roberts erklärte uns, dass in Entwicklungsländern Tausende Billiglöhner acht bis zehn Stunden am Tag am Computer Inhalte filterten, die wir nicht sehen sollten. Wir sind dann auf die Philippinen gereist und haben versucht, Kontakt zu diesen Mitarbeitern aufzubauen.
heute.de: Wie sind Sie an Ihre Protagonisten herangekommen?
Moritz Riesewieck: Wir sind auf ein umfangreiches Geflecht aus Outsourcingunternehmen getroffen, deren Namen wir nie zuvor gehört hatten. Deren Angestellte sind extrem eingeschüchtert und haben Erklärungen unterschrieben, dass sie mit niemandem über ihre Arbeit sprechen dürfen. Es dauerte also lange, bis wir mit Content-Moderatoren in Kontakt kamen. Viele konnten wir auch nicht vor der Kamera zeigen, sondern haben unsere Kommunikation als Chatprotokolle eingefügt.
heute.de: Warum sind so viele dieser Firmen auf den Philippinen?
Block: Die Unternehmen sagen, dass die Filipinos die westlichen Werte teilten, da das Land eine Kolonisationsgeschichte hat. Aber das ist zu hinterfragen. Unsere Erfahrung ist: Die Leute sind nicht westlich, sie haben einen ganz anderen Blick auf die Welt. Zum Beispiel wird der Katholizismus dort extrem streng ausgeübt. Viele Moderatoren, die jeden Tag Terrorismus, Kindesmissbrauch und Pornografie sichten, sehen sich als Menschen, die sich für die Sünden der Welt aufopfern.
heute.de: Wie wird man Content-Moderator?
Riesewieck: Wir selbst wurden auf der Straße von einem Recruiter angesprochen und Minuten später bekamen wir die Verträge ausgehändigt. Erst als er feststellte, dass wir kein Arbeitsvisum hatten, war der Versuch gescheitert. Aber wir haben gesehen, wie schnell die Aufnahme eines solchen Jobs geht. Da werden keine Qualifikationen abgefragt.
Block: Das Training für den Job dauert drei bis fünf Tage, an denen die Moderatoren hunderte Seiten Regeln auswendig lernen müssen, die zu komplex sind, als dass man sie in der kurzen Zeit verstehen oder sich merken könnte. Auf dieser Grundlage treffen sie dann weltweit wichtige Entscheidungen.
heute.de: Welche Gefahren birgt das?
Riesewieck: Es wird entscheidend, welche religiösen und ideologischen Überzeugungen jemand hat, der „löschen“ oder „ignorieren“ klickt. Und es wird gefährlich, wenn man bedenkt, dass auf den Philippinen mit Rodrigo Duterte ein Präsident mit großer Zustimmung an der Macht ist, der sogenannte soziale Säuberungen durchführt und auf dessen Konto Tausende Tote gehen. Ein Content-Moderator sagte uns: Ich tue hier das, was Duterte auf der Straße macht.
Block: Man braucht ein immenses Maß an kulturellem Wissen, um Inhalte aus der gesamten Welt zu kontextualisieren. Das kann man nicht auf den Schultern so junger Menschen abladen, die nur wenige Tage vorbereitet werden auf die Arbeit.
heute.de: Was macht der Job mit den Menschen?
Block: Eine Frau, die den ganzen Tag Terrorvideos sichtet, bekam Angst, in Menschenmassen zu gehen. Und das ist in Manila, einer 18-Millionen-Stadt, so gut wie unmöglich. Es gibt auch eine hohe Suizidrate. Wenn Menschen acht Stunden am Tag Selbstmord-Livestreamvideos aus den sozialen Medien aussortieren, hat das Folgen.
heute.de: Was erhoffen Sie sich von Ihrem Film?
Riesewieck: Dass er eine gesellschaftliche Debatte auslöst, wie wir künftig die digitale Öffentlichkeit gestalten wollen. Bisher schiebt jeder die Verantwortung von sich. Wir dürfen uns aber nicht länger als passive User begreifen, sondern müssen die Regeln mitgestalten.
Das Interview führte Nadine Emmerich.
Faktenbox:
Wer sind die Content-Moderatoren?
Den Recherchen von Block und Riesewieck zufolge sind es meist junge Collegeabsolventen. Zudem machen überwiegend Frauen den Job – warum ist unklar. Oft hat ein Content Moderator eine große Familie von acht bis zehn Personen zu versorgen. Viele Mitarbeiter sehen sich nicht als Opfer, sondern sind stolz, für ein großes US-Unternehmen zu arbeiten: Während in Manila viele Menschen auf Müllkippen Plastik von Eisen trennen, sitzen sie in einem sauberen Hochhaus mit Klimaanlage.
Wie kommen die Bilder zu den Moderatoren?
Zum einen ist ein Algorithmus trainiert, bestimmte Sachen zu erkennen – etwa eine Brustwarze, Blut oder Kriegssituationen. Die Bilder werden nach Manila geschickt und dort überprüft. Zum anderen melden Nutzer Inhalte, die sie als anstößig empfinden. Allein ein Algorithmus kann die Aufgabe der Moderatoren indes nicht übernehmen und ein Bild eindeutig klassifizieren – oder Satire erkennen. Nach Einschätzung von Experten wird dies auch in absehbarer Zeit nicht möglich sein.
Wie sind die Arbeitsbedingungen der Moderatoren?
Die Content Moderatoren verdienen ein bis drei Dollar pro Stunde und arbeiten acht bis zehn Stunden am Tag. Hinzu kommen in der Regel bis zu je zwei Stunden Hin- und Rückfahrt, da die Mitarbeiter in den Randbezirken Manilas leben. Die meisten halten den Job nicht länger als ein halbes oder ein Jahr durch. Obwohl die Arbeit belastend bis traumatisierend ist, gibt es von den Firmen keine psychologische Unterstützung.
Nach welchen Regeln wird gesichtet und entschieden?
Die Content Moderatoren bekommen einen geheimen Regelkatalog mit vermeintlich objektiven Richtlinien. Block und Riesewieck zufolge, die Einsicht in diese Vorgaben hatten, gibt es dabei jedoch viele Grauzonen – etwa mit Blick auf die Frage, ob Gewalt darstellende Inhalte möglicherweise einen Nachrichtenwert haben und bleiben sollten. Die Regelkataloge sind allein von US-Unternehmen formuliert, und die US-Regierung legt beispielsweise die Liste der Terrororganisationen fest, deren Inhalte zu löschen sind.
Welche Kritik gibt es an dieser Industrie der digitalen Zensur?
Die Filmemacher monieren unter anderem eine mangelnde Diversität unter den Content Moderatoren mit Blick auf deren kulturellen und religiösen Hintergrund. Die britische Nichtregierungsorganisation Airwars, die Fotos und Videos aus den Kriegsgebieten in Syrien archiviert, die in sozialen Netzwerken hochgeladen wurden, gibt an, keine Aufklärungsarbeit mehr leisten zu können, wenn solche Aufnahmen gelöscht werden. Gefährlich kann aber auch sein, was von den Moderatoren ignoriert wird und im Netz bleibt. „The Cleaners“ nennt als Beispiel die Verfolgung der Rohingyas in Myanmar, wo via Facebook zur Hetze gegen diese Minderheit aufgerufen wird.
Die Filmemacher:
Hans Block wurde 1985 in Berlin geboren und ist Theater- und Filmregisseur und Musiker. Er studierte Schlagzeug an der Universität der Künste und Regie an der Hochschule für Schauspielkunst „Ernst Busch“ Berlin. Block entwickelte eigene Inszenierungen am Maxim Gorki Theater Berlin, am Schauspiel Frankfurt und am Münchner Volkstheater. Außerdem ist er Hörspielautor und -regisseur. „The Cleaners“ ist sein Debütfilm.
Moritz Riesewieck wurde 1985 im Ruhrgebiet geboren, er ist Theater- und Filmregisseur und Autor. Er studierte erst Wirtschaftswissenschaften und dann Regie an der Hochschule für Schauspielkunst „Ernst Busch“ in Berlin. Seine Inszenierungen und Performances wurden am Schauspiel Dortmund, beim Internationalen Forum des Berliner Theatertreffens und in Mexico-Stadt gezeigt. Zusammen mit Block entwickelt er unter dem Namen „Laokoon“ crossmediale Erzählformate. „The Cleaners“ ist auch sein Kinodebüt. Außerdem veröffentlichte er jüngst das Buch „Digitale Drecksarbeit“.
Veröffentlicht auf heute.de am 17.5.2018.