Müllmenschen des Social Web

Interview mit Hans BlockMoritz Riesewieck zu The Cleaners

Tausende philippinische Billiglöhner säubern per Mausklick die sozialen Netzwerke von digitalem Dreck. SKIP sprach mit den Machern des Dokumentarfilms The Cleaners über die fragwürdige Schattenindustrie in den Office-Türmen Manilas.

Die Regisseure von The Cleaners: Hans Block (l.) und Moritz Riesewieck (r.)


SKIP: Was war der Impuls für Sie beide, diesen Film zu machen?

Hans Block: Es gab 2013 einen Fall, wo ein Kindesmissbrauchs-Video auf Facebook gelandet ist und dann 16.000 mal geteilt und sogar 4.000 mal geliked wurde. Das war der Moment, in dem wir uns gefragt haben, warum es eigentlich nicht häufiger passiert, dass solche Inhalte auf den Sozialen Plattformen landen. Weil die dunklen Zonen des Internets ja voll davon sind.


SKIP: Ich hatte mir ja vorgestellt, da sitzt dann eine Runde kompetenter Hipsternerds im Silicon Valley und diskutiert, was gekübelt werden soll und was nicht. Wie haben Sie herausgefunden, wie das Ganze wirklich abläuft?

Moritz Riesewieck: Wir haben zuerst natürlich an entsprechende Software gedacht. Schnell war uns dann aber klar, dass eine automatische Bilderkennung beim Filtern der Inhalte wohl an ihre Grenzen stößt. Weil auch wenn die Software z.B. Blut auf einem Bild identifiziert, es noch lange nicht eindeutig ist, um welche Art Blut es sich handelt. Also ob sich jemand das Bein aufgeschlagen hat, es Menstruationsblut ist, ein Kriegsvideo, Kunst, Tomatensaft oder was auch immer. Also braucht es dafür wohl Menschen. Und da es ganz schön viel Material ist, das da gesichtet werden muss – allein auf YouTube landen minütlich 500 Stunden Videomaterial – braucht es wohl auch eine ganze Menge Menschen … Die Medienwissenschaftlerin Sarah T. Roberts, die ihre Doktorarbeit über das Thema geschrieben hat, hat uns dann erzählt, dass diese Aufgabe im großen Stil in Billiglohnländer ausgelagert wird. Sie hat uns dann auch den Tipp gegeben, dass wir uns auf den Philippinen umsehen sollen. Und dass Manila ein Hotspot für sogenannte Content-Moderation sein soll.


SKIP: Welche Inhalte sind das, die auf den Bildschirmen der Content-Moderatoren landen?

Riesewieck: Zum einen Beiträge, die bereits auf den Plattformen waren und von Usern gemeldet wurden. Zum anderen gibt es eben einen Algorithmus, der bestimmte Muster erkennt. Also Blut, Umrisse von Geschlechtsorganen usw. Die Content- Moderatoren und Moderatorinnen müssen dann beispielsweise prüfen, ob es sich tatsächlich um ein pornografisches Bild handelt oder nur um Menschen beim Baden am Strand.

Block: Schwierig zu beurteilen ist vor allem Satire. Bei Postings vom Postillon zum Beispiel fällt man ja ganz oft sogar selbst drauf rein und erkennt nicht, dass es sich um einen satirischen Inhalt handelt. Und jetzt stell dir mal vor, du müsstest als Europäer solche Inhalte aus Südost-Asien beurteilen. Man braucht schon ein sehr spezifisches kulturelles Hintergrundwissen, um zu verstehen, wie so etwas gemeint ist. Das ist natürlich für so einen Content-Moderator eine schwierige Aufgabe. Im Zweifelsfall entscheidet das Bauchgefühl – die goldene Regel, die sie am Anfang ihres Trainings lernen, heißt „Don’t overthink!“. Sprich, sie sollen nicht zu viel denken, sondern intuitiv entscheiden.


SKIP: Wie muss man sich diese Content-Moderatoren vorstellen? Was sind das für Menschen?

Riesewieck: Vorwiegend College-Absolventen, Anfang 20, die Manila nie verlassen haben. 90 Prozent der philippinischen Bevölkerung sind außerdem streng katholisch. Ihr Glaube hilft den Content-Moderatoren bei der Arbeit. Wenn du die ganze Zeit mit diesen Gräuelbildern und -videos zu tun hast, dann stellst du dir irgendwann schon die Frage, warum du dir den Job überhaupt antust. Dass sie damit nicht nur für ihr Einkommen sorgen, sondern dass sie sich, ähnlich wie Jesus am Kreuz, für eine größere Sache aufopfern; dass sie mit ihrer Arbeit dafür Sorge tragen, dass die Sünden aus dem Netz verschwinden – solche Gedanken helfen ihnen wohl dabei, das Ganze zu ertragen.

Block: Hilfreich ist auch die Ideologie des Präsidenten, der auf den Philippinen viele Anhänger hat. Er hat die Wahl mit dem Versprechen „I will clean up“ gewonnen – er hat vor, durch soziale Säuberung für ein „healthy environment“ zu sorgen. Dafür schickt er Todesschwadronen aus, die Drogenabhängige, Obdachlose, Dealer und so weiter zur Strecke bringen. Und die Bevölkerung befürwortet das größtenteils. Total frappierend fanden wir, dass der gleiche Sprech eigentlich auch bei Facebook herrscht. Auch Zuckerberg und Konsorten sprechen gerne davon, ein „healthy environment“ für ihre User garantieren zu wollen. Das ist dann natürlich der perfekte Match, wenn sich die Ansprüche des Unternehmens mit der Ideologie der Content-Moderatoren decken.


SKIP: Heißt das, dass Content-Moderator ein beliebter Job ist?

Block: Vielen ist anfänglich gar nicht klar, für welchen Job sie sich da überhaupt bewerben. Man wird auf der Straße rekrutiert. Für viele ist es der allererste Job. Und dann wirkt es schon sehr attraktiv, in einem Vorzeige-Stadtteil zu arbeiten, im 20. Stock eines Wolkenkratzers, wo alles sauber ist und es eine Klimaanlage gibt. Viele arbeiten in Manila auf riesigen Müllkippen. Eine Content-Moderatorin hat uns erzählt, dass sie ihre Mutter immer davor gewarnt hat, zum „scavenger“, also zum Aasfresser auf diesen Müllkippen zu werden. Erst spät ist ihr klar geworden, dass sie mit ihrer Arbeit zum digitalen Aasfresser geworden ist. Und dass es noch schwieriger ist, den digitalen Schmutz, der sich tief in die Seele gefressen hat, wieder loszuwerden.


SKIP: Gibt es psychologische Betreuung für Content-Moderatoren, die quält, was sie da tagtäglich zu Gesicht bekommen?

Riesewieck: Manche von diesen Unternehmen beschäftigen Psychologen. Vierteljährlich wird dann die Belegschaft zusammengetrommelt und jeder wird gefragt, wie es ihm oder ihr geht. Das ist natürlich viel zu wenig. Diese Menschen bräuchten eine Vertrauensperson, die von der Firma unabhängig ist und einen geschützten Rahmen, in dem sie kommunizieren können, ohne Angst zu haben, dass sie entlassen werden, wenn sie zugeben, dass sie überfordert sind. Es ist auch untersagt, mit Freunden oder der Familie zu reden. Ein Mitarbeiter, der letztlich Selbstmord begangen hat, hatte die Firmenleitung davor mehrere Male gebeten, versetzt zu werden, um sich keine Selbstverstümmelungsvideos mehr ansehen zu müssen. Seiner Bitte war nicht nachgekommen worden.


SKIP: Dementsprechend düster ist die Tonalität Ihres Films ausgefallen …

Riesewieck: Ja, das Silicon Valley kommt generell ja immer sehr hell und positivistisch daher. Wir wollten zeigen, dass es da aber einen Maschinenraum zu dieser heiteren Fassade gibt. Das Ganze lässt sich nur fröhlich darstellen, weil es Leute gibt, die alles Negative fern halten und dabei selbst permanent dem Düsteren, dem Dark Web, ausgesetzt sind. Ganz pragmatisch gesprochen, sitzen diese Menschen auch größtenteils im Dunkeln oder im Kunstlicht und werden während ihrer Arbeit nur vom Bildschirm beleuchtet.


SKIP: Die offiziellen Arbeitgeber dieser Menschen sind ja eigene Outsourcing-Unternehmen und nicht die sozialen Netzwerke selbst. Haben Sie versucht, Stellungnahmen von Facebook und Co. einzuholen?


Block: Ja, immer wieder, aber über den Zeitraum von zweieinhalb Jahren bekamen wir so gut wie keine Rückmeldungen. Wenn, dann überhaupt nur von ehemaligen Mitarbeitern. Da herrscht schon eine ziemliche Verschwiegenheit im Silicon Valley. Wobei es jetzt eine Gruppierung von 20 bis 30 Leuten gibt, zu der zum Beispiel der Erfinder des Like-Buttons von Facebook gehört, die sagen: Wir können nicht länger mittragen, was wir da entwickelt haben. Die Architektur dieser Plattformen hat sich verselbstständigt und trägt jetzt viel zu sehr dazu bei, Demokratien zu gefährden, Minderheiten auszugrenzen, Populismus zu schüren. Diese Leute wenden sich ab und bekunden mittlerweile öffentlich ihre Kritik.


SKIP: Was kann der einzelne User tun, um dieser Entwicklung etwas entgegen zu halten?

Riesewieck: Ich würde sagen, man sollte sich selbst in die Verantwortung nehmen und darauf pochen, mitbestimmen zu können, was da passiert. Wir haben ja jetzt die Situation, dass ein paar Großkonzerne das Internet unter sich aufgeteilt haben und so zum Gatekeeper der digitalen Öffentlichkeit geworden sind. Da kann man sich nicht zurücklehnen und sagen: Ich bin ja nur Nutzer. Wir sollten uns viel stärker einbringen und mitbestimmen, wie das Ganze abläuft. Je mehr bekannt wird, nach welchen Richtlinien die Unternehmen verfahren, desto mehr wird klar, dass die Content-Moderation am Fließband, von gering qualifizierten Billiglöhnern mit drei bis fünf Tagen Training, komplett unverantwortlich ist. Klarerweise wollen die Unternehmen verhindern, dass das Wissen um diese Richtlinien und wie sie exekutiert werden, an die Öffentlichkeit gelangt.

Block: Es gibt auch alternative Netzwerke, in denen die User selbst moderieren, z.B. Diaspora. Natürlich ist es schwierig, die Leute zu motivieren, in ein anderes Netzwerk umzuziehen. Meistens scheitert es daran, dass die Leute sagen, dass ja alle bei den Großen sind. Wir selbst sind ja auch auf Facebook und promoten dort unseren Film, was vielleicht absurd erscheint. Aber genau dort versuchen wir eben das Umdenken zu erzeugen, damit die Leute eventuell den Schwung nützen, um umzuziehen. Das ist vielleicht ein bisschen utopisch gedacht, aber es bleibt einem nichts anderes übrig als zu hoffen, dass es so passieren kann.


SKIP: Haben Sie eigentlich selbst schon mal einen Inhalt in einem Sozialen Netzwerk gemeldet?

Riesewieck: Nein. Aber was interessant war: Als unsere Produktionsfirma den Trailer zu unserem Film gepostet hat, wurde der prompt erst einmal heruntergenommen. Nach einiger Zeit ist er dann aber wieder aufgetaucht.

Interview: Claudia Dlapa / Juni 2018

0 Kommentare

Kommentar verfassen

Um Kommentare verfassen zu können, musst du eingeloggt sein.

Falls du bereits registrierter SKIP User bist, gehe zum , solltest du noch kein Benutzerprofil haben, kannst du dich hier registrieren.

Wir benutzen COOKIES auf unserer Seite um die Benutzerfreundlichkeit zu erhöhen. Mit der Benutzung unserer Webseite stimmen sie dem Einsatz von Cookies zu.