Einzeltitel

Hohles Gericht

von Christoph Grabitz

Facebooks Zensur durch das "Oversight Board"

Weder gut gemacht noch gut gemeint: Facebooks neues „Oversight Board“ ist nur ein weiterer Beleg dafür, dass wir das Menschenrecht der Meinungsfreiheit nicht der Selbstregulierung durch Technologieriesen überlassen dürfen.

Facebook hat sich einen Obersten Gerichtshof zugelegt, das „Content Oversight Board“. Auf der Anfang Mai vorgestellten Richterbank finden sich illustre Persönlichkeiten: Die ehemalige dänische Ministerpräsidentin Helle Thorning-Schmidt, der ehemals für Snowden und die NSA zuständige ehemalige Chefredakteur von The Guardian Alan Rusbridger, der Verfassungsjurist Jamal Greene von der Columbia University, die Friedensnobelpreisträgerin Tawakkol Karman aus dem Jemen

Wie ein Oberster Gerichtshof soll das Gremium eine abschließende Instanz sein. Beschweren kann sich, wer sich von den Facebook-Content-Moderatoren oder der künstlichen Intelligenz „ungerecht behandelt“ fühlt, etwa weil vermeintlich Zulässiges gelöscht oder vermeintlich Unzulässiges nicht gelöscht worden ist. Es geht also um die schwierig zu beurteilenden Härtefälle in den Grau-, nein besser: Buntzonen der Meinungsfreiheit. Jene Fälle, die keinen einfachen Lösungen zugänglich sind, da sie an den Grenzen angesiedelt sind: Den Grenzen des guten Geschmacks, der Satire, der Kunst- und Religionsfreiheit, des gesellschaftlichen Tabus.

Die Einrichtung des neuen Boards kann man zunächst positiv bewerten. Facebook scheint endlich auf seine Kritiker zuzugehen. Diese werfen dem sozialen Netzwerk seit Jahren vor, dass es sich aus seiner sozialen Verantwortung stiehlt. Immer wenn es unbequem werde, verstecke Facebook sich dahinter, „nur“ eine neutrale Technologieplattform zu sein. Weder biete Facebook seinen Nutzern einen effektiven Schutz vor Hass und Häme, heißt es, noch beschütze es hinreichend die weltweit zunehmend bedrohte Ausübung des Menschenrechts auf Meinungsfreiheit.  

Im Herbst 2016 entfernte Facebook mehrfach eine weltberühmte Ikone der Kriegsfotografie von den Seiten norwegischer Journalisten und Politiker. Das Bild mit dem Titel „The Terror of War“ zeigt das neunjährige Mädchen Phan Thi Kim Phúc. Mit weit aufgerissenem Mund flieht sie mit anderen Kindern vor einem Napalm-Angriff – nackt. Facebook bewertete das Dokument der Zeitgeschichte aus dem Vietnamkrieg wegen der Nacktheit des Kindes als inappropriate. Für die erzürnten Kritiker dieser Entscheidung war das Netzwerk zunächst nicht erreichbar. Erst nach einem offenen Brief des Chefredakteurs der größten norwegischen Zeitung Aftenposten an Zuckerberg – „Listen, Mark, this is serious!“ – hob Facebook die absurde Zensur auf. Feingefühl gegenüber der Geschichte, dem kulturellen Erbe der Menschheit, der Meinungs- und Kunstfreiheit sehen anders aus.

Der neue Oberste Gerichtshof soll eine Antithese zu solch kultureller Verflachung sein. Seine bisher bekannte Zusammensetzung liest sich denn auch fast zu perfekt um wahr zu sein: Eine Gemeinschaft der Kosmopoliten, Praktiker, Intellektuelle, unterschiedlicher politischer Couleur (ein linksliberaler Redakteur trifft auf einen von George W. Bush eingesetzten Richter beim Obersten Gerichtshof), eine Muslima mit Kopftuch, die den Friedensnobelpreis gewonnen hat. In mehr als 27 Ländern hätten die bisher bekannten zwanzig Mitglieder des Boards schon gelebt, verkündet Facebook stolz, zusammen sprächen sie mehr als 29 Sprachen.

 

Sehet her, Facebook ist endlich erwachsen geworden!

Spielerisch und lustig hatte die Erfolgsstory von Facebook begonnen: Aus einer Laune heraus hackte sich der Harvard-Student Zuckerberg 2003 in die Website eines Studentenwohnheims ein, klaute dort Profibilder von Studentinnen und stellte diese, ohne Einwilligung der Betroffenen, online, damit männliche Kommilitonen darüber abstimmen konnten, wer besser aussieht: „Hot or not“, hieß das lustige Spiel.

Diese Website, facemash.com, war der Auftakt von Facebook. Und nicht, wie Zuckerberg es dieser Tage gerne behauptet, die Sehnsucht besorgter junger Menschen, sich mit Gleichgesinnten auf der ganzen Welt in der Besorgnis rund um den Irak-Krieg zu verbünden. Hier wird etwas deutlich, das Facebook und Zuckerberg oft vorgeworfen wird: Dass sie sich die Wahrheit zurechtbiegen und nach außen behauptete Unternehmenswerte nichts als hübsche PR-Accessoires sind.

Spielerisch ging alles weiter. Facebook wuchs und wuchs; seit 2008 wuchsen die täglichen Nutzerzahlen exponentiell. Und, ohne dass Facebook irgendetwas dafür hätte tun müssen, bescherte ihm der Arabische Frühling ein emanzipatorisches Antlitz.

Facebook selber war immer apolitisch geblieben, immer jenes global agierende Unternehmen mit dem kindlichen Gemüt eines IT-Nerds, der nur spielen und am Liebsten niemals erwachsen werden will. Man kann das PR-Glück von der „Facebook-Revolution“ als eine Art Umkehrung des Satzes „Kill the Messenger“ verstehen: Das Medium wurde für die Botschaft gefeiert, die es überbrachte. Hätten sich die Jugendlichen in der arabischen Welt per Telefax zum Kampf um mehr demokratische Teilhabe verabredet, wäre es eben die „Fax-Revolution“ gewesen.

 

Facebook ist wie Goethes Zauberlehrling: rastlos, ratlos, überfordert

Ab 2015 verlor Facebook die Kontrolle über den eigenen Erfolg. Es war zu groß und zu erfolgreich geworden – und zugleich zu naiv im Umgang mit der eigenen Macht. In den Wahlkämpfen 2016 in Russland und den USA zeigte sich dies. Im Cambridge Analytica Skandal. Während der Rohingyakrise in Myanmar, in der Facebook – unbeabsichtigt aber gleichwohl vorhersehbar – zum Brandbeschleuniger eines Völkermords wurde. Auch die brutale Hetzjagd auf Moslems in Sri Lanka Anfang 2018: ohne Facebook undenkbar. Das Netzwerk wirkt seit 2015 wie Goethes Zauberlehrling: rastlos, ratlos, überfordert. Wer an einer Übersicht der vielen Variationen von „I’m sorry“ interessiert ist, die Zuckerberg reumütig in den letzten vierzehn Jahren vorgetragen hat: hier entlang! 

Bald muss Zuckerberg klargeworden sein, dass „I’m sorry“ nicht länger ausreichen würde, um wirtschaftlichen Schaden von Facebook abzuwenden. Demokratien wie Deutschland erließen Gesetze wie das Netzwerkdurchsetzungsgesetz (NetzDG). Es verpflichtete soziale Netzwerke wie Facebook erstmals dazu, (so etwas absolut Selbstverständliches wie) einen Zustellungsbevollmächtigten im Inland zu benennen. Unter Androhung empfindlicher Bußgelder verpflichtet es die sozialen Netzwerke zu einer raschen Löschung eindeutig strafbarer Inhalte. Unter autokratischen Regimen weltweit fand das NetzDG begeisterte Nachahmer: Unter dem Vorwand der Bekämpfung von Hass und Hetze im Internet erließen sie ähnliche Vorschriften. Schamlos nutzen sie sie zur Bekämpfung von Presse- und Meinungsfreiheit aus.

Facebook erkannte, dass es um irgendeine normative Ordnung nicht herumkommen würde. Ansonsten wäre sein globales Geschäftsmodell alsbald durch einen Flickenteppich kaum mehr zu überblickender nationaler Regelungen bedroht. Auf der anderen Seite war – und ist – die internationale Staatengemeinschaft weit entfernt von internationalen Regelungsansätzen. Andere Themen stehen weiter oben auf der Agenda.  

 

Für Zuckerberg muss es immer der ganz große Wurf sein

Facebook wäre nicht Facebook, wenn es mit der Einrichtung des Oversight Boards nicht eine über Facebook hinausgehende Vision verfolgen würde. So war es bereits bei der – äußerst breitbeinig – als globale Währung eingeführten Libra, die sich denn doch nicht so recht durchgesetzt hat. Nach dem Wunsch Zuckerbergs soll sein Konzept des ersten Social Media Gerichtshofs nicht weniger als die Blaupause für jedwede Social-Media-Gerichtsbarkeit der Zukunft sein.

Zunächst bekam das Unternehmen nach der Verkündung der ersten zwanzig Mitglieder des Boards viel Lob. Facebook hatte zu Beginn der Coronakrise insgesamt eine gute Figur gemacht. Das Unternehmen verzeichnete zwar die zu erwartenden Einbußen im Anzeigengeschäft. Gleichwohl nahm die Anzahl der Nutzer zu Zeiten des Lockdown zu. Ferner wurde das Unternehmen für Initiativen gelobt wie die Einrichtung einer Task-Force, die Nutzer kontaktierte, die eine Falschmeldung mit „gefällt mir“ markiert hatten. Zu Beginn der Pandemie rückten die Menschen eben unter dem großen Gleichmacher Corona zusammen. Die erbitterten Konflikte von gestern schienen für ein paar Wochen vergessen im Angesicht eines gemeinsamen unsichtbaren Feindes. Solche, vermeintlich unideologischen, Zeiten waren für Facebook immer schon gut.

Dann kam die Tötung George Floyds. Zu einem Zeitpunkt, in welchem die erste Corona-Welle in der westlichen Welt abebbte, machte das grausame, von einer 17-jährigen auf Facebook verbreitete Video der Tötung Floyds der Weltöffentlichkeit deutlich, dass all jene Verletzungen und Zerwürfnisse durch die Pandemie nicht ausgelöscht, sondern lediglich in den Hintergrund gedrängt worden waren:  die soziale Ungleichheit und der institutionelle Rassismus (nicht nur, aber vor allem in den USA), das erratische und spalterische Auftreten Trumps im Innern und nach außen, ein immer selbstbewusster auftretendes China, dessen plumpe Propaganda und Masken-Diplomatie zunächst Erfolg zu haben schien. Ein von Selbstzweifeln geplagtes, mit sich selbst beschäftigtes Europa, das sich die Anführung der freiheitlichen Welt noch nicht recht zutraut.

 

Opportunismus im Widerspruch zu Wertebekundungen

In dieser Krise hätte Facebook zeigen können, dass es ihm mit jenen im Zusammenhang mit der Einrichtung des Oversight Boards behaupteten Werten wirklich ernst ist. Leider war das krasse Gegenteil der Fall: In einer Zeit, in der die USA von den wohl schlimmsten Protesten seit der Ermordung Martin Luther Kings heimgesucht wurden, schreckt Facebook wiederum davor zurück, eine seiner Größe und Bedeutung angemessene soziale Verantwortung zu übernehmen. Während der Kurznachrichtendienst Twitter die zündelnden und bewusst nationale Traumata triggernden Tweets Donald Trumps („when the looting starts, the shooting starts“) redaktionell einbettete und bewusste Falschaussagen löschte, fällt Zuckerberg Twitter öffentlich in den Rücken: „Ich glaube nicht, dass sich Facebook oder eine andere Internetplattform zum Richter über die Wahrheit aufschwingen sollte“, befindet er am 28. Mai 2020. 

Dieser Opportunismus steht im Widerspruch zu all jenen süßen Wertebekundungen, die Facebook seit der Einführung des Oversight-Boards getätigt hatte. Er führte zu einer Glaubwürdigkeitskrise und bislang in der Geschichte Facebooks einzigartigen öffentlichen Protesten hochrangiger Facebook-Manager: „Mark irrt, und ich werde in der lautest möglichen Weise versuchen ihn umzustimmen“, schrieb etwa Ryan Freitas, Facebooks Produktchef, nicht etwa auf Facebook – sondern auf Twitter.

Tatsächlich hält das gesamte „Rechtssystem“, auf welchem das neue Oversight Board fußt, kritischer Überprüfung nicht stand. Es ist wie die schöne Kulisse eines Hollywoodfilms, die in sich zusammen fällt in dem Moment, in dem man sich auch nur mit halbem Körpergewicht dagegen lehnt.

„Grundlage der Entscheidungsfindung“, so steht es in der für das Oberste Facebook Gericht maßgeblichen Satzung, sind: „Die Werte von Facebook“. Von diesen Werten wissen wir, dass sie sich um die vier Begriffe Authentizität, Sicherheit, Privatsphäre, Würde ranken. Vielmehr wissen wir von ihnen aber nicht.

Wir können nicht in den Bibliotheken dieser Welt nachschlagen, um mehr über sie zu erfahren, wie wir es bei Artikel 19 der allgemeinen Erklärung der Menschenrechte der Vereinten Nationen tun können, bei Artikel 10 der Europäischen Menschenrechtskonvention, beim First Amendment der US Bill of Rights, bei Artikel 5 Grundgesetz. Es sind Begriffe, die sich gut lesen und niemandem wehtun. Weder dem Demokraten noch dem Diktator. Man würde sich nicht wundern, sie in der Broschüre eines Altenpflegeheims zu lesen.

Im September 2019 wurden diese generellen Werte erstmals in ein Verhältnis gesetzt zu dem hohen Gut der Meinungsäußerungsfreiheit. Dieses hohe Gut, Facebook scheut vor dem großen Wort „Freedom of Speech“ zurück, wahrscheinlich um Autokraten nicht zu vergrätzen, wird in Zuckerbergs Rechtssystem schlicht „Voice“ genannt.. 

 

„The Voice“ als Synonym für Meinungsfreiheit?

Diese Stimme eines jeden Nutzers in ihrer Unverwechselbarkeit zu erhalten, schreibt Monika Bickert, heute Head of Global Policy Management, sei übergeordnetes Ziel von Facebooks neuem Wertesystem. Zum Schutze von Authentizität (im Sinne von Echtheit der User), Sicherheit, Privatsphäre und (Menschen-?)Würde, dürfe diese Stimme im Einzelfalle und nach Abwägung der betroffenen Güter eingeschränkt werden, heißt es. Und, diese Erwähnung ist eine Premiere: man „schaue“ („we look to“) bei dieser Entscheidungsfindung auf Völker- und menschenrechtliche Standards. Schauen allein, möchte man sagen, reicht nicht aus. Eine Bindung wird hier gerade nicht behauptet.

Die von Facebook nun „entdeckte“ Abwägung von „the Voice“ mit Belangen wie Sicherheit oder Würde ist ja nun ebenfalls nicht neu. Sie wird im internationalen und nationalen Recht weltweit tagtäglich angewandt, allerdings verfeinert durch die so genannte Verhältnismäßigkeitsprüfung. Dazu findet man bei Facebook: nichts. Wäre es diesem Unternehmen ernst mit dem hohen Gut der Meinungsfreiheit, so würde es den Schulterschluss mit dem internationalen Recht suchen, anstatt sich sein eigenes billiges Facebook-Rechtssystem zusammenzuschustern.

Dass die Macht Facebooks durch die Erschaffung des Facebook Oversight Boards eingeschränkt würde, ist im Übrigen zumindest zweifelhaft. Wahrscheinlich wahr und unwahr zugleich, und wohlmöglich grade deshalb als Narrativ so erfolgreich. Man lügt am besten mit der Wahrheit, heißt es.

Wahr ist: Die persönliche Macht Mark Zuckerbergs wird eingeschränkt. Er kann dem Board nicht vorschreiben, wie es seine Arbeit zu machen hat. Er kann die Entscheidungen des Boards nicht anfechten und die Mitglieder des Boards nicht feuern. Tatsächlich hat man auch eine von Facebook Inc. finanziell unabhängige Unternehmens- und Finanzierungsstruktur für diesen Gerichtshof gefunden.

Aber: Die Person Zuckerberg ist nicht viel mehr als das Gesicht von Facebook, manche sagen: sein Guru. Wieviel Macht Zuckerberg persönlich in dem Konzern (noch) hat, ist für die Beurteilung der (Über-)Macht Facebooks zweitrangig. Wer allein auf den Machtverlust Zuckerbergs abstellt, ist auf den PR-Trick reingefallen.

 

Als ob man VW zum Kraftfahrtbundesamt ernennen würde

Bei Lichte betrachtet baut Facebook seine Macht durch die Errichtung des Oversight Boards wohl aus: Egal wie finanziell und organisatorisch unabhängig dieses „Gericht“ konzipiert sein mag: Es entscheidet, und zwar im grundrechtssensibelsten Bereich der Menschenwürde, Meinungs-, Presse- und Kunstfreiheit, nach konzerneigenen Regeln, die keinerlei demokratische Legitimation aufweisen. Hier schwingt sich ein steinreicher Quasimonopolist, ein Teenager von nur sechzehn Jahren, dazu auf, im Bereich der Meinungsfreiheit traditionelle Aufgaben der Gesetzgebung und Rechtsprechung zugleich zu übernehmen – auf globalem Level. Dies ist ungefähr so sinnvoll wie wenn man es dem Volkswagen-Konzern nach dem Abgasskandal erlauben würde, weltweit Emissionsschutzrichtlinien zu erlassen und zugleich Kraftfahrtbundesamt zu spielen.

Facebook gibt auch keine Informationen dazu heraus, nach welchen Kriterien es die Richter des Oversight-Boards ausgewählt hat. Fundamentale Kontrollmechanismen, wie sie das Prozessrecht vorsieht, gibt es mithin nicht: Das Recht auf den gesetzlichen – nämlich den unbefangenen, durch „Zufall“ ausgewählten, im Geschäftsverteilungsplan vorherbestimmten – Richter. Oder das Recht, die Besetzung des Spruchkörpers zu rügen soweit Bedenken gegen die richterliche Unbefangenheit bestehen.  

Und: Die Regeln, nach denen dieser Gerichtshof operiert, können jederzeit von Facebook geändert werden. Eine „Ewigkeitsklausel“ wie sie das Grundgesetz für die Kernaussage unserer Verfassung vorsieht, Art. 79 Absatz 3 GG, das Widerstandsrecht, die Rechtsstaatlichkeit, sucht man – freilich – in diesen Unternehmensregeln vergeblich. Wenn die Regeln für das Grundrecht der Meinungsfreiheit im Staate Facebook aber so flüchtig sind: Was hilft es dann diesem Gerichtshof, dass er finanziell unabhängig ist? 

Verbrieft ist nicht einmal die Anzahl der Mitglieder dieses „Gerichts“.

In der Satzung des Oversight-Boards heißt es dazu:

Das Gremium wird aus mindestens elf Mitgliedern bestehen. Wenn es seine volle Besetzung erreicht hat, wird es voraussichtlich vierzig Mitglieder umfassen. Die Größe des Gremiums kann je nach Anforderungen nach oben oder unten variieren.

„Mindestens“

„Voraussichtlich“

„Je nach Anforderungen“

Wolkige Formulierungen wie diese würden von jedem noch so zahnlosen Verfassungsgericht der Welt wegen unerträglicher Unbestimmtheit in der Luft zerrissen.

 

Der Versuch einen Ozean mit einer Hand aufzuhalten

Ob dieses Gremium – voraussichtlich und je nach Anforderung - (wer sieht hier voraus und wer definiert die Anforderungen?) elf oder vierzig Mitglieder umfasst, macht einen fundamentalen Unterschied im Hinblick auf die Legitimation dieses „Gerichts“. Selbst die derzeit –voraussichtlich und je nach Anforderung – angestrebte Maximalanzahl von vierzig Richtern wird es nicht vermögen, aus den Meinungsäußerungen von, Stand 30. April 2020, 1,9 Milliarden aktiven Facebook-Nutzern wichtige Präzedenzfälle auszusondern, die die weitere Ausrichtung der Social Media Governance des Quasi-Monopolisten prägen werden. Es handele sich um den aussichtslosen Versuch, „einen Ozean mit nur einer Hand aufzuhalten“, befindet die leitende Redakteurin des Technologieblogs Recode, Kara Swisher, in der New York Times.

Auch das angebliche Bemühen um eine heterogene Zusammensetzung der Richterbank hält kritischer Überprüfung nicht stand: Zwei von vier Vorstandsmitgliedern (den so genannten „Chairs“), mithin 50 Prozent, stammen aus den USA. Fünf von zwanzig derzeit bekannten Mitgliedern des Oversight-Boards stammen aus den USA, also 25 Prozent.

 

China freut sich

Sechs der Top-10-Länder mit den meisten Facebook-Nutzern weltweit kommen aus Süd- oder Südostasien, mit allein 280 Millionen Facebook-Nutzern in Indien. Gleichwohl sind nur zehn Prozent der derzeitigen Mitglieder des Boards aus Süd- oder Südostasien, nämlich zwei: Die Rechtsanwältin und Internet-Aktivistin Nighat Dad aus Pakistan und ein Journalist namens Endy Bayuni von der Jakarta Post. Es hätte weitaus unbequemere Kandidaten gegeben. Kandidatinnen. Bezeichnend: Aus Taiwan, Japan, Südkorea – sie alle Hoffnungsschimmer der Demokratie in Zeiten, in denen sich das chinesische Modell von „Meinungsfreiheit“ parallel zur Seidenstraßeninitiative über den Erdball ausbreitet – ist kein einziger „Richter“ dabei. Ein wunderbares Einfallstor für die chinesische Propaganda. Wie eine Armada emsiger Bienchen arbeitet sie daran, die asiatische Welt von dem chinesischen Verständnis von „Meinungsfreiheit“ zu überzeugen, von Weibo zum Beispiel, das an Konsens, Inklusion, Harmonie interessiert sei – eine Antithese zu der Lautstärke, dem Egozentrismus und der Arroganz, die China dem Westen zuschreibt.

Es sollte also nicht verwundern, wenn Asien dieses Board nicht akzeptiert. Dabei wird Regulierung grade in Asien besonders gebraucht: Kaum eine Region ist so heterogen in all jenen Bereichen, die für Sprengstoff in der Meinungsfreiheit sorgen: Weltanschauung, Ethnie, Religion, politische Systeme. In keiner Region sind Hass und Hoaxes, Bots und Trolle so ausgeprägt wie hier. In kaum einer anderen Region der Welt wird das Wort „Facebook“ von so vielen Menschen als Synonym für das Wort Internet gebraucht.

Mark Zuckerberg darf stolz darauf sein, was er, grade einmal 36 Jahre alt, mit Facebook erreicht hat. Und mit Sicherheit hätte er all dies nicht erreicht, wenn er sich von den notorischen Bedenkenträgern hätte bremsen und das Unternehmen nicht mit der Leichtigkeit und Unbeschwertheit eines Start-ups geführt hätte. Es ist aber jetzt Zeit endlich erwachsen zu werden, und ein Projekt von wahrhaft historischer Bedeutung für unser Gemeinwesen anzustoßen: Die Regulierung des Internets und der sozialen Netzwerke durch das Menschen- und Völkerrecht. Das Geld, die Macht und Notwendigkeit für dieses Mammutprojekt sind da. Worauf warten Sie noch, lieber Mark Zuckerberg? 

Ansprechpartner

Christoph Grabitz

Christoph Grabitz (2020)

Leiter des Medienprogramms Asien

christoph.grabitz@kas.de +65 6603 6181 +65 6227 8343

Bereitgestellt von

Medienprogramm Asien