"Könige, Präsidenten und Wahlen lehnen wir ab. Wir glauben an groben Konsens und laufenden Kode", deklamierte 1992 der MIT-Informatiker David Clark. Damit war ein libertäres Staatsverständnis umschrieben, welches das Funktionieren eines Gemeinwesens nicht mehr von Institutionen, sondern lediglich vom Programmkode abhängig macht.

Die Computerpioniere waren von der Idee beseelt, dass sich die Ordnung eines Gemeinwesens durch informatisierte Prozesse herstellen lässt. Das soziale Netzwerk Facebook, das mittlerweile zwei Milliarden Mitglieder und damit mehr als die katholische Kirche zählt, ist eine solche Gemeinschaft, die vom Programmkode regiert wird. Mit jeder Modifikation des Newsfeed-Algorithmus wird Herrschaft ausgeübt. Facebook entscheidet autoritär, wo die Grenzen der Meinungs- und Kunstfreiheit liegen. Hasskommentare werden zuweilen toleriert, Kunstwerke wie das Foto einer Neptun-Statue werden wegen Verstoßes gegen das Prinzip der Nacktheit zensiert. Die "Gemeinschaftsstandards", die wie eine Art Grundrechtekatalog ausgestaltet sind, hat sich Facebook in einem Akt der Selbstermächtigung gegeben. Gründer Mark Zuckerberg sagte einmal: "In vielerlei Hinsicht ist Facebook mehr eine Regierung als ein traditionelles Unternehmen. Wir haben eine große Community von Leuten, und mehr als ein Technologiekonzerne legen wir die 'policies' fest."

Die Politikprofessorin Alexis Wichowski, die an der School of International and Public Affairs der Columbia University lehrt, hat in einem Beitrag für das Technikmagazin "Wired" die These aufgestellt, dass wir mit der Dominanz der Tech-Konzerne in das Zeitalter der "Netzstaaten" eingetreten seien. "Wie Nationalstaaten sind sie ein bunter Blumenstrauß. Manche sind das Äquivalent globaler Supermächte: die Googles, Facebooks und Twitters. Manche sind Zusammenkünfte von Witzbolden wie (die Hackergruppe, Anm. d. Red.) LulzSec (…). Andere wiederum sind paramilitärische Operationen wie GhostSec, eine Cyberarmee, die speziell geschaffen wurde, um den IS zu bekämpfen. Und es gibt Hacktivisten-Kollektive wie Anonymous und Wikileaks", schreibt Wichowski. Unbeachtet ihrer Größenunterschiede und Gründungszwecke wiesen die Akteure drei gemeinsame Merkmale auf: Sie existieren online, haben eine internationale Anhängerschaft und verfolgen eine eigene Agenda. "Die Welt braucht Netzstaaten, weil sie dasselbe Territorium wie nichtstaatliche Akteure okkupieren: die digitale Sphäre", fordert die Politologin. "Um Kriege im Informationszeitalter zu gewinnen, müssen Länder die Macht der Netzstaaten anerkennen."

Facebook, Microsoft, Twitter und YouTube haben sich vor wenigen Monaten zu einer globalen Anti-Terror-Allianz, dem Global Internet Forum to Counter Terrorism, zusammengeschlossen, mit dem sie gemeinsam der Verbreitung terroristischer Inhalte auf ihren Plattformen entgegentreten wollen. Die Verbreitung gewaltverherrlichender und extremistischer Inhalte wird für die Plattformbetreiber zunehmend zum Problem, für das sie rechtlich verantwortlich sind. Die Politik verschärft den Druck auf die Netzwerkkonzerne. Facebook und YouTube nutzen bereits ein System, mit dem gewaltverherrlichende Bilder, etwa Propagandamaterial des IS, automatisch blockiert oder sofort aus dem Netz genommen werden: eine Art algorithmische Polizei. Die Technik, die ursprünglich für die Identifizierung und Löschung urheberrechtlich geschützten Materials auf Videoseiten entwickelt wurde, sucht nach Hash-Werten, einer Art digitalem Fingerabdruck jeder Datei. Dieser Wert wird dann mit bereits als "anstößig" gemeldeten Bild- oder Videodateien abgeglichen. Die Methode funktioniert allerdings nur, wenn das Video schon einmal gepostet wurde.

Umleiten auf erwünschte Seiten

Die Google-Tochter Jigsaw testete im Jahr 2016 eine Methode (Method Redirect), bei der Nutzer, die nach terroristischen Inhalten suchten, zu anderen Websites umgeleitet wurden. Die Macher erklären die Methode zum Erfolg: In den ersten zwei Monaten des Projekts seien 300 000 Menschen zu den Anti-IS-YouTube-Kanälen umgeleitet worden. Die Klickraten auf die Jigsaw-Anzeigen seien dreimal höher als bei durchschnittlicher Google-Werbung gewesen. Doch die Weiterleitung ist schon methodisch fragwürdig. Um die potenziellen IS-Sympathisanten von "normalen" Nutzern zu isolieren, wurden zwei Gruppen gebildet: "Mainstream-Interessenten" und "Sympathisanten". Suchte jemand auf einer Nachrichtenseite wie CNN oder BBC nach dem Islamischen Staat, wurde die Person in die "Mainstream-Gruppe" eingeordnet. Wer nach dezidiert extremistischem Content wie etwa dem IS-Medienzentrum "Al Hayat" oder dem IS-Propaganda-Magazin "Dabiq" googelte, landete in der Gruppe der "potenziellen Sympathisanten".

Doch kann ein Terrorist nicht auch seriöse Nachrichtenseiten aufrufen? Ist man umgekehrt gleich ein Terrorist, wenn man sich das E-Paper von "Dabiq" herunterlädt? Dann müssten Journalisten oder Verfassungsschützer, die sich mit dem Phänomen des Terrorismus befassen, ja auch Terroristen sein. Das verweist auf die grundsätzliche Problematik, was eigentlich einen Terroristen zum Terroristen macht.

Wie definiert man Terrorismus? Wie kann eine Software zwischen Realität und Fiktion differenzieren? Was würde passieren, wenn ein Algorithmus eine Szene aus einem Actionfilm als "terroristisch" einstuft? Würde dann Kunst normativ und faktisch mit einem blockierten Propagandavideo als etwas Nichtzeigenswertes gleichgestellt? Terrorismus ist auch immer eine soziale Konstruktion, deren Definition und Auslegung zunehmend Algorithmen überantwortet wird. Diese Wertungswidersprüche lassen sich durch eine algorithmische Polizei nicht auflösen, im Gegenteil, sie werden dadurch noch verstärkt. Der Algorithmus erkennt nicht, ob jemand aus integren oder sinistren Motiven nach IS-Suchbegriffen sucht. Der Journalist und der IS-Sympathisant können, so zynisch das ist, dieselben Outputs erzeugen.

Die Journalistin Rafia Zakaria kritisierte in einem Beitrag für die Zeitschrift "The Baffler" ("The Military-Messaging Complex"), dass das Global Internet Forum eine Privatisierung der Militär- und Polizeigewalt bedeute. Facebook und Co seien eine Art "virtuelles Blackwater" (die für ihr brutales Vorgehen berüchtigten Söldner der privaten Sicherheitsfirma Blackwater kämpften unter anderem im Irakkrieg). "Wenn Soziale-Medien-Plattformen als Vorhut des Kriegs gegen den Terror angeworben werden, nehmen sie sich auch die Macht heraus, zu definieren, was Terrorismus ist – und im Gegenzug, wer ein Terrorist ist." Als Bürger möchte man lieber nicht auf einer Anti-Terror-Liste von Google oder Facebook stehen. "Auf Listen stehen ist gefährlich", wusste schon Eugen Roth. Vielleicht sollte man doch mehr Vertrauen in Präsidenten und Wahlen als in den Kode setzen.