Wir sind die Republik. Ein digitales Magazin für Politik, Gesellschaft, Wirtschaft, Kultur, das im Januar 2018 gestartet ist. Es ist ein Projekt gegen die Wahrscheinlichkeit: Wir wollen im winzigen Schweizer Markt ausschliesslich von unseren Leserinnen finanziert sein. Wollen Sie Teil dieses Abenteuers sein?

«Das macht mir Angst»

Zwietracht säen, Debatten polarisieren, Wahlen beeinflussen: Die bekannteste russische Trollfabrik nutzt dafür mutmasslich spanische Software, die eigentlich Desinformation bekämpfen sollte. Jetzt redet erstmals ihr Erfinder.

Von Sylke Gruhnwald, 15.05.2019

«In diesen Wahlen haben wir eine Trollfabrik geleitet»: Javier Pérez Dolset. Sergio González Valero/El Mundo

Den Gegner verwirren. Sein Land destabilisieren. Eine Gesellschaft spalten.

Seit Menschen Kriege führen, spielt Propaganda eine Rolle darin. Bereits vor bald einem halben Jahrtausend, im niederländischen Unabhängigkeits­kampf, wurden Medien mit Falsch­meldungen im grossen Stil gedruckt und vertrieben: Pamphlete, die beiderseits von echten, aber auch von übertriebenen und erfundenen Gräuel­taten des Gegners berichteten.

Die Taktik blieb über Jahr­hunderte erfolgreich. «Fakten haben uns bei der Desinformations­arbeit nie gestört», schreiben Günter Bohnsack und Herbert Brehmer, zwei ehemalige Mitarbeiter der Stasi, in ihrem Buch «Auftrag: Irreführung. Wie die Stasi Politik im Westen machte». «Jede Konstruktion war gerechtfertigt, wenn sie nur die DDR entlastete.» (Hinweise zu den erwähnten Büchern finden Sie am Ende des Beitrags.)

Doch etwas hat sich verändert. Früher, im Kalten Krieg, mussten Journalisten bestochen, Diplomaten gelinkt, Partei­funktionäre umgedreht, Aktivisten in Gang gesetzt werden. Nun sind es Twitter und Facebook, Youtube und Instagram, über die Falsch­meldungen verbreitet und Desinformations­kampagnen lanciert werden. Günstig und ohne grossen Aufwand.

Die Masche hat sich nicht verändert, wohl aber die Mittel. Technologie macht es möglich, mit einigen hundert Twitter-Accounts einen Shit­storm zu produzieren, der Millionen Menschen erreicht. Die Pamphlete des 21. Jahr­hunderts verbreiten sich epidemisch – und verschleiern dabei ihre Herkunft und die wahren Absichten ihrer Kreateure.

Javier Pérez Dolset hat eine solche Soft­ware entwickelt. Snap hat er sie getauft. Und Snap, so Pérez Dolsets Verdacht, fiel in die Hände einer Organisation, die sich Internet Research Agency nennt – eine russische Desinformations­fabrik, abgekürzt IRA. Ihr Geschäft, das sie seit Jahren von Sankt Petersburg aus betreibt: Wut und Zwietracht in den westlichen Demokratien säen, Wahlen beeinflussen und die Europäische Union spalten.

Wie begründet der Entwickler seinen Verdacht? Wir haben mit ihm gesprochen.

The Signals Network und die Recherche

Javier Pérez Dolset hat sich an die Recherchekooperation The Signals Network gewandt. Zum Netzwerk gehören neben der Republik die deutsche Wochenzeitung «Die Zeit», «El Mundo» in Spanien, «Mediapart» in Frankreich, die britische Tageszeitung «The Daily Telegraph» und «The Intercept» in den USA.

Dieser Beitrag ist das Ergebnis der ersten Recherche der Kooperation von The Signals Network. Die Recherche ist zudem in Zusammen­arbeit mit der Investigativ­plattform «Bellingcat» entstanden.

Weshalb sucht Javier Pérez Dolset nun die Öffentlichkeit? Er sagt, er wolle aufklären. Darüber, wie die russische Organisation IRA Propaganda betreibe, was sie damit anrichte. Der Entwickler arbeitet derzeit am Ausbau seiner Software – mit dem Ziel, Desinformation zu stoppen. Ihm schwebt eine Liste mit Empfehlungen vor, mit deren Hilfe Regierungen Gesetze erlassen können, um Desinformation zu bekämpfen.

Karrierestart am Fernseher

Javier Pérez Dolset ist sechs Jahre alt, als ihm sein Vater Pong schenkt. Das Gerät besteht aus einer Konsole und zwei Dreh­reglern, mit denen die Spieler ein Rechteck auf und ab bewegen können, um sich gegenseitig einen Ball zuzuspielen. Eine Art Steinzeit­tennis. Mit Pong an der Flimmer­kiste beginnt der Einzug der digitalen Welt in die Wohn­zimmer – und die Karriere von Javier Pérez Dolset.

«Ich war der grösste Nerd in der Schule», sagt Pérez Dolset. In einem fort hängt er vor dem Computer. Erst spielt er. Dann programmiert er selber.

Das wird sich auszahlen. Später gründet er eine Firma namens Studio Pyros, deren Produkte viele in Spanien kennen. Das Strategie­spiel Commandos zum Beispiel, 1998 erschienen, ist ein Klassiker. Sein Unternehmen wächst: Ein Trick­film­studio kommt hinzu, eine private Universität am Stadt­rand von Madrid, die Programmierer ausbildet. Mit Klingel­tönen und Handy­spielen verdient Pérez Dolset Geld, zu seinen Kunden gehören grosse Mobilfunk­anbieter weltweit.

Rund fünf Jahre ist es her, dass die Unternehmer­karriere von Pérez Dolset einen Knacks bekommt: Er überwirft sich mit seinen Geschäfts­partnern, seine wichtigste Firma muss 2016 Insolvenz anmelden, 21 Tage sitzt er in Untersuchungs­haft, weil ihm vorgeworfen wird, er habe Dokumente gefälscht. Das Gerichts­verfahren ist noch anhängig. Pérez Dolset bestreitet die Vorwürfe.

In den Nuller­jahren entstehen Facebook und Twitter. In den digitalen Spass­netzwerken entstehen weltumspannende Giftmüll­deponien, randvoll mit Beleidigungen, Angriffen und Schmäh­botschaften. Einzelne Stimmen vermögen sich im schier endlosen Echo­raum zu Wellen der Kritik aufzutürmen, die mit voller Wucht ihre Ziele überrollen. Pérez Dolset sieht zu, wie die Wut der Nutzerinnen und Nutzer sich auch an seinen Kunden entlädt.

Da hat er eine Idee: Könnte man nicht ein Programm entwickeln, das früh erkennt, wenn sich in den sozialen Netz­werken Kritik zu einer Welle auftürmt?

Auf Twitter vor allem, dem Kurz­nachrichten­dienst. Dort, wo Millionen Nutzer für gewöhnlich Belanglosigkeiten austauschen, sich manchmal allerdings auch zu einem virtuellen Sprech­chor zusammen­rotten. Einem, der immer lauter einen Slogan skandiert. Dessen zentrales Stichwort, der Hashtag, mutiert zum trending topic, zum Thema, über das halb Twitter zu sprechen scheint. Journalistinnen berichten über den Hashtag, der damit die Grenze des Virtuellen passiert und sich in Nachrichten­sendungen und an Stamm­tischen niederlässt.

Pérez Dolsets Programmierer machen sich an die Arbeit. Rund 20 Millionen Euro fliessen in das Projekt, darunter Geld von der spanischen Regierung und der EU. Später wird man Pérez Dolset vorwerfen, er habe diese Gelder nicht sachgerecht verwendet. Er bestreitet das.

2013 ist Snap fertig – die Social Networks Analysis Platform. Um dieses Programm geht es hier. Geschaffen als Früh­warnsystem, um Schmäh­kritik von wütenden Kunden zu mildern. Doch Snap wird später über Umwege nach Russland gelangen und, so der begründete Verdacht, die Twitter-Attacken von russischen Trollen koordinieren.

Der Bauplan von Snap

Snap besteht aus drei Teilen:

  1. einer Art Daten-Staub­sauger, der so viel wie möglich einsammelt von dem, was in einem sozialen Netz­werk geschrieben wird.

  2. einem Analyse­instrument, genannt Ingraph, das die aufgesaugten Daten visuell aufbereitet. Es macht zentrale Schlag­wörter sichtbar, benennt Nutzer mit besonders viel Einfluss, zeigt auf, wer mit wem vernetzt ist. Und welche Hashtags sich überlappen. Ingraph macht sichtbar, was sonst in der Flut untergeht.

  3. einem Angriffs­werkzeug. Es heisst Social Baton, also Takt­stock, für soziale Netz­werke. Die Idee dahinter: Reale Nutzerinnen steuern ihre Twitter-Konten so, dass sie eine Debatte anfachen. Der Algorithmus von Snap rechnet aus, wie sich bestimmte Nutzer verhalten müssen, damit ein Stich­wort viral wird. Damit wird der Shit­storm steuerbar.

Es dauert nicht lange, da wird Snap nicht mehr nur eingesetzt, um Schmäh­kritik von wütenden Kunden zu mildern, so, wie es eigentlich vorgesehen war. Der Wellen­brecher wird zur Sturm­maschine umgebaut. Eine, die Wahlen beeinflussen wird.

#Pedro-ich-glaub-dir-nicht

Als wir Javier Pérez Dolset anrufen, ist er daheim in seinem Haus in Madrid. Während er am Telefon redet, läuft im Hintergrund der Sound­track des Disney-Klassikers «König der Löwen». Einmal klingelt es an der Tür, Pérez Dolset bittet seine Frau zu öffnen, dann spricht er weiter.

Javier Pérez Dolset, wo kam Snap zum ersten Mal zum Einsatz?
2015, vor der Parlaments­wahl in Spanien, hat es der konservative Partido Popular eingesetzt. Einer von dessen externen Beratern sass bei uns im Verwaltungs­rat und erfuhr so von dem Programm. In der Politik zählen die fünf, sechs Wahlkampf­monate. In dieser Zeit wird besonders viel debattiert, werden Politiker besonders heftig angegriffen. Snap identifiziert die Attacken und die Angreifer – und erlaubt es, zum Gegen­schlag auszuholen.

Wie genau sind Sie vorgegangen?
Wir programmierten eine App, die Hunderte Partei­anhänger auf ihren Smart­phones installierten. Dann gab die Partei­führung ein bestimmtes Thema und die dazugehörigen Hashtags vor, und der Snap-Algorithmus errechnete die perfekte Erregungskurve.

Und dann?
Dann sandten die Anhänger koordiniert Tweets oder Retweets aus. So verbreiteten sich eigene Themen wie ein Lauf­feuer, oder Angriffe der Gegenseite wurden überschrien.

Eine Premiere?
Ja. In diesen Wahlen haben wir eine Troll­fabrik geleitet. Und ich bin nicht stolz darauf.

Hatte die Kampagne Erfolg?
Die Wirkung zu messen, ist einfach. Man lanciert eine Attacke und misst, wie viele Personen die Nachricht sehen. In besagter Kampagne des Partido Popular war die zentrale Botschaft: «Pedro, ich glaub dir nicht». Der Hashtag dazu: #sancheznotecreo. Gemeint war Pedro Sánchez, damals Oppositions­führer und heute Minister­präsident. Dieser eine Tweet, der von 500 Hardcore-Unterstützern verbreitet wurde, wurde Millionen Male auf Twitter gesehen.

Was war die reale, messbare politische Wirkung? Nur ein Teil der Spanierinnen und Spanier nutzt Twitter.
Darauf kommt es nicht an. Wichtig ist, dass dort die Meinungs­macher miteinander sprechen, allen voran Politikerinnen und Journalisten. Und Letztere schreiben dann am nächsten Tag in der Zeitung, was auf Twitter passiert ist. So sickert das, was in den sozialen Netz­werken passiert, in die Realität ein.

Und es wirkt?
Absolut! Das Zusammenspiel von vermeintlichen Vertrauens­personen und Technologie kann jedes Wahl­ergebnis um mehrere Prozent­punkte beeinflussen. Und ja, das macht mir Angst. Jedes Mal, wenn ich darüber rede.

Wie effizient war Snap wirklich? Hatten die Erregungs­kurven eine politische Wirkung? Bei der Parlamentswahl 2015 wurde die konservative Partei zwar stärkste Kraft mit 28,7 Prozent der Stimmen – verlor aber rund 15 Prozentpunkte. Danach gefragt, wiegelt der Sprecher des Partido Popular heute ab. Snap, sagt er, sei weniger effektiv gewesen als erhofft. Bei der Parlaments­wahl 2019 im April habe man auf den Einsatz von Snap verzichtet.

Das mag so sein oder auch nicht. Fest steht: Die Manipulation einer Wahlkampf­debatte in einem sozialen Netz­werk fand zum ersten Mal in Spanien statt – in der Europäischen Union.

IRA: Die Desinformationsfabrik

2013 wird in einem Vorort von Sankt Petersburg die Internet Research Agency (IRA) gegründet. Zu Beginn ist sie in der Öffentlichkeit kaum bekannt. Erst nach und nach kommt ans Licht, was sich hinter dem nichtssagenden Firmen­namen verbirgt: Hunderte zumeist junge Angestellte sitzen dort im Schicht­dienst vor ihren Computern und schreiben Tweets und Posts und Kommentare, zunächst auf Russisch, später auch auf Englisch.

Ihre Aufgabe: die Ukraine schlechtreden als Kriegs­treiber, die EU schlechtreden als russophob, aggressiv, von Migranten überschwemmt, all jene schlechtreden, die Russland kritisieren. Andersrum Putin schönreden, die russische Wirtschaft schönreden, die russische Politik schönreden.

2016 mischt sich die IRA in den US-amerikanischen Wahl­kampf ein. Sie tut alles, um die Gesellschaft in ein rechtes und in ein linkes Lager zu spalten. Hetze gegen Hillary Clinton. Jubel für Donald Trump. Die Anklage­schrift einer Grand Jury des Bezirks­gerichts Washington D.C. bezeichnet das später als «Informationskrieg».

Ist die IRA ein Werk­zeug des Kreml? Einen stichhaltigen Beweis dafür gibt es bis heute nicht, doch die Indizien wiegen schwer. Der «Zeit» liegt ein vertraulicher Bericht von deutschen Geheim­diensten von 2016 vor. Darin heisst es, die Internet Research Agency sei «durch Jewgeni Prigoschin, einen Vertrauten Putins» finanziert worden. Prigoschin sei ein Oligarch, der vom Kreml «für die offene und verdeckte Finanzierung von Einfluss­aktivitäten eingesetzt» werde.

Prigoschin trägt in der Presse den Beinamen «Chefkoch», er betreibt ein Restaurant im Moskauer Parlaments­gebäude und erhält regelmässig Staatsaufträge.

Der Kreml bestreitet jegliche Verbindung zur Internet Research Agency. Auch Prigoschin behauptet, nichts mit der Firma zu tun haben. Schnippisch antwortet er auf die Anfrage unserer Signals-Network-Recherche­kooperation: Natürlich habe er die Irish Republican Army gegründet (deren Abkürzung ebenfalls IRA lautet), er habe zudem mit Javier Pérez Dolset fünf Jahre in einem kleinen Haus auf der thailändischen Insel Koh Chang gelebt, sie hätten zusammen Kinder haben wollen, doch das ginge nur in den USA.

Javier Pérez Dolset verfolgt in diesen Jahren die Nachrichten mit wachsendem Entsetzen.

Er wird einen Verdacht nicht los.

Von Spanien nach Russland?

Ist es womöglich «sein» Snap, mit dessen Hilfe die Programmierer der IRA ihrem Werk nachgehen? Es gibt eine dichte Indizien­kette, die das nahelegt. Um das Jahr 2007 herum, die Geschäfte laufen wie geschmiert, expandiert Javier Pérez Dolset nach Russland. 2009 kauft seine Firma ZED Anteile an einem Unternehmen namens Temafon. Im Aktionärs­vertrag steht: «ZED wird sicherstellen, dass alle Mitglieder der ZED-Gruppe alle neuen Produkte und alle neuen Versionen und Updates etc. eines jeden bestehenden oder neuen Produkts den Unternehmen der Gruppe anbieten werden.»

Später erleidet Pérez Dolset Schiff­bruch mit seinen russischen Geschäfts­partnern. Aber das ist eine andere Geschichte. Für Pérez Dolset ist klar: «Snap war da, auf unseren Servern in Madrid, als Quell­code, nutzbar und lesbar. Die Russen hatten Zugriff auf den Server.» Die Temafon-Leute hätten die Soft­ware herunterladen und frei verwenden können.

Und auch zum Kreml-«Chefkoch» gibt es eine Verbindung. Am 16. Dezember 2013 sollen sich Jewgeni Prigoschin und Javier Pérez Dolset in einem Restaurant in Moskau getroffen haben. Pérez Dolset will Prigoschin Snap vorstellen. Und hat womöglich damit, ohne es zu ahnen, dem mutmasslichen Financier der Desinformations­fabrik IRA sein mächtiges Werk­zeug auf dem Silber­tablett serviert.

Pérez Dolset kann Belege für seine Moskau-Reise vorlegen. Dass er sich dort mit Prigoschin getroffen hat, dafür kann er keinen Beweis vorlegen. Er kann nur beteuern, den glatzköpfigen Mann mit der faltigen Stirn und dem skeptischen Blick kennengelernt zu haben. «Ich weiss, dass ich Prigoschin getroffen habe», sagt Pérez Dolset. «Er hat ein Gesicht wie ein Türsteher. Das vergisst man nicht.»

Es ist eine Indizien­kette. Kein Beweis.

Dass die IRA sich für Snap interessiert hätte, ist zumindest wahrscheinlich. Selbst falls die Soft­ware weniger mächtig ist, als Pérez Dolset geltend macht, hätte sie für die Trolle in Sankt Petersburg einen technologischen Sprung bedeutet. «Ich habe immer vermutet, dass die IRA Soft­ware genutzt hat, die von ausserhalb Russlands stammte», sagt Clint Watts, Senior Fellow am Foreign Policy Research Institute und ehemaliger FBI-Ermittler gegenüber der «Zeit». «Zu jener Zeit erweiterte die IRA ihre Kapazitäten signifikant, und es würde Sinn ergeben, dass sie nach fortgeschrittener Software suchten.»

Watts, der im März 2017 auch als Experte vor dem US-amerikanischen Senat zur russischen Einmischung aussagte, berichtet, wie er mit Kollegen das Verhalten von IRA-kontrollierten Twitter-Accounts untersuchte – und eine interessante Beobachtung machte: Die Accounts wurden zwar von realen Personen betrieben, doch sie verhielten sich fast so koordiniert wie computer­generierte User, also Bots. Watts und seine Kollegen nannten sie Cyborgs, der Science-Fiction-Terminus für Wesen, die teils Maschine, teils Mensch sind. Pérez Dolset bestätigt, dass der Snap-Algorithmus ebenfalls solche Muster erzeugt. Clint Watts sagt: «Das erscheint mir konsistent.»

Im Informationskrieg

Trolle und Technologie werden zur gezielten Desinformation eingesetzt. Was können demokratische Staaten tun, um sich gegen Falsch­information und Propaganda, gegen die von Algorithmen gesteuerte Desinformation zu schützen?

Eine Übersicht:

  • Die EU hat 2015 eine Meldestelle für Desinformation eingerichtet, die East Stratcom Task Force. Sie soll russische Propaganda entlarven und vor ihr warnen. Allerdings ist die Melde­stelle winzig und kaum bekannt. Das will Brüssel ändern. Dieses Jahr wurde das Budget aufgestockt, auf 3 Millionen Euro pro Jahr.

  • In Grossbritannien, wo es als sicher gilt, dass Russland in den Brexit-Abstimmungskampf eingegriffen hat, prüfte ein parlamentarischer Ausschuss Massnahmen gegen Desinformation und Fake News. 18 Monate später liegt ihr Bericht vor. Das Fazit: Heute akzeptieren die Menschen Informationen, die sie in ihrer Meinung bestärken, egal wie verzerrt oder ungenau solche sind. Und Inhalte, mit denen sie nicht einverstanden sind, tun sie als Fake News ab; «an dieser Situation wird sich wahrscheinlich nichts ändern», heisst es im Report.

  • In Frankreich verabschiedete das Parlament im Herbst 2018 ein Gesetz gegen die «Manipulation von Information»: Falsch­meldungen, die Wahl­ergebnisse beeinflussen könnten, sollen damit schnell identifiziert und unterdrückt werden.

Und die Schweiz?

Die Schweiz, so scheint es, war bislang nicht im Visier der IRA oder ähnlich operierender Gruppen. Man wolle «aufmerksam beobachten», heisst es auf Anfrage der Republik bei der Bundes­kanzlei. Und weiter: «Bisher haben wir keine Hinweise auf nennenswerte Desinformations­kampagnen in der Schweiz respektive mit Fokus auf die Schweiz ausgemacht.» Ein Grund dafür: Das Wahl­system der Schweiz sei ganz anders als das der meisten anderen westlichen Demokratien, das mache es schwerer, von aussen in Wahl­kämpfe einzugreifen – Stichworte: Konkordanz­system, föderalistische Kompetenz­ordnung, dezentrale Organisation der Wahlen mit zahlreichen, kantonal unterschiedlichen Listen von Parteien und Kandidierenden.

Geheimwaffe Desinformation

Wie gesagt: Die Taktik ist alt. Damals, in der DDR, hiessen die Trolle «Tschekisten». Ihr Job: «aktive Massnahmen». Sie haben ihre Gegner in der Bundes­republik mit gefälschten Dokumenten in die Irre geführt. Sie haben kommunistische Splitter­gruppen finanziert. Sie haben Spione entsandt, bis hinauf ins deutsche Bundeskanzleramt.

Ladislav Bittman, ehemaliger Spion der Tschechoslowakei, hat in seinem Buch «Geheimwaffe D» Einblick gegeben in seine Arbeit: «Ein gewöhnlicher Arbeits­tag in der Desinformations-Fabrik bestand aus Studien, Analysen, Verhandlungen, Versammlungen und dem unvermeidlichen bürokratischen Papier­krieg. Unser Ziel war es, alle Schwächen und verwundbaren Stellen des Feindes herauszufinden, seine Fehler und Nieder­lagen zu analysieren, um sie auf unsere Weise auszubeuten. Die Ausarbeitung von Sonder­operationen könnte mit der ‹Kur­behandlung› eines Arztes verglichen werden, der wohl die richtige Diagnose stellt, den Patienten jedoch so behandelt, dass die Krank­heit fortschreitet und ihn möglichst bald ins Grab befördert.»

Daran hat sich nichts geändert. Und doch hat die Propaganda eine andere Dimension und eine andere Qualität erhalten. Weil heute russische Trolle mutmasslich von spanischen Programmen gesteuert werden, um gegen deutsche, amerikanische und britische Politiker zu Felde zu ziehen.

Wir wollen von Ihnen hören

Gemeinsam mit The Signals Network sucht die Republik Whistleblower aus der Technologie­industrie. Unsere Gebrauchs­anleitung gibt Ihnen Tipps für sichere Kommunikation, sodass Sie sich sicher bei uns melden können.

Lesestoff

Ladislav Bittman (1973): «Geheimwaffe D», erschienen bei SOI Bern.

Günter Bohnsack und Herbert Brehmer (1992): «Auftrag: Irreführung. Wie die Stasi Politik im Westen machte», erschienen bei Carlsen.

Der Bundesbeauftragte für die Unterlagen des Staatssicherheits­dienstes der ehemaligen Deutschen Demokratischen Republik, bearbeitet von Marko Pollack und Doreen Bombitzki (2005): «Vorläufiges Findbuch zur Abteilung X: ‹Internationale Verbindungen› des Ministeriums für Staatssicherheit der DDR».

Hannes Grassegger und Till Krause (2019): «Viren für den Geist», zeitgleich erschienen in den Magazinen des «Tages-Anzeigers» und der «Süddeutschen Zeitung».

Sie haben in diesem Artikel viele Worte gelesen …

… aber die wichtigsten drei fehlten. Seit je beruht jede funktionierende Gemeinschaft auf diesen drei Worten. Liebende sagen sie zueinander. Gute Politiker sagen sie ihren Wählern, gute Priester ihrer Gemeinde, gute Eltern ihrem Kind. Sie lauten: Fürchte dich nicht! – Wir von der Republik glauben, dass auch im Journalismus gilt, was Franklin D. Roosevelt einst zur Politik sagte: «Wir haben nichts zu fürchten als die Furcht selbst.»


Noch nicht überzeugt? Jetzt probelesen

seit 2018