KI-Regulierung: Ein Schweizer als Hand­langer der USA?

Verwässert und USA-freundlich: Das KI-Abkommen des Europarats hat nur noch wenig mit europäischen Werten zu tun. NGOs machen dafür auch den Schweizer Verhandlungs­chef verantwortlich.

Von Adrienne Fichter und Balz Oertli, 06.03.2024

Vorgelesen von Jonas Rüegg Caputo
0:00 / 20:48

Bei Digitalisierungsthemen hinkt die Politik der Realität hinterher. Das zeigt sich nirgends so deutlich wie bei der Gesetz­gebung zur künstlichen Intelligenz (KI). Denn die KI ist bereits sehr präsent in unserem beruflichen und privaten Alltag – teils ohne dass wir davon wissen.

Deshalb beschäftigen sich verschiedene internationale Institutionen mit fundamentalen Fragen: Sollen Personal­abteilungen künstliche Intelligenz einsetzen, um Bewerbungen einfacher filtern zu können? Wie dürfen Text- und Bild­generatoren wie Chat GPT oder Dall-E in der Schule oder in einer Anwalts­kanzlei eingesetzt werden? Gehört Echtzeit-Gesichts­erkennung verboten oder darf die Polizei Ausnahmen vorsehen?

Die EU hat bereits den ersten Schritt gemacht und künstliche Intelligenz im Dezember 2023 umfassend reguliert, und zwar im sogenannten AI Act. Auch eine andere europäische Institution beschäftigt sich mit entsprechenden Regulierungs­fragen: der Europarat mit Sitz in Strassburg. Dieser wurde 1949 gegründet mit dem Ziel, Demokratie, Menschen­rechte und Rechts­staatlichkeit in Europa zu stärken. Der Europarat zählt 46 Mitglieds­staaten, darunter auch die Schweiz (seit 1963).

Auch in Strassburg wird mit Hochdruck an einem entsprechenden KI-Regel­werk gearbeitet, das im Mai 2024 verabschiedet werden soll.

Dass Medien bisher noch kaum über das Abkommen berichtet haben, erstaunt. Denn es geht dabei um nichts weniger als das erste internationale Regelwerk zur künstlichen Intelligenz, das auch ausserhalb von Europa gelten kann. Staaten aus der ganzen Welt können Europarats­abkommen unterzeichnen und durch ihre nationalen Parlamente ratifizieren lassen. Dies ist auch der Grund, warum die USA, Israel, Kanada und Japan mit am Verhandlungs­tisch sitzen. Zwar ohne Stimmrecht, aber mit Beobachter­status und Mitsprache­recht.

Und dies ist auch der Grund, weshalb gerade hinter den Kulissen erbittert um Geltungs­bereich und Formulierungen gerungen wird.

In einem Kampf, den ausgerechnet die Länder gewinnen könnten, die nicht Mitglied des Europarats sind – zugunsten der KI-Industrie und zulasten der Menschen­rechte.

Ausgerechnet bei einem Abkommen mit dem Titel «Künstliche Intelligenz, Menschen­rechte, Demokratie und Rechts­staatlichkeit».

Und ausgerechnet mithilfe der Schweiz.

Ein erfahrener Diplomat

Seit April 2022 hat der Schweizer Thomas Schneider den Vorsitz («Chair») im Europarat-Komitee für künstliche Intelligenz inne. Schneider, 52 Jahre alt, ist Vizedirektor des Bundesamts für Kommunikation und leitet dort die Abteilung International Relations. Der Diplomat arbeitete jahrelang in diversen hochrangigen Positionen im Europarat, bei der Internet­organisation Icann und auch der OECD.

Über sich selbst sagt Schneider: «Ich bin Historiker und Ökonom und würde mich durchaus als Punk bezeichnen, aber definitiv nicht als Anarchist.» Seine umgängliche Art und auch sein musikalisches Talent (er spielt mit seiner Punk­band an offiziellen Empfängen) werden auch von seinen Kritikerinnen gelobt.

Seine Wahl für den Vorsitz war praktisch unbestritten. Die Schweiz habe in den letzten Jahren viel Expertise und diplomatisches Fingerspitzen­gefühl im Europarat bewiesen, sagen verschiedene europäische Teilnehmer gegenüber der Republik. Im Umfeld des Bundes heisst es: Schneider bringe die richtigen Fähigkeiten und viel Erfahrung mit, bewege sich gekonnt auf der internationalen Bühne und habe auch ein Ohr für die Anliegen der Zivilgesellschaft.

Kurz: Schneider war für viele der perfekte Kandidat für einen anspruchs­vollen Job: die Leitung bei den Verhandlungen. Ein Job, den er nach «bestem Wissen und Gewissen» versuche auszuführen, wie er selber sagt.

Doch heute – zwei Jahre später – sind besonders zivil­gesellschaftliche Verhandlungs­teilnehmerinnen unzufrieden mit seiner Arbeit, was auch an den vom KI-Komitee festgelegten Verhandlungs­modi liegt.

Mit wem hat die Republik für diese Recherche gesprochen?

Die Republik hat mit vielen Vertreterinnen der europäischen Zivil­gesellschaft gesprochen, darunter Mitglieder von Thinktanks, Non-Profit-Organisationen für digitale Bürger­rechte und wissenschaftlichen Gremien rund um die künstliche Intelligenz. Es fanden auch Gespräche mit Teilnehmerinnen von Delegationen und mit hochrangigen Repräsentanten der Institutionen des Europarats statt, um ein möglichst akkurates Bild der Verhandlungen zu erhalten. Die meisten Gesprächs­partnerinnen möchten anonym bleiben – nicht zuletzt deshalb, weil sie wegen laufender Verhandlungen zur Diskretion verpflichtet sind und den aktuellen Stand nicht gefährden möchten.

Zivilgesellschaft ausgeschlossen

Die Staaten debattieren bei der Ausarbeitung der KI-Konvention in der «Drafting Group», der Entwurfsgruppe, hinter verschlossenen Türen. Dabei nehmen die Delegationen der Europarats­mitglieder teil, wie beispielsweise Moldawien, Schweiz oder Schweden, aber auch diejenigen der Beobachter­staaten wie Kanada oder Japan. Nicht staatliche Akteure – also NGOs, Wissenschaft oder Unternehmen – sind bei diesen Sitzungen ausgeschlossen und können sich jeweils in Plenar­sitzungen zu den Entwürfen äussern und im Vorfeld auch Änderungs­vorschläge einbringen.

Schneider rechtfertigt dieses Vorgehen: «Es braucht einen Vertrauens­raum, um Kompromisse eingehen zu können. Sodass die Delegationen ihren Ländern sagen können: Wir haben das Maximum gegeben.»

Anders war das bei einer anderen Digital­vorlage des Europarats, der Datenschutz­konvention 108+. Hier sassen Zivilgesellschaft und Delegationen in einem Raum. Und debattierten direkt miteinander. Der Ausschluss der Zivil­gesellschaft aus der Entwurfs­gruppe sei bereits eine «Red Flag» gewesen, eine Warnung, sagt Marc Rotenberg vom amerikanischen Centre for AI und Digital Policy, einem Non-Profit-Thinktank, das die Verhandlungen von Anfang begleitete. «Das verhiess nichts Gutes.»

Zu Beginn der Verhandlungen hätten zivil­gesellschaftliche Anliegen beim KI-Komitee durchaus Gehör gefunden, bestätigen einige Teilnehmerinnen. Doch der Modus Operandi verunmöglichte es den NGOs, die zwischen­staatlichen Kompromisse im Nachhinein zu korrigieren. Besonders jetzt, wo sich das Abkommen auf der Ziel­gerade befindet. «Wir sind nur noch hier, um die verhandelten Punkte abzunicken und zu validieren», sagt eine Teilnehmerin.

In erster Linie: ein globales Abkommen

Das jetzige Resultat der Verhandlungen frustriert besonders zivil­gesellschaftliche Teilnehmerinnen. Lag der Fokus noch vor zwei Jahren stark auf den Menschen­rechten, handelt es sich bei der aktuellen Version der Konvention um ein zahnloses Deklarations­papier, dessen Inhalt der kleinste gemeinsame Nenner ist, wie das Newsportal «Euractiv» enthüllte.

Wichtige Aspekte wie die Auswirkungen von KI-Systemen auf Umwelt und Energie fehlen ganz, auch KI-Systeme im Bereich nationale Sicherheit könnten von der Regulierung ausgenommen werden. Der Tenor mehrerer Teilnehmerinnen lautet: Hier geht es nicht mehr um die Werte des Europarats – also beispiels­weise Gleichheit und Nicht­diskriminierung, die in der Menschenrechts­konvention festgeschrieben sind. Und dies, obwohl sich das KI-Komitee selbst in seinem Mandat zu den Prinzipien des Europarats verpflichtete.

Das liegt auch daran, dass das KI-Komitee vor allem eine globale Ausrichtung forciert, wie Schneider auf der Website schreibt: «Wir sind uns alle einig, dass wir ein Instrument entwickeln wollen, das nicht nur für die Staaten in Europa, sondern für möglichst viele Staaten aus allen Regionen der Welt attraktiv ist.»

Der Europarat habe ihm diesen Auftrag erteilt, sagt Schneider. Dieser sei Teil seines Mandats. «Wenn wir einfach die europäische Logik aufzwingen, dann finden andere Staaten: Nein, so was unterzeichnen wir nicht. Es gilt, unter­schiedliche Kulturen und Rechts­systeme zu berücksichtigen.»

Aber: Nirgendwo ist festgehalten, dass die KI-Konvention von so vielen Staaten wie möglich unter­schrieben werden soll. In der aktuellen Leistungsbeschreibung steht lediglich, das Komitee solle eine «globale Sicht auf das Thema» und einen «inklusiven Verhandlungs­prozess mit internationalen Partnern» ermöglichen. Auf Nachfrage weist Schneider darauf hin, dass dies dem klaren Willen der Verhandlungs­partner entspreche. Bisher habe niemand seinen Worten auf der Website des KI-Komitees widersprochen.

USA lobbyiert gegen strenge Regeln

Hauptstreitpunkt ist vor allem der Geltungs­bereich der KI-Konvention. Das Regelwerk solle gemäss Mandat auch «innovations­fördernd» sein, sagt Schneider. Es sei wichtig, dass diejenigen Nationen mit der grössten KI-Industrie mit an Bord seien. «Sonst bleibt Europa ein ‹geschlossener Club› unter sich.»

Doch gerade die Innovations­förderung sorgt für Spannungen. Ein Vorschlag der USA lautet nämlich: Es sollen keine bindende Richtlinien für den privaten Sektor erlassen werden. Die US-Delegation reagierte damit auf den Druck ihrer KI-Industrie.

In einem offenen Brief an den US-Aussen­minister Antony Blinken vom 24. Januar warnten amerikanische Interessen­verbände mit eindringlichen Worten: «Wir raten dringend davon ab, verbindliche Normen für die Privatwirtschaft in die Konvention aufzunehmen.» Dies würde die politische und ökonomische Führungsrolle der USA im Bereich künstliche Intelligenz massiv gefährden. Die Verbände begründen dies damit, dass die EU bereits gezielt diskriminierende Gesetze gegen amerikanische Unternehmen wie etwa den Digital Market Act verabschiedet habe.

Die Befürworter dieser Position sind Kanada, Japan und Grossbritannien. Sie argumentieren, dass die Bürgerinnen mit solchen Konventionen traditionell vor staatlichen Eingriffen geschützt werden sollen und nicht vor Privaten.

Eine Argumentation, die nach Sicht der Kritiker überhaupt nicht mehr zeitgemäss ist. «Die grösste Gefahr bei künstlicher Intelligenz geht von privat­wirtschaftlichen Unternehmen aus. Genau die müssen mit so einer Konvention adressiert werden», sagt NGO-Vertreter Rotenberg. Ein Ausschluss der Privat­wirtschaft würde zum Beispiel auch bedeuten, dass die Verbreitung von Deep­fakes und Desinformation keine Konsequenzen für die Betreiber­firmen hätte.

Auch Jan Kleijssen kritisiert diese Einschränkung scharf. Er war jahrzehnte­lang in hoch­rangigen Positionen des Europarats tätig und vertritt heute in den Verhandlungen die Organisation Allai, die sich für die Förderung von verantwortungs­voller KI einsetzt. Kleijssen sagt: «Das wäre, als würden wir sagen: Ein AKW von privaten Betreibern regulieren wir nicht. Wir kontrollieren nur die AKWs von Staaten. Das ist doch absurd.»

Öffentlicher Brief für Kurskorrektur

Über 90 NGOs und Wissenschaftlerinnen – darunter auch Algorithmwatch Schweiz und die Digitale Gesellschaft – haben deshalb am Dienstag einen Brief veröffentlicht, um eine Kurs­korrektur zu fordern. Unterzeichnet hat den Brief auch Kommunikations­forscher Karsten Donnay von der Universität Zürich, und zwar mit der Begründung: «Entweder regulieren wir das für alle. Oder wir lassen es ganz.» Tarek Naguib von der Schweizer NGO Humanrights.ch begrüsst es zwar, dass die Konvention «nicht exklusiv europäisch» sei, doch er findet auch: «Wenn den Konzernen ein Freipass gegeben wird, dann wird damit das Signal gesendet, dass die Menschen­rechte relativiert werden können.» Auch er hat den Appell unterschrieben.

Zwei Optionen liegen nun auf dem Tisch der Entwurfs­gruppe: Die eine ist ein befristetes «Opt-out». Das würde bedeuten: Die Konvention gilt sowohl für den öffentlichen als auch für den privaten Sektor. Unterzeichnende Staaten können jedoch den privaten Bereich vorübergehend ausschliessen. Nach ein paar Jahren erfolgt dann eine Bestandes­aufnahme. Dafür setzen sich die Zivil­gesellschaft und die EU ein.

Die andere Option ist die eines «Opt-in». Das hiesse: Die Europarats­konvention enthält lediglich bindende Regeln für den Staat. Staaten könnten zusätzlich auf Massnahmen für den privaten Sektor hinwirken: «Seek to ensure» nennt sich das. Das ist eine Formulierung, die rechtlich nicht bindend ist und auch nicht bei einem Gericht durch­gesetzt werden kann. Die USA lobbyiert massiv für ein «Opt-in» – zur Entrüstung der Zivilgesellschaft.

Es sei ein ganz übles Spiel, das hier gespielt werde, sagt eine Insiderin. «Mit einem ‹Opt-out› müssen sich die USA gezwungener­massen outen und wären die Bad Boys. Und deshalb möchten sie schlechtere Standards für alle unter­zeichnenden Staaten.»

Auch die Schweizer Delegation ist in dieser Frage eine Verbündete der USA. Sie votiert gemäss ihrem Verhandlungs­mandat ebenfalls für unternehmens­freundliche Positionen.

Kaum Chancen auf Ratifizierung in den USA

Sollte sich «Opt-in» in der letzten Verhandlungs­runde vom 11. März durchsetzen, hätte der wirtschafts­freundliche Block rund um die USA gewonnen. Und die Schweiz könnte die KI-Konvention mit einer Ratifizierung durch die USA als grossen diplomatischen Erfolg verkaufen.

Doch es ist gut möglich, dass der Vorsitz sich hier massiv verspekuliert hat. Die Chancen für eine Ratifizierung durch die USA sind ausgesprochen tief. Es gilt, dafür zwei hohe Hürden zu bewältigen: eine Zweitdrittel-Mehrheit im US-Senat und die Unterzeichnung durch den Präsidenten. Amerikanische Juristinnen sind sich weitgehend einig: Es ist sehr unwahrscheinlich, dass das US-Parlament diese Konvention jemals annehmen wird.

Historisch betrachtet existiert ein regelrechter «Friedhof» an internationalen Regelwerken, die von der US-Regierung unterzeichnet, jedoch nie verabschiedet worden sind vom Parlament. Prominente Beispiele sind etwa das Abkommen gegen die Diskriminierung von Frauen oder das Anti­-Atomwaffen-Abkommen.

Ein weiterer Unsicherheits­faktor sind die US-Präsidentschafts­wahlen im Herbst. Die Chance, dass ein Präsident Donald Trump ein Abkommen unterzeichnen würde, tendiert gegen null.

Die USA hat bisher lediglich eine einzige Europarats­konvention unterzeichnet und ratifiziert: die Budapest Convention on Cybercrime von 2001. Ein Erfolg, den Thomas Schneider wiederholen will, wie er in einer offiziellen Rede sagte. «So kann der Europarat einen Beitrag zur regel­basierten Welt­ordnung leisten», ergänzt der Vorsitzende des KI-Komitees.

Der Amerikaner und Europarats­kenner Rotenberg kritisiert das scharf. «Ich kenne Thomas Schneider und halte sehr viel von ihm», sagt er. «Doch mit diesem Effort für die USA besteht die reale Gefahr, dass das Komitee einen kolossalen Fehler begeht.»

Nicht neutral

Pokert der Schweizer Diplomat also zu hoch? Schneider antwortet ausweichend: «Ich weiss nicht, ob die Vereinigten Staaten die Konvention unterzeichnen werden. Es hätte auf jeden Fall Signal­wirkung. Und für andere Staaten war wichtig, dass die USA mit von der Partie ist.»

Nicht alle glauben indes, dass der Schweizer Vorsitzende die Verhandlungen neutral geführt hat, wie das Medienportal «Euractiv» schreibt: «Quellen bestätigten, dass der Vorsitz und das Sekretariat des Europarats während der gesamten Verhandlungen nicht neutral gewesen waren und stattdessen den Argumenten der USA und anderer Beobachter­länder Vorschub leisteten, während sie wider­sprechende Argumente beiseiteschoben.»

Ein Vorwurf, den Schneider unfair findet: «Mir wird von allen Seiten vorgeworfen, ich berücksichtige ihre Position zu wenig.» Er sei ein Moderator und ein Dienstleister, er dürfe gar keine inhaltliche Meinung haben. «Ich nehme im Zweifelsfall lieber ein Änderungs­vorschlag zu viel in ein Paper rein, obwohl ich weiss, dass es dafür keine Mehrheiten geben wird.» Er sei überzeugt: Man müsse immer mit allen reden und alle anhören.

Es gibt aber durchaus auch Stimmen, die Schneider verteidigen. So funktioniere nun mal Diplomatie, heisst es von einigen Delegationen. Schneiders Job sei «tough» und die globale Ausrichtung richtig. Europarats­konventionen seien von Natur aus abstrakt, die Umsetzung obliege immer den Staaten, es brauche Spielräume für deren Rechts­ordnungen. «Realitätssinn ist hier wichtig, und das bringt das KI-Komitee mit», sagt ein Teilnehmer.

«Euractiv» warf zuletzt die These auf, dass sich die Schweiz mit einem diplomatischen Coup bessere Chancen auf den Posten des General­sekretärs im Europarat ausrechne. Dafür bewirbt sich nämlich der zurückgetretene Bundesrat Alain Berset. Der ehemalige SP-Magistrat wollte sich auf Anfrage der Republik nicht zu seiner Kandidatur äussern. Auch Schneider hält nicht viel von solchen Gerüchten: «Ich habe während der letzten 13 Jahre zwei- bis dreimal mit Herrn Berset gesprochen. Er wird sich wohl nicht einmal mehr an mein Gesicht erinnern können.»

EU ist Verbündeter der Zivilgesellschaft

Den Gegenpol zur USA bildet zurzeit die EU. Sie tritt im Namen aller 27 Mitglieds­staaten auf. Und der EU-Vertreter kritisiert ebenfalls die Haltung der USA, wie ein geleaktes Memo zeigt: «Dadurch wird […] die falsche politische Botschaft vermittelt, dass die Menschen­rechte im privaten Bereich nicht den gleichen Schutz verdienen.»

Doch Brüssel verfolgt mit diesem beherzten Votum für die Menschen­rechte durchaus auch eigene politische Interessen. Die Position ist klar: Eine Europarats­konvention soll maximale Kompatibilität mit dem AI Act der EU aufweisen. Das EU-Regelwerk ist nämlich für die Privat­wirtschaft konzipiert, es soll mit verbindlichen Regeln Rechts­sicherheit für Unternehmen schaffen.

Die EU hofft damit auf einen noch stärkeren «Brussels Effect»: Darunter sind EU-Gesetze wie die Datenschutz­grundverordnung mit extra­territorialer Wirkung zu verstehen, weil Konzerne wie Meta, Google und Apple sie erfüllen müssen, um in Europa weiterhin tätig sein zu können. Eine KI-Konvention des Europarats müsse daher zwingend auch für den privaten Sektor gelten.

Nun soll es schnell gehen: Die letzte Verhandlungs­runde zur Ausarbeitung der KI-Konvention beginnt am 11. März und soll vier Tage dauern. Nach dem Fahrplan des Komitees sollte das Minister­komitee – also die Aussen­ministerinnen aller Mitglieds­staaten – die Konvention bereits im Mai unterzeichnen, zum 75. Geburtstag des Europarats und der Europäischen Menschenrechts­konvention.

Lehrstück über Idealismus und Pragmatismus

Sollte das KI-Komitee zwischen dem USA-Lager und der EU keine Einigung erzielen können, müsste im schlimmsten Fall das Minister­komitee über die Privatsektor-Frage befinden. Ein Ergebnis, das sich niemand wünscht und das auch ein Präzedenz­fall wäre. Denn dieses Organ verhandelt eigentlich keine Grundsatz­fragen mehr.

Das KI-Komitee hat deshalb alle Teilnehmerinnen aufgefordert, noch keine Rückreise aus Strassburg zu buchen. Ein Verhandlungs­marathon wie in Brüssel beim AI Act ist nicht ausgeschlossen. Der zeitliche Druck sorgt für absolutes Unverständnis bei den NGO-Vertreterinnen. «Warum diese Eile, damit man irgendwas vorweisen kann zum Jubiläum im Mai? Und dann noch mit einer Konvention, die die Prinzipien der EMRK missachtet?», sagt eine Vertreterin einer grossen europäischen NGO.

Ein anderer Diplomat findet hingegen: «Besser ein schlechtes Resultat als gar keines. Wir können nicht länger warten bei diesem Thema.»

Klar ist, dass das Verhandlungs­drama rund um die KI-Konvention vor allem eins ist: ein Lehrstück über Idealismus und Pragmatismus in der europäischen Diplomatie.

Zum Co-Autor

Balz Oertli ist Journalist beim WAV Recherche­kollektiv, einem unabhängigen Recherche­kollektiv aus Zürich.