KI-Regulierung: Ein Schweizer als Handlanger der USA?
Verwässert und USA-freundlich: Das KI-Abkommen des Europarats hat nur noch wenig mit europäischen Werten zu tun. NGOs machen dafür auch den Schweizer Verhandlungschef verantwortlich.
Von Adrienne Fichter und Balz Oertli, 06.03.2024
Die Republik ist ein digitales Magazin für Politik, Wirtschaft, Gesellschaft und Kultur – finanziert von seinen Leserinnen. Es ist komplett werbefrei und unabhängig. Lösen Sie jetzt ein Abo oder eine Mitgliedschaft!
Bei Digitalisierungsthemen hinkt die Politik der Realität hinterher. Das zeigt sich nirgends so deutlich wie bei der Gesetzgebung zur künstlichen Intelligenz (KI). Denn die KI ist bereits sehr präsent in unserem beruflichen und privaten Alltag – teils ohne dass wir davon wissen.
Deshalb beschäftigen sich verschiedene internationale Institutionen mit fundamentalen Fragen: Sollen Personalabteilungen künstliche Intelligenz einsetzen, um Bewerbungen einfacher filtern zu können? Wie dürfen Text- und Bildgeneratoren wie Chat GPT oder Dall-E in der Schule oder in einer Anwaltskanzlei eingesetzt werden? Gehört Echtzeit-Gesichtserkennung verboten oder darf die Polizei Ausnahmen vorsehen?
Die EU hat bereits den ersten Schritt gemacht und künstliche Intelligenz im Dezember 2023 umfassend reguliert, und zwar im sogenannten AI Act. Auch eine andere europäische Institution beschäftigt sich mit entsprechenden Regulierungsfragen: der Europarat mit Sitz in Strassburg. Dieser wurde 1949 gegründet mit dem Ziel, Demokratie, Menschenrechte und Rechtsstaatlichkeit in Europa zu stärken. Der Europarat zählt 46 Mitgliedsstaaten, darunter auch die Schweiz (seit 1963).
Auch in Strassburg wird mit Hochdruck an einem entsprechenden KI-Regelwerk gearbeitet, das im Mai 2024 verabschiedet werden soll.
Dass Medien bisher noch kaum über das Abkommen berichtet haben, erstaunt. Denn es geht dabei um nichts weniger als das erste internationale Regelwerk zur künstlichen Intelligenz, das auch ausserhalb von Europa gelten kann. Staaten aus der ganzen Welt können Europaratsabkommen unterzeichnen und durch ihre nationalen Parlamente ratifizieren lassen. Dies ist auch der Grund, warum die USA, Israel, Kanada und Japan mit am Verhandlungstisch sitzen. Zwar ohne Stimmrecht, aber mit Beobachterstatus und Mitspracherecht.
Und dies ist auch der Grund, weshalb gerade hinter den Kulissen erbittert um Geltungsbereich und Formulierungen gerungen wird.
In einem Kampf, den ausgerechnet die Länder gewinnen könnten, die nicht Mitglied des Europarats sind – zugunsten der KI-Industrie und zulasten der Menschenrechte.
Ausgerechnet bei einem Abkommen mit dem Titel «Künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit».
Und ausgerechnet mithilfe der Schweiz.
Ein erfahrener Diplomat
Seit April 2022 hat der Schweizer Thomas Schneider den Vorsitz («Chair») im Europarat-Komitee für künstliche Intelligenz inne. Schneider, 52 Jahre alt, ist Vizedirektor des Bundesamts für Kommunikation und leitet dort die Abteilung International Relations. Der Diplomat arbeitete jahrelang in diversen hochrangigen Positionen im Europarat, bei der Internetorganisation Icann und auch der OECD.
Über sich selbst sagt Schneider: «Ich bin Historiker und Ökonom und würde mich durchaus als Punk bezeichnen, aber definitiv nicht als Anarchist.» Seine umgängliche Art und auch sein musikalisches Talent (er spielt mit seiner Punkband an offiziellen Empfängen) werden auch von seinen Kritikerinnen gelobt.
Seine Wahl für den Vorsitz war praktisch unbestritten. Die Schweiz habe in den letzten Jahren viel Expertise und diplomatisches Fingerspitzengefühl im Europarat bewiesen, sagen verschiedene europäische Teilnehmer gegenüber der Republik. Im Umfeld des Bundes heisst es: Schneider bringe die richtigen Fähigkeiten und viel Erfahrung mit, bewege sich gekonnt auf der internationalen Bühne und habe auch ein Ohr für die Anliegen der Zivilgesellschaft.
Kurz: Schneider war für viele der perfekte Kandidat für einen anspruchsvollen Job: die Leitung bei den Verhandlungen. Ein Job, den er nach «bestem Wissen und Gewissen» versuche auszuführen, wie er selber sagt.
Doch heute – zwei Jahre später – sind besonders zivilgesellschaftliche Verhandlungsteilnehmerinnen unzufrieden mit seiner Arbeit, was auch an den vom KI-Komitee festgelegten Verhandlungsmodi liegt.
Mit wem hat die Republik für diese Recherche gesprochen?
Die Republik hat mit vielen Vertreterinnen der europäischen Zivilgesellschaft gesprochen, darunter Mitglieder von Thinktanks, Non-Profit-Organisationen für digitale Bürgerrechte und wissenschaftlichen Gremien rund um die künstliche Intelligenz. Es fanden auch Gespräche mit Teilnehmerinnen von Delegationen und mit hochrangigen Repräsentanten der Institutionen des Europarats statt, um ein möglichst akkurates Bild der Verhandlungen zu erhalten. Die meisten Gesprächspartnerinnen möchten anonym bleiben – nicht zuletzt deshalb, weil sie wegen laufender Verhandlungen zur Diskretion verpflichtet sind und den aktuellen Stand nicht gefährden möchten.
Zivilgesellschaft ausgeschlossen
Die Staaten debattieren bei der Ausarbeitung der KI-Konvention in der «Drafting Group», der Entwurfsgruppe, hinter verschlossenen Türen. Dabei nehmen die Delegationen der Europaratsmitglieder teil, wie beispielsweise Moldawien, Schweiz oder Schweden, aber auch diejenigen der Beobachterstaaten wie Kanada oder Japan. Nicht staatliche Akteure – also NGOs, Wissenschaft oder Unternehmen – sind bei diesen Sitzungen ausgeschlossen und können sich jeweils in Plenarsitzungen zu den Entwürfen äussern und im Vorfeld auch Änderungsvorschläge einbringen.
Schneider rechtfertigt dieses Vorgehen: «Es braucht einen Vertrauensraum, um Kompromisse eingehen zu können. Sodass die Delegationen ihren Ländern sagen können: Wir haben das Maximum gegeben.»
Anders war das bei einer anderen Digitalvorlage des Europarats, der Datenschutzkonvention 108+. Hier sassen Zivilgesellschaft und Delegationen in einem Raum. Und debattierten direkt miteinander. Der Ausschluss der Zivilgesellschaft aus der Entwurfsgruppe sei bereits eine «Red Flag» gewesen, eine Warnung, sagt Marc Rotenberg vom amerikanischen Centre for AI und Digital Policy, einem Non-Profit-Thinktank, das die Verhandlungen von Anfang begleitete. «Das verhiess nichts Gutes.»
Zu Beginn der Verhandlungen hätten zivilgesellschaftliche Anliegen beim KI-Komitee durchaus Gehör gefunden, bestätigen einige Teilnehmerinnen. Doch der Modus Operandi verunmöglichte es den NGOs, die zwischenstaatlichen Kompromisse im Nachhinein zu korrigieren. Besonders jetzt, wo sich das Abkommen auf der Zielgerade befindet. «Wir sind nur noch hier, um die verhandelten Punkte abzunicken und zu validieren», sagt eine Teilnehmerin.
In erster Linie: ein globales Abkommen
Das jetzige Resultat der Verhandlungen frustriert besonders zivilgesellschaftliche Teilnehmerinnen. Lag der Fokus noch vor zwei Jahren stark auf den Menschenrechten, handelt es sich bei der aktuellen Version der Konvention um ein zahnloses Deklarationspapier, dessen Inhalt der kleinste gemeinsame Nenner ist, wie das Newsportal «Euractiv» enthüllte.
Wichtige Aspekte wie die Auswirkungen von KI-Systemen auf Umwelt und Energie fehlen ganz, auch KI-Systeme im Bereich nationale Sicherheit könnten von der Regulierung ausgenommen werden. Der Tenor mehrerer Teilnehmerinnen lautet: Hier geht es nicht mehr um die Werte des Europarats – also beispielsweise Gleichheit und Nichtdiskriminierung, die in der Menschenrechtskonvention festgeschrieben sind. Und dies, obwohl sich das KI-Komitee selbst in seinem Mandat zu den Prinzipien des Europarats verpflichtete.
Das liegt auch daran, dass das KI-Komitee vor allem eine globale Ausrichtung forciert, wie Schneider auf der Website schreibt: «Wir sind uns alle einig, dass wir ein Instrument entwickeln wollen, das nicht nur für die Staaten in Europa, sondern für möglichst viele Staaten aus allen Regionen der Welt attraktiv ist.»
Der Europarat habe ihm diesen Auftrag erteilt, sagt Schneider. Dieser sei Teil seines Mandats. «Wenn wir einfach die europäische Logik aufzwingen, dann finden andere Staaten: Nein, so was unterzeichnen wir nicht. Es gilt, unterschiedliche Kulturen und Rechtssysteme zu berücksichtigen.»
Aber: Nirgendwo ist festgehalten, dass die KI-Konvention von so vielen Staaten wie möglich unterschrieben werden soll. In der aktuellen Leistungsbeschreibung steht lediglich, das Komitee solle eine «globale Sicht auf das Thema» und einen «inklusiven Verhandlungsprozess mit internationalen Partnern» ermöglichen. Auf Nachfrage weist Schneider darauf hin, dass dies dem klaren Willen der Verhandlungspartner entspreche. Bisher habe niemand seinen Worten auf der Website des KI-Komitees widersprochen.
USA lobbyiert gegen strenge Regeln
Hauptstreitpunkt ist vor allem der Geltungsbereich der KI-Konvention. Das Regelwerk solle gemäss Mandat auch «innovationsfördernd» sein, sagt Schneider. Es sei wichtig, dass diejenigen Nationen mit der grössten KI-Industrie mit an Bord seien. «Sonst bleibt Europa ein ‹geschlossener Club› unter sich.»
Doch gerade die Innovationsförderung sorgt für Spannungen. Ein Vorschlag der USA lautet nämlich: Es sollen keine bindende Richtlinien für den privaten Sektor erlassen werden. Die US-Delegation reagierte damit auf den Druck ihrer KI-Industrie.
In einem offenen Brief an den US-Aussenminister Antony Blinken vom 24. Januar warnten amerikanische Interessenverbände mit eindringlichen Worten: «Wir raten dringend davon ab, verbindliche Normen für die Privatwirtschaft in die Konvention aufzunehmen.» Dies würde die politische und ökonomische Führungsrolle der USA im Bereich künstliche Intelligenz massiv gefährden. Die Verbände begründen dies damit, dass die EU bereits gezielt diskriminierende Gesetze gegen amerikanische Unternehmen wie etwa den Digital Market Act verabschiedet habe.
Die Befürworter dieser Position sind Kanada, Japan und Grossbritannien. Sie argumentieren, dass die Bürgerinnen mit solchen Konventionen traditionell vor staatlichen Eingriffen geschützt werden sollen und nicht vor Privaten.
Eine Argumentation, die nach Sicht der Kritiker überhaupt nicht mehr zeitgemäss ist. «Die grösste Gefahr bei künstlicher Intelligenz geht von privatwirtschaftlichen Unternehmen aus. Genau die müssen mit so einer Konvention adressiert werden», sagt NGO-Vertreter Rotenberg. Ein Ausschluss der Privatwirtschaft würde zum Beispiel auch bedeuten, dass die Verbreitung von Deepfakes und Desinformation keine Konsequenzen für die Betreiberfirmen hätte.
Auch Jan Kleijssen kritisiert diese Einschränkung scharf. Er war jahrzehntelang in hochrangigen Positionen des Europarats tätig und vertritt heute in den Verhandlungen die Organisation Allai, die sich für die Förderung von verantwortungsvoller KI einsetzt. Kleijssen sagt: «Das wäre, als würden wir sagen: Ein AKW von privaten Betreibern regulieren wir nicht. Wir kontrollieren nur die AKWs von Staaten. Das ist doch absurd.»
Öffentlicher Brief für Kurskorrektur
Über 90 NGOs und Wissenschaftlerinnen – darunter auch Algorithmwatch Schweiz und die Digitale Gesellschaft – haben deshalb am Dienstag einen Brief veröffentlicht, um eine Kurskorrektur zu fordern. Unterzeichnet hat den Brief auch Kommunikationsforscher Karsten Donnay von der Universität Zürich, und zwar mit der Begründung: «Entweder regulieren wir das für alle. Oder wir lassen es ganz.» Tarek Naguib von der Schweizer NGO Humanrights.ch begrüsst es zwar, dass die Konvention «nicht exklusiv europäisch» sei, doch er findet auch: «Wenn den Konzernen ein Freipass gegeben wird, dann wird damit das Signal gesendet, dass die Menschenrechte relativiert werden können.» Auch er hat den Appell unterschrieben.
Zwei Optionen liegen nun auf dem Tisch der Entwurfsgruppe: Die eine ist ein befristetes «Opt-out». Das würde bedeuten: Die Konvention gilt sowohl für den öffentlichen als auch für den privaten Sektor. Unterzeichnende Staaten können jedoch den privaten Bereich vorübergehend ausschliessen. Nach ein paar Jahren erfolgt dann eine Bestandesaufnahme. Dafür setzen sich die Zivilgesellschaft und die EU ein.
Die andere Option ist die eines «Opt-in». Das hiesse: Die Europaratskonvention enthält lediglich bindende Regeln für den Staat. Staaten könnten zusätzlich auf Massnahmen für den privaten Sektor hinwirken: «Seek to ensure» nennt sich das. Das ist eine Formulierung, die rechtlich nicht bindend ist und auch nicht bei einem Gericht durchgesetzt werden kann. Die USA lobbyiert massiv für ein «Opt-in» – zur Entrüstung der Zivilgesellschaft.
Es sei ein ganz übles Spiel, das hier gespielt werde, sagt eine Insiderin. «Mit einem ‹Opt-out› müssen sich die USA gezwungenermassen outen und wären die Bad Boys. Und deshalb möchten sie schlechtere Standards für alle unterzeichnenden Staaten.»
Auch die Schweizer Delegation ist in dieser Frage eine Verbündete der USA. Sie votiert gemäss ihrem Verhandlungsmandat ebenfalls für unternehmensfreundliche Positionen.
Kaum Chancen auf Ratifizierung in den USA
Sollte sich «Opt-in» in der letzten Verhandlungsrunde vom 11. März durchsetzen, hätte der wirtschaftsfreundliche Block rund um die USA gewonnen. Und die Schweiz könnte die KI-Konvention mit einer Ratifizierung durch die USA als grossen diplomatischen Erfolg verkaufen.
Doch es ist gut möglich, dass der Vorsitz sich hier massiv verspekuliert hat. Die Chancen für eine Ratifizierung durch die USA sind ausgesprochen tief. Es gilt, dafür zwei hohe Hürden zu bewältigen: eine Zweitdrittel-Mehrheit im US-Senat und die Unterzeichnung durch den Präsidenten. Amerikanische Juristinnen sind sich weitgehend einig: Es ist sehr unwahrscheinlich, dass das US-Parlament diese Konvention jemals annehmen wird.
Historisch betrachtet existiert ein regelrechter «Friedhof» an internationalen Regelwerken, die von der US-Regierung unterzeichnet, jedoch nie verabschiedet worden sind vom Parlament. Prominente Beispiele sind etwa das Abkommen gegen die Diskriminierung von Frauen oder das Anti-Atomwaffen-Abkommen.
Ein weiterer Unsicherheitsfaktor sind die US-Präsidentschaftswahlen im Herbst. Die Chance, dass ein Präsident Donald Trump ein Abkommen unterzeichnen würde, tendiert gegen null.
Die USA hat bisher lediglich eine einzige Europaratskonvention unterzeichnet und ratifiziert: die Budapest Convention on Cybercrime von 2001. Ein Erfolg, den Thomas Schneider wiederholen will, wie er in einer offiziellen Rede sagte. «So kann der Europarat einen Beitrag zur regelbasierten Weltordnung leisten», ergänzt der Vorsitzende des KI-Komitees.
Der Amerikaner und Europaratskenner Rotenberg kritisiert das scharf. «Ich kenne Thomas Schneider und halte sehr viel von ihm», sagt er. «Doch mit diesem Effort für die USA besteht die reale Gefahr, dass das Komitee einen kolossalen Fehler begeht.»
Nicht neutral
Pokert der Schweizer Diplomat also zu hoch? Schneider antwortet ausweichend: «Ich weiss nicht, ob die Vereinigten Staaten die Konvention unterzeichnen werden. Es hätte auf jeden Fall Signalwirkung. Und für andere Staaten war wichtig, dass die USA mit von der Partie ist.»
Nicht alle glauben indes, dass der Schweizer Vorsitzende die Verhandlungen neutral geführt hat, wie das Medienportal «Euractiv» schreibt: «Quellen bestätigten, dass der Vorsitz und das Sekretariat des Europarats während der gesamten Verhandlungen nicht neutral gewesen waren und stattdessen den Argumenten der USA und anderer Beobachterländer Vorschub leisteten, während sie widersprechende Argumente beiseiteschoben.»
Ein Vorwurf, den Schneider unfair findet: «Mir wird von allen Seiten vorgeworfen, ich berücksichtige ihre Position zu wenig.» Er sei ein Moderator und ein Dienstleister, er dürfe gar keine inhaltliche Meinung haben. «Ich nehme im Zweifelsfall lieber ein Änderungsvorschlag zu viel in ein Paper rein, obwohl ich weiss, dass es dafür keine Mehrheiten geben wird.» Er sei überzeugt: Man müsse immer mit allen reden und alle anhören.
Es gibt aber durchaus auch Stimmen, die Schneider verteidigen. So funktioniere nun mal Diplomatie, heisst es von einigen Delegationen. Schneiders Job sei «tough» und die globale Ausrichtung richtig. Europaratskonventionen seien von Natur aus abstrakt, die Umsetzung obliege immer den Staaten, es brauche Spielräume für deren Rechtsordnungen. «Realitätssinn ist hier wichtig, und das bringt das KI-Komitee mit», sagt ein Teilnehmer.
«Euractiv» warf zuletzt die These auf, dass sich die Schweiz mit einem diplomatischen Coup bessere Chancen auf den Posten des Generalsekretärs im Europarat ausrechne. Dafür bewirbt sich nämlich der zurückgetretene Bundesrat Alain Berset. Der ehemalige SP-Magistrat wollte sich auf Anfrage der Republik nicht zu seiner Kandidatur äussern. Auch Schneider hält nicht viel von solchen Gerüchten: «Ich habe während der letzten 13 Jahre zwei- bis dreimal mit Herrn Berset gesprochen. Er wird sich wohl nicht einmal mehr an mein Gesicht erinnern können.»
EU ist Verbündeter der Zivilgesellschaft
Den Gegenpol zur USA bildet zurzeit die EU. Sie tritt im Namen aller 27 Mitgliedsstaaten auf. Und der EU-Vertreter kritisiert ebenfalls die Haltung der USA, wie ein geleaktes Memo zeigt: «Dadurch wird […] die falsche politische Botschaft vermittelt, dass die Menschenrechte im privaten Bereich nicht den gleichen Schutz verdienen.»
Doch Brüssel verfolgt mit diesem beherzten Votum für die Menschenrechte durchaus auch eigene politische Interessen. Die Position ist klar: Eine Europaratskonvention soll maximale Kompatibilität mit dem AI Act der EU aufweisen. Das EU-Regelwerk ist nämlich für die Privatwirtschaft konzipiert, es soll mit verbindlichen Regeln Rechtssicherheit für Unternehmen schaffen.
Die EU hofft damit auf einen noch stärkeren «Brussels Effect»: Darunter sind EU-Gesetze wie die Datenschutzgrundverordnung mit extraterritorialer Wirkung zu verstehen, weil Konzerne wie Meta, Google und Apple sie erfüllen müssen, um in Europa weiterhin tätig sein zu können. Eine KI-Konvention des Europarats müsse daher zwingend auch für den privaten Sektor gelten.
Nun soll es schnell gehen: Die letzte Verhandlungsrunde zur Ausarbeitung der KI-Konvention beginnt am 11. März und soll vier Tage dauern. Nach dem Fahrplan des Komitees sollte das Ministerkomitee – also die Aussenministerinnen aller Mitgliedsstaaten – die Konvention bereits im Mai unterzeichnen, zum 75. Geburtstag des Europarats und der Europäischen Menschenrechtskonvention.
Lehrstück über Idealismus und Pragmatismus
Sollte das KI-Komitee zwischen dem USA-Lager und der EU keine Einigung erzielen können, müsste im schlimmsten Fall das Ministerkomitee über die Privatsektor-Frage befinden. Ein Ergebnis, das sich niemand wünscht und das auch ein Präzedenzfall wäre. Denn dieses Organ verhandelt eigentlich keine Grundsatzfragen mehr.
Das KI-Komitee hat deshalb alle Teilnehmerinnen aufgefordert, noch keine Rückreise aus Strassburg zu buchen. Ein Verhandlungsmarathon wie in Brüssel beim AI Act ist nicht ausgeschlossen. Der zeitliche Druck sorgt für absolutes Unverständnis bei den NGO-Vertreterinnen. «Warum diese Eile, damit man irgendwas vorweisen kann zum Jubiläum im Mai? Und dann noch mit einer Konvention, die die Prinzipien der EMRK missachtet?», sagt eine Vertreterin einer grossen europäischen NGO.
Ein anderer Diplomat findet hingegen: «Besser ein schlechtes Resultat als gar keines. Wir können nicht länger warten bei diesem Thema.»
Klar ist, dass das Verhandlungsdrama rund um die KI-Konvention vor allem eins ist: ein Lehrstück über Idealismus und Pragmatismus in der europäischen Diplomatie.
Balz Oertli ist Journalist beim WAV Recherchekollektiv, einem unabhängigen Recherchekollektiv aus Zürich.