Wie soll künstliche Intelligenz reguliert werden?

2022 gilt als Jahr des Durchbruchs für die künstliche Intelligenz (KI). Oder genauer: als Jahr des Durchbruchs von Algorithmen, die mittels Muster­analyse von Daten die Leistungen von menschlicher Intelligenz imitieren können. Der Nutzen von KI ist im beruflichen und privaten Alltag vieler Menschen angekommen. Innert Sekunden kreieren öffentlich zugängliche Tools wie Chat GPT, Midjourney oder Soundraw Texte, Bilder oder Musik­stücke. Sie werden zum Lernen benutzt, erleichtern Arbeits­prozesse, generieren Kunst.

Doch nach der anfänglichen Euphorie über die neue Technologie drängen sich immer mehr gesellschaftliche und politische Fragen auf. Wie gefährlich sind intelligente Chatbots für die Demokratie, wenn damit fast ohne Aufwand Propaganda in unbegrenzten Mengen getextet werden kann? Was ist mit Urheber­rechten, was mit dem Daten­schutz? Wie sollen Diskriminierungen von älteren oder weiblichen Arbeits­suchenden verhindert werden, wenn eine künstliche Intelligenz mit Bias in Rekrutierungs­prozessen eingesetzt wird? Und wie kann man sich gegen KI-Entscheidungen zur Wehr setzen, zum Beispiel bei der Vergabe von Krediten einer Bank?

Solche Fragen beschäftigen derzeit internationale Institutionen wie die Organisation für wirtschaftliche Zusammen­arbeit und Entwicklung (OECD) oder die Europäische Kommission. Auch der Europarat in Strassburg berät diese Woche eine Konvention mit dem Titel «On Artificial Intelligence, Human Rights, Democracy and the Rule of Law». Verhandelt wird da zum Beispiel, ob KI-Anwendungen nachvollziehbar sein müssen bei dem, was sie berechnen. Und wenn ja, nach welchen Prinzipien das zu geschehen hat.

Die Konvention soll das weltweit erste verbindliche supra­nationale Regelwerk zu KI werden.

Auch die Schweiz bringt sich in diese Verhandlungen ein. Recherchen der Republik zeigen jetzt erstmals auf, welche Position die Schweizer Delegation vertritt – und wieso die Haltung der Schweiz bei zivil­gesellschaftlichen Organisationen wie Algorithm Watch Kritik, ja Empörung auslöst.

Bloss kein regulatorischer Eifer

Um zu verstehen, wie die Schweiz agiert, in welchem Spannungs­feld sie sich bewegt und woran sich Kritikerinnen stören, muss man sich vor Augen führen, wie sich das Land grund­sätzlich in digitalen Fragen positioniert.

Traditionell verhält sich die Schweiz bei Internet-Regulierungen zurück­haltend. Das heisst: «aufmerksame Beobachtung» und «kein Hyper­aktivismus». Mit diesen Worten umschreibt das Bundesamt für Kommunikation (Bakom) die Schweizer Haltung in einer internen Präsentation, die der Republik vorliegt.

Der liberale Kurs der Schweiz zeigt sich etwa beim autonomen Nachvollzug von EU-Gesetzen. Das neue Schweizer Datenschutz­gesetz zum Beispiel lehnt sich zwar an die Datenschutz-Grund­verordnung (DSGVO) der Europäischen Union an, ist vom Parlament aber in vielen Punkten abgeschwächt worden. So werden Strafen bei Verstössen nicht gegen Unter­nehmen, sondern bloss gegen Einzel­personen ausgesprochen.

Auch das europäische «Gesetz zu digitalen Diensten» (DSA), das Kommunikations­plattformen im Hinblick auf die Unter­bindung von Hass­reden, die Forschungs­freiheit und Nutzer­rechte reglementieren will, dürfte von der Schweiz nur abgeschwächt übernommen werden. Am 5. April gab der Bundesrat bekannt, dass eine Vernehmlassungs­vorlage ausgearbeitet werde. Auf wesentliche Punkte des DSA – wie etwa den freien Zugang zu Daten für die Forschung – ist allerdings von Anfang an verzichtet worden. Die Abschwächung hängt auch zusammen mit dem starken Lobbying von Google in Bern.

Beim Thema KI jedoch ist die Schweiz mit ihrer liberalen Haltung immer stärker unter Zugzwang geraten.

Die EU und der «AI Act»

Anfang 2022 antwortete der Bundesrat auf einen Vorstoss der Zürcher SP-Nationalrätin Min Li Marti, es brauche kein Gesetz zur künstlichen Intelligenz. Gleichzeitig war sich die Regierung aber bewusst, dass eine zu grosse Diskrepanz zwischen inländischen und ausländischen KI-Regeln zu einer Rechts­unsicherheit für Schweizer Unter­nehmen führen würde.

Tatsächlich besteht zwischen der Schweiz und der Europäischen Union in Sachen KI-Normen ein «Spannungs­verhältnis», wie es das Departement für auswärtige Angelegenheiten (EDA) in seinem Bericht «Künstliche Intelligenz und internationales Regelwerk» vom April 2022 schreibt.

Kommt dazu: Die EU berät derzeit ein Gesetz, das rechtliche Fragen rund um KI regeln soll. Der «AI Act» wird auch Folgen für die Schweiz haben, weil der Daten­verkehr bekanntlich nicht an der Landes­grenze aufhört. Es gelte das «Marktort­prinzip», sagt Rechts­professorin Nadja Braun Binder von der Universität Basel dazu. Das heisst: Nicht nur der Hauptsitz eines Unternehmens ist massgebend für die Einhaltung der Regeln, sondern auch, wo es sonst noch tätig ist.

Schweizer Unternehmen und öffentliche Institutionen werden also die künftigen EU-Regeln zu künstlicher Intelligenz einhalten müssen, wenn sie in der Europäischen Union aktiv sein wollen. Dass der «AI Act» sowohl direkte wie indirekte Auswirkungen auf die Schweiz haben wird, hält auch das Bakom in der oben erwähnten Präsentation fest.

Doch es gibt ein Problem: Die Schweiz hält nicht viel vom Regulierungs­ansatz der EU. Während Brüssel ein verbindliches KI-Gesetz will, das für alle Branchen und den Staat gilt, will man in Bern eine ausdifferenzierte Regulierung. Das bedeutet insbesondere: Die Eidgenossenschaft möchte unterschiedliche Regeln für den öffentlichen Sektor und für die Privat­wirtschaft.

Was tun?

Schweizer Lobbying-Offensive

Die Schweiz, so schlug das EDA in seinem KI-Bericht vor, soll die internationalen Regeln zur künstlichen Intelligenz «in ihrem Sinne» mitgestalten. Dasselbe verlangten auch zivil­gesellschaftliche Akteure, die Wissenschaft und die Wirtschaft.

Das Swiss Internet Governance Forum unter dem Patronat des Bakom hielt 2022 fest: «Warten auf die Verabschiedung von Normen in der EU bringt die Schweiz ins Hinter­treffen; ein aktives Einbringen in internationale Diskurse (…) ist angezeigt.» Auch eine Gruppe renommierter Rechts­wissenschaftler forderte in einem 2021 publizierten Positions­papier eine aktive Rolle der Schweiz, unter ihnen Rechts­professorin Nadja Braun Binder und der Zürcher Professor Florent Thouvenin.

Inzwischen legt die Eidgenossenschaft beim Thema KI einen für Schweizer Verhältnisse erstaunlichen Eifer an den Tag. Das EDA und das Bakom wollen sich im KI-Zentrum der Uno positionieren, weil dort die Internet-Normierungs­organisationen angesiedelt sind, die weltweit technische Standards setzen. Zu diesen Organisationen zählt die International Telecommunication Union mit Sitz in Genf. Die Schweiz ist zudem bei einer Experten­gruppe der OECD beteiligt und wirkte bei den Verhandlungen zu Unesco-Empfehlungen mit. Und im Mai 2022 organisierte die Schweiz die Konferenz «AI with Trust».

Das mit Abstand wichtigste Gremium für die Schweiz ist aber der Europarat, eine internationale Institution für die Förderung von Menschen­rechten, Rechts­staatlichkeit und Demokratie mit 46 Mitglieds­staaten. Im Unterschied zu EU-Gesetzen, die grundsätzlich für EU-Mitglieds­staaten gelten, können Konventionen des Europarats von allen Staaten unterzeichnet werden. So sind bei den entsprechenden Verhandlungen denn auch die USA, Kanada, Mexiko, Japan, Israel und der Heilige Stuhl als Beobachter registriert.

Mit anderen Worten: Die Europarats­konvention zur künstlichen Intelligenz wird international breit abgestützt sein.

Das KI-Komitee des Europarats hatte sich das Ziel gesetzt, bis November 2023 ein fertiges Abkommen auszuarbeiten. Bei den Verhandlungen diskutiert die Schweiz seit Beginn aktiv mit. Sie war sogar in der Ad-hoc-Kommission, die entschied, ob es überhaupt eine Konvention zu KI brauche oder nicht.

Das Verhandlungs­mandat vom 16. September 2022 für die Schweizer Delegation – angeführt von EDA-Diplomat Roger Dubach zusammen mit Vertreterinnen des Bundesamts für Justiz und des Bakom – lautet:

• Die Regelung zu künstlicher Intelligenz muss innovations­freundlich und technologie­neutral sein. Also nicht die Technik selbst soll reguliert werden, sondern deren Folgen.

• Und es soll zwischen öffentlichem Sektor und Privat­wirtschaft unterschieden werden.

Die Herleitung dieser Punkte findet sich in offiziellen Papieren des Bundes. So führt das EDA im Strategie­papier «Digitalaussenpolitik» aus: Die Schweiz setze sich für «massvolle Ansätze» ein, also für ein Vorgehen, das «das Potenzial neuer Technologien fördert, diese nicht hemmt und gleichzeitig spezifischen Risiken entgegen­wirkt». Das Bakom spricht in seiner Präsentation von «smarter Regulierung».

Doch nicht alle sind glücklich mit dieser sehr wirtschafts­freundlichen Schweizer Position.

Die Organisation Algorithm Watch, die als akkreditierte Teilnehmerin ebenfalls in die Verhandlungen des Europarats involviert ist, kritisiert, dass das Primat der Wirtschaft nichts zu suchen habe bei einem solchen Regelwerk. «Innovation ist nicht ein Selbst­zweck, sondern soll in erster Linie den Menschen dienen. Innovations­förderung darf nicht die Ziel­setzung einer Europarats­konvention sein, in der es um Grund­rechte, Demokratie und Rechts­staatlichkeit geht», sagt Algorithm-Watch-Vertreterin Angela Müller.

Wie sich die Schweiz bis anhin in den Verhandlungs­prozess eingebracht hat, zeigt ein geleaktes Dokument vom September 2022: Die Schweizer Delegation reichte mehr als 60 Änderungs­anträge ein. Zwar betraf vieles davon definitorische Unschärfen, handwerkliche Fehler und rechtliche Inkonsistenzen. Nachzeichnen lässt sich aber auch, dass die Schweiz ihren wirtschafts­freundlichen Kurs auf der ganzen Linie durch­zubringen versuchte:

• In einer allgemeinen Anmerkung hält die Schweizer Delegation ausdrücklich fest, dass die «Konvention auch die Chancen von KI betonen soll und die Technologie so gestaltet werden soll, dass sie Innovation fördert». Ins Auge sticht, dass die Schweiz die Definition von KI so eng wie möglich halten möchte, «sonst würden auch Statistik und ökonomische Prognosen darunter­fallen, was wir nicht unterstützen».

• Besonders brisant: Die Schweiz setzt sich dafür sein, dass Bürger nur «wo angemessen» ein Widerspruchs­recht gegenüber Entscheidungen einer KI-Technologie haben sollen. Mit anderen Worten: Eine Bürgerin soll nicht zwingend das Recht haben, sich gegen eine KI-Entscheidung zu wehren (etwa bei der Einschätzung der Kredit­würdigkeit) und stattdessen eine Beurteilung durch einen Menschen zu verlangen.

• In einem weiteren Punkt fordert die Schweiz möglichst viel Spielraum bei der Umsetzung der Reglementierung. Die Forderung nach nationalen Aufsichts­behörden, die für ihr jeweiliges Staats­gebiet zuständig sind und zwingend mit genügend Ressourcen ausgestattet werden sollen, strich die Schweizer Delegation komplett. Ein Vorgang, den Algorithm-Watch-Vertreterin Müller ausdrücklich kritisiert: «Es braucht gut ausgestattete Aufsichts­mechanismen beim Bund, sonst ist das Abkommen eine Farce.»

Das federführende Bakom wollte auf Anfrage der Republik keinen Kommentar zu den einzelnen Änderungs­vorschlägen abgeben.

Wer die Schweiz unterstützt

Bei ihrem wirtschafts­freundlichen KI-Regulierungs­kurs kann die Schweiz auf mächtige Verbündete zählen: Grossbritannien etwa, das Innovation ebenfalls in der Konvention verankern möchte. Oder die USA, die in diesen Verhandlungen als Elefant im Raum gelten.

Im Januar 2023 gingen die Verhandlungen weiter, und den damaligen Stand der Konvention hat das KI-Komitee unter dem Vorsitz des Schweizers Thomas Schneider aus Gründen der Transparenz gleich selbst veröffentlicht.

Die neuesten Versionen des Entwurfs zeigen: Das Abstraktions­level nimmt zu, die Prinzipien werden allgemeiner gehalten.

Während im «Zero Draft» vom Juni 2022 noch viele Anwendungen konkret beim Namen genannt wurden (etwa ein Verbot von Gesichts­erkennung oder social scoring), wird in den neuen Fassungen nur noch von der Einhaltung von Rechts­staatlichkeit und Demokratie geschrieben. Das sei normal, sagt ein Beteiligter aus dem Umfeld der Verhandlungs­delegation: «Wenn wir Emotions­erkennung per se explizit verbieten würden in der Konvention, wäre das fatal. Gewisse Anwendungen helfen auch Menschen mit starkem Handicap.» Denn sie können mit jenen Technologien trotz eingeschränkter Artikulation, Mimik und Mobilität kommunizieren und sich fortbewegen.

Eine Vertreterin einer europäischen NGO, die sich nicht namentlich äussern möchte, kritisiert aber die Verankerung blosser Prinzipien: «Der Europarat hat sich für ein politisches Dokument entschieden, statt strenge Verpflichtungen einzugehen.» Damit werde die Konvention ein zahnloser Papier­tiger, der zwar von vielen Staaten ratifiziert, am Ende aber wirkungslos bleiben werde.

Bern ist zufrieden

Die Schweizer Delegation wollte sich auf Anfrage der Republik zu den laufenden Verhandlungen nicht offiziell äussern.

Personen aus dem Umfeld der Delegation begründen die wirtschafts­freundliche Haltung der Schweiz mit «innen­politischen Sach­zwängen». Die Delegation muss am Ende eine mehrheits­fähige Vorlage präsentieren, die vom Parlament in Bern auch angenommen wird. Das scheint bisher aufzugehen. Anfang dieses Jahres konsultierte das EDA die aussen­politischen Kommissionen (APK) von National- und Ständerat mit dem aktuellen Verhandlungs­stand im Europarat – und beide Kommissionen segneten das Mandat ohne Gegen­stimmen ab.

APK-Präsident und SVP-Nationalrat Franz Grüter sagt auf Anfrage der Republik, die Reaktionen seien sehr positiv gewesen. Die Mitglieder der Kommission hätten sich mehrheitlich dafür ausgesprochen, dass die Schweiz die Konvention im aktuellen Zustand ratifizieren solle.

Der Zuspruch liegt auch am Zeitpunkt, denn das Thema KI-Regulierung gewinnt an politischer Dringlichkeit in Bern. FDP-Nationalrat Marcel Dobler verlangte im März einen Bericht zur Gesetzeslage. Und auch Lobbyisten werden aktiv. Am 8. März lud die parlamentarische Gruppe «ePower – ICT für die Schweiz» – ein Lobby­vehikel der Agentur Furrerhugi – zu einem Sessions­anlass. Thema: «Künstliche Intelligenz mit Swiss Finish? Kompromiss­findung zwischen zwei Polen».

«Der Anlass ging der Frage nach, wie sich die Schweiz zwischen den zwei Polen Regulierung versus uneingeschränkte Verwendung der Technologie positionieren kann», sagt Lobbyist und Agentur-Mitinhaber Andreas Hugi. Der Event sei von allen Parteien gut besucht worden, erklärt ePower-Mitorganisatorin und SP-Nationalrätin Edith Graf-Litscher. Gemäss Einladung mit dabei: Vertreter von Google Schweiz und dem Buchungs­portal Booking.com.

Doch nicht nur die Digital­branche, sondern auch die Schweizer Versicherungen bringen sich in Stellung. Mit der Plattform «Tripartite Suisse» schaffte das Bakom ein Forum für Unternehmen und weitere interessierte Akteure, die sich für Internet­regulierungen interessieren und sich dazu mit dem Bund austauschen wollen. Auffällig: Gemäss einer der Republik zugespielten Teilnehmerinnen­liste informierten sich auffällig viele Vertreter des Rückversicherungs­konzerns Swiss Re zum Thema künstliche Intelligenz.

Swiss Re teilte auf Anfrage mit, sie verfolge alle «regulatorischen Entwicklungen, die für ihr globales Geschäft relevant» seien, auch die KI-Konvention des Europarats. Seinen Standpunkt verrät der Konzern nicht.

Die Bundes­verwaltung experimentiert

Noch bis zum 21. April beraten die Mitglieds­staaten des Europarats in Strassburg die KI-Regulierung in der laufenden fünften (von insgesamt sieben) Verhandlungs­runde. Ob das ambitionierte Ziel, bis Ende 2023 die Konvention fertig­verhandelt zu haben, erreicht werden kann, ist unsicher.

Denn die EU ringt wegen ihres «AI Act» noch um eine einheitliche Position, die sie im Europarat vorbringt (siehe Infobox). Zum Zank­apfel könnte das Thema Chat GPT werden, da völlig unklar ist, inwiefern intelligente Chatbots reguliert werden sollen. Italien hat die Nutzung von Chat GPT kürzlich eingeschränkt. Und eine Gruppe um den Historiker Yuval Noah Harari, den Unternehmer Elon Musk und Apple-Mitgründer Steve Wozniak schätzt deren Risiken als so hoch ein, dass sie ein temporäres Moratorium für angezeigt hält. Auch der Schweizer Grünen-Nationalrat Gerhard Andrey unterzeichnete diese Petition. Doch Microsoft und Google, denen die immer populärer werdenden grossen Sprach­modelle gehören oder die an solchen beteiligt sind, lobbyieren in Brüssel vehement gegen einen Stopp.

In der Bundes­verwaltung werden munter weitere KI-Projekte voran­getrieben. Im August 2021 entschied der Bundesrat, das Kompetenz­netzwerk Künstliche Intelligenz aufzubauen. Es ist dem Bundesamt für Statistik angegliedert und soll bei Fragen zu KI und Daten­wissenschaften konsultiert werden können, so Kerstin Johansson Baker, die Chefin des Kompetenz­netzwerks.

Eine öffentliche Datenbank listet 45 KI-Projekte der Bundes­verwaltung auf. Laut Johansson Baker sind die meisten noch im Prototyp-Stadium. Darunter fallen Pilot­projekte wie Solarzellen­überwachung oder bessere Pollen­prognosen mittels Machine-Learning-Algorithmen.

Doch die Datenbank weist einen Mangel auf: Ein grosser Teil der Projekte stammt aus dem Verteidigungs­departement. Abgesehen von den Titeln der Projekte (zum Beispiel «Erkennung von Fakes in sozialen Medien») gibt das Departement über den genauen Inhalt nichts preis. Es fehlen Informationen zum Projekt­zweck, Nutzen, zu Daten­quellen und Methoden.

Der wirtschafts­freundliche Kurs, der nur mit wenig Regeln und Einschränkungen auskommt, hat seinen Preis: fehlende Transparenz bei Bundes­projekten, Rechts­unsicherheit für Schweizer Firmen, fehlende Rechte für Bürgerinnen.

Lange wird der Schweizer Laissez-faire-Modus mit der künstlichen Intelligenz nicht mehr gut gehen.

In der Infobox zur Rolle der USA und der Big-Tech-Konzerne schrieben wir in einer früheren Version von 47 Mitglieds­staaten des Europarats. Seit dem Ausschluss Russlands im März 2022 hat der Europarat noch 46 Mitglieds­staaten. Wir haben die Stelle korrigiert.