
Wie soll künstliche Intelligenz reguliert werden?
Über diese Frage wird international gestritten. Auch die Schweiz bringt sich ein – und vertritt vor allem die Interessen der Wirtschaft. Das erzeugt Kritik.
Eine Recherche von Adrienne Fichter und Balz Oertli, 18.04.2023
Die Republik ist ein digitales Magazin für Politik, Wirtschaft, Gesellschaft und Kultur – finanziert von seinen Leserinnen. Es ist komplett werbefrei und unabhängig. Lösen Sie jetzt ein Abo oder eine Mitgliedschaft!
2022 gilt als Jahr des Durchbruchs für die künstliche Intelligenz (KI). Oder genauer: als Jahr des Durchbruchs von Algorithmen, die mittels Musteranalyse von Daten die Leistungen von menschlicher Intelligenz imitieren können. Der Nutzen von KI ist im beruflichen und privaten Alltag vieler Menschen angekommen. Innert Sekunden kreieren öffentlich zugängliche Tools wie Chat GPT, Midjourney oder Soundraw Texte, Bilder oder Musikstücke. Sie werden zum Lernen benutzt, erleichtern Arbeitsprozesse, generieren Kunst.
Doch nach der anfänglichen Euphorie über die neue Technologie drängen sich immer mehr gesellschaftliche und politische Fragen auf. Wie gefährlich sind intelligente Chatbots für die Demokratie, wenn damit fast ohne Aufwand Propaganda in unbegrenzten Mengen getextet werden kann? Was ist mit Urheberrechten, was mit dem Datenschutz? Wie sollen Diskriminierungen von älteren oder weiblichen Arbeitssuchenden verhindert werden, wenn eine künstliche Intelligenz mit Bias in Rekrutierungsprozessen eingesetzt wird? Und wie kann man sich gegen KI-Entscheidungen zur Wehr setzen, zum Beispiel bei der Vergabe von Krediten einer Bank?
Solche Fragen beschäftigen derzeit internationale Institutionen wie die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) oder die Europäische Kommission. Auch der Europarat in Strassburg berät diese Woche eine Konvention mit dem Titel «On Artificial Intelligence, Human Rights, Democracy and the Rule of Law». Verhandelt wird da zum Beispiel, ob KI-Anwendungen nachvollziehbar sein müssen bei dem, was sie berechnen. Und wenn ja, nach welchen Prinzipien das zu geschehen hat.
Die Konvention soll das weltweit erste verbindliche supranationale Regelwerk zu KI werden.
Auch die Schweiz bringt sich in diese Verhandlungen ein. Recherchen der Republik zeigen jetzt erstmals auf, welche Position die Schweizer Delegation vertritt – und wieso die Haltung der Schweiz bei zivilgesellschaftlichen Organisationen wie Algorithm Watch Kritik, ja Empörung auslöst.
Bloss kein regulatorischer Eifer
Um zu verstehen, wie die Schweiz agiert, in welchem Spannungsfeld sie sich bewegt und woran sich Kritikerinnen stören, muss man sich vor Augen führen, wie sich das Land grundsätzlich in digitalen Fragen positioniert.
Traditionell verhält sich die Schweiz bei Internet-Regulierungen zurückhaltend. Das heisst: «aufmerksame Beobachtung» und «kein Hyperaktivismus». Mit diesen Worten umschreibt das Bundesamt für Kommunikation (Bakom) die Schweizer Haltung in einer internen Präsentation, die der Republik vorliegt.
Der liberale Kurs der Schweiz zeigt sich etwa beim autonomen Nachvollzug von EU-Gesetzen. Das neue Schweizer Datenschutzgesetz zum Beispiel lehnt sich zwar an die Datenschutz-Grundverordnung (DSGVO) der Europäischen Union an, ist vom Parlament aber in vielen Punkten abgeschwächt worden. So werden Strafen bei Verstössen nicht gegen Unternehmen, sondern bloss gegen Einzelpersonen ausgesprochen.
Auch das europäische «Gesetz zu digitalen Diensten» (DSA), das Kommunikationsplattformen im Hinblick auf die Unterbindung von Hassreden, die Forschungsfreiheit und Nutzerrechte reglementieren will, dürfte von der Schweiz nur abgeschwächt übernommen werden. Am 5. April gab der Bundesrat bekannt, dass eine Vernehmlassungsvorlage ausgearbeitet werde. Auf wesentliche Punkte des DSA – wie etwa den freien Zugang zu Daten für die Forschung – ist allerdings von Anfang an verzichtet worden. Die Abschwächung hängt auch zusammen mit dem starken Lobbying von Google in Bern.
Beim Thema KI jedoch ist die Schweiz mit ihrer liberalen Haltung immer stärker unter Zugzwang geraten.
Die EU und der «AI Act»
Anfang 2022 antwortete der Bundesrat auf einen Vorstoss der Zürcher SP-Nationalrätin Min Li Marti, es brauche kein Gesetz zur künstlichen Intelligenz. Gleichzeitig war sich die Regierung aber bewusst, dass eine zu grosse Diskrepanz zwischen inländischen und ausländischen KI-Regeln zu einer Rechtsunsicherheit für Schweizer Unternehmen führen würde.
Tatsächlich besteht zwischen der Schweiz und der Europäischen Union in Sachen KI-Normen ein «Spannungsverhältnis», wie es das Departement für auswärtige Angelegenheiten (EDA) in seinem Bericht «Künstliche Intelligenz und internationales Regelwerk» vom April 2022 schreibt.
Kommt dazu: Die EU berät derzeit ein Gesetz, das rechtliche Fragen rund um KI regeln soll. Der «AI Act» wird auch Folgen für die Schweiz haben, weil der Datenverkehr bekanntlich nicht an der Landesgrenze aufhört. Es gelte das «Marktortprinzip», sagt Rechtsprofessorin Nadja Braun Binder von der Universität Basel dazu. Das heisst: Nicht nur der Hauptsitz eines Unternehmens ist massgebend für die Einhaltung der Regeln, sondern auch, wo es sonst noch tätig ist.
Schweizer Unternehmen und öffentliche Institutionen werden also die künftigen EU-Regeln zu künstlicher Intelligenz einhalten müssen, wenn sie in der Europäischen Union aktiv sein wollen. Dass der «AI Act» sowohl direkte wie indirekte Auswirkungen auf die Schweiz haben wird, hält auch das Bakom in der oben erwähnten Präsentation fest.
Doch es gibt ein Problem: Die Schweiz hält nicht viel vom Regulierungsansatz der EU. Während Brüssel ein verbindliches KI-Gesetz will, das für alle Branchen und den Staat gilt, will man in Bern eine ausdifferenzierte Regulierung. Das bedeutet insbesondere: Die Eidgenossenschaft möchte unterschiedliche Regeln für den öffentlichen Sektor und für die Privatwirtschaft.
Was tun?
Schweizer Lobbying-Offensive
Die Schweiz, so schlug das EDA in seinem KI-Bericht vor, soll die internationalen Regeln zur künstlichen Intelligenz «in ihrem Sinne» mitgestalten. Dasselbe verlangten auch zivilgesellschaftliche Akteure, die Wissenschaft und die Wirtschaft.
Das Swiss Internet Governance Forum unter dem Patronat des Bakom hielt 2022 fest: «Warten auf die Verabschiedung von Normen in der EU bringt die Schweiz ins Hintertreffen; ein aktives Einbringen in internationale Diskurse (…) ist angezeigt.» Auch eine Gruppe renommierter Rechtswissenschaftler forderte in einem 2021 publizierten Positionspapier eine aktive Rolle der Schweiz, unter ihnen Rechtsprofessorin Nadja Braun Binder und der Zürcher Professor Florent Thouvenin.
Inzwischen legt die Eidgenossenschaft beim Thema KI einen für Schweizer Verhältnisse erstaunlichen Eifer an den Tag. Das EDA und das Bakom wollen sich im KI-Zentrum der Uno positionieren, weil dort die Internet-Normierungsorganisationen angesiedelt sind, die weltweit technische Standards setzen. Zu diesen Organisationen zählt die International Telecommunication Union mit Sitz in Genf. Die Schweiz ist zudem bei einer Expertengruppe der OECD beteiligt und wirkte bei den Verhandlungen zu Unesco-Empfehlungen mit. Und im Mai 2022 organisierte die Schweiz die Konferenz «AI with Trust».
Das mit Abstand wichtigste Gremium für die Schweiz ist aber der Europarat, eine internationale Institution für die Förderung von Menschenrechten, Rechtsstaatlichkeit und Demokratie mit 46 Mitgliedsstaaten. Im Unterschied zu EU-Gesetzen, die grundsätzlich für EU-Mitgliedsstaaten gelten, können Konventionen des Europarats von allen Staaten unterzeichnet werden. So sind bei den entsprechenden Verhandlungen denn auch die USA, Kanada, Mexiko, Japan, Israel und der Heilige Stuhl als Beobachter registriert.
Mit anderen Worten: Die Europaratskonvention zur künstlichen Intelligenz wird international breit abgestützt sein.
Das KI-Komitee des Europarats hatte sich das Ziel gesetzt, bis November 2023 ein fertiges Abkommen auszuarbeiten. Bei den Verhandlungen diskutiert die Schweiz seit Beginn aktiv mit. Sie war sogar in der Ad-hoc-Kommission, die entschied, ob es überhaupt eine Konvention zu KI brauche oder nicht.
Das Verhandlungsmandat vom 16. September 2022 für die Schweizer Delegation – angeführt von EDA-Diplomat Roger Dubach zusammen mit Vertreterinnen des Bundesamts für Justiz und des Bakom – lautet:
Die Regelung zu künstlicher Intelligenz muss innovationsfreundlich und technologieneutral sein. Also nicht die Technik selbst soll reguliert werden, sondern deren Folgen.
Und es soll zwischen öffentlichem Sektor und Privatwirtschaft unterschieden werden.
Die Herleitung dieser Punkte findet sich in offiziellen Papieren des Bundes. So führt das EDA im Strategiepapier «Digitalaussenpolitik» aus: Die Schweiz setze sich für «massvolle Ansätze» ein, also für ein Vorgehen, das «das Potenzial neuer Technologien fördert, diese nicht hemmt und gleichzeitig spezifischen Risiken entgegenwirkt». Das Bakom spricht in seiner Präsentation von «smarter Regulierung».
Doch nicht alle sind glücklich mit dieser sehr wirtschaftsfreundlichen Schweizer Position.
Die Organisation Algorithm Watch, die als akkreditierte Teilnehmerin ebenfalls in die Verhandlungen des Europarats involviert ist, kritisiert, dass das Primat der Wirtschaft nichts zu suchen habe bei einem solchen Regelwerk. «Innovation ist nicht ein Selbstzweck, sondern soll in erster Linie den Menschen dienen. Innovationsförderung darf nicht die Zielsetzung einer Europaratskonvention sein, in der es um Grundrechte, Demokratie und Rechtsstaatlichkeit geht», sagt Algorithm-Watch-Vertreterin Angela Müller.
Wie sich die Schweiz bis anhin in den Verhandlungsprozess eingebracht hat, zeigt ein geleaktes Dokument vom September 2022: Die Schweizer Delegation reichte mehr als 60 Änderungsanträge ein. Zwar betraf vieles davon definitorische Unschärfen, handwerkliche Fehler und rechtliche Inkonsistenzen. Nachzeichnen lässt sich aber auch, dass die Schweiz ihren wirtschaftsfreundlichen Kurs auf der ganzen Linie durchzubringen versuchte:
In einer allgemeinen Anmerkung hält die Schweizer Delegation ausdrücklich fest, dass die «Konvention auch die Chancen von KI betonen soll und die Technologie so gestaltet werden soll, dass sie Innovation fördert». Ins Auge sticht, dass die Schweiz die Definition von KI so eng wie möglich halten möchte, «sonst würden auch Statistik und ökonomische Prognosen darunterfallen, was wir nicht unterstützen».
Besonders brisant: Die Schweiz setzt sich dafür sein, dass Bürger nur «wo angemessen» ein Widerspruchsrecht gegenüber Entscheidungen einer KI-Technologie haben sollen. Mit anderen Worten: Eine Bürgerin soll nicht zwingend das Recht haben, sich gegen eine KI-Entscheidung zu wehren (etwa bei der Einschätzung der Kreditwürdigkeit) und stattdessen eine Beurteilung durch einen Menschen zu verlangen.
In einem weiteren Punkt fordert die Schweiz möglichst viel Spielraum bei der Umsetzung der Reglementierung. Die Forderung nach nationalen Aufsichtsbehörden, die für ihr jeweiliges Staatsgebiet zuständig sind und zwingend mit genügend Ressourcen ausgestattet werden sollen, strich die Schweizer Delegation komplett. Ein Vorgang, den Algorithm-Watch-Vertreterin Müller ausdrücklich kritisiert: «Es braucht gut ausgestattete Aufsichtsmechanismen beim Bund, sonst ist das Abkommen eine Farce.»
Das federführende Bakom wollte auf Anfrage der Republik keinen Kommentar zu den einzelnen Änderungsvorschlägen abgeben.
Wer die Schweiz unterstützt
Bei ihrem wirtschaftsfreundlichen KI-Regulierungskurs kann die Schweiz auf mächtige Verbündete zählen: Grossbritannien etwa, das Innovation ebenfalls in der Konvention verankern möchte. Oder die USA, die in diesen Verhandlungen als Elefant im Raum gelten.
Ich will es genauer wissen: Die Rolle der USA und der Big-Tech-Konzerne in den Europarat-Verhandlungen
Die EU versucht, die Konvention des Europarats möglichst in Einklang mit dem geplanten «AI Act» zu bringen, um ihrer eigenen Regulierung internationale Gültigkeit zu verschaffen. Mit 27 von 46 Mitgliedsstaaten stellt die EU die Mehrheit im Europarat. Die USA möchten dagegen verhindern, dass die Konvention zum Vehikel für die Durchsetzung des strikten «AI Act» dient. Deshalb lobbyieren die USA hinter den Kulissen; sie versuchen ihre Rolle möglichst zu verschleiern.
An den Sitzungen im Jahr 2022 waren diverse Vertreter von Big-Tech-Konzernen wie Meta (Facebook), Microsoft und IBM, aber auch von NGOs wie dem Center for AI and Digital Policy oder Algorithm Watch präsent. Im Herbst 2022 beschloss das KI-Komitee des Europarats, Nichtregierungsorganisationen und private Firmen von den Beratungen der Entwürfe auszuschliessen. Die Auslagerung der Verhandlungen in eine drafting group bedeutet, dass der Konventionstext nun von den Staaten unter sich verhandelt wird. Die NGOs und Firmen sehen nur die Entwürfe und wissen nicht, welche Delegation welche Kommentare machte. Die nicht staatlichen Akteure dürfen in den plenary meetings teilnehmen und sich einbringen. Gemäss «Euractiv» drängten die USA darauf, die NGOs und Firmen aus der drafting group auszuschliessen. Damit soll verhindert werden, dass die Position der USA öffentlich wird.
Das EDA verteidigt diese Entscheidung: «Es gehört zum Verhandlungsprozess, dass die Mitgliedsstaaten bestimmte Diskussionen unter sich führen, da letztlich sie das Rahmenabkommen unterzeichnen werden. Die nicht staatlichen Akteure haben jedoch Gelegenheit, sich zu allen Textanpassungen zu äussern.»
Im Januar 2023 gingen die Verhandlungen weiter, und den damaligen Stand der Konvention hat das KI-Komitee unter dem Vorsitz des Schweizers Thomas Schneider aus Gründen der Transparenz gleich selbst veröffentlicht.
Die neuesten Versionen des Entwurfs zeigen: Das Abstraktionslevel nimmt zu, die Prinzipien werden allgemeiner gehalten.
Während im «Zero Draft» vom Juni 2022 noch viele Anwendungen konkret beim Namen genannt wurden (etwa ein Verbot von Gesichtserkennung oder social scoring), wird in den neuen Fassungen nur noch von der Einhaltung von Rechtsstaatlichkeit und Demokratie geschrieben. Das sei normal, sagt ein Beteiligter aus dem Umfeld der Verhandlungsdelegation: «Wenn wir Emotionserkennung per se explizit verbieten würden in der Konvention, wäre das fatal. Gewisse Anwendungen helfen auch Menschen mit starkem Handicap.» Denn sie können mit jenen Technologien trotz eingeschränkter Artikulation, Mimik und Mobilität kommunizieren und sich fortbewegen.
Eine Vertreterin einer europäischen NGO, die sich nicht namentlich äussern möchte, kritisiert aber die Verankerung blosser Prinzipien: «Der Europarat hat sich für ein politisches Dokument entschieden, statt strenge Verpflichtungen einzugehen.» Damit werde die Konvention ein zahnloser Papiertiger, der zwar von vielen Staaten ratifiziert, am Ende aber wirkungslos bleiben werde.
Bern ist zufrieden
Die Schweizer Delegation wollte sich auf Anfrage der Republik zu den laufenden Verhandlungen nicht offiziell äussern.
Personen aus dem Umfeld der Delegation begründen die wirtschaftsfreundliche Haltung der Schweiz mit «innenpolitischen Sachzwängen». Die Delegation muss am Ende eine mehrheitsfähige Vorlage präsentieren, die vom Parlament in Bern auch angenommen wird. Das scheint bisher aufzugehen. Anfang dieses Jahres konsultierte das EDA die aussenpolitischen Kommissionen (APK) von National- und Ständerat mit dem aktuellen Verhandlungsstand im Europarat – und beide Kommissionen segneten das Mandat ohne Gegenstimmen ab.
APK-Präsident und SVP-Nationalrat Franz Grüter sagt auf Anfrage der Republik, die Reaktionen seien sehr positiv gewesen. Die Mitglieder der Kommission hätten sich mehrheitlich dafür ausgesprochen, dass die Schweiz die Konvention im aktuellen Zustand ratifizieren solle.
Der Zuspruch liegt auch am Zeitpunkt, denn das Thema KI-Regulierung gewinnt an politischer Dringlichkeit in Bern. FDP-Nationalrat Marcel Dobler verlangte im März einen Bericht zur Gesetzeslage. Und auch Lobbyisten werden aktiv. Am 8. März lud die parlamentarische Gruppe «ePower – ICT für die Schweiz» – ein Lobbyvehikel der Agentur Furrerhugi – zu einem Sessionsanlass. Thema: «Künstliche Intelligenz mit Swiss Finish? Kompromissfindung zwischen zwei Polen».
«Der Anlass ging der Frage nach, wie sich die Schweiz zwischen den zwei Polen Regulierung versus uneingeschränkte Verwendung der Technologie positionieren kann», sagt Lobbyist und Agentur-Mitinhaber Andreas Hugi. Der Event sei von allen Parteien gut besucht worden, erklärt ePower-Mitorganisatorin und SP-Nationalrätin Edith Graf-Litscher. Gemäss Einladung mit dabei: Vertreter von Google Schweiz und dem Buchungsportal Booking.com.
Doch nicht nur die Digitalbranche, sondern auch die Schweizer Versicherungen bringen sich in Stellung. Mit der Plattform «Tripartite Suisse» schaffte das Bakom ein Forum für Unternehmen und weitere interessierte Akteure, die sich für Internetregulierungen interessieren und sich dazu mit dem Bund austauschen wollen. Auffällig: Gemäss einer der Republik zugespielten Teilnehmerinnenliste informierten sich auffällig viele Vertreter des Rückversicherungskonzerns Swiss Re zum Thema künstliche Intelligenz.
Swiss Re teilte auf Anfrage mit, sie verfolge alle «regulatorischen Entwicklungen, die für ihr globales Geschäft relevant» seien, auch die KI-Konvention des Europarats. Seinen Standpunkt verrät der Konzern nicht.
Die Bundesverwaltung experimentiert
Noch bis zum 21. April beraten die Mitgliedsstaaten des Europarats in Strassburg die KI-Regulierung in der laufenden fünften (von insgesamt sieben) Verhandlungsrunde. Ob das ambitionierte Ziel, bis Ende 2023 die Konvention fertigverhandelt zu haben, erreicht werden kann, ist unsicher.
Denn die EU ringt wegen ihres «AI Act» noch um eine einheitliche Position, die sie im Europarat vorbringt (siehe Infobox). Zum Zankapfel könnte das Thema Chat GPT werden, da völlig unklar ist, inwiefern intelligente Chatbots reguliert werden sollen. Italien hat die Nutzung von Chat GPT kürzlich eingeschränkt. Und eine Gruppe um den Historiker Yuval Noah Harari, den Unternehmer Elon Musk und Apple-Mitgründer Steve Wozniak schätzt deren Risiken als so hoch ein, dass sie ein temporäres Moratorium für angezeigt hält. Auch der Schweizer Grünen-Nationalrat Gerhard Andrey unterzeichnete diese Petition. Doch Microsoft und Google, denen die immer populärer werdenden grossen Sprachmodelle gehören oder die an solchen beteiligt sind, lobbyieren in Brüssel vehement gegen einen Stopp.
In der Bundesverwaltung werden munter weitere KI-Projekte vorangetrieben. Im August 2021 entschied der Bundesrat, das Kompetenznetzwerk Künstliche Intelligenz aufzubauen. Es ist dem Bundesamt für Statistik angegliedert und soll bei Fragen zu KI und Datenwissenschaften konsultiert werden können, so Kerstin Johansson Baker, die Chefin des Kompetenznetzwerks.
Eine öffentliche Datenbank listet 45 KI-Projekte der Bundesverwaltung auf. Laut Johansson Baker sind die meisten noch im Prototyp-Stadium. Darunter fallen Pilotprojekte wie Solarzellenüberwachung oder bessere Pollenprognosen mittels Machine-Learning-Algorithmen.
Doch die Datenbank weist einen Mangel auf: Ein grosser Teil der Projekte stammt aus dem Verteidigungsdepartement. Abgesehen von den Titeln der Projekte (zum Beispiel «Erkennung von Fakes in sozialen Medien») gibt das Departement über den genauen Inhalt nichts preis. Es fehlen Informationen zum Projektzweck, Nutzen, zu Datenquellen und Methoden.
Der wirtschaftsfreundliche Kurs, der nur mit wenig Regeln und Einschränkungen auskommt, hat seinen Preis: fehlende Transparenz bei Bundesprojekten, Rechtsunsicherheit für Schweizer Firmen, fehlende Rechte für Bürgerinnen.
Lange wird der Schweizer Laissez-faire-Modus mit der künstlichen Intelligenz nicht mehr gut gehen.
Balz Oertli ist Journalist beim WAV Recherchekollektiv, einem unabhängigen Recherchekollektiv aus Zürich. Davor arbeitete er in unterschiedlichen Funktionen als Redaktor bei SRF.
In der Infobox zur Rolle der USA und der Big-Tech-Konzerne schrieben wir in einer früheren Version von 47 Mitgliedsstaaten des Europarats. Seit dem Ausschluss Russlands im März 2022 hat der Europarat noch 46 Mitgliedsstaaten. Wir haben die Stelle korrigiert.