Wie wir zu Maschinen werden

Dies ist wohl die letzte Kolumne, die sich noch nicht zur künstlichen Intelligenz und zu Chat GPT geäussert hat. Dies muss dringend nachgeholt werden, da sonst der Verdacht entsteht, dass ich nicht auf der Höhe der Zeit bin.

Hier also:

Künstliche Intelligenz (KI) birgt sowohl potenzielle Vorteile als auch Gefahren. Hier sind einige der Haupt­gefahren der künstlichen Intelligenz:

Arbeitsplatz­verlust: Mit der zunehmenden Automatisierung von Aufgaben könnten viele Arbeits­plätze durch KI-basierte Systeme ersetzt werden. Insbesondere in Bereichen, in denen routine­mässige oder sich wieder­holende Aufgaben ausgeführt werden, könnten Arbeits­kräfte überflüssig werden.

Mangelnde Kontrolle: Künstliche Intelligenz kann komplexe Entscheidungen treffen und eigenständig lernen. Wenn die Systeme jedoch ausser Kontrolle geraten oder falsch programmiert werden, könnten sie unbeabsichtigte oder schädliche Aktionen ausführen. Dies könnte zu schwer­wiegenden Konsequenzen führen, insbesondere wenn KI-Systeme Zugriff auf sensible Informationen oder kritische Infra­strukturen haben.

Ethische Fragen: KI wirft eine Reihe ethischer Fragen auf. Beispiels­weise könnten Entscheidungen von KI-Systemen Vorurteile oder Diskriminierung aufgrund von Daten oder Algorithmen enthalten, die bewusst oder unbewusst verzerrt sind. Auch Fragen der Privat­sphäre und des Daten­schutzes entstehen, wenn KI-Systeme grosse Mengen persönlicher Daten analysieren und nutzen.

Es ist wichtig, diese potenziellen Gefahren zu erkennen und entsprechende Massnahmen zu ergreifen, um die Entwicklung und den Einsatz von KI verantwortungs­bewusst zu gestalten und sicher­zustellen, dass sie zum Wohl der Gesellschaft eingesetzt wird.

Sie werden es bemerkt haben: Das ist die leicht gekürzte Antwort, die mir Chat GPT auf die Frage nach den Gefahren künstlicher Intelligenz gegeben hat. Sie ist an Banalität kaum zu überbieten. Eine Maschine, die nicht einmal einen halbwegs brauchbaren Schüler­aufsatz zustande bringt, wird den menschlichen Geist wohl kaum je überflüssig machen, auch nicht, wenn sie technisch noch verbessert wird. Die Herrschaft über die Menschheit wird sie auch nicht an sich reissen.

Ist Chat GPT also bloss der Aufreger der Saison? PC, Mobil­telefone, das Internet, Powerpoint oder selbst­fahrende Autos haben das Feuilleton in früheren Jahren kurz in schrille Aufregung versetzt, um danach vollkommen in Vergessenheit zu geraten oder so normal zu werden, dass man die Entrüstung gar nicht mehr versteht.

Tatsächlich kann man diese Erregungs­wellen als immer neue Abwandlung des griechischen Prometheus-Mythos verstehen: Der Mensch will sich den Göttern gleich­stellen. Für diese Hybris wird er dereinst dadurch bestraft werden, dass sich die vom Menschen geschaffene Maschine gegen die Menschheit selbst wendet, sie versklavt oder gleich ganz überflüssig macht. So geht der Plot der allermeisten Sci-Fi-Filme – und die Reaktion der Kultur­redaktionen auf jede neue technische Entwicklung.

Trotzdem. Man sollte die Bedenken nicht leichtfertig beiseite­schieben, allerdings nicht wegen der bräsigen Technik­feindlichkeit älterer, frustrierter Kolumnen­schreiber, die, wie der Schreiber dieser Zeilen, mit dem neuesten Betriebs­system von Windows nicht klar­kommen. Die Gefahr droht von anderer Seite, und sie nähert sich still und schleichend: Es geht um die Anpassung der Menschen an die Maschine.

Diese Entwicklung wurde vor mehr als einem halben Jahrhundert in Zürich von einem Architektur­historiker beschrieben, der weitgehend in Vergessenheit geraten ist: Sigfried Giedion. Geblieben sind von Giedion die Siedlung Neubühl in Zürich-Wollishofen, die Doldertal­häuser, die Wohnbedarf AG – und sein monumentales Werk «Die Herrschaft der Mechanisierung» (1948). Auf über 800 Seiten beschreibt Giedion darin, welchen Einfluss die Industrialisierung auf unseren Alltag hatte. Die Veränderung der Arbeitswelt durch Maschinen ist ausführlich beschrieben worden – Entfremdung durch Arbeits­teilung, Anpassung der Körper an die Erfordernisse der Maschine, Unterwerfung der menschlichen Zeit unter die Zeit der Maschine –, doch die Folgen der Mechanisierung aufseiten der Produkte wurden vor Giedion kaum erforscht.

Giedion nimmt sich akribisch unsere alltägliche Umgebung vor – Tür­schlösser, Bade­zimmer, Stühle, Nahrungs­mittel – und fragt sich, wie die industriell gefertigten Produkte unsere Lebenswelt verändert haben.

Drei hauptsächliche Folgen der Mechanisierung macht Giedion namhaft:

Erstens: Standardisierung, Auswechselbarkeit und Distanzierung. Maschinen konnten im Unterschied zu Handwerkern nur ein einziges Produkt herstellen. Da Maschinen in Unterhalt und Herstellung sehr teuer sind, kann eine Stuhl­fabrik nur einen einzigen, höchstens zwei Stühle herstellen, diese aber in Massen. Da Massen­stühle billiger als handwerkliche Stühle sind, werden sie alle anderen vom Markt verdrängen. Und über kurz oder lang passt sich auch der Geschmack der Konsumentinnen den Stühlen an: Als schön gelten fortan jene Stühle, die man sich leisten kann.

Zweitens: Eng verknüpft mit der Standardisierung ist die Auswechselbarkeit. Sowohl die Kosten der Produktion als auch die des Produktes können dadurch gesenkt werden, dass sie im Schadensfall nicht vollständig ersetzt werden müssen, sondern die Möglichkeit besteht, nur die kaputten Teile auszuwechseln. Im Jahr 1762 wurden laut Giedion in Connecticut die ersten Gewehre mit ersetzbaren Komponenten hergestellt. Wenig später wurden in Kalifornien Kreis­sägen mit auswechselbaren Zähnen produziert. Die Kriege wurden billiger und der Wiederaufbau auch.

Noch kosten­günstiger werden Maschinen, wenn gewisse Teile gleich in mehrere unterschiedliche Maschinen oder Produkte eingebaut werden können. Dies aber bedingt eine gewisse Ähnlichkeit dieser verschiedenen Maschinen – und auch der Produkte. Die Auswechselbarkeit der Maschinen­teile favorisiert zudem die Auswechselbarkeit der Menschen, die die Maschinen bedienen oder reparieren, was künftig hiess: die Ersatz­teile auswechselten. Es brauchte nun keine lange Ausbildung mehr durch einen Meister, keine hochspezifischen Fertigkeiten. Wer sich totgeschuftet hatte, konnte ebenfalls ersetzt werden.

Drittens: Die Mechanisierung des Todes in den Schlacht­häusern Chicagos, wie es Giedion selbst nennt, führte zu einer radikalen Umstellung der Ernährung. Waren früher Kohlenhydrate das Haupt­nahrungsmittel und Fleisch bloss eine luxuriöse Beilage bei besonderen Gelegenheiten, wurde durch die Massen­produktion von Schweinen Fleisch zum Haupt­nahrungsmittel. Die Kohlenhydrate sanken zur Beilage ab. An den Folgen leidet die Land­wirtschaft, ja die Natur als Ganzes, noch heute. Dies war reibungslos aber nur deshalb möglich, weil die Produktion und damit die Ausbeutung von Mensch und Natur dem Blick des bürgerlichen Konsumenten entzogen wurde.

Es dauerte nicht lange, bis versucht wurde, auch die Steuerung der Maschinen zu mechanisieren – und das hatte unter anderem mit der Haarmode zu tun. Die Einführung des Dezimal­systems nach der französischen Revolution machte nämlich eine Neuberechnung der Logarithmen­tafeln nötig. Gleichzeitig wurden durch die neue, postrevolutionäre Haarmode zahlreiche Friseure arbeitslos, sodass ein französischer Beamter auf die geniale Idee kam, diese Friseure umzuschulen und jedem von ihnen einen kleinen Schritt in der Berechnung der Logarithmen beizubringen. Die umgeschulten Arbeitskräfte bezeichnete er als Computer.

Wenn jeder ungebildete Friseur einen einzelnen und alle zusammen alle Berechnungs­schritte ausführen können, müsste dazu auch eine Maschine in der Lage sein, schloss der englische Mathematiker und Ingenieur Charles Babbage, als er davon hörte. Und das erst noch schneller und präziser als die französischen Friseure. Dazu kommt, dachte sich Babbage, dass endlich auch der monetäre Wert des Denkens exakt berechnet werden kann. Flugs machte sich Babbage an die Arbeit und entwickelte den ersten Computer, den er analytical engine nannte, Analysier­maschine. (Für das Programmieren war er als Mathematiker zu unbegabt, dafür brauchte er die Hilfe von Lady Ada Lovelace, der Tochter des Dichters Lord Byron.)

Babbage verwirklichte einen jahrhundertealten Menschheits­traum: die Mechanisierung des Denkens. Was Giedion als Verlust taxierte – Standardisierung, Auswechselbarkeit und Distanzierung –, war für Babbage noch Gewinn. Das Denken wurde dadurch nicht nur effizienter, emotions­freier, präziser und schneller, es wurde auch auf Pfund, Shilling und Pence genau bezifferbar.

So ging es mit der Mechanisierung des Denkens – das mit Berechnen in eins gesetzt wurde – weiter: Im Sommer 1956 trafen sich Wissenschaftler am Dartmouth College im US-Bundesstaat New Hampshire zu einer Konferenz über Algorithmen, die sich selbst verändern und an neue Umstände anpassen können. John McCarthy, ein Programmierer mit einem ausgeprägten Sinn für PR, schlug dafür den Begriff «künstliche Intelligenz» vor. Damit war der Weg geebnet für die Mechanisierung beziehungs­weise Automatisierung des Denkens – und für Chat GPT.

Faszinierend an Giedions Buch ist, dass er nicht nur die Folgen der Mechanisierung für die Lebenswelt der Menschen präzise und detailreich beschreibt, sondern auch die Folgen für die menschliche Seele. Dass das Milieu, in dem wir leben, die Art und Weise mitbestimmt, wie wir sind, erscheint auf den ersten Blick trivial. Dennoch untersuchte vor Giedion meines Wissens kaum jemand, wie mechanisch hergestellte Waren den Geschmack, die Wünsche, Neigungen und Abneigungen der Menschen und letztlich auch ihr Denken verändern: Was als gutes Brot galt, hing beispiels­weise von den Maschinen ab, die den Brot­fabriken zur Verfügung standen, schreibt Giedion. Daran mussten sich auch die handwerklichen Bäcker anpassen.

Die Befürworter der Deregulierung argumentieren häufig, dass die Öffnung der Märkte die Vielfalt der Produkte befördert. Doch die Wirklichkeit hat uns eines Besseren belehrt. Seit dem Siegeszug des Neoliberalismus sind Autos kaum mehr voneinander zu unterscheiden, und alle TV-Stationen strahlen dieselben Formate aus: Zahn­technikerin sucht Bachelor und Bauer Rares für Bares. Oder umgekehrt. Und seit Radio 24 1979 auf dem Pizzo Groppera den Betrieb aufnahm, tönen alle Moderatoren wie Roger Schawinski – selbst Roger Schawinski. Die Mechanisierung fördert eben nicht die Vielfalt, sondern die Standardisierung – auf tiefem Niveau – und erzeugt den Durchschnitts­geschmack. Dieser muss aus ökonomischen Zwängen bedient werden, denn nur was den Durchschnitts­geschmack trifft, lohnt es, überhaupt produziert zu werden.

Die Anpassung der menschlichen Seele an die Mechanisierung der Produktion wird besonders augenfällig, wenn geistige Produkte auf dem Spiel stehen. Wir sind von alters her auf die ratio, die Vernunft, als Alleinstellungs­merkmal des Menschen stolz. Richtig denken können nur Menschen, wird argumentiert, weil nur Menschen kreativ seien und Emotionen hätten, und ohnehin seien all diese Programme von Menschen geschrieben, sodass die eigentliche Denk­leistung den Menschen zugeschrieben werden kann. Das zweite Argument ist evident falsch, das erste kann man füglich bezweifeln.

Tatsächlich sind auch die Texte von Chat GPT dem Gesetz der Mechanisierung – Standardisierung, Auswechselbarkeit und Verschleiern der Bedingungen ihrer Entstehung – unterworfen: Sie wirken alle irgendwie gleich, so höflich und trivial, sie scheinen aus auswechselbaren Text­bausteinen zusammen­gesetzt zu sein, und man hat keine Ahnung, wie sie zustande gekommen sind. Natürlich werden die Texte bald besser werden und sich dem menschlichen Denken noch weiter anpassen, doch das eigentliche Problem liegt nicht in der Anpassung der Maschine an den Menschen, sondern umgekehrt, in der Anpassung des Menschen an die Maschine.

Anders gesagt: Die Frage ist nicht, ob Maschinen dereinst menschlich werden, sondern wann Menschen zu Maschinen werden – und wie sie denken und handeln. Die Anpassung an das algorithmische Denken haben wir schon hinter uns. Wenn – dann, das Grund­schema mechanisierten Denkens, hat sich beispielsweise in der Medizin längst durchgesetzt. Diagnostisches Wissen, Beobachtungs­gabe, Einfühlungs­vermögen und Erfahrung sind weitgehend durch Manuale, das heisst durch standardisierte Vorgehens­weisen, ersetzt worden. Menschen beginnen sich wie Maschinen zu verhalten: Wenn …, dann …

Die Gefahr liegt also nicht darin, dass KI-Texte sich bald nicht mehr von menschlichen Texten unterscheiden und dass Schülerinnen ihre Aufsätze von Chat GPT schreiben lassen. Nein, die Gefahr ist, dass Chat GPT den Standard vorgibt, wie ein Text auszusehen hat. Es ist zu befürchten, dass wir bald wie Texte von Chat GPT klingen werden: höflich und trivial, ausgewogen und kenntnis­reich, ohne Wertung und für alle gut verständlich – und unendlich langweilig. Wir werden klingen wie eine durchschnittliche Fernseh­sendung auf SRF.

Doch darin liegt auch eine Chance. Vielleicht bricht nun eine Zeit an, in der Texte in Schule und Medien notgedrungen danach beurteilt werden, wie sehr sie sich von Chat GPT unterscheiden: Gute Noten erhalten unhöfliche, unausgewogene, komplizierte – und unterhaltsame Aufsätze.

Illustration: Alex Solman