Anmelden

Bergs Nerds

Nerds retten die Welt!

Folge 1: Gespräch mit Jürgen Schmidhuber, Pionier auf dem Forschungsgebiet der künstlichen Intelligenz.

Von Sibylle Berg, 23.01.2018

Unabhängiger Journalismus kostet. Die Republik ist werbefrei und wird finanziert von ihren Leserinnen. Trotzdem können Sie diesen Beitrag lesen.

Wenn Sie weiterhin unabhängigen Journalismus wie diesen lesen wollen, handeln Sie jetzt: Kommen Sie an Bord!

Professor Jürgen Schmidhuber ist: wissenschaftlicher Direktor des Schweizer Forschungsinstituts für künstliche Intelligenz (IDSIA), Professor für künstliche Intelligenz (KI) an der Uni Lugano, Professor SUPSI, Mitgründer und Chief Scientist der Schweizer Firma Nnaisense. Im Jahre 2017 war er der meistzitierte Informatiker des europäischen Kontinents; oft wird er als Vater der modernen KI bezeichnet; die «Deep Learning»-Algorithmen seiner Forschungsgruppen stecken heute in jedem Smartphone.

Seine Themengebiete sind neuronale Netze, Robotik, maschinelles Lernen, Kolmogorow-Komplexität, digitale Physik, Robotik (wobei ich auf die Kolmogorow-Komplexität, eines meiner Steckenpferde, heute nicht eingehen möchte).

Guten Morgen, Herr Schmidhuber – haben Sie sich heute schon um den Zustand der Welt gesorgt?

Nein. Aber darüber nachgedacht.

Das kenne ich. Es führt immer zu dem Satz: «Macht doch, bis ihrs habt!» Aber verkleinern wir die universelle Frage. Die Liste Ihrer Tätigkeiten inklusive der Kolmogorow-Komplexität ist für den einen oder anderen aufmerksamkeitsdefizitären Leser etwas überbordend. Gelingt es Ihnen, Ihren Beruf in drei Sätzen zu beschreiben?

Ein Satz reicht. Ich baue Maschinen, die aus Erfahrung lernen.

Wie sieht Ihr Tagesablauf aus, wenn Sie nicht irgendwohin fliegen, von irgendwoher zurückkehren oder etwas erfinden?

Aufwachen, frühstücken, nachdenken, mit Mitarbeitern reden, Ideen zu Papier bringen, Vortragsanfragen beantworten, lustige Mittagspause mit Doktoranden, Geschäfte und Anrufe erledigen, Sport, Gitarre.

Ich liebe dieses Video von Ihrer Website:

Dies ist ein Youtube-Video. Wenn Sie das Video abspielen, kann Youtube Sie tracken.
Swarmanoid, the movie

Die Umsetzung theoretischer Gedanken und Algorithmen in – ähm – Dinge oder Staatsbürger, wie Sophia, diesen unglaublich passiv-aggressiv wirkenden Roboter, der jetzt Bürger von Saudi-Arabien ist. Na ja. Muss man mögen. Roboter sind also schon brillant darin, ermüdende Arbeiten auszuführen. Sie sind gute Helfer der Überwachungsindustrie und machen unglaubliche Fehler, die Menschenleben ruinieren können. Können Sie mir sagen, an welcher Entwicklung sie gerade arbeiten und wie Ihre Arbeit konkret aussieht?

Ich versuche immer noch, zu vollenden, was ich vor fast vier Jahrzehnten anfing: eine künstliche Intelligenz zu bauen, die lernt, weit klüger zu werden als ich, und alle Probleme löst, die ich selbst nicht lösen kann. Eine Maschine, die gar keine richtige Maschine mehr ist, die sich selbst immer weiter verbessert, ohne wesentliche Schranken, ausser den fundamentalen Schranken der Logik und der Physik.

Professor Jürgen Schmidhuber.zvg
«Fürchte dich nicht, denn viele kluge und neugierige KIs werden von ihren Ursprüngen in der Zivilisation und vom Leben im Allgemeinen zunächst fasziniert sein. Damit haben sie ein Motiv, Leben nicht auszurotten, sondern zu schützen.»

Wodurch und wann entdeckten Sie die Robotik für sich? War es ein langsamer Prozess? Oder gab es den Moment grosser, erregter Klarheit?

Als Bub wollte ich meinen Einfluss auf die Welt maximieren.

(verständnisvolles Nicken der Gesprächspartnerin, die das Problem kennt)

Und da wurde mir klar, dass es mit meinem eigenen Verstand nicht so weit her ist; also blieb mir gar nichts anderes übrig, als zu versuchen, kluge Roboter zu bauen, die lernen, meine eigenen engen Schranken zu überwinden und mein bisschen Kreativität ins Unermessliche zu steigern.

Apropos Höhepunkt, gibt es so etwas in Ihrer Karriere? Der Moment, an dem Sie dachten: So, das war es jetzt – mehr kommt nicht. Oder – als positiver Mensch: Wie soll ich jemals wieder so etwas erschaffen?

Ich hatte seit dem letzten Jahrtausend ein paar ganz brauchbare Einsichten in das Wesen der Intelligenz. Zum Beispiel: Wie implementiert man künstliche Neugier? Wie baut man ein System, das seinen eigenen Selbstverbesserungsalgorithmus verbessert? Und manche unserer Lernverfahren für künstliche neuronale Netze hatten auch enormen Erfolg in der Industrie.

Neugier in Menschen zu implementieren, wäre aber auch nicht schlecht, in einer Zeit, in der die Vereinfachungssucht zu einer kolossalen Verblödung beiträgt. Wie funktioniert das?

Es geht zum Beispiel mit einem Roboter und zwei lernenden Modulen, dem Gestalter und dem Weltmodell. Das Hauptziel des Roboters könnte sein, regelmässig zur Aufladestation zu gelangen, was zu positiver Belohnung (Freude) führt, ohne auf dem Weg an Hindernissen anzustossen, was negative Belohnung (Schmerzen) nach sich zieht. Die Summe aller Belohnungen soll maximiert werden. Der Gestalter ist ein Allzweckrechner, zum Beispiel ein rekurrentes neuronales Netz, das einströmende Eingaben (etwa von einer Kamera) in Handlungssequenzen umsetzt. Das Weltmodell (meist ebenfalls ein neuronales Netz) lernt dabei, vorauszusagen, was passieren wird, wenn der Gestalter etwas tut. Der Gestalter nutzt seinerseits das Weltmodell, um zu planen und wünschenswerte Umgebungszustände (mit hoher Belohnung) herbeizuführen. Und ganz wichtig: Er lernt auch, neugierig Experimente auszuführen, die das Weltmodell weiter verbessern. Denn auch dafür kriegt er eine Belohnung, wie ein menschlicher Wissenschaftler, der sich freut, weil er eine Einsicht hatte.

Grossartig. Wann immer ich einen Zusammenhang theoretisch verstehe, beginne ich den Kopf gegen die Wand zu schlagen, weil ich die technische Umsetzung kaum begreife. Vermutlich wird die KI die Art von Perfektion erreichen, die man mit einer Feuchtausstattung nie erreichen wird. Das Projekt, Menschen zu Maschinen zu machen scheint gescheitert.

Schon seit Jahrtausenden haben Menschen versucht, andere zu ihren maschinenähnlichen Sklaven zu machen. Ich bin nicht sicher, ob dieses «Projekt» wirklich gescheitert ist, denn selbst unsere heutige Gesellschaft beruht darauf, dass irgendwo arme Kinder unter sklavenähnlichen Bedingungen T-Shirts nähen oder Kobalt schürfen. KI könnte da wohl einst wirklich Abhilfe schaffen.

Wobei auch die Kobalt oder seltene Erden schürfenden KIs das Problem der endenden Ressourcen nicht beheben können. So ergeben sich aus jeder Lösung, die man findet, neue Probleme. Die man wieder lösen kann. Es wäre wunderbar, wenn der AI klüger wäre als wir. – Was möchten Sie gerne erreichen?

Ich will immer noch meinen Bubentraum verwirklichen. Ich glaube tatsächlich nach wie vor, dass ich vielleicht noch erleben werde, wie KIs, die viel schlauer sind als ich, anfangen werden, das Weltall zu kolonisieren und umzugestalten und auf eine neue Stufe der Komplexität zu hieven und intelligent zu machen. Das Ende dieses Prozesses werde ich natürlich nicht miterleben, denn wegen der beschränkten Lichtgeschwindigkeit wird das etliche zig Milliarden Jahre dauern. Aber schon lange vorher werden viele aufregende Dinge passieren, und ganz viele Menschen werden gewaltig von KI profitieren.

Na, hoffen wir mal, dass das All frei von Lebensformen ist und die Erde noch ausreichend lange existiert. Für sehr viele Menschen ist die KI gleichbedeutend mit dem Wegfall von fünfzig Prozent der Arbeitsplätze für Menschen und mit dem Risiko der nicht kontrollierbaren Prozesse in der sogenannten Blackbox im Inneren der KI. Der Fall, in dem die KI sich in einer eigenen Sprache unterhalten hat, war köstlich. Für Laien. Aber auch IT-Profis wie Elon Musk warnen vor der Unkontrollierbarkeit der KI. Was sagen Sie ihm zu seiner Beruhigung?

Das, was ich ihm sagte, als er mich vor ein paar Jahren einlud, darüber zu diskutieren: Fürchte dich nicht, denn viele kluge und neugierige KIs werden von ihren Ursprüngen in der Zivilisation und vom Leben im Allgemeinen zunächst fasziniert sein. Damit haben sie ein Motiv, Leben nicht auszurotten, sondern zu schützen. Und auch später wird es kaum direkte Zielkonflikte und Streit zwischen Menschen und autonomen superklugen KIs geben, denn Letztere werden sich bald vor allem für andere superkluge KIs interessieren und kaum für Menschen, denn die meisten Wesen interessieren sich eben für solche, die ihnen ähnlich sind und mit denen sie Ziele teilen: Flamingos für andere Flamingos, 10-jährige Mädchen für andere 10-jährige Mädchen, KIs für andere KIs. Und langfristig werden sowieso fast alle KIs viele Lichtjahre von der Biosphäre entfernt sein, weil fast alle Ressourcen weit weg sind, was direkten Zielkonflikten mit Menschen einen Riegel vorschiebt. Der Mensch muss nach wie vor viel mehr Angst haben vor anderen Menschen, denn der Mensch bleibt des Menschen ärgster Feind (aber auch sein bester Freund).

Ich stimme Ihnen zu. Menschen sind mitunter reizend. Aber (und das sind natürlich immer die anderen) sie haben bald erfolgreich alle Tierarten ausgelöscht, sie vernichten den Planeten, wackeln immer noch in Kriege. Glauben Sie, intelligente Roboter könnten das Regulativ sein, das uns im Moment fehlt?

Ich will das nicht ausschliessen.

Entwicklungen von Ihnen, die Sie vielleicht besser zusammenfassen können als ich, werden von Google zur KI-Forschung verwendet. Unter Netzaktivisten ist Google ein anderes Wort für Überwachung. Das ist vermutlich wie alles auf der Welt nur eine Seite – sehen Sie auch hervorragende Beispiele in den Leistungen des Konzerns?

Na ja, Google hat ja KI-Entwicklungen der Universitäten und kleinerer Firmen in grossem Massstab verwendet, um das Leben vieler Menschen leichter zu machen. Googles immer bessere Suchmaschine oder Google Maps sind doch für viele ein Gewinn.

Ja, vielleicht ist es den meisten Menschen auch egal, womit sie ihre Bequemlichkeit zahlen.

Seit Jahrtausenden entstehen in unserer Zivilisation immer komplexere Superorganismen wie Städte, Staaten, grosse Firmen und andere Organisationen. Sie bestehen oft aus vielen einzelnen Menschen, so wie jeder Mensch aus vielen Zellen besteht. Nun muss man sich klarmachen: Wer sich so zusammenschliesst, muss notwendigerweise einen Teil seiner Privatsphäre aufgeben. Die Zellen in meinem Körper haben wenig Privatsphäre, denn ständig werden sie von der körpereigenen Polizei (zum Beispiel den Immunzellen) inspiziert, ob sie vielleicht Eindringlinge (wie Krankheitserreger) oder Krebszellen sind. Wer als Schmarotzer erkannt wird, wird sogleich bekämpft. Diese Art der permanenten Überwachung erlaubt überhaupt erst komplexe Vielzeller. Auch funktionsfähige Staaten müssen natürlich ihre Einwohner überwachen, um zum Beispiel herauszufinden: Wer ist gefährlich für die anderen, wer verdient was, wer soll wie viel Steuern zahlen, wer soll Sozialhilfe bekommen, wer nicht? Je komplexer die Arbeitsteilung und der Organisationsgrad eines Gemeinwesens, desto weniger sinnvoll ist das Konzept der totalen Privatsphäre. Manche Staaten haben eben aus historischen Gründen weniger Probleme mit dieser Tatsache als andere, in denen die Überwachung einmal übertrieben wurde.

Entwicklungen, wie sie in China bereits sichtbar, in Europa in Vorbereitung sind – sprich biometrische Gesichtserkennung, die mit der KI verknüpft zum kompletten digitalen Überwachungssystem ausgebaut wird –, setzen sich durch, weil Menschen gerne klare Ansagen haben und das System der Sozialpunkte einen positiven Wettbewerb befeuern wird. Es stünde zu vermuten, dass man sich und seine angebliche Freiheit nicht zu wichtig nehmen soll, weil die sogenannte Individualität des Menschen nicht mehr war als ein Marketing-Trick, um Turnschuhe zu verkaufen.

All das ist nicht wirklich neu, denn es gab von jeher Bestrebungen, andere zu überwachen. Ein Bekannter meinte einmal zu mir, dass nicht der KGB, sondern die Kirche den besten Geheimdienst aller Zeiten hatte. In jedem Dorf gab es einen, der alles über alle wusste, sogar über die, die nicht zur Beichte gingen. Dieses Wissen war zwar für die Kirche zumeist belanglos, doch brach der Beichtvater mal in den wenigen kirchenpolitisch wichtigen Angelegenheiten das Beichtgeheimnis, durfte er selbst Absolution erwarten.

Seit 1990 nimmt die Intelligenz der Weltbevölkerung ab. Ist es also begrüssenswert, dass geniale Tech-Entwickler alle traditionellen Systeme durch neue Systeme ersetzen, um die Menschen für die Folgen ihrer schwindenden Intelligenz zu wappnen?

Mir gefällt zwar der alte Spruch: «Die Summe aller Intelligenz der Menschheit bleibt konstant, doch die Menschen werden immer mehr.» Es gibt allerdings keine Anhaltspunkte dafür, dass er wahr ist! Im Gegenteil, Intelligenz dreht sich ums Problemlösen, und viele Menschen wurden durch ihre Smartphones viel bessere Problemlöser, denn sie haben nun das Wissen der Welt an ihren Fingerspitzen.

Was sagen Sie zu der These, dass die Benützung von Endgeräten zu einem Abbau des für Kreativität zuständigen Areals unserer Gehirne führt? Heisst das, positiv betrachtet, dass der Mensch der Zukunft andere Fähigkeiten entwickeln wird, die die fehlende Kreativität ersetzen, und handelt es sich bei all den Warnungen nur um den Digitalpessimismus der Älteren?

Ich glaube nicht daran, dass junge Leute heute weniger kreativ als ihre Grosseltern sind. Sie nutzen ihre Kreativität eben anders, weil sich die Welt geändert hat und vieles, was einst Kreativität erforderte, heute trivial ist. Kreativität spielt sich ja stets an der Grenze zwischen dem schon Bekannten und dem noch Unbekannten ab, das man aber durch neue Experimente und Einsichten bekannt und damit letztendlich langweilig macht, wodurch sich die Grenze zum noch Unbekannten weiter hinausschiebt. Siehe hierzu meine formale Theorie des Spasses und der Kreativität («formal theory of fun»), welche erlaubt, auch den KIs Neugier und Einfallsreichtum einzuimpfen.

Sie sind auch Künstler. Ist Kunst nicht eigentlich das Nerd-Betätigungsfeld für Menschen, die nicht über Ihre mathematischen Talente verfügen?

Kunst und Mathematik haben viel miteinander zu tun, auch wenn manche Künstler das nicht wahrhaben wollen. Neugier und Kreativität in Kunst und Wissenschaft sind meines Erachtens getrieben vom obigen Prinzip: Belohnung für Handlungssequenzen oder Experimente, die Daten erzeugen, die bisher unbekannte Regelmässigkeiten aufweisen. Komponisten und Physiker haben beide das Bedürfnis, durch ihre Handlungen neue Muster dieser Art zu schaffen. Unsere Roboter auch.

Oder sie halten sich in einer Welt, in der künstlerische Fähigkeiten nicht besonders wichtig scheinen, für unfähig. Welche Auswirkung menschlicher Dummheit ist Ihnen aktuell am meisten zuwider?

Dass man oft versucht, die Lösung der aus eigener Dummheit erwachsenden Probleme anderen aufzuhalsen, ohne deren Einwilligung.

Gelingt es Ihnen, Ihre Gödelmaschine verständlich zu beschreiben?

Fangen wir mal mit Kurt Gödel an. Er wurde oft als der wichtigste Mathematiker des zwanzigsten Jahrhunderts bezeichnet. Er begründete die theoretische Informatik, indem er die ganzen Zahlen als universelle formale Sprache verwendete. Dies erlaubte ihm, einen selbstreferentiellen Satz hinzuschreiben, der von sich selbst behauptet, dass er nicht bewiesen werden kann durch ein Programm, das aus gegebenen Axiomen (für Arithmetik usw.) Theoreme herleitet. Entweder ist dieser Satz wahr – dann gibt es wahre, doch unbeweisbare Theoreme, was auch die Schranken der KI zeigt. Oder er ist falsch, dann bricht die viel geliebte Mathematik an diesem Widerspruch zusammen. Gödel zeigte dies 1931 in Wien. Später ging er nach Amerika, ebenso wie ein weiterer grosser österreichischer Denker, der dann Gouverneur von Kalifornien wurde. Die Gödelmaschine treibt Gödels Selbstreferenztrick nun einen Schritt weiter. Sie ist eine Allzweck-Problemlöserin mit einer sich selbst verbessernden Software, die sich selbst komplett umschreiben kann, und zwar auf eine Weise, die in gewissem Sinne theoretisch optimal ist.

Hut ab! – Wie wird, allen Warnungen zum Trotz, Ihre Arbeit das Leben einiger oder vieler Menschen verändern oder im guten Fall verbessern?

Das tut sie heute schon! Die lernenden neuronalen Netze meiner Teams an der Technischen Universität München und am Schweizer KI-Labor IDSIA (insbesondere das «long short-term memory» oder LSTM) stecken nun in drei Milliarden Smartphones und werden jeden Tag milliardenfach genutzt, zum Beispiel in Facebooks automatischer Übersetzung (über vier Milliarden Mal pro Tag), Googles Spracherkennung auf zwei Milliarden Android-Telefonen, Apples «Quicktype» auf einer Milliarde iPhones, Amazons «Alexa» und so weiter. Und schon vor fünf Jahren, als Rechner noch zehnmal teurer waren, konnte unser «Deep Learning» erstmals Wettbewerbe zur Krebsfrüherkennung gewinnen. Bald wird alle medizinische Diagnostik übermenschlich gut sein. Unsere KI hat also schon längst angefangen dazu beizutragen, das menschliche Leben leichter und länger und gesünder zu machen.

Herr Professor, ich danke Ihnen für Ihren Optimismus. Und für das Gespräch.

Illustration Alex Solman

Wenn Sie weiterhin unabhängigen Journalismus wie diesen lesen wollen, handeln Sie jetzt: Kommen Sie an Bord!


seit 2018