Bedroht die künstliche Intelligenz das, was den Menschen ausmacht? Gut möglich, meint David Gugerli – aber auch kein Problem
Ein Gespräch mit dem Technikhistoriker über Melkmaschinen, Überschalljets und darüber, wie Gesellschaften mit Technik umgehen.
«Das alles ist Technik. Sie lebt, und sie lebt im Gebrauch.» David Gugerli am Bellevue in Zürich, April 2024.
Was haben Landkarten und elektrische Energie miteinander zu tun, Bergbahnen und Suchmaschinen, Chirurgie und Gewässerschutz, die Berechnung von Risiken im Versicherungswesen und die Staatsschutzfichen von Max Frisch? Es geht um Technik. Und um die vielen Themen, mit denen sich David Gugerli, Professor für Technikgeschichte an der ETH Zürich, in den letzten dreissig Jahren beschäftigt hat. Sein neues Buch ist eine Sammlung von Essays über veraltende und verschwindende Technologien, aber in diesen Tagen ist es eine neue, die für Aufregung sorgt. Darüber reden wir in Gugerlis Büro an der ETH. Er will sich aber lieber nicht dort fotografieren lassen («langweilig»), sondern auf einem der belebtesten Plätze mitten in der Stadt – Technik, sagt er, finde dort statt.
Herr Gugerli, sind Sie ein Feind des Fortschritts?
David Gugerli: Nein, ich finde Neues aufregend. Ich bin aber ein Feind des Begriffs «Fortschritt».
Wieso?
Er kann fast nichts erklären. Er impliziert einen zwangsläufigen und zielgerichteten Weg in die Zukunft, von der wir doch praktisch nichts wissen. Zudem blendet der Begriff die Frage aus, für wen sich Vorteile und für wen sich Nachteile ergeben werden. Dieser «Fortschritt» ist gewissermassen naturwüchsig. Ich spreche lieber von technischem Wandel. Er lässt sich evaluieren und findet nicht einfach statt.
Von wegen Fortschritt: Sie haben sich Ihre Notizen für unser Gespräch mit einem Füllfederhalter gemacht.
Das hier? Das ist ein Bleistift. Noch schlimmer.
Sieht aus wie ein Füller.
Ja, er hat eine abnehmbare Metallkappe mit einem integrierten Spitzer und einem Clip zum Einstecken. In der Fassung hinten befindet sich ein Radiergummi.
Sie hätten sich die Arbeit sparen und Chat-GPT fragen können, was Sie am besten sagen. Manche lassen sich sogar ihre Bewerbung von einer künstlichen Intelligenz schreiben.
Ich habe Chat-GPT schon verschiedentlich konsultiert. Die Ergebnisse sind sehr ordentlich formuliert, und sie treffen sogar das Thema, was man von studentischen Arbeiten oder Artikeln in der Presse nicht immer sagen kann. Zugleich ist alles ein bisschen auf der angeberischen Seite: Wenn man sich die Ergebnisse genauer ansieht, merkt man, dass eigentlich mehrmals dasselbe gesagt wird. Aber neulich habe ich für ein Forschungsprojekt, an dem ich seit einem Jahr arbeite, eine Frage gestellt und musste sagen: Vor einem Jahr hätte ich das so nicht formulieren können.
Manche fürchten, KI werde uns überflüssig machen. Andere hoffen auf intellektuelle Leistungen, die alles Menschenmögliche übertreffen. Wo stehen Sie?
Ich glaube weder ans eine noch ans andere. Es stimmt, im Moment hat man die Wahl zwischen Apokalypse und Erlösung. Aber das heisst eigentlich nur, dass noch kein Konsens darüber gefunden worden ist, was zu erwarten ist. Wir wissen heute nicht, ob wir in zehn Jahren über die KI nur noch stöhnen oder ob wir sie in unsere Arbeitswelt und unser Privatleben integriert haben werden. Aber die Verheissungen und Befürchtungen klingen ganz ähnlich wie jene, die Mitte der 1990er Jahre aufkamen, als es um das Internet und um Suchmaschinen ging: Jetzt könne jeder alles wissen, sagten die einen. Jetzt könne jeder alles behaupten, sagten die anderen. Mittlerweile haben wir uns recht kommod mit diesen Dingen eingerichtet und wissen sie einzusetzen. Und wir wissen auch, was sie nicht leisten können.
Ist das ein Gesetz des technischen Wandels: Zuerst die grosse Aufregung, dann wird es pragmatisch?
Das kann man so sagen. Es kommt ein neues Angebot auf den Tisch, und das wird mit aufregenden Versprechungen verknüpft. Autonomes Fahren des Automobils zum Beispiel. Die einen sehen ihre Fahrkunst bedroht oder wollen selber entscheiden, ob sich das Bremsen noch lohnt. Andere träumen von der Krimilektüre im motorisierten Pendlerverkehr. Fast so gut wie im Zug! Sobald aber die Gemüter und Expertenberichte auf Normaltemperatur gekommen sind, pendeln sich die Erwartungen ein. Man spricht nicht mehr von einer Zukunft, von der man nichts weiss, sondern von der Gegenwart, und hier mag eine vollautomatische Parkierassistenz im engen Park + Ride willkommen sein.
Ein Thema in der Diskussion über KI: Diese Programme lernen, die Technik macht sich selbständig. Das hatten wir noch nie, oder?
Doch, ich glaube schon. Es ist ein Dauerbrenner in der Computergeschichte, und das seit den 1960er Jahren. Beim «Time Sharing» zum Beispiel verwaltet der Computer seine User, nicht umgekehrt.
Was passiert da?
Wenn mehrere Nutzer an einem grossen Rechner arbeiten, also Rechenzeit beanspruchen, wird jedem ein Häppchen zugeteilt. Wie das geschieht, wissen die User nicht. Sie merken vielleicht nicht einmal, dass sie in einer Schlange stehen, in der jene, die wenig wollen, zuerst drankommen, während die Anspruchsvollen Geduld haben müssen. Man kann das unheimlich finden, aber Betriebssysteme tun das längst routinemässig. Die Autonomie der Rechner war auch um die Jahrtausendwende ein Thema: Hersteller grosser Softwareinstallationen mussten sich eingestehen, dass sie die Updates ihrer Systeme nicht mehr einschätzen können. Muss dieses Modul auch noch installiert und deshalb jenes erweitert werden? Reicht eine kleine Korrektur an dieser Stelle, und welche Auswirkungen wird das auf die Gesamtleistung haben? Die Systeme waren so komplex geworden, dass sich das nicht mehr schnell genug beurteilen liess – man musste die Beurteilung den Maschinen überlassen. Sie verwalten also ihre Programme, sie wurden teilautonom in Bezug auf ihre Entwicklung.
Ist es denn auch die Regel, dass eine neue Technologie das, was den Menschen und das Menschsein ausmacht, derart infrage stellt wie jetzt die KI?
Da würde ich gern zurückfragen: Wer ist gemeint mit «der Mensch»? Ursula von der Leyen oder Jacqueline Badran? Trump oder Putin? Peter Alexander hätte das wohl noch gewusst. «Hier ist ein Mensch» hiess sein Schlager: «Kennst du seinen Namen? / Seinen Namen kennst du nicht / Sieh zu ihm hinüber / Und dann kennst du sein Gesicht.»
Das bedeutet?
Der sogenannte Mensch ist Kitsch. Es gibt Junge, Alte, Reiche, Arme – das Entscheidende sind die unterschiedlichen Motivationen und Interessen. Als Historiker frage ich mich, was man sich in einer bestimmten Gesellschaft zu einer bestimmten Zeit unter dem «Menschen» vorgestellt hat. Und je nachdem, wie diese Gedankenfigur aussah, gab es Irritationen angesichts des technischen Wandels. Spielen Sie Schach?
Nein.
Als der Schachcomputer «Deep Blue» 1997 den Weltmeister geschlagen hatte, gab es grosse Diskussionen darüber, ob die Maschine den Menschen als intelligentes Wesen überflüssig mache. Die Niederlage von Garri Kasparow war eine Beleidigung für den «Menschen». Das hat sich gelegt, vielleicht weil Schach nicht mehr als ultimativer Intelligenztest gilt. Oder weil ein Computer nicht Mitglied in einem Schachklub werden kann. Er wird heute als Trainingsgerät genutzt.
Der Schachcomputer «Deep Blue» schlägt den Weltmeister: «Die Niederlage von Garri Kasparow war eine Beleidigung für den ‹Menschen›». (10. 5. 1997)
Das heisst, das Verständnis dessen, was der Mensch ist, passt sich dem technischen Wandel an?
Genau, ja.
Und was machen wir, wenn KI Ergebnisse hervorbringen sollte, die sich als Zeichen von Bewusstsein deuten lassen?
Dann definieren wir den sogenannten Menschen neu. Sprachmodelle wie Chat-GPT simulieren menschliche Kommunikation, und es passieren dabei überraschende Dinge. Aber wenn man sich den Menschen als informationsverarbeitendes Wesen mit Bewusstsein vorstellt und gleichzeitig höchst leistungsfähige Apparaturen baut, die Informationen verarbeiten, dann ist es kein Wunder, dass diese Apparaturen eines Tages Dinge äussern, die man als Bewusstsein deuten kann. Es liegt dann auch nahe, darüber nachzudenken, was den «Menschen» ausmacht und ob wir wirklich darauf angewiesen sind, «Bewusstsein» als exklusiv menschliche Eigenschaft zu verstehen. Wir werden also Bewusstsein und Menschsein neu definieren.
Das ist kein Problem?
Es gibt sicher zu tun. Und der Aufwand wird hier grösser sein als beim Taschenrechner, der mir das Ziehen von Quadratwurzeln abgenommen hat, ohne mein Selbstverständnis zu erschüttern.
Ein Historiker an der ETH
Was heisst das für die Technikgeschichte?
Als Historiker muss ich von der Gesellschaft reden, nicht vom «Menschen». Wie haben Gesellschaften den technischen Wandel diskutiert? Wie hat man sich eine bestimmte Technologie und ihren Nutzen vorgestellt, und welche Vorstellungen haben sich durchgesetzt? Welcher Umgang mit der Technik wurde damit verbunden, wie hat man ihn reguliert oder verboten, wie sind Selbstverständlichkeiten im Gebrauch der Artefakte und Systeme entstanden? Diese gesellschaftlichen Prozesse des Aushandelns und Verständigens möchte ich verstehen.
Die Begleitmusik des technischen Wandels?
Nein, das ist keine Begleitmusik, sondern der Kern des technischen Wandels.
Und was ist mit der Technik selber, den «Artefakten»?
Was wollen Sie denn jetzt noch mit den Artefakten? Ich dachte schon, wir hätten mit dem «Menschen» und dem «Fortschritt» alles analytisch Unbrauchbare weggeräumt. Wenn Sie einen alten Apparat vor sich haben, den Sie nicht mehr aus eigener Erfahrung kennen, dann wissen Sie vermutlich auch nicht, ob Sie damit Gartenabfälle kleinhacken, Kaffee machen oder Saiten für Musikinstrumente herstellen können. Das heisst: Ohne den Benutzer, ohne Gebrauch, ohne Anschluss an erwartbare, zulässige oder befürchtete Einsatzformen ist «Technik selber» bloss eine Ansammlung von Teilen aus Blech, Glas, Gummi und Plastik. Sie hat nur einen Wert und einen Sinn, wenn sie in Gebrauch genommen wird. Wenn Sie aber etwas über diesen Gebrauch wissen wollen, dann müssen Sie sich ansehen, wie sich eine Gesellschaft mit der Technik auseinandergesetzt hat.
Das Reden über die Technik ist alles?
Alles, was Gesellschaft ausmacht, ist Kommunikation. Der Gegenstand dieser Diskurse verändert sich, und was in bestimmten Momenten thematisiert wird, kann historisch beleuchtet und erklärt werden. Als man in der Schweiz des späten 19. Jahrhunderts damit anfing, elektrische Energie zu produzieren, gab es noch keine Nutzer. Und es gab auch keinen Konsens, wozu man Strom überhaupt brauchen könnte. Man debattierte also über den Strom, und im Gang dieser Debatte wurde das Neue in brauchbare Formeln übersetzt, die auf ganzer gesellschaftlicher Breite verstanden und für attraktiv gehalten wurden. So sprachen die Produzenten bald von einem «Netz», wie man zuvor schon von Telegrafen-, Eisenbahn-, Wasser- und Gasnetzen gesprochen hatte. Das machte die neue Technologie anschlussfähig.
Sie wurde der Gesellschaft angepasst.
Ja, und umgekehrt: Die Gesellschaft passte sich der Technik an. Wer ein Flusskraftwerk in Betrieb nehmen wollte, der konnte den Strom zwar nicht den Kühen am Ufer der Aare verkaufen. Aber vielleicht liessen sich die Bauern der Umgebung gewinnen: Hast du dir schon einmal überlegt, eine Melkmaschine anzuschaffen? Und wenn du dann schon einen Motor hast: Du könntest damit auch eine Güllepumpe antreiben. Und ein Heugebläse. Und eine Holzfräse. Und weisst du was: Wir schenken dir einen guten Motor. Für den Strom zahlst du einen Pauschaltarif, aber du darfst ihn nur tagsüber nutzen, denn abends brauchen wir Strom für die Beleuchtung auf dem Dorfplatz und in den Beizen. So machten es die Produzenten, und so funktioniert technischer Wandel eigentlich immer: Es ist nicht die Nachfrage, die die Entwicklung stimuliert, sondern umgekehrt. Man macht ein Angebot und bemüht sich darum, dass sich das passende Bedürfnis entwickelt. Solche Dinge gehören zum Prozess, in dem sich eine Gesellschaft über eine neue Technologie verständigt.
Und wann wird Technik zum Sachzwang? Wir führen dieses Gespräch auf Hochdeutsch, weil sich das Programm, das meine Tonaufnahme verschriftlichen wird, mit Mundart nicht auskennt.
Kommt darauf an, was man unter Sachzwang versteht.
An manchen Bahnhöfen gibt es nur noch Schliessfächer, die mit einer App auf dem Smartphone funktionieren. Das würde ich einen Sachzwang nennen.
Klar gibt es Sachzwänge. Aber dort, wo sie jetzt auftauchen, gab es früher schon welche. Wenn Sie kein Münz in der Tasche hatten, konnten Sie kein Schliessfach benutzen. Jede Technik bringt Sachzwänge mit sich.
Aber «Verständigung» über den technischen Wandel könnte so klingen, als gäbe es ein gleichberechtigtes Miteinander aller Beteiligter.
Das meine ich nicht – technischer Wandel ist keine demokratische Veranstaltung. Es geht in diesen Aushandlungsprozessen darum, aus heterogenen Motivationen homogene Interessen zu bilden. Das geschieht nicht ohne Konflikte, und es ist ein knallhartes Geschäft mit Gewinnern und Verlierern.
Geht in der KI-Debatte vergessen, dass grosse Firmen ihre Produkte verkaufen wollen?
Man darf nicht naiv sein und meinen, die Konzerne hätten in dieser Entwicklung keine Bedeutung. Ebenso naiv wäre aber auch die Idee, alles werde in den Zentralen von Google oder Apple entschieden. Auch die Nutzer haben ihre Interessen, und das ist einer der Gründe, warum sie sich ein Smartphone kaufen. Sie wollen den Wochenendausflug planen, den Lohneingang auf dem Konto kontrollieren und wissen, ob die Kinder im Bett sind. Jedes Gerät hilft einem, eigene Interessen durchzusetzen. Wenn es wirklich so wäre, dass die Anbieter den technischen Wandel nach ihrem Willen gestalten und durchsetzen könnten, dann gäbe es auch keine Erklärung für die ganzen Fehleinschätzungen und Misserfolge.
Gibt es viel Scheitern in der Geschichte der Technik?
Sie ist voll davon. Sehr oft wird aus grossen Entwürfen am Ende nichts. Denken Sie ans Überschallfliegen und an die Concorde. Wir sind in der Nachkriegszeit, Grossbritannien und Frankreich entwickeln die Concorde gemeinsam, allein die organisatorischen Fragen verschlingen sehr viel Energie, und es ist auch technologisch ein schwieriges Projekt. Aber irgendwann gibt es diesen Vogel doch noch. Er verbrennt kolossal viel Kerosin und macht einen kolossalen Lärm, aber es gibt Leute, die zehn- oder fünfzehntausend Franken für ein Ticket zahlen, um mit hundertfünfzig anderen Leuten an Bord Champagner zu trinken und in drei Stunden von Paris nach New York zu fliegen. Das ist schnell, und diese Schnelligkeit ist ein Luxus, aber wenn Sie dann nochmals so viel Zeit brauchen für die Anfahrt zum Flughafen, für das Parkieren, die Gepäckaufgabe und das Warten bis zur Freigabe, dann ist von diesem Luxus nichts mehr übrig. Das Tempo, nur von der Flugzeugtechnik her gedacht, ist dann kein Argument mehr – daran ist die Concorde gescheitert, schon lange vor dem Absturz in Paris im Jahr 2000. Wer also Geld hatte und etwas auf sich hielt, der hat sich einen kleinen Privatjet gekauft.
Sie haben einmal gesagt, unsere Gesellschaft habe fast schon religiöse Vorstellungen von der Macht der Technik.
Sehen Sie sich die Planetarien in unseren Museen an. Oder die Hallen der Kraftwerke mit ihren Turbinen, Generatoren und Transformatoren. Das sind Kathedralen! Technik fällt nicht vom Himmel, aber sie wird oft mit einer sakralen Aura umgeben.
Sie selber stammen aus einer Pfarrersfamilie auf der Zürcher Landschaft, und Ihre Doktorarbeit haben Sie über die Geschichte dieses sozialen Milieus geschrieben. Wie sind Sie vom Protestantismus zur Technikgeschichte gekommen?
Vielleicht war mir die Humanisierung des theologischen Problems im 18. Jahrhundert dann doch weniger wichtig als andere Fragen, etwa die Elektrifizierung der Schweiz. Ich fand jedenfalls, dass das Leben zu kurz sei, um sich mit Variationen eines einzigen Themas zu beschäftigen. Und die Technikgeschichte war in der Zeit um 1990 so abgrundtief langweilig, dass sich hier viel bewegen liess, zum Beispiel durch kontraintuitive Fragen und durch ein breiteres Verständnis dessen, was Technik alles ist und was alles zur Technikgeschichte gehört. Zudem hatte ich in Berlin und in Stanford die neuen Entwicklungen in der Wissenschaftsgeschichte kennengelernt. Man verstand den wissenschaftlichen «Fortschritt» nicht mehr als gegeben, sondern untersuchte zum Beispiel, was in einem Labor genau vor sich geht. Und welches Vokabular und welche Sinnbilder Wissenschafter in ihren Texten benutzen, um sich durchzusetzen und ihre Sache in der Gesellschaft voranzubringen. Auch scheinbar so «wissenschaftliche» Dinge wie Experimentalsysteme sind metaphorisch aufgeladen. Ich habe dann versucht, solche Forschungsansätze auf die Technikgeschichte zu übertragen.
Gehen Sie als Technikhistoriker anders durch die Welt?
Anders als eine Spezialistin für fakultative Rückversicherungsverträge? Ja, die «déformation professionelle» ist nicht zu vermeiden. Was sehe ich, wenn ich am Morgen meinen Kaffee am Bellevue trinke? Ich sehe interagierende Menschen und Geräte und Systeme aus ganz unterschiedlichen historischen Zeiten – ein Gewusel von Trams, Fussgängern, Velos, Kinderwagen. Auf dem Platz kreuzen sich Schienen und Stromleitungen und Strassen, «Züri rollt» hat einen Container, es gibt eine Wurstbude und eine Bedürfnisanstalt, jemand verkauft noch alte Uhren. Das ist das Bellevue, und es ist ein künstlicher Ort, aufgeschüttet mit dem Bau der Quaianlagen am See im 19. Jahrhundert, als Zürich so schön wie Luzern werden wollte, mit nobler elektrischer Beleuchtung und bald auch gepflästert. Und während in den 1980er Jahren vor allem die Junkies das Rondell benutzten, hat man mittlerweile ein Café mit hohem Umsatz eingebaut. Das sind die Dinge, die ich dort sehe – und alles ist Technik. Sie lebt, und sie lebt im Gebrauch.
Ein Artikel aus der «NZZ am Sonntag»
