08.06.2023
Keine Angst vor den Robotern
Von Norman Lewis
Uns droht, von Künstlicher Intelligenz beherrscht zu werden, befürchten Eliten. Solche Horrorvorstellungen erwachsen aus einem kraftlosen, fatalistischen Menschenbild.
Künstliche Intelligenz (KI) war einst ein unbeachtetes Thema, das nur von einer kleinen Gruppe von Informatikern ernsthaft diskutiert wurde. Aber das ist Geschichte. Heute ist sie Gegenstand nahezu täglicher öffentlicher Debatten und einer ganzen Reihe von Schwarzmalereien.
Erst letzte Woche veröffentlichte das Center for AI Safety, eine NGO mit Sitz in San Francisco, eine Erklärung auf seine Website, in der es heißt: „Die Eindämmung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorität sein." Diese apokalyptische Aussage wurde von einigen der größten KI-Fachleute unterstützt, darunter Sam Altman, der Geschäftsführer von OpenAI (der Firma hinter ChatGPT), und Demis Hassabis, Geschäftsführer von Google DeepMind.
Es besteht kein Zweifel daran, dass KI einen bedeutenden technologischen Durchbruch darstellt, der unser Leben wirklich stark beeinflussen könnte. Aber das vorherrschende Narrativ, das sich um die KI rankt, geht viel weiter als das. Es überschätzt das derzeitige Potenzial der KI massiv und zieht immer wieder absurd dystopische Schlüsse. So werden nicht mit Bewusstsein ausgestattete KI-Assistenten, von ChatGPT bis Google Bard, heute als potenziell fähig angesehen, Gefühle zu empfinden und eine Intelligenz zu entwickeln, die unserer eigenen weit überlegen ist. Angeblich sind sie nur noch einen kleinen Schritt davon entfernt, eine unabhängige Handlungsfähigkeit zu entwickeln und ihr eigenes Urteilsvermögen und ihren eigenen Willen auszuüben.
Einige KI-Enthusiasten ergehen sich in utopischen Höhenflügen. Sie behaupten, dass die KI bald Krebs heilen oder den Klimawandel lösen könnte. Aber viele andere, wie die Erklärung des Zentrums für KI-Sicherheit beweist, haben begonnen, über ihr katastrophales Potenzial zu spekulieren. Sie behaupten, dass sich die KI gegen uns, ihre Schöpfer, wenden und zu einer echten und tödlichen Bedrohung für die Zukunft der menschlichen Zivilisation werden wird.
Narrativ der Technologiedeterministen
Durch die Annahme, dass die KI eine eigene Handlungsfähigkeit entwickeln wird, geben sich diese KI-Experten, ebenso wie einige Experten und Politiker, einer extremen Form des technologischen Determinismus hin. Das heißt, sie gehen davon aus, dass allein die technologische Entwicklung die Entwicklung der Gesellschaft bestimmt.
„Die Technologien, die sich durchgesetzt und die Gesellschaft verändert haben, sind nur entstanden, weil die Menschen sie übernommen und an ihre Bedürfnisse angepasst haben.“
Die Technologiedeterministen haben die Dinge falsch herum verstanden. Sie ignorieren die Art und Weise, in der die Gesellschaft die technologische Entwicklung aushandeln und bestimmen kann. Die Technologien, die sich durchgesetzt und die Gesellschaft verändert haben, sind nur entstanden, weil die Menschen sie übernommen und an ihre Bedürfnisse angepasst haben. Im Gegenzug haben diese Technologien, egal wie rudimentär sie waren, den Menschen nicht nur ermöglicht, ihre Bedürfnisse zu befriedigen, sondern auch neue Bedürfnisse zu kultivieren. So schrieb schon Karl Marx über das Bedürfnis zu essen: „Hunger ist Hunger, aber Hunger, der sich durch gekochtes Fleisch, mit Messer und Gabel gegessenes Fleisch befriedigt, ist ein andrer Hunger, als der rohes Fleisch mit Hilfe von Hand, Nagel und Zahn verschlingt".
Das technologisch deterministische Narrativ, das sich rund um die KI entwickelt hat, ignoriert nicht nur die Art und Weise, in der die menschliche Gesellschaft die technologische Entwicklung aushandelt. Sie geht auch davon aus, dass der Mensch gegenüber der Macht der neuen Technologien völlig ausgeliefert ist. Die KI-Angstmacher scheinen zu glauben, dass die menschliche Subjektivität nicht mehr existiert.
Das apokalyptische KI-Narrativ hat sich mit unglaublicher Geschwindigkeit entwickelt. Ende März veröffentlichten 50 führende KI-Wissenschaftler, darunter Twitter-Chef Elon Musk, Apple-Mitbegründer Steve Wozniak und Forscher des KI-Unternehmens DeepMind über das Future of Life Institute einen Offenen Brief. Sie forderten einen vorübergehenden Stopp des Trainings von KI-Systemen und warnten, dass wir Gefahr laufen, „immer leistungsfähigere digitale Köpfe zu entwickeln und einzusetzen, die niemand – nicht einmal ihre Schöpfer – verstehen, vorhersagen oder zuverlässig kontrollieren können". Ihrer Meinung nach laufen wir Gefahr, eine superintelligente KI zu schaffen, die möglicherweise eine existenzielle Bedrohung für die Menschheit darstellen könnte.
Ihre Forderung, etwas zu unternehmen, erhielt Anfang Mai Auftrieb, als Altman zusammen mit den CEOs von Microsoft, Alphabet (der Holdinggesellschaft von Google) und Anthropic im Weißen Haus zusammentraf, um mit hochrangigen US-Regierungsbeamten über die von der KI ausgehenden Gefahren zu diskutieren. Am 16. Mai trat Altman trat dann vor dem US-Senat auf und forderte eine Regulierung der KI. Und damit war die Weltuntergangsstimmung eingeläutet.
Warnungen und Regulierung
Wie immer ist es die Europäische Union bei der Regulierung vorangeprescht. Ihr Gesetzentwurf zur künstlichen Intelligenz, der ursprünglich im April 2021 vorgelegt wurde, hat bereits die erste Anhörung im Parlament bestanden. Dieses Gesetz wird wahrscheinlich die Messlatte für andere Gesetzgeber setzen, da das Vereinigte Königreich und die USA darüber nachdenken, wie KI am besten reguliert werden kann. Diese Masse an potenziellen KI-Gesetzen, die durch ein zunehmend apokalyptisches und fatalistisches Narrativ genährt wird, verstärkt das Gefühl, dass es wirklich etwas zu befürchten gibt – dass etwas getan werden muss, um KI zu stoppen, bevor es zu spät ist.
Einer der wichtigsten Beiträge in dieser zunehmend hitzigen Debatte kam vom so genannten Paten der KI, Geoffrey Hinton. Anfang Mai trat er bei Google zurück und erklärte, dass er seinen Beitrag zur Entwicklung der KI nun bereue. Hinton erhielt 2018 für seine Arbeit an neuronalen Netzen für künstliche Intelligenz das Äquivalent eines Nobelpreises für Informatik. Dennoch erklärte er letzten Monat gegenüber mehreren Nachrichtenagenturen, dass große Technologieunternehmen bei der Einführung von KI in der Öffentlichkeit zu schnell vorgehen. Er behauptete, dass KI schneller als von Experten vorhergesagt menschenähnliche Fähigkeiten erreiche. „Das ist beängstigend", sagte er der New York Times. Was ihn wirklich erschütterte, war „die Erkenntnis, dass biologische Intelligenz und digitale Intelligenz sehr unterschiedlich sind, und dass die digitale Intelligenz wahrscheinlich viel besser ist". An anderer Stelle äußerte er gegenüber der Financial Times, dass „es durchaus denkbar ist, dass die Menschheit eine vorübergehende Phase in der Evolution der Intelligenz ist". Und für den Fall, dass wir es nicht verstanden haben, forderte er die Leser auf, sich etwas vorzustellen, „das um den gleichen Grad intelligenter ist als wir, wie wir intelligenter sind als ein Frosch". Das ist in der Tat beängstigend.
„Glaubt man einem großen Teil unserer Eliten, so stehen wir an der Schwelle zu einer Terminator-ähnlichen Welt, in der eine empfindungsfähige KI die Menschheit unterdrücken und sogar auslöschen wird.“
Hinton greift hier zu weit. Es ist ein großer Sprung von der Entwicklung von Algorithmen, die versuchen, das menschliche Gehirn nachzuahmen, zur Entwicklung einer „digitalen Intelligenz", die die „biologische Intelligenz" übertrifft. Er mag ein Genie sein, wenn es um die Entwicklung künstlicher Intelligenz geht, aber er verbreitet absoluten Unsinn über die menschliche Intelligenz.
Traurigerweise werden die Behauptungen von Hinton und anderen als unbestrittene Wahrheit wiederholt. Der Historiker, Philosoph und Bestsellerautor Yuval Noah Harari behauptet nun, dass generative KI, wie ChatGPT, „das Betriebssystem unserer Zivilisation gehackt" hat. „Wenn die KI die Sprache hackt", warnt er, „könnte sie unsere Fähigkeit zerstören, sinnvolle Gespräche zu führen, und damit die Demokratie zerstören". Die Globalisierungsgegnerin Naomi Klein befürchtet, dass die reichsten Unternehmen der Geschichte sich die Summe des menschlichen Wissens aneignen und es hinter proprietären Produkten verstecken. Der MIT-Wirtschaftswissenschaftler Daron Acemoglu behauptet, dass die KI „den politischen Diskurs, das wichtigste Lebenselixier der Demokratie, beschädigen wird".
Wer würde sich bei so viel Pessimismus von Experten und Kommentatoren keine Sorgen um KI machen? Glaubt man einem großen Teil unserer Eliten, so stehen wir an der Schwelle zu einer Terminator-ähnlichen Welt, in der eine empfindungsfähige KI die Menschheit unterdrücken und sogar auslöschen wird.
Es lohnt sich zu fragen, warum so intelligente Menschen sich im Zusammenhang mit dieser bemerkenswerten Technologie nur das Schlimmste ausmalen können. Warum sollte eine übermenschliche Intelligenz, wenn sie denn tatsächlich geschaffen wird, versuchen, uns zu vernichten? Würde ein KI-System nicht danach streben, die Errungenschaften der menschlichen Zivilisation zu übertreffen, anstatt sie zu zerstören?
Diese fatalistische, dystopische Sicht auf die KI hat wenig mit der Technologie selbst zu tun. Sie rührt daher, dass unsere Eliten die menschliche Handlungsfähigkeit gering schätzen. Aus ihrer Sicht sind Maschinen Agenten, während Menschen passive Objekte sind. Dies spiegelt ein Unbehagen des 21. Jahrhunderts wider, in dem der Mensch als Unterworfener von Kräften betrachtet wird, die sich unserer Kontrolle gänzlich entziehen.
Eine andere Vision
Dystopische Visionen mit menschenfeindlichen Robotern sind nichts Neues. Der tschechische Schriftsteller Karel Čapek machte 1920 mit seinem Theaterstück „RUR – Rossum's Universal Robots“ das Wort "Roboter" erstmals in der Welt bekannt. Es erzählte die Geschichte von künstlichen Menschen (Robotern), die sich gegen ihre menschlichen Schöpfer auflehnen, was zur Auslöschung der Menschheit führt. Fritz Langs „Metropolis“, ein bemerkenswertes Stück expressionistischer Science-Fiction, das 1927 in die Kinos kam, zeigt ebenfalls eine Zukunft, in der Roboter die Menschen tyrannisieren, sie manipulieren und die Kontrolle über eine stark geschichtete Gesellschaft ausüben. Dann gibt es noch Isaac Asimovs „Roboter"-Romanserie, die 1950 mit „I, Robot“ begann und die Auswirkungen der fortgeschrittenen Robotik und das Potenzial von Robotern, die Kontrolle über die menschliche Gesellschaft zu übernehmen, untersuchte.
Die düsteren Visionen all dieser Schriftsteller von einer unmenschlichen Zukunft, die von einer roboterhaften Bürokratie regiert wird, beruhen auf ihren Erfahrungen mit dem industriellen Gemetzel während des Ersten und Zweiten Weltkriegs und dem Totalitarismus des Faschismus und Stalinismus. Doch diese Schriftsteller und ihre düsteren Visionen waren damals nur Ausnahmen von der allgemeinen Regel. So düster ihre Zeiten auch waren, sie lebten in Gesellschaften, in denen von den Menschen noch erwartet wurde, Verantwortung für die Zukunft zu übernehmen. Es herrschte immer noch das Gefühl, dass die Menschen den technischen Fortschritt nutzen könnten, um eine bessere Welt zu schaffen.
„Was ChatGPT leistet, ist an sich schon beeindruckend. Aber so wie es derzeit steht, reicht es nicht an die menschliche Intelligenz heran“.
Eine ganz andere Zukunftsvision findet sich in Wassili Grossmans meisterhaftem Roman „Leben und Schicksal“ aus dem Jahr 1959. Er wurde in den Schützengräben der russischen Front während des Zweiten Weltkriegs geschrieben, einem der barbarischsten Kapitel der Menschheitsgeschichte. Doch in dem Buch bleibt Grossmans Glaube an die Menschheit und die Technik bestehen. Er kann immer noch von einer Zukunft träumen, in der eine „elektronische Maschine mathematische Probleme schneller lösen kann als der Mensch, und ihr Gedächtnis ist fehlerfrei". Grossmans imaginäre Maschine der Zukunft „wird in der Lage sein, Musik zu hören und Kunst zu schätzen; sie wird sogar in der Lage sein, Melodien zu komponieren, Bilder zu malen und Gedichte zu schreiben". Sie wird die Errungenschaften des Menschen übertreffen, sagt er.
Der Kontrast zu heute ist bemerkenswert. Selbst nach der Barbarei des Zweiten Weltkriegs sieht Grossman das, was wir heute als KI bezeichnen, als etwas, das die Menschheit erheben und nicht bedrohen würde – das das Beste des Menschen, das Komponieren, das Malen und das Schreiben, voranbringen würde. Seine „elektronische Maschine" verkörpert, wie er es nennt, die „geistigen und seelischen Eigenheiten eines durchschnittlichen, unauffälligen Menschen".
Grossmans Maschine verkörpert die Menschheit und bringt sie voran. Sie wird, so schreibt er, „Kindheitserinnerungen [abrufen]... Tränen des Glücks... die Bitterkeit des Abschieds... Freiheitsliebe ... Mitleidsgefühle für ein krankes Hündchen... Nervosität... Zärtlichkeit einer Mutter... Gedanken an den Tod... Traurigkeit... Freundschaft... Liebe zu den Schwachen... plötzliche Hoffnung ... einen Glückstreffer... Melancholie... unvernünftige Freude... plötzliche Verlegenheit".
Grossmans KI zielt nicht darauf ab, die Menschheit zu zerstören oder zu bestrafen. Stattdessen ist sie Ausdruck der Natur des Menschen. Seine KI ist aus einer humanistischen Vision geboren. Maschinen, so dachte er, könnten die Menschheit in die Lage versetzen, sich selbst zu erhöhen und über ihre bisherigen Grenzen hinauszuwachsen.
„Mit ihren Bemühungen, diese aufkommende Technologie einzuschränken und mit Gesetzen zu bekämpfen, erweisen die heutigen KI-Experten der Menschheit einen Bärendienst.“
Man vergleiche das mit der Elendsvision der heutigen Experten. Sie sehen in der KI eine zutiefst unmenschliche Kraft, die sich fast unweigerlich gegen uns wenden, uns erniedrigen und bestrafen wird. Sie wird nicht das Beste in uns verkörpern. Sie wird das Schlimmste in uns verkörpern.
Darüber hinaus zeigt die Tatsache, dass sie KI-Werkzeuge wie ChatGPT als einen gewaltigen Schritt in Richtung einer empfindungsfähigen Intelligenz betrachten, wie wenig sie von einer empfindungsfähigen Intelligenz halten. Für die Entwicklung von ChatGPT-3 waren über 175 Milliarden Datenparameter, 285.000 Prozessorkerne und 10.000 Grafikkarten erforderlich. Das entspricht in etwa der Rechenleistung der 20 leistungsstärksten Supercomputer der Welt zusammen. Und das Endergebnis ist eine Maschine, die nur Sprache wiederkäuen kann, ohne ein einziges Wort zu verstehen. Was ChatGPT leistet, ist an sich schon beeindruckend. Aber so wie es derzeit steht, reicht es nicht an die menschliche Intelligenz heran.
Grossmans Maschine würde sehr viel mehr Rechenleistung und Energie benötigen, als wir derzeit aufbringen können. Und sie würde eine weitaus fortgeschrittenere Gesellschaft erfordern, um sie zu realisieren – eine Gesellschaft, in der die Energiekrise der Vergangenheit angehören würde und Quantencomputer im Alltag angekommen wäre. Es ist unwahrscheinlich, dass eine so fortgeschrittene Gesellschaft sich Sorgen über einen Chatbot machen würde, der gegen uns intrigiert.
Horrorszenarien liegen im Trend
Mit ihren Bemühungen, diese aufkommende Technologie einzuschränken und mit Gesetzen zu bekämpfen, erweisen die heutigen KI-Experten und ihre Anhänger in den Medien der Menschheit einen Bärendienst. Ihre düstere Vision von KI spiegelt ihren mangelnden Glauben an die Menschheit wider, ihr Gefühl, dass wir Kräften ausgeliefert sind, die wir nicht kontrollieren können. Und als Folge davon fesseln sie uns an eine Kultur der niedrigen Erwartungen.
Hannah Arendt kann dazu beitragen, etwas Licht in unsere derzeitige Sackgasse zu bringen. In ihrem Meisterwerk „ Vita activa oder Vom tätigen Leben“ (1958) kritisierte sie die modernen verhaltenswissenschaftlichen Theorien. In diesen wird menschliches Verhalten entweder als Reflex auf bestimmte Umweltreize oder als Folge der Geschichte des Einzelnen betrachtet. Arendt behauptete, der Behaviorismus reduziere komplexe menschliche Erfahrungen und Handlungen auf vereinfachende Ursache-Wirkungs-Beziehungen. Dadurch werde die Fähigkeit des Menschen zu Spontaneität, Kreativität und Freiheit ausgelöscht. Das Problem mit den behavioristischen Theorien „ist nicht, dass sie falsch sind, sondern dass sie wahr werden könnten, dass sie tatsächlich die bestmögliche Konzeptualisierung bestimmter offensichtlicher Trends in der modernen Gesellschaft sind".
Das heißt, in der bürokratischen Gesellschaft zu Arendts Lebzeiten wurde individuelles Verhalten zunehmend als etwas behandelt, das verwaltet und gesteuert werden konnte. Die Menschen wurden auf Objekte reduziert. Sie fährt fort: „Es ist durchaus denkbar, dass das moderne Zeitalter – das mit einem so beispiellosen und vielversprechenden Ausbruch menschlicher Aktivität begann – in der tödlichsten und sterilsten Passivität endet, die die Geschichte je gekannt hat".
„Wir können uns dem Narrativ widersetzen, das uns als Objekte darstellt, die der Gnade der Dinge ausgeliefert sind, die wir geschaffen haben.“
Arendts Worte könnten mit Blick auf die KI-Horrorszenarien geschrieben worden sein. Ist es in einer Zeit, in der der Mensch als Objekt unmenschlicher Kräfte betrachtet wird, vom Klimawandel bis zu Pandemien, die durch unser eigenes Handeln ausgelöst werden, ein Wunder, dass KI als Bedrohung dargestellt wird? Die KI-Horrorszenarien sind in der Formulierung Arendts die „Konzeptualisierung bestimmter offensichtlicher Trends in der modernen Gesellschaft".
Und so wurde etwas potenziell so Nützliches wie die KI zum Mittel für Politiker und Experten, ihre fatalistische Weltsicht zum Ausdruck zu bringen. Es ist eine sich selbst erfüllende Tragödie. KI könnte die Gesellschaft in die Lage versetzen, über ihre wahrgenommenen Grenzen hinauszuwachsen. Doch unsere Experten scheinen darauf bedacht, uns innerhalb dieser Grenzen zu halten.
Die gute Nachricht ist, dass nichts von alledem unausweichlich ist. Wir können uns den Glauben an das menschliche Potenzial bewahren. Wir können uns dem Narrativ widersetzen, das uns als Objekte darstellt, die der Gnade der Dinge ausgeliefert sind, die wir geschaffen haben. Und wenn wir dies tun, ist es denkbar, dass wir eines Tages Maschinen entwickeln, die die „geistigen und seelischen Eigenheiten eines durchschnittlichen, unauffälligen Menschen " darstellen können, wie Wassili Grossman es ausdrückte. Das wäre eine Zukunft, für die es sich zu kämpfen lohnt.
