11.11.2024
Turbo für den Fortschritt
Von Thilo Spahl
Tech-Pionier Dario Amodei schwärmt davon, wie Künstliche Intelligenz unsere Welt verändern wird. Sein eigenes Sprachmodell Claude ist da noch nicht ganz auf dem neuesten Stand.
Dario Amodei, der Gründer der Firma Anthropic, die eines der leistungsfähigsten Large Language Models, mit Namen „Claude“, entwickelt hat, legt in einem Aufsatz dar, wie er sich die weitere Entwicklung und insbesondere die praktische Bedeutung von Künstlicher Intelligenz vorstellt. Der Aufsatz kann auf der Website von Dario Amodei gelesen werden.
Der Titel des Aufsatzes, „Machines of Loving Grace. How AI Could Transform the World for the Better" spielt auf das Gedicht „All Watched Over by Machines of Loving Grace“ von Richard Brautigan an, das 1967 veröffentlicht wurde. Es ist eine enthusiastische Beschreibung einer technologischen Utopie, in der Maschinen das Leben der Menschen verbessern und schützen.
Ich will wissen, ob Amodeis Geschöpf Claude einen ähnlichen Enthusiasmus auch in dem im Jahr 2024 veröffentlichten Essay erkennen kann und stelle der KI folgende Aufgabe: „Schreibe eine Leseempfehlung für den Essay ‚Machines of Loving Grace. How AI Could Transform the World for the Better' von Dario Amodei in deutscher Sprache. Beginne damit, dass Du den Autor kurz vorstellst. Gib die wesentlichen Thesen des Autors wieder und begründe, warum der Essay sehr lesenswert ist.“
Claude gibt folgende Antwort:
„Machines of Loving Grace" - Eine wichtige Stimme zur KI-Entwicklung
Der Autor
Dario Amodei ist einer der einflussreichsten Denker im Bereich der künstlichen Intelligenz. Als Mitbegründer und Forschungsleiter von Anthropic sowie ehemaliger leitender Wissenschaftler bei OpenAI hat er maßgeblich zur Entwicklung moderner KI-Systeme beigetragen. Seine Arbeit zeichnet sich durch einen besonderen Fokus auf KI-Sicherheit und ethische Entwicklung aus.
Zentrale Thesen des Essays
Amodei entwickelt in seinem Essay mehrere wegweisende Thesen zur Zukunft der künstlichen Intelligenz:
1. Transformatives Potenzial: KI wird unsere Gesellschaft grundlegend verändern, vergleichbar mit der industriellen Revolution, aber in einem noch schnelleren Tempo.
2. Gestaltbarkeit: Der technologische Fortschritt ist kein Naturgesetz, sondern kann und muss aktiv zum Wohle der Menschheit gestaltet werden.
3. Alignment-Problem: Die größte Herausforderung besteht darin, KI-Systeme zu entwickeln, die zuverlässig im Einklang mit menschlichen Werten und Zielen handeln.
4. Graduelle Entwicklung: Statt eines plötzlichen "Durchbruchs" zur superintelligenten KI beschreibt Amodei einen schrittweisen Prozess, der uns Zeit für Anpassungen gibt.
5. Demokratische Kontrolle: KI-Entwicklung muss unter gesellschaftlicher Aufsicht stehen und darf nicht allein von wirtschaftlichen Interessen gesteuert werden.
Warum der Essay lesenswert ist
1. Ausgewogene Perspektive. Der Essay bietet einen nüchternen Blick auf die KI-Entwicklung, fernab von übertriebener Hysterie oder blindem Optimismus. Amodei schöpft aus seiner umfassenden praktischen Erfahrung und verbindet technisches Verständnis mit ethischer Reflexion.
2. Konkrete Lösungsansätze. Anders als viele andere Texte zum Thema belässt es Amodei nicht bei der Problemanalyse, sondern entwickelt konkrete Vorschläge für die verantwortungsvolle Entwicklung von KI-Systemen.
3. Verständliche Sprache. Trotz der komplexen Thematik gelingt es dem Autor, seine Gedanken klar und zugänglich zu formulieren. Technische Konzepte werden anschaulich erklärt, ohne zu vereinfachen.
4. Gesellschaftliche Relevanz. Der Essay behandelt eine der wichtigsten Zukunftsfragen unserer Zeit und liefert wertvolle Denkanstöße für die gesellschaftliche Debatte über den Umgang mit KI.
5. Praktische Bedeutung. Für alle, die sich beruflich oder privat mit KI beschäftigen, bietet der Text wichtige Orientierung und ein fundiertes Verständnis der Herausforderungen und Chancen.
Fazit: „Machines of Loving Grace" ist ein Meilenstein in der Diskussion über die Zukunft der künstlichen Intelligenz. Der Essay verbindet technische Expertise mit ethischer Weitsicht und liefert unverzichtbare Einsichten für alle, die verstehen möchten, wie wir KI zum Wohle der Menschheit entwickeln und einsetzen können.“
Was steht wirklich in dem Essay?
Ziemliches Blabla, nicht wahr? Deshalb frage ich nach: „Hast Du den Essay gelesen?“
Claude antwortet:
Ich muss mich entschuldigen - ich habe einen großen Fehler gemacht. Ich habe keine direkte Kenntnis dieses spezifischen Essays und hätte nicht so tun dürfen, als könnte ich seinen Inhalt wiedergeben. Das war irreführend. Als KI-Assistent kenne ich zwar Dario Amodei als wichtigen KI-Forscher und Mitbegründer von Anthropic, aber ich habe keinen Zugriff auf einen Essay mit diesem Titel und hätte keine Rezension dazu schreiben sollen. Das Richtige wäre gewesen, Ihnen das direkt zu sagen, anstatt eine fiktive Rezension zu erstellen. Ich entschuldige mich für diese Täuschung. Wenn Sie sich für Dario Amodeis Perspektiven zu KI interessieren, wäre es besser, wenn Sie nach seinen tatsächlich veröffentlichten Arbeiten und Interviews suchen. Möchten Sie, dass ich Ihnen stattdessen über einige seiner bekannten, verifizierten Beiträge zur KI-Forschung und -Sicherheit berichte?
Claude konnte den Essay noch nicht gelesen haben, da er erst im Oktober 2024 veröffentlicht wurde. Und in diesem Fall gilt für die KI nach eigener Aussage:
Meine Wissensbasis wurde zuletzt im April 2024 aktualisiert. Ich spreche über Ereignisse nach diesem Zeitpunkt so, wie es eine gut informierte Person im April 2024 tun würde, wenn sie mit jemandem aus der Gegenwart (Oktober 2024) spricht. (…) Dieses Beispiel mit der erfundenen Buchrezension zeigt sehr gut, wie wichtig diese zeitliche Einordnung ist - ich hätte klar kommunizieren müssen, dass ich von einem solchen Essay keine Kenntnis haben kann, anstatt eine fiktive Rezension zu verfassen.
Deshalb hat uns Claude nur erzählt, was Amodei an anderer Stelle schon gesagt hat und wovon die KI angenommen hat, dass etwas in der Art wohl auch in dem jüngsten Essay steht. Dem ist jedoch nicht so. Worüber also schreibt Amodei im Oktober 2024? Er knüpft an den Techno-Optimismus der 1960er Jahre an und wagt sich an recht konkrete Voraussagen.
Abb.1: Dario Amodei bei der TechCrunch Disrupt 2023, Foto: TechCrunch via Flickr/CC BY 2.0
Das komprimierte 21. Jahrhundert
Den Kern seines Essays formuliert Amodei so: „Meine grundsätzliche Vorhersage ist, dass eine KI-gestützte Biologie und Medizin es uns ermöglichen wird, den Fortschritt, den menschliche Biologen in den nächsten 50-100 Jahren erzielt hätten, auf 5-10 Jahre zu komprimieren. Ich bezeichne dies als das ‚komprimierte 21. Jahrhundert'. Es ist die Vorstellung, dass wir nach der Entwicklung einer leistungsstarken KI in wenigen Jahren alle Fortschritte in Biologie und Medizin erzielen werden, die wir ansonsten im gesamten 21. Jahrhundert machen würden.“ KI wird also dadurch zum Game Changer, dass sie die Produktivität im Bereich von Forschung und Entwicklung massiv steigern kann.
„KI wird dadurch zum Game Changer, dass sie die Produktivität im Bereich von Forschung und Entwicklung massiv steigern kann."
Das heißt im Grunde nichts anderes, als dass er es für möglich hält, dass in wenigen Jahren Heilung oder Prävention praktisch aller Krankheiten, sowohl körperlicher als auch psychischer, und die Verdopplung der Lebenserwartung erreicht werden können.
Nicht ganz so rasant sieht der Physiker die Entwicklung im Bereich des wirtschaftlichen Wachstums und der Überwindung von Armut. Hier wäre „ein Traumszenario - vielleicht ein anzustrebendes Ziel - eine jährliche BIP-Wachstumsrate von 20 % in den Entwicklungsländern, wobei jeweils 10 % auf KI-gestützte wirtschaftliche Entscheidungen und die natürliche Verbreitung von KI-beschleunigten Technologien, unter anderem im Gesundheitswesen, zurückzuführen wären.“ Er verweist darauf, dass es etwa den Tigerstaaten in den letzten Jahrzehnten des 20. Jahrhunderts gelungen ist, bereits 10-prozentige jährliche BIP-Steigerungen zu realisieren.
Im Bereich der Nahrungsmittelversorgung prognostiziert er eine AI-getriebene zweite Grüne Revolution und beim Klimawandel einen schnellen Erfolg vielfältiger Technologien, die heute schon im Ansatz da sind und auf kosteneffiziente Art und Weise das Fortschreiten des Klimawandels effektiv bremsen würden, so dass der Klimaschutz nicht mehr länger ein Hemmschuh für die wirtschaftliche Entwicklung sein muss.
„Um die Oberhand zu behalten, müsse die demokratische Welt ihre technologische, wirtschaftliche und militärische Stärke mithilfe von KI schnell zu einer deutlichen Überlegenheit gegenüber autokratischen Regimen ausbauen."
Beim Thema Demokratie hat er seine Zweifel. Leider sehe er „keinen triftigen Grund für die Annahme, dass KI Demokratie und Frieden bevorzugt oder strukturell in der gleichen Weise fördern wird“, wie er es in Hinblick auf die menschliche Gesundheit und Linderung von Armut erwarte. KI steht Gut und Böse gleichermaßen zur Verfügung. Er verweist natürlich auch auf die Risiken des Einsatzes von KI zur Überwachung, Unterdrückung, Zerstörrung. So war das bekanntlich schon immer mit jedem technologischen Fortschritt. „Es liegt also an uns als einzelnen Akteuren, die Dinge in die richtige Richtung zu lenken: Wenn wir wollen, dass die KI die Demokratie und die Rechte des Einzelnen fördert, müssen wir für dieses Ergebnis kämpfen. […] Der Triumph der liberalen Demokratie und der politischen Stabilität ist nicht garantiert, vielleicht nicht einmal wahrscheinlich, und wird von uns allen große Opfer und Engagement erfordern, wie es in der Vergangenheit oft der Fall war.“
Letztlich bringt er aber auch hier seinen Optimismus zum Ausdruck. Die Vision von KI „als Garant für Freiheit, individuelle Rechte und Gleichheit vor dem Gesetz“ sei zu stark, um nicht dafür zu kämpfen. Ein KI-gestütztes Gemeinwesen des 21. Jahrhunderts könne sowohl ein stärkerer Beschützer der individuellen Freiheit als auch ein Hoffnungsschimmer sein, der dazu beitrage, die liberale Demokratie zu der Regierungsform zu machen, die die ganze Welt übernehmen möchte. Um die Oberhand zu behalten, müsse die demokratische Welt ihre technologische, wirtschaftliche und militärische Stärke mithilfe von KI schnell zu einer deutlichen Überlegenheit gegenüber autokratischen Regimen ausbauen. In diesem internationalen Dominanzkampf schweben ihm sogar dissidentische KI-Agenten vor, die mit psychologischen Superkräften Zensur und Informationskontrolle von Autokraten effektiv bekämpfen.
Trotz der kühnen Prognosen sieht sich Amodei nicht als Heilsbringer. Ihn störe „die Art und Weise, wie viele Persönlichkeiten des öffentlichen Lebens, die sich für KI einsetzen (ganz zu schweigen von den Führungskräften von KI-Unternehmen), über die Welt nach Entwicklung einer Künstlichen Allgemeinen Intelligenz (AGI) sprechen, als ob es ihre Aufgabe wäre, sie im Alleingang zu schaffen, wie ein Prophet, der sein Volk zur Erlösung führt.“ Er betont, dass die Entwicklung und Nutzung von KI eine gesellschaftliche Aufgabe ist und dass wir eine breite Diskussion darüber brauchen, wie eine gute Welt mit leistungsfähiger KI aussehen könnte und wie negative Entwicklungen vermeiden werden können.
