18.09.2026
Die große KI-Panik und ihre Hintermänner
Von Frank Furedi
Brancheninsider versuchen, Politiker und die Öffentlichkeit in Angst und Schrecken zu versetzen: Künstliche Intelligenz könne die Menschheit auslöschen. Dahinter stecken Interessen.
In den letzten Tagen hat die Panikmache rund um die KI ihren Höhepunkt erreicht. Die jüngste Panikwelle begann mit dem Rücktritt des Anthropic-Forschers Jacob Coxon, der erklärte, dass sowohl sein ehemaliger Arbeitgeber als auch OpenAI – der Hauptkonkurrent von Anthropic – mit rasender Geschwindigkeit daran arbeiteten, Technologien zu entwickeln, die „uns alle bis zum Ende des Jahrzehnts töten könnten“.
Fast wie auf Kommando äußerten sich mehrere KI-Experten öffentlich und schlossen sich Coxons Warnung an. „Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte!“, erklärte Evan Hubinger, ein Sicherheitsforscher bei Anthropic. Hubinger äußerte sich sehr präzise über die von KI ausgehende Gefahr, als er die Wahrscheinlichkeit des Aussterbens der Menschheit im Laufe des nächsten Jahrzehnts auf über zehn Prozent bezifferte. Paul Christiano, der dem Vorstand der konkurrierenden OpenAI Foundation angehört, warnte, dass die Menschheit ohne verbesserte Aufsicht die Kontrolle über eine künstliche „Superintelligenz“ verlieren könnte.
Es scheint, als habe Coxons Warnung die gewünschte Wirkung erzielt. Die Bedrohung der menschlichen Existenz durch KI wurde zu einem dominierenden Thema im Nachrichtenzyklus der Mainstream-Medien. Je mehr KI-Forscher Coxons apokalyptische Erklärung öffentlich bestätigten, desto mehr konzentrierten sich die Medien auf die Gefahr, die diese Technologie angeblich für die Zukunft der Menschheit darstellt.
Ich beschäftige mich seit fast drei Jahrzehnten mit Panikmache und der Kultur der Angst. Für mich ist klar, dass das aktuelle KI-Weltuntergangs-Narrativ mehrere ältere Panikphänomene gleichzeitig recycelt. Genau wie bei der Erfindung der Atombombe fürchtete die Menschheit eine Erfindung, die sie nicht kontrollieren konnte. Als Computer und das Internet entstanden, fürchteten wir den technologischen Wandel. Und es gibt die ältere philosophische Befürchtung, dass die eigene Intelligenz der Menschheit die Ursache für ihren Untergang sein könnte. Bei jeder dieser Entwicklungen wird eine rationale Einschätzung der potenziellen Risiken zugunsten einer Erzählung von einer bevorstehenden Apokalypse beiseitegeschoben.
„Teile der Tech-Branche investierten massiv in die Finanzierung von KI-Unheilspropheten.“
Was jedoch die KI betrifft, stelle ich fest, dass sich diese sorgfältig inszenierte Panikmache in mancher Hinsicht von früheren Fällen unterscheidet. Zunächst einmal handelt es sich hier eindeutig um eine von oben gesteuerte Kampagne, die von Brancheninsidern orchestriert wird. Tatsächlich begannen die Eingeweihten bereits vor zwölf Jahren, Alarm wegen der KI zu schlagen. Im Jahr 2014 erklärte Elon Musk seinen Followern auf Twitter, dass KI potenziell „gefährlicher als Atomwaffen“ sei. Bill Gates teilte Millionen seiner Follower auf Reddit mit: „Ich stimme Elon Musk und einigen anderen in dieser Frage zu und verstehe nicht, warum manche sich keine Sorgen machen.“ Es versteht sich von selbst, dass diese Befürchtungen keinen der beiden davon abhielten, die Entwicklung der KI voranzutreiben.
2024 war deutlich geworden, dass Teile der Tech-Branche massiv in die Finanzierung von KI-Unheilspropheten investierten. Politico berichtete, dass „von Tech-Milliardären unterstützte gemeinnützige Organisationen, die vor einer KI-Katastrophe warnen, Lobbyisten einsetzen, um den Kongress dazu zu drängen, Gesetze zur KI-Sicherheit zu verabschieden“. Der Artikel wies darauf hin, dass zwei „von Tech-Milliardären finanzierte NGOs nun direkt in Washington Lobbyarbeit betreiben, um die Menschheit vor dem angeblichen Aussterberisiko durch künstliche Intelligenz zu schützen“.
Parallel zu den Lobbybemühungen wurden zahlreiche Berichte veröffentlicht, die darauf abzielten, angesichts der angeblichen Bedrohung durch KI ein Klima der Panik zu schüren. Auch an dieser Angstkampagne waren Brancheninsider aktiv beteiligt. Mrinank Sharma, der ehemalige Leiter des Forschungsteams für Sicherheitsvorkehrungen bei Anthropic, veröffentlichte einen offenen Rücktrittsbrief, in dem er warnte, dass „die Welt in Gefahr ist“. Auf Sharmas Rücktritt folgte der von Zoë Hitzig, einer ehemaligen Forscherin bei OpenAI. Sie kündigte ihren Rücktritt in einem Essay in der New York Times an und verwies dabei auf „tiefe Vorbehalte“ gegenüber der Strategie von OpenAI.
Bald darauf folgten dystopische Kommentare. Im Februar veröffentlichte Matt Shumer, Gründer von OthersideAI, einen Essay mit dem Titel „Something Big Is Happening“. Angekündigt als „eine persönliche Notiz für Freunde und Familienmitglieder ohne technischen Hintergrund darüber, was KI gerade zu verändern beginnt“, zeichnete er darin ein katastrophales Zukunftsbild.
„Hinter der großen Panikmache rund um die KI steckt also weit mehr als auf den ersten Blick ersichtlich.“
Die KI-Panik hat dazu geführt, dass sich ein elitäres Netzwerk aus ungewöhnlichen Verbündeten gebildet hat. Im April berichtete die New York Post über eine vom demokratischen US-Senator Bernie Sanders veranstaltete Podiumsdiskussion. Die Gruppe, zu der führende chinesische KI-Vertreter mit Verbindungen zum Ministerium für Wissenschaft und Technologie in Peking gehörten, erörterte die „existenzielle Bedrohung“ durch künstliche Intelligenz und die Notwendigkeit internationaler Zusammenarbeit. Diese seltsame Allianz ist Teil einer breiteren Koalition ‚progressiver‘ Schwarzmaler. Wie die New York Post feststellte, „haben sich Sozialisten, Hollywood-Gewerkschaften, Organisatoren der Ereignisse vom 6. Januar und chinesische Regierungsvertreter nun zusammengeschlossen, um unter dem Deckmantel der Rettung der Menschheit die amerikanische KI-Entwicklung zu bremsen“.
Zweifellos sind viele Teilnehmer dieser Koalition aufrichtig besorgt über bestimmte Aspekte der Entwicklung der KI-Technologie. Doch die Beteiligung von milliardenschweren Geldgebern, Brancheninsidern und gekauften NGOs deutet darauf hin, dass noch etwas anderes im Spiel ist.
Es ist sicherlich kein Zufall, dass dieses Weltuntergangsszenario von Teilen der Big-Tech-Branche im Vorfeld massiver Marktbewertungen propagiert wird. Die Warnungen von OpenAI und Anthropic vor den Gefahren der KI sind im Grunde verschlüsselte Prahlereien darüber, wie fortgeschriten ihre Programme mittlerweile sind. Darüber hinaus würde es diesen Unternehmen helfen, neue Wettbewerber auf Abstand zu halten, wenn sie ihr Ziel erreichen könnten, KI staatlich regulieren zu lassen. Dies würde ihnen faktisch mehr Kontrolle über die Branche verschaffen. Unter dem Deckmantel von Sicherheitsbedenken könnten sie zudem an Macht und Einfluss gewinnen und dem Staat vorschreiben, wie KI eingesetzt werden darf.
Hinter der großen Panikmache rund um die KI steckt also weit mehr als auf den ersten Blick ersichtlich. Wir müssen dieser Panikmache mit gesunder Skepsis begegnen. Das bedeutet, sich der bekannten Narrative bewusst zu sein, auf die der KI-Katastrophismus zurückgreift. Und es bedeutet, sich der Interessen und Motive derjenigen bewusst zu sein, die diese Angstgeschichten verbreiten. Nur dann werden wir in der Lage sein, einen klaren Blick zu gewinnen – nicht nur auf die Risiken der KI, sondern auch auf ihr Potenzial.
