06.11.2026
Die Maschine im Gehäuse
Künstliche Intelligenz entmachtet die Bürokratie nicht. Stattdessen müssten Anreize für Verzögerungen entfallen und eine Aufgabenkritik an der Fülle staatlicher Aktivitäten vorgenommen werden.
Künstliche Intelligenz wird die Bürokratie nicht entmachten, solange die Anreize unverändert bleiben, die bürokratisches Handeln rational machen. Diese These ist weniger spektakulär als die Verheißung, die derzeit durch Ministerien und Digitalstrategien geistert: Was heute Wochen dauert, erledige die Maschine in Minuten. Sie ist aber belastbarer.
Daniel Yakubovich hat an dieser Stelle jüngst die entscheidende Unterscheidung getroffen. KI ersetzt Bürokratie dort, wo sie Verwaltung ist, nicht dort, wo sie Herrschaft ist. Das trifft den Kern. Offen bleibt indes, warum das so ist. Der Grund liegt nicht allein in Machtinteressen oder persönlichem Fehlverhalten, sondern vor allem in den Anreizen, Haftungsregeln und Rechtsformen, die solches Verhalten ermöglichen, begünstigen oder begrenzen.
Ich selbst habe in diesem Magazin vor fast zehn Jahren unter dem Titel „Herrschaft der Bürokratie“ vor allem die Akteure in den Blick genommen. Heute interessiert mich stärker, welche Ordnung ihr Verhalten hervorbringt. Bürokraten sind weder besser noch schlechter als andere Menschen. Sie reagieren auf die Bedingungen, unter denen sie handeln. KI verändert diese Bedingungen nicht von selbst. Vielleicht verstärkt KI sogar das, was bereits besteht und die Macht des Faktischen ausmacht.
Was KI ist und was nicht
Die Debatte leidet an einem unscharfen Begriff. Zu unterscheiden sind zunächst regelbasierte Automatisierung und KI-Systeme, die auf statistischen Lernverfahren beruhen. Regelbasierte Programme wenden vorgegebene Entscheidungsregeln an. Sie sind bei entsprechend klaren Vorgaben gut überprüfbar und seit Jahrzehnten Verwaltungsalltag, etwa bei standardisierten Berechnungen.
Lernende Modelle, darunter heutige Sprachmodelle, erschließen statistische Zusammenhänge aus großen Datenmengen. Sie können Texte auswerten, Informationen strukturieren, Zusammenfassungen erstellen und Entscheidungsprozesse unterstützen. Ihre Ergebnisse sind jedoch nicht in gleicher Weise durch vorab festgelegte Regeln determiniert. Sie können sachlich falsch, verzerrt oder schwer nachvollziehbar sein. Beide Technologien senken die Kosten der Informationsverarbeitung, stellen aber unterschiedliche Anforderungen an Kontrolle und Verantwortungszurechnung. Sie haben weder eine Absicht, noch tragen sie Verantwortung und sie sind kein Rechtssubjekt. KI kann einen Bescheid vorbereiten, aber nicht für ihn einstehen.
„Werden die Papierprozesse lediglich in eine digitale Verfahrensweise übertragen, ist wenig gewonnen.“
Damit wird eine wesentliche Unterscheidung deutlich: Wo Bürokratie ein Verarbeitungs- und Informationsproblem ist, hilft KI. Wo sie ein Anreiz- und Haftungsproblem ist, hilft sie nicht. Sie kann es sogar verschärfen: Wenn Dokumentation erheblich billiger wird, kann ihr Umfang zunehmen. Es entsteht ein dem Jevons-Effekt verwandter Mechanismus: Sinkende Kosten einer Tätigkeit können dazu führen, dass insgesamt mehr davon betrieben wird. Hinzu kommt ein aus der Digitalisierung bekanntes Problem: Werden die Papierprozesse lediglich in eine digitale Verfahrensweise übertragen, ist wenig gewonnen.
Regelvollzug ohne Erfolgsrechnung
Max Weber sah in der Bürokratie die technisch überlegene Form rationaler Herrschaft: berechenbar, aktenmäßig, an Regeln und Zuständigkeiten gebunden.1 Ihre Macht beruhe auf Fachwissen und Dienstwissen. Zugleich fürchtete er, sie könne zum „Gehäuse“ werden, in dem der Einzelne sich einrichtet, statt zu handeln. Beides gilt bis heute. Bürokratie ist eine Bedingung des Rechtsstaats, nicht sein Gegner – Gleichbehandlung setzt Regelbindung voraus. Professionelle Verwaltungsarbeit ist eine Grundlage für korrekte Sachstände und Bescheide.
Ludwig von Mises hat 1944 die ökonomischen Prinzipien dem Wesen der Bürokratie gegenübergestellt.2 Bürokratisch ist eine Geschäftsführung, die an Regeln und Weisungen gebunden ist, weil ihr ein Maßstab für Erfolg fehlt. Ein Unternehmen kann an Gewinn und Verlust ablesen, ob es Ressourcen gut verwendet. Eine Behörde kann das nicht. Ihre Leistungen haben keinen Marktpreis. Also muss sie über Vorschriften und deren Einhaltung gesteuert werden. Das ist zunächst kein Versagen der Beamten, sondern eine Folge der Aufgabe.
Mit Friedrich August von Hayek lässt sich ergänzen, wo die Grenzen liegen: Das Wissen, auf das es ankommt, ist verstreut, lokal und flüchtig.3 Preise bündeln es und auch in Kapital ist es gebunden. Hierarchien müssen es hingegen mühsam zuerst in Zuständigkeiten und Federführungen nach dem Maßstab vorgegebener Regeln und deren Auslegungen, die nicht zuletzt durch Gerichte überprüft werden, sammeln und dann nach oben melden. KI verschiebt diese Grenze technisch, weil sie mehr Information schneller verarbeitet. Der Einsatz des Werkzeugs KI hängt zudem von den Fähigkeiten der Nutzer ab. Stets gilt jedoch: Die fehlende Erfolgsrechnung ersetzt KI nicht. Eine Behörde mit KI weiß mehr, aber sie weiß noch immer nicht, ob ihr Handeln sich lohnt.
Anreize im Apparat
Die ökonomische Theorie der Bürokratie, wie sie seit den 1960er Jahren entwickelt wurde, betrachtet Bürokraten als gewöhnliche Menschen mit gewöhnlichen Interessen. So haben Gordon Tullock4 und Anthony Downs5 gezeigt, wie Karriere, Sicherheit und Ansehen das Handeln in Hierarchien prägen. William Niskanen hat daraus die These der Budgetmaximierung abgeleitet: Weil Einfluss, Stellen und Status mit dem Budget wachsen, hat eine Behörde ein Interesse an Ausdehnung, nicht an Einsparung.
Noch wichtiger für die KI-Frage ist eine Asymmetrie, die jeder kennt, der tiefere Einblicke in den Alltag einer Verwaltung bekommen hat. Wer falsch entscheidet, wird zur Rechenschaft gezogen, wer hingegen nicht entscheidet, kaum. Ein erteilter Bescheid, der sich als Fehler erweist, landet bei Vorgesetzten, in der Zeitung oder vor Gericht. Ein Antrag, der monatelang liegen bleibt, verursacht Kosten, die beim Bürger anfallen und niemandem zugerechnet werden. Unter diesen Bedingungen sind Rückfrage, Weiterleitung und zusätzliche Prüfung keine Schwächen, sondern rationale Strategien. Und es gibt kaum Anreize das zu ändern. Bürokratien lernen aufgrund fehlender wirksamer Feedbackschleifen schlecht.
„Bürokratie wächst nicht allein aus sich selbst heraus.“
KI ändert an dieser Asymmetrie nichts. Sie macht die Absicherung gegebenenfalls sogar billiger. Ein Sprachmodell erstellt in Sekunden den Vermerk, der belegt, dass alles geprüft wurde. Michel Crozier hat beschrieben, wie Akteure in Organisationen Macht insbesondere aus Unsicherheitszonen ziehen, die sie kontrollieren, wie Wartungstechniker, die alleine Maschinen reparieren können.7 Akteure im System, Mitarbeiter und Vorgesetzte, nutzen die Regeln strategisch, um eigene Freiräume zu schützen oder Macht über andere zu gewinnen. Solange solche Zonen Schutz und Einfluss bieten, werden sie verteidigt, mit oder ohne Maschine. Crozier hat darüber hinaus gezeigt, weshalb bürokratische Organisationen grundlegende Veränderungen aus eigener Kraft nur schwer hervorbringen. Bestehende Macht- und Abhängigkeitsverhältnisse können Reformen blockieren, selbst wenn deren Notwendigkeit weithin erkannt wird. Größere Veränderungen werden deshalb häufig erst unter erheblichem äußerem Druck möglich. Wo weder Tätigkeit noch Ergebnis hinreichend erkennbar sind, gewinnt das Verfahren gegenüber der sachlichen Aufgabenerfüllung an Bedeutung. KI kann dort funktionieren, wo Bürokratie Produktion ist, und wird dort scheitern, wo sie der Bewältigung von Ungewissheit dienen soll.
Politik als Auftraggeber
Bürokratie wächst nicht allein aus sich selbst heraus. Sie wird beauftragt und finanziert – von der Politik, deren Räderwerk sie ist, allerdings mit eigener Steuerung. Das Verhältnis ist ein klassisches Prinzipal-Agent-Problem mit einer Besonderheit: Der Auftraggeber kann den Apparat schlecht kontrollieren und will es oft auch gar nicht.
Dafür gibt es Gründe. Christopher Hood8 und vor ihm R. Kent Weaver9 haben gezeigt, dass politisches Handeln stark von Schuldvermeidung geprägt ist. Wer Aufgaben an Behörden delegiert, delegiert auch die Verantwortung für deren Scheitern. Die Verwaltung wird zum Haftungsschild. Ein schleppendes Genehmigungsverfahren lässt sich dem Amt zuschreiben, nicht dem Gesetzgeber, der es geschaffen hat. Hinzu kommt, dass für Politiker das Gesetz selbst die sichtbare Leistung ist. Ein neues Förderprogramm, eine neue Berichtspflicht, ein neues Schutzgesetz lassen sich verkünden. Ihr Vollzug ist hingegen eine unsichtbare Arbeit, deren Kosten bei Behörden, Unternehmen und Bürgern anfallen. Aufgabenkritik, also die Frage, welche Aufgaben der Staat aufgeben kann, bringt dagegen keine Schlagzeilen, sondern Konflikte mit organisierten Interessen. Mancur Olson hat beschrieben, wie solche Gruppen Vorteile verteidigen, deren Kosten breit gestreut sind.10
Aus Sicht der Politik könnte KI daher vor allem insofern attraktiv sein als sie verspricht, mehr Staat zu geringeren Kosten zu produzieren. Die unbequeme Frage, welche Aufgaben entfallen können, lässt sich so vertagen. So wird Digitalisierung zum Ersatz für Aufgabenkritik, für die es ohnehin nur geringe Anreize gibt, selbst wenn die Bürokraten selbst unter der Last ächzen.
Staatliche und unternehmerische Bürokratie
Bürokratie gibt es nicht nur im Staat. Jeder Konzern kennt Formulare, Zuständigkeiten, Freigabeschleifen und Abteilungen, deren Zweck sich dem Außenstehenden nicht erschließt. John Kenneth Galbraith sah in den 1960er Jahren eine „Technostruktur“ aus Managern und Experten heraufziehen, die Konzerne und Staat gleichermaßen beherrschen und den Markt ausschalten werde.11 Diese Konvergenzthese hat sich nicht bestätigt. Der Grund liegt im Unterschied der Selektionsbedingungen.
Organisation innerhalb von Unternehmen ist ökonomisch rational, wo Märkte zu teuer sind – das ist die Einsicht von Ronald Coase und Oliver Williamson.[6] Hierarchie spart Transaktionskosten. Aber unternehmerische Bürokratie steht unter einem Druck, dem die staatliche nicht ausgesetzt ist. Kunden können abwandern, Eigentümer haften mit ihrem Kapital, und am Ende droht die Insolvenz. Behörden unterliegen zwar der Haushaltskontrolle und Wirtschaftlichkeitsprüfungen, verfügen aber über keine dem Markt vergleichbare Erfolgs- und Verlustrechnung. Vor allem fehlt der unmittelbare Selektionsmechanismus, durch den dauerhaft unwirtschaftliche Unternehmen Marktanteile verlieren oder schließlich ausscheiden können.
„Ein wachsender Teil der Unternehmensbürokratie ist nicht unternehmerisch, sondern staatlich bedingt.“
Daraus folgt für die KI: In Unternehmen bestehen stärkere Anreize, KI dort einzusetzen, wo sie Kosten senkt oder Leistungen verbessert, und erfolglose Anwendungen wieder aufzugeben. Dort können ineffiziente Projekte auch lange fortbestehen. Im Staat wirken solche Korrektur- und Selektionsmechanismen jedoch wesentlich schwächer.
Angemerkt sei, dass ein wachsender Teil der Unternehmensbürokratie nicht unternehmerisch, sondern staatlich bedingt ist. Compliance-, Datenschutz-, Lieferketten- und Nachhaltigkeitsberichte entstehen nicht, weil der Markt sie verlangt, sondern weil das Gesetz sie vorschreibt. Die staatliche Bürokratie verlängert sich also in die Unternehmen hinein. Hier kann KI tatsächlich viel Arbeit erleichtern. Damit liefert sie Gesetzgeber und Interessengruppen eine Ausrede: Noch mehr Berichtspflichten seien zumutbar.
Der Staat haftet, nicht die Maschine
Der wohl unterschätzteste Punkt der Debatte ist indes juristischer Natur. Ein Verwaltungsakt ist kein Kundenservice, sondern eine hoheitliche Entscheidung mit Rechtsfolgen. Er muss begründet werden (§ 39 Verwaltungsverfahrensgesetz [VwVfG]), er muss gerichtlich überprüfbar sein (Art. 19 Abs. 4 GG), und er muss Gleiches gleich behandeln. Rechtssicherheit ist ein Kernbestand des liberalen Rechtsstaats.
Das deutsche Verwaltungsrecht erlaubt vollständig automatisierte Verwaltungsakte nach § 35a VwVfG, soweit eine Rechtsvorschrift dies zulässt und weder Ermessen noch ein Beurteilungsspielraum besteht. Entscheidend ist damit nicht die eingesetzte Technologie, sondern die rechtliche Zulässigkeit der automatisierten Entscheidung. Art. 22 DSGVO begrenzt ausschließlich automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, sieht allerdings bestimmte Ausnahmen vor. Die europäische KI-Verordnung stuft bestimmte Anwendungen im Bereich grundlegender öffentlicher Unterstützungsleistungen als Hochrisikosysteme ein und stellt entsprechende Anforderungen an Risikomanagement, Dokumentation und menschliche Aufsicht.
„Rechtsstaatlichkeit und Automatisierung stehen in einem Spannungsverhältnis, das sich nicht technisch auflösen lässt.“
Daraus ergibt sich ein Paradox, das keines ist, denn die Logik der Bürokratie greift auch hier. So erzeugt die rechtsstaatliche Einhegung der KI selbst neue Bürokratie: Folgenabschätzungen, Dokumentationspflichten, Aufsichtsstellen. Das ist nicht unvernünftig, denn ein Bescheid, dessen Begründung niemand nachvollziehen kann, ist schwerer anfechtbar. Es zeigt aber, dass Rechtsstaatlichkeit und Automatisierung in einem Spannungsverhältnis stehen, das sich nicht technisch auflösen lässt.
Die rechtliche Verantwortung für hoheitliche Entscheidungen verschwindet durch den Einsatz von KI nicht. Bei schuldhaften Amtspflichtverletzungen kann nach Art. 34 GG in Verbindung mit § 839 BGB grundsätzlich der Staat haften; ein Rückgriff auf den handelnden Amtsträger kommt unter den gesetzlichen Voraussetzungen insbesondere bei Vorsatz oder grober Fahrlässigkeit in Betracht. Für den einzelnen Sachbearbeiter entsteht damit ein besonderes Problem: Er soll die Ergebnisse eines Systems verantwortungsvoll verwenden, dessen Funktionsweise er möglicherweise nicht vollständig nachvollziehen kann. Das kann zusätzliche Prüfungen und Absicherungen begünstigen. Der bereits beschriebene Zusammenhang zwischen Entscheidungsrisiko und Verzögerung erhält so eine neue technische Dimension.
Eine Frage der Ordnung, nicht der Technik
Wenn KI vorhandene Anreize verstärkt, dann entscheidet die Ordnung, in die sie eingesetzt wird, über ihre Wirkung. Walter Eucken hat für die Wettbewerbsordnung das Prinzip formuliert, dass Entscheidung und Haftung zusammengehören: Wer den Nutzen hat, soll auch den Schaden tragen. Für die Verwaltung lässt sich dieser Gedanke übertragen.[7] Daraus folgen drei Grundsätze.
Erstens: Nicht-Entscheiden muss teurer werden als Entscheiden. Ein Instrument dafür existiert bereits: die Genehmigungsfiktion nach § 42a VwVfG. Unter den jeweiligen gesetzlichen Voraussetzungen kann ein Antrag nach Ablauf der Entscheidungsfrist als genehmigt gelten. Wo keine erheblichen Risiken für Dritte oder andere überwiegende Schutzinteressen entgegenstehen, sollte dieses Instrument häufiger genutzt werden. Es verändert die Anreize, weil behördliche Untätigkeit nicht mehr ohne Weiteres zulasten des Antragstellers geht.
„Die erste Frage muss lauten, ob der Staat etwas überhaupt tun soll, erst die zweite, wie er es effizienter tun kann.“
Zweitens: KI dort einsetzen, wo Regelvollzug genügt. Meldewesen, Standardbescheide, Register und Auszahlungen sind beobachtbar, regelhaft und rechtlich beherrschbar. Hier kann Automatisierung Bürgern viel Zeit sparen und Beamte für Aufgaben freisetzen, die Urteilskraft verlangen. Dort, wo Ermessen, Abwägung und politische Verantwortung gefragt sind, ersetzt die Maschine nichts. Hier braucht es klare Federführung, verbindliche Fristen und eine erkennbare Person, die für die Entscheidung einsteht.
Drittens: Aufgabenkritik vor Digitalisierung. Wer eine überflüssige Aufgabe automatisiert, macht sie nur billiger und damit dauerhafter. Die erste Frage muss lauten, ob der Staat etwas überhaupt tun soll, erst die zweite, wie er es effizienter tun kann.
Wer soll das tun? Aus dem Apparat selbst wird Aufgabenkritik kaum kommen, und die Politik hat wenig Anreiz, sie zu betreiben. Historisch entstand sie meist unter Druck: durch Haushaltskrisen wie in Kanada und Schweden in den 1990er Jahren, durch bindende Regeln wie Schuldenbremsen und Verfallsklauseln, durch Wettbewerb zwischen Standorten. Hier liegt eine unterschätzte Chance der KI: Sie senkt nicht nur die Kosten der Verwaltung, sondern auch die Kosten ihrer Kontrolle. Rechnungshöfe, Medien und Bürger können Vorschriften, Fristen und Folgekosten erstmals systematisch auswerten. Aufgabenkritik von innen bleibt unwahrscheinlich, aber von außen wird sie billiger.
KI ist also weder Kettensäge noch Bedrohung des Verwaltungsstaats. Sie ist ein Verstärker. In einer Ordnung, die Absicherung belohnt, perfektioniert sie die Absicherung. In einer Ordnung, die Entscheidung belohnt, beschleunigt sie die Entscheidung. Welche Ordnung wir haben, ist keine Frage der Technik, sondern der Politik – und die sorgt seit Jahrzehnten dafür, dass die staatliche Ordnung immer weiter ausgreift.
5 gezeigt, wie Karriere, Sicherheit und Ansehen das Handeln in Hierarchien prägen. William Niskanen hat daraus die These der Budgetmaximierung abgeleitet: Weil Einfluss, Stellen und Status mit dem Budget wachsen, hat eine Behörde ein Interesse an Ausdehnung, nicht an Einsparung.6
Noch wichtiger für die KI-Frage ist eine Asymmetrie, die jeder kennt, der tiefere Einblicke in den Alltag einer Verwaltung bekommen hat. Wer falsch entscheidet, wird zur Rechenschaft gezogen, wer hingegen nicht entscheidet, kaum. Ein erteilter Bescheid, der sich als Fehler erweist, landet bei Vorgesetzten, in der Zeitung oder vor Gericht. Ein Antrag, der monatelang liegen bleibt, verursacht Kosten, die beim Bürger anfallen und niemandem zugerechnet werden. Unter diesen Bedingungen sind Rückfrage, Weiterleitung und zusätzliche Prüfung keine Schwächen, sondern rationale Strategien. Und es gibt kaum Anreize das zu ändern. Bürokratien lernen aufgrund fehlender wirksamer Feedbackschleifen schlecht.
„Bürokratie wächst nicht allein aus sich selbst heraus.“
KI ändert an dieser Asymmetrie nichts. Sie macht die Absicherung gegebenenfalls sogar billiger. Ein Sprachmodell erstellt in Sekunden den Vermerk, der belegt, dass alles geprüft wurde. Michel Crozier hat beschrieben, wie Akteure in Organisationen Macht insbesondere aus Unsicherheitszonen ziehen, die sie kontrollieren, wie Wartungstechniker, die alleine Maschinen reparieren können.7 Akteure im System, Mitarbeiter und Vorgesetzte, nutzen die Regeln strategisch, um eigene Freiräume zu schützen oder Macht über andere zu gewinnen. Solange solche Zonen Schutz und Einfluss bieten, werden sie verteidigt, mit oder ohne Maschine. Crozier hat darüber hinaus gezeigt, weshalb bürokratische Organisationen grundlegende Veränderungen aus eigener Kraft nur schwer hervorbringen. Bestehende Macht- und Abhängigkeitsverhältnisse können Reformen blockieren, selbst wenn deren Notwendigkeit weithin erkannt wird. Größere Veränderungen werden deshalb häufig erst unter erheblichem äußerem Druck möglich. Wo weder Tätigkeit noch Ergebnis hinreichend erkennbar sind, gewinnt das Verfahren gegenüber der sachlichen Aufgabenerfüllung an Bedeutung. KI kann dort funktionieren, wo Bürokratie Produktion ist, und wird dort scheitern, wo sie der Bewältigung von Ungewissheit dienen soll.
Politik als Auftraggeber
Bürokratie wächst nicht allein aus sich selbst heraus. Sie wird beauftragt und finanziert – von der Politik, deren Räderwerk sie ist, allerdings mit eigener Steuerung. Das Verhältnis ist ein klassisches Prinzipal-Agent-Problem mit einer Besonderheit: Der Auftraggeber kann den Apparat schlecht kontrollieren und will es oft auch gar nicht.
Dafür gibt es Gründe. Christopher Hood8 und vor ihm R. Kent Weaver9 haben gezeigt, dass politisches Handeln stark von Schuldvermeidung geprägt ist. Wer Aufgaben an Behörden delegiert, delegiert auch die Verantwortung für deren Scheitern. Die Verwaltung wird zum Haftungsschild. Ein schleppendes Genehmigungsverfahren lässt sich dem Amt zuschreiben, nicht dem Gesetzgeber, der es geschaffen hat. Hinzu kommt, dass für Politiker das Gesetz selbst die sichtbare Leistung ist. Ein neues Förderprogramm, eine neue Berichtspflicht, ein neues Schutzgesetz lassen sich verkünden. Ihr Vollzug ist hingegen eine unsichtbare Arbeit, deren Kosten bei Behörden, Unternehmen und Bürgern anfallen. Aufgabenkritik, also die Frage, welche Aufgaben der Staat aufgeben kann, bringt dagegen keine Schlagzeilen, sondern Konflikte mit organisierten Interessen. Mancur Olson hat beschrieben, wie solche Gruppen Vorteile verteidigen, deren Kosten breit gestreut sind.10
Aus Sicht der Politik könnte KI daher vor allem insofern attraktiv sein als sie verspricht, mehr Staat zu geringeren Kosten zu produzieren. Die unbequeme Frage, welche Aufgaben entfallen können, lässt sich so vertagen. So wird Digitalisierung zum Ersatz für Aufgabenkritik, für die es ohnehin nur geringe Anreize gibt, selbst wenn die Bürokraten selbst unter der Last ächzen.
Staatliche und unternehmerische Bürokratie
Bürokratie gibt es nicht nur im Staat. Jeder Konzern kennt Formulare, Zuständigkeiten, Freigabeschleifen und Abteilungen, deren Zweck sich dem Außenstehenden nicht erschließt. John Kenneth Galbraith sah in den 1960er Jahren eine „Technostruktur“ aus Managern und Experten heraufziehen, die Konzerne und Staat gleichermaßen beherrschen und den Markt ausschalten werde.11 Diese Konvergenzthese hat sich nicht bestätigt. Der Grund liegt im Unterschied der Selektionsbedingungen.
Organisation innerhalb von Unternehmen ist ökonomisch rational, wo Märkte zu teuer sind – das ist die Einsicht von Ronald Coase und Oliver Williamson.12 Hierarchie spart Transaktionskosten. Aber unternehmerische Bürokratie steht unter einem Druck, dem die staatliche nicht ausgesetzt ist. Kunden können abwandern, Eigentümer haften mit ihrem Kapital, und am Ende droht die Insolvenz. Behörden unterliegen zwar der Haushaltskontrolle und Wirtschaftlichkeitsprüfungen, verfügen aber über keine dem Markt vergleichbare Erfolgs- und Verlustrechnung. Vor allem fehlt der unmittelbare Selektionsmechanismus, durch den dauerhaft unwirtschaftliche Unternehmen Marktanteile verlieren oder schließlich ausscheiden können.
„Ein wachsender Teil der Unternehmensbürokratie ist nicht unternehmerisch, sondern staatlich bedingt.“
Daraus folgt für die KI: In Unternehmen bestehen stärkere Anreize, KI dort einzusetzen, wo sie Kosten senkt oder Leistungen verbessert, und erfolglose Anwendungen wieder aufzugeben. Dort können ineffiziente Projekte auch lange fortbestehen. Im Staat wirken solche Korrektur- und Selektionsmechanismen jedoch wesentlich schwächer.
Angemerkt sei, dass ein wachsender Teil der Unternehmensbürokratie nicht unternehmerisch, sondern staatlich bedingt ist. Compliance-, Datenschutz-, Lieferketten- und Nachhaltigkeitsberichte entstehen nicht, weil der Markt sie verlangt, sondern weil das Gesetz sie vorschreibt. Die staatliche Bürokratie verlängert sich also in die Unternehmen hinein. Hier kann KI tatsächlich viel Arbeit erleichtern. Damit liefert sie Gesetzgeber und Interessengruppen eine Ausrede: Noch mehr Berichtspflichten seien zumutbar.
Der Staat haftet, nicht die Maschine
Der wohl unterschätzteste Punkt der Debatte ist indes juristischer Natur. Ein Verwaltungsakt ist kein Kundenservice, sondern eine hoheitliche Entscheidung mit Rechtsfolgen. Er muss begründet werden (§ 39 Verwaltungsverfahrensgesetz [VwVfG]), er muss gerichtlich überprüfbar sein (Art. 19 Abs. 4 GG), und er muss Gleiches gleich behandeln. Rechtssicherheit ist ein Kernbestand des liberalen Rechtsstaats.
Das deutsche Verwaltungsrecht erlaubt vollständig automatisierte Verwaltungsakte nach § 35a VwVfG, soweit eine Rechtsvorschrift dies zulässt und weder Ermessen noch ein Beurteilungsspielraum besteht. Entscheidend ist damit nicht die eingesetzte Technologie, sondern die rechtliche Zulässigkeit der automatisierten Entscheidung. Art. 22 DSGVO begrenzt ausschließlich automatisierte Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, sieht allerdings bestimmte Ausnahmen vor. Die europäische KI-Verordnung stuft bestimmte Anwendungen im Bereich grundlegender öffentlicher Unterstützungsleistungen als Hochrisikosysteme ein und stellt entsprechende Anforderungen an Risikomanagement, Dokumentation und menschliche Aufsicht.
„Rechtsstaatlichkeit und Automatisierung stehen in einem Spannungsverhältnis, das sich nicht technisch auflösen lässt.“
Daraus ergibt sich ein Paradox, das keines ist, denn die Logik der Bürokratie greift auch hier. So erzeugt die rechtsstaatliche Einhegung der KI selbst neue Bürokratie: Folgenabschätzungen, Dokumentationspflichten, Aufsichtsstellen. Das ist nicht unvernünftig, denn ein Bescheid, dessen Begründung niemand nachvollziehen kann, ist schwerer anfechtbar. Es zeigt aber, dass Rechtsstaatlichkeit und Automatisierung in einem Spannungsverhältnis stehen, das sich nicht technisch auflösen lässt.
Die rechtliche Verantwortung für hoheitliche Entscheidungen verschwindet durch den Einsatz von KI nicht. Bei schuldhaften Amtspflichtverletzungen kann nach Art. 34 GG in Verbindung mit § 839 BGB grundsätzlich der Staat haften; ein Rückgriff auf den handelnden Amtsträger kommt unter den gesetzlichen Voraussetzungen insbesondere bei Vorsatz oder grober Fahrlässigkeit in Betracht. Für den einzelnen Sachbearbeiter entsteht damit ein besonderes Problem: Er soll die Ergebnisse eines Systems verantwortungsvoll verwenden, dessen Funktionsweise er möglicherweise nicht vollständig nachvollziehen kann. Das kann zusätzliche Prüfungen und Absicherungen begünstigen. Der bereits beschriebene Zusammenhang zwischen Entscheidungsrisiko und Verzögerung erhält so eine neue technische Dimension.
Eine Frage der Ordnung, nicht der Technik
Wenn KI vorhandene Anreize verstärkt, dann entscheidet die Ordnung, in die sie eingesetzt wird, über ihre Wirkung. Walter Eucken hat für die Wettbewerbsordnung das Prinzip formuliert, dass Entscheidung und Haftung zusammengehören: Wer den Nutzen hat, soll auch den Schaden tragen. Für die Verwaltung lässt sich dieser Gedanke übertragen.13 Daraus folgen drei Grundsätze.
Erstens: Nicht-Entscheiden muss teurer werden als Entscheiden. Ein Instrument dafür existiert bereits: die Genehmigungsfiktion nach § 42a VwVfG. Unter den jeweiligen gesetzlichen Voraussetzungen kann ein Antrag nach Ablauf der Entscheidungsfrist als genehmigt gelten. Wo keine erheblichen Risiken für Dritte oder andere überwiegende Schutzinteressen entgegenstehen, sollte dieses Instrument häufiger genutzt werden. Es verändert die Anreize, weil behördliche Untätigkeit nicht mehr ohne Weiteres zulasten des Antragstellers geht.
„Die erste Frage muss lauten, ob der Staat etwas überhaupt tun soll, erst die zweite, wie er es effizienter tun kann.“
Zweitens: KI dort einsetzen, wo Regelvollzug genügt. Meldewesen, Standardbescheide, Register und Auszahlungen sind beobachtbar, regelhaft und rechtlich beherrschbar. Hier kann Automatisierung Bürgern viel Zeit sparen und Beamte für Aufgaben freisetzen, die Urteilskraft verlangen. Dort, wo Ermessen, Abwägung und politische Verantwortung gefragt sind, ersetzt die Maschine nichts. Hier braucht es klare Federführung, verbindliche Fristen und eine erkennbare Person, die für die Entscheidung einsteht.
Drittens: Aufgabenkritik vor Digitalisierung. Wer eine überflüssige Aufgabe automatisiert, macht sie nur billiger und damit dauerhafter. Die erste Frage muss lauten, ob der Staat etwas überhaupt tun soll, erst die zweite, wie er es effizienter tun kann.
Wer soll das tun? Aus dem Apparat selbst wird Aufgabenkritik kaum kommen, und die Politik hat wenig Anreiz, sie zu betreiben. Historisch entstand sie meist unter Druck: durch Haushaltskrisen wie in Kanada und Schweden in den 1990er Jahren, durch bindende Regeln wie Schuldenbremsen und Verfallsklauseln, durch Wettbewerb zwischen Standorten. Hier liegt eine unterschätzte Chance der KI: Sie senkt nicht nur die Kosten der Verwaltung, sondern auch die Kosten ihrer Kontrolle. Rechnungshöfe, Medien und Bürger können Vorschriften, Fristen und Folgekosten erstmals systematisch auswerten. Aufgabenkritik von innen bleibt unwahrscheinlich, aber von außen wird sie billiger.
KI ist also weder Kettensäge noch Bedrohung des Verwaltungsstaats. Sie ist ein Verstärker. In einer Ordnung, die Absicherung belohnt, perfektioniert sie die Absicherung. In einer Ordnung, die Entscheidung belohnt, beschleunigt sie die Entscheidung. Welche Ordnung wir haben, ist keine Frage der Technik, sondern der Politik – und die sorgt seit Jahrzehnten dafür, dass die staatliche Ordnung immer weiter ausgreift.
