Ohne sie scheint es (schon jetzt) nicht mehr zu gehen, die Gesellschaft hat eine regelrechte Obsession mit ihr: „Künstliche Intelligenz“ ist omnipräsent.

Berichte über eine ganze Reihe von teils existenziellen Gefahren mehren sich. Es geht nicht nur um Horden (halb)autark agierender „Agenten“, also Chatbots, die – von einem Menschen oder einer KI beauftragt – selbstständig durch das Internet ziehen und Aufgaben erledigen. Über Plattformen können sie sogar Menschen mit Tätigkeiten in der realen Welt beauftragen (siehe QR-Code). Es geht auch um eine Machtkonzentration bei wenigen, vorwiegend US-amerikanischen Unternehmen, die von mehr oder minder verantwortungsvollen Persönlichkeiten geführt werden und in denen selbst Stimmen vor einer ungezügelten Weiterentwicklung von KI warnen. Effektive staatliche oder sonst gemeinwohlorientierte Kontrolle über KI-Entwicklung ist praktisch nicht existent.

Kein Scherz: KI-Agenten können über „Rent a Human“ (Link zur Website) Menschen mit Aufgaben in der realen Welt beauftragen.

Um die potenziell verheerenden Folgen einer weiteren Steigerung von KI-Fähigkeiten (und Autonomie) – man denke nur daran, wie anfällig Landesdaten- oder Stromnetze und andere Infrastruktur (schon) für (menschliche) Hackerangriffe sind – mit dem – weiterhin existenten – potenziellen Nutzen abzuwägen, verlässt sich die Weltgemeinschaft derzeit auf eine Handvoll Akteure, deren Handeln sich primär am Ziel der Gewinnmaximierung orientieren dürfte.

Bei dieser Vorrede ahnen Sie es: Dem omnipräsenten KI-Hype (kurz zur Erdung: es handelt sich bei „KI“ nach wie vor um eine – unbestritten beeindruckende – statistische Prognosetechnologie) wird in den folgenden Leseempfehlungen ein kleiner Dämpfer gesetzt. Aus Sicht des Autors lohnt es sich, kurz innezuhalten und sich zu fragen, wohin die Reise geht oder gehen soll.

Für diese Überlegungen ist es hilfreich, zwischen den Fanfaren für KI auch kritischen Stimmen Raum zu geben.

Dario Amodei: We Must Pace the Frontier. Appell zur koordinierten Verlangsamung der KI-Entwicklung

Dies gilt gerade auch in der Justiz, wo das Innovationsversprechen der Technologie zwar hörbar ist, aber – dazu am Ende mehr – sicher noch nicht eingelöst wurde (und angesichts

viel grundlegenderer Defizite im IT-Bereich gelegentlich auch realitätsfremd wirkt). Zur Lektüre seien empfohlen:

Zunächst der Appell des Anthropic-Chefs Dario Amodei. Hier begründet der führende Kopf hinter dem Large Language Model (LLM) Claude, warum die KI-Entwicklung dringend (koordiniert) verlangsamt werden sollte, nämlich um der derzeit weit hinterherhinkenden Sicherheitsarchitektur und -forschung eine Chance zu geben, aufzuholen, bevor sich reale Gefahren im Zusammenhang mit KI – wie katastrophale Cyberangriffe oder Bioterrorismus – manifestieren.

Sodann sind kritische Worte auch von jemandem zu vernehmen, den man nicht unbedingt als „Tech-Enthusiasten“ auf dem Zettel hatte: Mit Papst Leo XIV. äußert sich aber nicht nur ein Theologe und Kirchenrechtler, sondern auch ein Mathematiker, der die Technologie, um die es in der Enzyklika Magnifica Humanitas („Über die Bewahrung des Menschen im Zeitalter der Künstlichen Intelligenz“) geht, durchdrungen zu haben scheint. Keine Sorge: Die Leseempfehlung bezieht sich nur auf das Vierte Kapitel („Das Menschliche in Zeiten des Wandels bewahren. Wahrheit, Arbeit, Freiheit.“) – bloße acht Seiten des sehr langen Textes. Zunächst geht es darin um Wahrheit, ihren Wert (für die Demokratie) und ihre gefährdete Stellung in Zeiten manipulierter Bilder und Fakten (Rn. 132ff.):

Papst Leo XIV.: Magnifica Humanitas, 4. Kapitel: „Das Menschliche in Zeiten des Wandels bewahren“

„Die Suche nach der Wahrheit ist ein wesentlicher Bestandteil der Demokratie, die ihrerseits ein Mittel zur Mitwirkung am Gemeinwohl ist. Wenn die Frage nach dem, was wahr ist, ihre Bedeutung verliert und an ihre Stelle ein Pragmatismus tritt, der sich mit dem begnügt, was nützlich oder wirksam zu sein scheint, wird das demokratische Leben schwächer. Denn es lebt nicht nur von Regeln und Verfahren, sondern vor allem von einer redlichen Beziehung zu den Fakten und einer realen Ausrichtung auf das Wohl des Einzelnen und des sozialen Ganzen. Die Gleichgültigkeit gegenüber der Wahrheit führt zu einem langsamen, aber unaufhaltsamen Abgleiten zum Totalitarismus, für den […] die idealen Untertanen [Menschen sind,] für die die Unterscheidung zwischen Fakten und Fiktion […] und die Unterscheidung zwischen wahr und falsch […] nicht mehr existiert.“

Spannend sind auch die Überlegungen zur Entwicklung der Arbeit. Denn es ist mitnichten so, dass in einer Welt, in der KI den Menschen das „lästige“ Denken und Humanoide die Kärrnerarbeit abnehmen, automatisch alle glücklich und zufrieden sind (Rn. 148ff.):

„[…] Arbeit [ist] nicht ein bloßes Mittel, sondern sie bringt die Würde unseres Lebens zum Ausdruck und stärkt sie. Sie ist ein der menschlichen Natur eingeschriebenes Bedürfnis, ein ordentlicher Weg zu persönlicher Reife, Entwicklung und Erfüllung. […] Das Zusammenspiel von Automatisierung, Robotik und KI verändert heute in rasantem Tempo die Struktur der Arbeit selbst. Dies, so heißt es, werde zu erheblichen Verbesserungen für alle führen. In Wirklichkeit sind die ‚neuen Arbeitsweisen‘ jedoch nicht unbedingt besser, denn ‚während die KI […] verspricht, die Produktivität zu steigern, indem sie gewöhnliche Aufgaben übernimmt, sind die Arbeitnehmer oft gezwungen, sich an die Geschwindigkeit und die Anforderungen der Automaten anzupassen, anstatt dass Letztere so konzipiert sein sollten, dass sie den Arbeitenden helfen. Deshalb können die, im Gegensatz zu den beworbenen Vorteilen der KI, derzeitigen technologischen Ansätze paradoxerweise dazu führen, dass Arbeitnehmer dequalifiziert, einer automatisierten Überwachung unterworfen und auf starre und sich wiederholende Aufgaben festgelegt werden. Die Notwendigkeit, mit dem Rhythmus der Technologie Schritt zu halten, kann das Gespür der Arbeitnehmer für ihre eigene Handlungsfähigkeit untergraben und die innovativen Fähigkeiten, die sie in ihre Arbeit einbringen sollen, ersticken.‘ Gerade um diesen Abweg zu vermeiden, ist es nötig, Systeme zu entwickeln, die den Menschen in den Mittelpunkt stellen und nicht nur auf Leistung oder Produktivität ausgerichtet sind.“

Weitere Zitate sollen hier nicht den Rahmen sprengen. Der Text bleibt auch im Folgenden spannend und wendet sich weiteren zu erwartenden sozialen Veränderungen zu.

Eine dritte kritische Perspektive bietet der Essay des Philosophen Rainer Mühlhoff (Künstliche Intelligenz und der neue Faschismus, Reclam, 2025). Der Titel mag einige abschrecken. Der Autor erklärt seine Wahl so: Faschismus sei kein ausschließlich historisches Phänomen. Es sei

„angebracht, den Begriff aktiv zu verwenden und seine Anwendung auf gegenwärtige Ereignisse zu erproben – eben nicht als Rückführung der Gegenwart auf die Vergangenheit, sondern als Interpretationsangebot mit Blick auf die Zukunft. Ein neuer Faschismus im 21. Jahrhundert muss nicht so aussehen wie bei den Nazis – doch viele Menschen stellen sich das heute genauso vor.“ (S. 13)

Das Buch beleuchtet die Schnittmengen und Synergieeffekte der Ideologien der „Neuen Rechten“ und „Tech-Bewegung“, die – und hier sollte Justitia aufhorchen – mit den neuen Möglichkeiten der Datenanalyse und KI gegen den Rechtsstaat arbeiteten, um ihn „durch ein schlankes, auf Automatisierung und Präemption […] basierendes Staatswesen zu ersetzen.“ (S. 11) Ganz unabhängig von dieser These erfährt man in dem flüssig zu lesenden Büchlein sehr viel über die Geschichte

und Funktionsweise von KI (auch dieser Autor ist Mathematiker, der die Statistik hinter KI verständlich erläutert). Im Gedächtnis bleibt das fiktive Beispiel einer Verwaltung, die ihre Entscheidungen (durch oder wie eine KI) nach statistischen Mustern trifft (S. 39ff.). Hier wird die Bedeutung und der Wert menschlicher Einzelfallprüfungen (etwa durch Gerichte) greifbar.

Außerdem gelingt es dem Autor, eine kluge und differenzierte Sichtweise zwischen den Extremen „KI-Hype“ und „KI-Dystopie“ zu entwickeln. Er erläutert (etwas langatmig, aber durchaus informativ) die Ideologien hinter dem KI-Hype (S. 70ff.) und zeigt auf, wo Überlappungen mit dem Libertarismus und der Alt-Right-Bewegung bestehen (S. 95ff.). Hierbei werden immer wieder Alltagsphänomene (z. B. die „Manosphere“, das „Trolling“, die Funktionsweise „Sozialer Netzwerke“) auf ihr ideengeschichtliches Fundament zurückgeführt. Am Ende des Textes, der mit einem hoffnungsvollen Abschnitt („Was tun?“) endet, stellt man sich die Frage, wie die Zukunft der (Rechts-) Staatlichkeit wohl aussehen mag. Zur Abwendung eines Schreckensszenarios, in dem die Funktionsweise von Facebook oder Twitter/X zum Vorbild für das Staatswesen wird (keine demokratische Mitbestimmung, keine Rechtsbehelfe, algorithmische oder KI-gestützte „Verwaltung“ unter CEO-Allmacht) empfiehlt der Autor: „Jeder […], ist auch persönlich gefragt, die freiheitlich-demokratische Rechtsordnung zu stützen.“ (S. 143) und einen veränderten Dialog über KI, weg von deterministischen (weit entfernten) Zukunftsvisionen und -ängsten, hin zur Gestaltung und Regulierung (S. 145ff.).

Abschließend bietet es sich an, das Grundlagenpapier 2026 (zum Einsatz von KI und algorithmischen Systemen in der Justiz), das kürzlich von den Präsidentinnen und Präsidenten der (ordentlichen) Obergerichte und des Bundesgerichtshofs herausgegeben wurde, zu studieren. Darin findet sich ein guter Überblick über alles, was in der ordentlichen Gerichtsbarkeit bereits mit KI gemacht und getestet wird (s. insbesondere Anhänge I und II) sowie über künftige Vorhaben. Besonders hervorzuheben sind dabei aus Sicht des Autors Überlegungen zur Erleichterung der Arbeit der Geschäftsstellen bzw. Serviceeinheiten (S. 87ff.), die auch aus richterlicher Perspektive sinnvoll klingen (z. B. mit Blick auf Transkriptionen, Entscheidungsanonymisierung und Protokolle).

Dr. Teoman Hagemeyer-Witzleb