Die Enzyklika Magnifica Humanitas (Großartige Menschheit) von Papst Leo XIV, die erste seines Pontifikats, befasst sich mit einer der zentralen Zukunftsfragen der Menschheit. Der Papst stellt fest, dass Technologie zunehmend beginnt, über Menschen zu entscheiden. Der aktuelle Krieg in der Ukraine zeigt dies auf brutale Weise: KI‑gestützte Drohnensysteme ermöglichen es, aus großer Distanz zu töten, ohne dass ein Mensch noch unmittelbar beteiligt ist. Drohnen orten Ziele, führen vorprogrammierte Abläufe aus und zerstören, was ihnen als Ziel zugewiesen wurde – gleichgültig, ob es sich um Infrastruktur oder Menschen handelt.
Es ist legitim und notwendig, dass die Kirche – diesmal in der Person des Papstes – zu dieser Entwicklung Stellung bezieht. Denn bei der KI handelt es sich nicht nur um ein technisches, sondern vor allem um ein tiefgreifendes ethisches Problem. KI ist weder gut noch böse; sie verstärkt die Absichten derjenigen, die sie einsetzen. Schon der Begriff „Künstliche Intelligenz“ führt in die Irre: KI ist ein Produkt menschlichen Geistes, das mit technischen Mitteln Programme erzeugt, die sich selbst optimieren und Ziele verfolgen, die Menschen ihnen vorgegeben haben.
Gefährlich wird KI dort, wo Automatismen entstehen, die sich menschlicher Kontrolle entziehen – insbesondere im militärischen Bereich. Der „Zauberlehrling“ aus Goethes Gedicht, den viele aus der Schulzeit kennen, ist zur Realität geworden. Vielleicht sieht sich Papst Leo XIV als der Meister, der den entfesselten Geist wieder in die Flasche zurückdrängen möchte. Schön wäre es – doch daran zu glauben fällt schwer.
Die Grundthese des Papstes lautet: KI verstärkt Macht – und Macht braucht Moral. Der Mensch darf nicht zum Objekt algorithmischer Prozesse werden. Die Gefahr der Entmenschlichung durch automatisierte Entscheidungen und den Verlust von Verantwortung ist real. Doch haben wir diese Schwelle nicht längst überschritten? Betrachtet man die aktuelle Kriegstechnik in Israel, der Ukraine, Russland und insbesondere den USA, wird deutlich: KI dient längst nicht mehr nur der Optimierung von Informationsprozessen, sondern ist Teil einer systematischen Vernichtungslogik gegenüber politischen Gegnern.
Wenn der Papst darauf hinweist, dass wenige globale Unternehmen Daten, Algorithmen und Plattformen kontrollieren, greift das zu kurz. Denn die entscheidende Frage lautet: Wer beauftragt diese Unternehmen? Wer setzt die Systeme ein? Es sind Staaten – und genau diese Staaten sollen nun die Technologie regulieren. Das ist ein Widerspruch, den die Enzyklika nicht vollständig auflöst.
Die Forderungen des Papstes sind inhaltlich richtig und in jedem Punkt zu unterschreiben. Doch sie kommen möglicherweise zu spät. Das „System KI“ hat sich bereits so weit verselbstständigt, dass selbst internationale Gremien kaum noch in der Lage sein werden, wirksame Grenzen zu setzen.
Hinzu kommt: Die Kirchen haben sich in den vergangenen Jahren zu sehr mit staatlichen Positionen gemein gemacht. Sie unterstützen den Krieg in der Ukraine und äußern sich vergleichsweise zurückhaltend zur Lage in Palästina. Zu glauben, dass sie nun „in die Speichen greifen“ könnten, um den staatlichen Einsatz von KI zu begrenzen, dürfte ein frommer Wunsch bleiben.
Wenn überhaupt, dann liegt die Verantwortung jetzt bei den Bürgern – und besonders bei den Christen. Sie müssen ihre politischen Vertreter auffordern, den Einsatz von KI in bestimmten Bereichen gesetzlich zu begrenzen oder zu verbieten. Geschieht dies nicht, wird der Zauberlehrling zum Meister der Welt. Das wäre der eigentliche Super‑GAU – einer, den vielleicht selbst Goethe nicht vorausgesehen hat.