Vor kurzem veröffentlichte Papst Leo XIV. seine Enzyklika «Magnifica humanitas», die die Soziallehre der Kirche im Zeitalter der Künstlichen Intelligenz in den Mittelpunkt stellt. Eine Enzyklika ist ein feierliches Rundschreiben des Papstes an die weltweite Kirche und oft an alle Menschen guten Willens. In ihr äussert sich das Kirchenoberhaupt zu Glaubensfragen im Kontext drängender gesellschaftlicher und politischer Themen. Das Wort entstammt dem Griechischen, bedeutet im Kern «Rundschreiben» und ist seit der Antike ein Mittel von Oberhäuptern, um Grundsätzliches zu verkünden. Auch die Europäische Union hat mit dem Inkrafttreten der KI-Verordnung am 1. August 2024 die Regulierung Künstlicher Intelligenz auf eine neue Grundlage gestellt und einen weltweit einzigartigen Rechtsrahmen geschaffen, der voraussichtlich über den EWR auch in Liechtenstein zur Anwendung kommen wird. Wer nun glaubt, zwischen Brüssel und dem Vatikan lägen Welten, sollte genauer hinsehen. Gerade bei der Künstlichen Intelligenz zeigen sich bemerkenswerte Gemeinsamkeiten.

Die KI-Verordnung verfolgt einen risikobasierten Ansatz: Je grösser die Auswirkungen eines KI-Systems auf Grundrechte, Sicherheit oder gesellschaftliche Teilhabe, desto strenger die Anforderungen. Manipulative Einflussnahme und soziale Bewertung von Menschen sind verboten. Für Hochrisiko-Systeme, etwa im Personalwesen, bei Kreditentscheidungen oder im Gesundheitswesen, gelten umfangreiche Pflichten zu Transparenz, Dokumentation, Datenqualität und menschlicher Aufsicht. Genau hier berühren sich Recht und Ethik. Die päpstliche Forderung nach klar zurechenbaren Verantwortlichkeiten entspricht der Zuweisung von Pflichten entlang der Wertschöpfungskette. Die Verordnung unterscheidet Anbieter, Betreiber, Importeure und Händler und weist jeder Rolle eigene Pflichten zu. «Accountability» ist damit nicht blosse Haltung, sondern eine konkrete Liste haftungsbewehrter Pflichten.

Wenn der Papst davor warnt, sensible Entscheidungen über Arbeit, Kredit oder sozialen Ruf automatisierten Systemen zu überlassen, denen jede Barmherzigkeit fehlt, spiegelt sich dies unmittelbar im EU-Recht und zwar auf zwei Stufen: Entscheidungen über Beschäftigung, Kreditwürdigkeit oder Gesundheit gelten als Hochrisiko-Anwendungen und unterliegen strengen Pflichten. Die kontextübergreifende soziale Bewertung von Menschen, das eigentliche Social Scoring, wird unter den Voraussetzungen von Art. 5 KI-VO verboten. Beides ist getragen von derselben Zielrichtung: die Menschenwürde vor kalter, algorithmischer Selektion zu schützen.

Leo XIV. warnt vor der Versuchung, der KI eine Autorität zuzuschreiben, die ihr nicht zukommt. Maschinen können analysieren und Muster erkennen. Verantwortung übernehmen oder moralische Urteile fällen können sie nicht. Was die Gesetzgebung als «Human Oversight» definiert, wurzelt im selben Grundgedanken der katholischen Soziallehre: Die Würde des Menschen ist nicht delegierbar. Während die Enzyklika das unkontrollierte Wachstum der KI als ethische Black Box beschreibt, verwandelt die Verordnung dieses Unwissen durch strikte Offenlegungspflichten in eine juristische Bringschuld. Der kritisierten ‚epistemischen Asymmetrie', bei der die Menschheit als Trainingsobjekt weniger Konzerne herhalten muss, begegnet die KI-Verordnung mit Dokumentations- und Transparenzpflichten über Herkunft und Nutzung von Trainingsdaten. Und wo die Enzyklika warnt, simulierte Empathie lasse den Wunsch nach echter Begegnung verkümmern, verpflichtet Art. 50 der KI-VO in bestimmten Fällen zur Offenlegung, dass Inhalte oder Interaktionen KI-generiert sind – eine Pflicht, die gestaffelt eingeführt wird und in ihren Kernbereichen ab August 2026 greift.

Die entscheidende Frage lautet deshalb nicht, wie viel Künstliche Intelligenz wir zulassen, sondern wer am Ende die Verantwortung trägt. Die Antwort von Gesetzgeber und Kirche fällt erstaunlich ähnlich aus: Nicht die Maschine entscheidet über den Menschen, der Mensch entscheidet über die Maschine. Die Letztverantwortung muss bei den handelnden Personen verbleiben, aus rechtlicher Pflicht und aus ethischer Vernunft.