Die Menschlichkeit bewahren

Wie können wir erkennen, welche Informationen im Internet wahr sind? Wie viele und welche Arbeitsplätze werden durch den Einsatz von künstlicher Intelligenz (KI) verloren gehen? Was passiert mit unseren Daten? Was lässt sich über uns herausfinden durch die Spuren, die wir im Internet hinterlassen? Gibt die Technik nicht schon den Arbeitsrhythmus für die Menschen vor? Entscheiden Maschinen und nicht mehr Menschen über wichtige Belange unseres Lebens? Für immer mehr Menschen weltweit sind Fragen wie diese hochaktuell. Und sie sind bedrohlich. Die päpstliche Enzyklika nähert sich daher dem Thema mit dem Untertitel „Über die Bewahrung des Menschen im Zeitalter der künstlichen Intelligenz“. 

Biblische Bilder

Ausgehend von den biblischen Bildern des gescheiterten Turmbaus zu Babel und des gelungenen Wiederaufbaus Jerusalems nach der babylonischen Gefangenschaft, ruft der Papst zur gemeinsamen, überlegten Gestaltung der Zukunft auf: „Scheuen wir uns nicht, uns auf der Baustelle unserer Zeit die Hände schmutzig zu machen.“
In den ersten beiden Kapiteln der Enzyklika schildert Leo XIV. die Entwicklung der kirchlichen Soziallehre und wichtiger Prinzipien. Damit stellt er – 135 Jahre nach dem Erscheinen der ersten Sozialenzyklika „Rerum novarum“ von Papst Leo XIII. – sein Schreiben in diese Tradition. In Kapitel drei kommt der Papst dann zum eigentlichen Thema seines Rundschreibens: der Herausforderung durch die künstliche Intelligenz und der Macht der Tech-Konzerne und ihrer Lenker.
Gerade die Leistungsfähigkeit der künstlichen Intelligenz könne sie zu einem Beschleuniger eines „technokratischen Paradigmas“ (Papst Franziskus) machen, das Entscheidungen allein der Logik der Effizienz, der Kontrolle und des Profits unterwirft, und Menschen so zu einem Rädchen im System erniedrige. Dazu komme die Machtkonzentration in der digitalen Welt, die nicht bei den Staaten, sondern bei großen wirtschaftlichen und technologischen Akteuren liege. „Wenn sich solche Macht in wenigen Händen konzentriert, besteht die Gefahr, dass sie undurchsichtig wird und sich der öffentlichen Kontrolle entzieht“, schreibt der Papst.
Intransparent sind laut Leo XIV. gerade auch die Entwicklungen der künstlichen Intelligenz, zum Teil auch für deren Entwickler selbst. Dabei macht er vor allem deutlich, was KI nicht ist: „Sogenannte künstliche Intelligenzen machen keine Erfahrungen, besitzen keinen Leib, empfinden weder Freude noch Schmerz, reifen nicht in Beziehungen, wissen nicht von ihrem Inneren her, was Liebe, Arbeit, Freundschaft und Verantwortung bedeuteten. Sie haben auch kein moralisches Gewissen: Sie unterscheiden nicht zwischen Gut und Böse, sie erkennen nicht den eigentlichen Sinn von Situationen und sie nehmen die Last der Konsequenzen nicht auf sich.“ Mit anderen Worten: Sie können und müssen nicht das, was Menschen können oder müssen. 

Wer trägt die Verantwortung?

Dennoch trifft KI wichtige Entscheidungen: „Sensible Entscheidungen bezüglich Arbeit, Kreditvergabe, Zugang zu Dienstleistungen und dem guten Ruf von Personen laufen Gefahr, vollständig automatisierten Systemen überlassen zu werden, die ‚Mitleid, Barmherzigkeit, Vergebung und vor allem die Offenheit für die Hoffnung auf eine Veränderung der Person‘ nicht kennen und dadurch neue Formen der Ausgrenzung hervorbringen können.“ Deshalb müsse immer klar sein, wo die Verantwortung liegt, nämlich „bei jenen, die die Systeme entwerfen und trainieren, bis hin zu jenen, die sie nutzen und ihnen konkrete Entscheidungen anvertrauen“. Dabei stellt der Papst klar: „Wenn man zur Vorsicht, zu strengen Kontrollen und manchmal auch zu einer Verlangsamung bei der Einführung der KI aufruft, bedeutet das nicht, gegen den Fortschritt zu sein, sondern eine verantwortungsvolle Sorge um die Menschheitsfamilie zu zeigen.“ Und weiter: „Es bedarf angemessener rechtlicher Rahmenbedingungen, unabhängiger Aufsicht, Aufklärung der Nutzer und einer Politik, die sich nicht ihrer Aufgabe entzieht.“ Der Papst möchte die KI „entwaffnen“. Das bedeute, „sie der Logik des bewaffneten Wettbewerbs zu entziehen, der heute nicht mehr nur militärischer, sondern auch wirtschaftlicher und kognitiver Natur ist.“
Es ist bezeichnend, dass der Papst nach der Kritik an Transhumanismus und Posthumanismus – beide wollen in offenbarer Selbstüberschätzung durch Technik menschliche Grenzen überwinden – ein Lob der Begrenztheit des Menschen vorträgt: „Gerade durch unsere Begrenztheit gibt es Raum für Mitgefühl, für aufrichtige Sorge um die Bedürfnisse der anderen, für eine Großherzigkeit, die selbst inmitten von Dunkelheit und Versagen überrascht, für geistliche Erfahrungen und für die Anbetung Gottes.“ Die Überwindung menschlicher Grenzen liege im Glauben, in der Gnade Gottes und in der Liebe. „Für einen Algorithmus ist ein Fehler etwas, das korrigiert werden muss; für einen Menschen kann er der Beginn einer tiefgreifenden Veränderung sein.“
Im vierten Kapitel greift der Papst besonders das Thema des „Bewahrens des Menschlichen“ auf und zeigt dies anhand von Wahrheit, Arbeit und Freiheit auf. 

Wahrheit

Deutlich sagt Leo XIV., dass Desinformation durch KI verstärkt wird. Das habe gerade auch politische Auswirkungen: „Die Suche nach der Wahrheit ist ein wesentlicher Bestandteil der Demokratie, die ihrerseits ein Mittel zur Mitwirkung am Gemeinwohl ist. Wenn die Frage nach dem, was wahr ist, ihre Bedeutung verliert und an ihre Stelle ein Pragmatismus tritt, der sich mit dem begnügt, was nützlich oder wirksam zu sein scheint, wird das demokratische Leben schwächer.“ Die Gleichgültigkeit gegenüber der Wahrheit führe zu einem langsamen, aber unaufhaltsamen Abgleiten in den Totalitarismus. In diesem Zusammenhang betont der Papst auch die Medienbildung und den Schutz junger Menschen vor verfrühtem und unbeaufsichtigtem Umgang mit digitalen Geräten. 

Arbeit

Die Arbeit, ein zentraler Wert in der kirchlichen Soziallehre, wird durch die KI auf mehrfache Weise bedroht: Ihr Tempo setzt die Menschen im Arbeitsprozess unter Druck oder nimmt ihnen die Arbeit. Es reiche nicht aus, „erst zu reagieren, wenn Arbeitsplätze verschwinden. Es ist notwendig, den Wandel im Voraus zu gestalten.“ Der Papst rät zu sozialen Kriterien für Innovationen.

Freiheit

Die Bedeutung der Freiheit betont der Papst gegenüber subtilen Formen der Abhängigkeit: „Wenn Geschäftsmodelle von menschlichen Schwächen profitieren, dann wird der Mensch als Mittel und nicht als Zweck behandelt, und diejenigen, die diese Systeme entwerfen oder finanzieren, tragen eine moralische Verantwortung, der sie sich nicht entziehen können. Es ist dringend erforderlich, einen Umgang mit Technologien zu fördern, der die innere Freiheit stärkt: Erziehung zu digitaler Zurückhaltung, Schutz von Minderjährigen und Bekämpfung von Modellen, die aus der Verletzlichkeit anderer Nutzen ziehen.“ Leo XIV. sieht auch ein neues Gesicht des Kolonialismus: „Er beherrscht nicht mehr nur Körper, sondern eignet sich Daten an und verwandelt das persönliche Leben in verwertbare Informationen.“

Aufruf an alle

Das fünfte Kapitel betrachtet internationale Konflikte und die Rolle der KI darin. Es stellt eine Zivilisation der Liebe dazu in Kontrast. Der Schluss stellt die Menschwerdung Christi ins Zentrum. So tritt der christliche Glaube in gewisser Weise als Antithese zu den Ideen auf, mit Technik und durch KI menschliche Grenzen überwinden zu wollen. Denn Gott wird Mensch in einer ganzheitlichen Dimension: mit einem Körper, angreifbar, echt. Vor diesem Hintergrund ruft der Papst auf: „Bleiben wir der Wahrheit treu!“ „Investieren wir in die Bildung, die bei uns selbst beginnt!“ „Pflegen wir Beziehungen!“ „Lieben wir die Gerechtigkeit und den Frieden!“    

Einen Link zur Enzyklika finden Sie auf: www.kirchenzeitung.at/service

Kritik erwünscht

Die Vorstellung der erster Enzyklika von Leo XIV. am Pfingstmontag im Vatikan fand in einem ungewöhnlichen Rahmen statt. Vor Kurienmitarbeitern und Diplomaten sprachen nicht nur Kardinäle über das Lehrschreiben, das dem Umgang mit künstlicher Intelligenz gewidmet ist. In die Synodenaula hatte der Vatikan unter anderem auch einen KI-Pionier geladen: Christopher Olah ist Mitgründer des kalifornischen KI-Unternehmens Anthropic und hat auf dem Markt, den der Papst in seiner Enzyklika kritisiert, Milliarden verdient.
Olah gab sich selbstkritisch. Jedes KI-Labor sei Anreizen ausgesetzt, die im Widerspruch zum ethisch Gebotenen stehen, so der 33-jährige Tech-Pionier. Darum brauche es Außenstehende, die Kritik üben und vor Risiken warnen. Der gebürtige Kanadier sprach der Kirche dabei eine wichtige Rolle zu, um den Blick auf die Herausforderungen zu lenken, die mit dem Fortschritt von Technologie einhergehen. Ihre Stimme werde etwa gebraucht, wenn es um drohende Arbeitsplatzverluste durch KI gehe.
Die ethischen Fragen nach der Entwicklung der Menschheit und der geistigen Entwicklung von Kindern könne ebenfalls kein KI-Labor beantworten. „Wir brauchen informierte Kritiker, die den Labors sagen, wenn wir versagen. Wir brauchen moralische Stimmen, die sich von Anreizen nicht beugen lassen“, sagte Olah.