Kriterien für die KI-Nutzung: Gerechtigkeit, Bildung, Gemeinschaft

Volles Haus beim Thementag KI in Heilbronn.

Zum Auftakt des Thementags „KI, Ethik, Kirche“ auf dem Bildungscampus Heilbronn am 8. April 2024 ordnete Landesbischof Ernst-Wilhelm Gohl in seinem Grußwort die ethischen Herausforderungen der Nutzung Künstlicher Intelligenz theologisch ein. Der Thementag fand als Kooperation der württembergischen Landeskirche, des Evangelischen Medienhauses Stuttgart und des Ferdinand-Steinbeis-Instituts Heilbronn statt. Im Folgenden finden Sie den Wortlaut des Grußwortes von Landesbischof Gohl.

Landesbischof Ernst-Wilhelm Gohl beim Thementag KI in Heilbronn.

In den letzten fünf Jahren ist das Thema Künstliche Intelligenz (KI) zunehmend zu einem Massenphänomen geworden. Weltweit forschen Labore und Institute daran. Immer wieder wird von bahnbrechenden Durchbrüchen berichtet. Aber erst mit der kostenfreien Software ChatGPT ist das Thema KI so richtig in unserem Alltag angekommen.

Die Folgen dieses Technologiesprungs lassen sich gegenwärtig noch schlecht abschätzen. Überwiegt der Freiheitsgewinn oder eher der Freiheitsverlust? Wie segensreich kann KI für unseren Alltag noch werden? Wie gefährlich ist es, wenn nicht wir die KI kontrollieren, sondern irgendwann die KI uns?

Noch dramatischer wirkt der weltweite Appell zahlreicher KI-ExpertInnen auf der website des Future-of-Life-Instituts vom 22. März letzten Jahres. (siehe Anm. 1)  Systeme wie ChatGPT, heißt es in dem Appell, seien inzwischen „zu mächtig und zu gefährlich geworden“, und es bestünden fundamentale Risiken für die Gesellschaft und die Menschheit, die von auf Menschenniveau agierender KI ausgingen. Deshalb fordert der Appell ein Forschungsmoratorium an KI für mindestens sechs Monate.

Es bedarf also einer Einordnung dieser Bedrohungsszenarios. Wo liegen die Chancen von KI und wo die Gefahren? Der Thementag heute bietet für alle diese Fragen ein kompetentes Forum – auch dank Ihnen, lieber Herr Prof. Lasi und dem Steinbeis-Institut. Es ist gut, dass wir uns als Kirche diesen Fragen gemeinsam stellen. Deshalb gilt schon jetzt mein Dank der Landessynode und damit stellvertretend für alle hier in der Vorbereitung Beteiligten, Dir, liebe Sabine Foth.

Mit der KI tun sich neue ethische Fragen auf. Die Herausforderung für uns alle besteht darin, die KI im Blick auf die ethischen Fragen nicht pauschal zu verdammen, sondern diese Fragen im Lichte der biblischen Überlieferungen informiert und differenziert in unsere innerkirchlichen, aber auch gesellschaftlichen Debatten einzubringen.

In diesem Zusammenhang bin ich sehr erleichtert, dass die EU mit dem AI-Act 2024 einen verbindlichen rechtlichen Rahmen für die Verwendung von KI in der EU schaffen will. Kern des AI-Acts ist die Unterscheidung von drei Risikoklassen bei der Nutzung von künstlicher Intelligenz.

Das höchste Risiko geht von KI-Anwendungen aus, die im Kern Freiheitsrechte von Menschen massiv einschränken oder sie gar mit dem Tod bedrohen.

Diese Anwendungen sind in der EU zukünftig verboten. In der EU wollen wir keine chinesischen Verhältnisse und lehnen z.B. Social Scoring (siehe Anm. 2) ab.

Dramatisch sind auch Anwendungen von KI in neuerster Waffentechnik.

Russland und die Ukraine stehen kurz vor dem Einsatz von Drohnen, die mittels KI völlig autonome Entscheidungen über das Ziel seiner Zerstörung treffen.

Als Kirche begrüßen wir das Verbot dieser Anwendungen. Hier geht es um die Verteidigung fundamentaler Werte, die sich aus der Menschenwürde und dem Schutz der Schwachen ableiten.

Gegenüber dieser Risikoklasse 1 definiert die EU eine Klasse von KI-Anwendungen, die als unbedenklich gelten und deren Entwicklung auch wirtschaftlich gefördert werden soll. Gerade im Blick auf mögliche Einsatzmöglichkeiten in der Diakonie muss geklärt werden, wo wir als Kirche diesen Einsatz mit befördern können. Ich denke da etwa an die Unterstützung von medizinischer Diagnose – letzte Woche sprach ich mit einem Radiologen, der KI bei der Auswertung von Bildern sehr hilfreich erlebt – oder ich denke an praktische Hilfe für Menschen mit Unterstützungsbedarf.

Die eigentliche Herausforderung besteht m.E. in der Abschätzung von Risiken, die die EU als Risikoklasse 2 definiert. Die Bewertung des Nutzens und der Risiken dieser KI-Anwendungen ist nicht eindeutig. Die Bewertung muss im öffentlichen Diskurs ausgehandelt werden. Dazu muss die Kirche ihren Beitrag leisten. Daher ist es wichtig, dass wir Austauschforen wie diese haben. Nicht nur deshalb bin ich auf die Vorträge und Gespräche heute gespannt. Als Impuls für diesen Tag will ich kurz drei Kriterien bei der Risiko/Nutzen-Abwägung von KI aus Sicht der Kirchen skizzieren.

Erstes Kriterium: Gerechtigkeit

Der Theologe und frühere Vorsitzende des Deutschen Ethikrats, Peter Dabrock, hat darauf hingewiesen, dass es in den Debatten um KI entscheidend sei, die richtigen Fragen zu stellen. Damit drückt er aus, dass viele ethisch eindeutige Positionen sehr viel Öffentlichkeit erfahren, die wirklich relevanten Problemstellungen eher aber verdeckt sind.

Bevor aber über die Lösungen von ethischen Konflikten gesprochen werden kann, müssen zuerst elementare Herausforderungen einer „digital justice“ gelöst werden. Deshalb steht die Fragen der Teilhabe im Mittelpunkt. Teilhabegerechtigkeit hängt im diakonischen Sinn ganz an den zur Verfügung stehenden Ressourcen. Dazu gehört auch, die Marktmacht der großen Tech-Konzerne kritisch zu analysieren und auf ihre Rolle bei technischen Innovationen hinzuweisen. Die technischen Entwicklungssprünge, die diese Konzerne mit auslösen, geschehen nicht primär aus altruistischen Motiven, sondern um wirtschaftlichen Erfolg zu haben. Das ist nicht verwerflich. Aber diese Motivation muss im Blick sein. Deshalb gehört zur „digital justice“ auch die Frage: Auf welche Geschäftsmodelle lassen wir uns als Kirchen ein, wenn wir digitale Dienstleistungen dieser Konzerne nutzen?

Zweites Kriterium: Bildung

Zur Teilhabegerechtigkeit gehört nicht nur der Zugang zu den Ressourcen. Auch der Zugang zur Bildung ist entscheidend. Beides hängt eng mit dem christlichen Menschenbild zusammen. Alle Menschen sollen in die Lage versetzt werden, selbstbestimmt über ihr Leben zu entscheiden. Dazu gehört die informationelle Selbstbestimmung und die Fähigkeit, über den Einsatz von KI qualifiziert urteilen zu können.  

Blickt man auf die Anfänge evangelischer Bildungsarbeit zurück, erkennt man eine Grundhaltung, die stark vom biblischen Menschenbild geprägt ist. Der Mensch ist Gottes Ebenbild. Deshalb besitzt er eine unverlierbare Würde. Diese Würde hängt also weder am Geschlecht, noch am sozialen Stand oder anderen Kriterien.  Bildung muss deshalb die Urteilsfähigkeit jedes und jeder Einzelnen sicherstellen. Nicht nur deshalb ist evangelische Bildungsarbeit ein fundamentaler Gegenentwurf zu einer Gesellschaft der Uninformierten, zu einer Gesellschaft ohne ethischen Kompass, die durch „fake news“ und Verschwörungserzählungen besonders leicht beeinflussbar ist. Evangelische Bildungsarbeit ist wichtiger denn je, denn sie stärkt die Urteilsfähigkeit des und der Einzelnen.

Drittes Kriterium: Gemeinschaft

„Die Digitalisierung verändert unsere Welt. Sie eröffnet neue persönliche und gesellschaftliche Spielräume, die besondere Freiheitsgewinne möglich machen.“ (siehe Anm. 3)

Mit dieser Feststellung setzt die aktuelle Denkschrift der EKD zur Digitalisierung ein. Vor drei Jahren erschient sie mit dem programmatischen Titel „Freiheit digital“. Anhand der Zehn Gebote reflektiert sie aber nicht nur die Chancen der Digitalisierung, sondern auch ihre Begrenzungen. Ziel ist es, so die Denkschrift, „diesen Wandel menschengerecht und sachgerecht“ zu gestalten. Wie kann KI genutzt werden, dass ihre Verwendung menschengerecht geschieht?

Neben Gerechtigkeit und Bildung will ich deshalb dieses dritte Kriterium stellen. Es wurde mir in den letzten Monaten durch Gespräche immer deutlicher. KI, die in der Kirche angewandt wird, macht Menschen v.a. Angebote für Kontakt und Kommunikation. Genauer gesagt zielen viele Angebote auf Gemeinschaft. Ich denke an Pflegeroboter, an Tools zur Gottesdienstvorbereitung und Gottesdienstdurchführung, an Segensroboter und Seelsorgeangebote.

Kirchliche Angebote zielen in fundamentaler Weise auf Austausch und Kontakt zwischen Kirchenmitgliedern und leiten sich aus der Kommunikation mit Gott ab.

Vor jedem Einsatz von KI sollten wir als Kirche prüfen: Eröffnen diese Angebote wirklich neue Formen von Gemeinschaft oder dienen sie nur der Kostensenkung? Auf der anderen Seite müssen beim Einsatz von KI immer auch die Alternativen mit bedacht werden. Wenn die Alternative zu einem KI-gestützten Angebot ist, dass ein entsprechendes Angebot in Zukunft von der Kirche gar nicht mehr angeboten werden kann, spricht vermutlich Manches für die KI-gestützte Lösung.

Ein echtes Dilemma liegt in der Seelsorge vor. Ich kann mir Kontakt- und Informationsgespräche vorstellen, die KI-gestützt sind. Oft brauchen Hilfebedürftige schnell einen ersten Kontakt. Das könnte Pfarrerinnen und Pfarrer entlasten und die Hilfe der Kirche an diesem Punkt professionalisieren. Aber die Mensch-zu-Mensch-Seelsorge kann ich mir KI-gestützt weder gegenwärtig noch zukünftig vorstellen.

Seelsorge ist die Muttersprache der Kirche. Christliche Seelsorge ist im Kern von der Beziehung zwischen zwei Menschen bestimmt. Der, der zuhört, ermutigt und tröstet, ist in der Seelsorge nicht wie ein Arzt, der eine Diagnose stellt und dann die Therapie einleitet. Jeder Seelsorger, jede Seelsorgerin weiß, dass jeder Lebensweg einmalig ist.

Im Unterschied zum Arzt oder Ärztin, ist die Seelsorgerin oder der Seelsorger solidarischer Zeuge. Diese Zeugenschaft bedeutet, im Leid des anderen da zu sein, mitzugehen, mit auszuhalten, mit zu klagen, mit zu schweigen.

Diese Zeugenschaft ist empathisch und vor allem zutiefst menschlich. Und sie wird spürbar, wenn dieser Zeuge, diese Zeugin sich als Mensch zu erkennen gibt. Letztlich wird es hier, wie auf anderen Feldern kirchlicher Arbeit darum gehen, ob menschliche Gemeinschaft – dieser zentrale christliche Wert – gestärkt werden kann.

Anmerkungen:

1. https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (abgerufen 06.04.2024).

2. Auf Menschen angewandt, bedeutet dies, dass über die Sammlung und Auswertung von Daten das Verhalten von Menschen bewertet wird. Für wünschenswertes Verhalten werden Pluspunkte gutgeschrieben; Punktabzug gibt es für negatives Verhalten. 

3. https://www.ekd.de/freiheit-digital-63984.htm (abgerufen 06.04.2024).