Wer bringt der KI das Gute bei?
Wer bringt der KI das Gute bei?
Warum der KI-Entwickler Anthropic bei Theologen und Religionsgelehrten Rat sucht – und was die Kirchen dazu zu sagen haben.
Was antwortet eine künstliche Intelligenz einem Menschen, der gerade einen geliebten Angehörigen verloren hat? Wie reagiert sie auf jemanden, der verzweifelt ist, sich schuldig fühlt oder keinen Ausweg mehr sieht? Soll sie trösten, widersprechen, Grenzen setzen? Und woran erkennt eine Maschine überhaupt, was in einer solchen Situation gut und richtig ist?
Solche Fragen beschäftigen inzwischen auch die Entwickler großer KI-Systeme. Das amerikanische Technologieunternehmen Anthropic, bekannt durch seinen KI-Assistenten Claude, sucht dafür Rat bei Menschen, von denen man es im Silicon Valley lange kaum erwartet hätte: bei Theologen, Rabbinern, Geistlichen und Vertretern unterschiedlicher religiöser Traditionen.
Die Begegnung zwischen Religion und künstlicher Intelligenz wirft eine bemerkenswerte Frage auf: Kann man einer Maschine moralisches Verhalten beibringen, indem man sie an jahrtausendealter menschlicher Weisheit teilhaben lässt?
Wenn Entwickler nach Weisheit suchen
Seit 2025 führt Anthropic Gespräche mit religiösen und philosophischen Denkern. Nach eigenen Angaben waren bis Mai 2026 Vertreter aus mehr als 15 religiösen und kulturübergreifenden Gruppen beteiligt. Die Gespräche sollen dabei helfen, das moralische Verhalten des KI-Systems Claude zu verbessern.
Schon im Januar 2026 veröffentlichte Anthropic eine umfangreiche „Verfassung“ für Claude. Darin beschreibt das Unternehmen, nach welchen Werten sich seine KI richten soll: wahrhaftig sein, Schaden vermeiden, Menschen unterstützen und verantwortungsvoll handeln. Doch Regeln allein reichen offensichtlich nicht. Das Unternehmen interessiert sich deshalb besonders dafür, wie moralischer Charakter entsteht. Menschen lernen, zwischen Gut und Böse zu unterscheiden, indem sie Erfahrungen sammeln, Beziehungen eingehen, eigene Fehler erkennen und Verantwortung übernehmen. Anthropic möchte herausfinden, ob sich aus solchen Erfahrungen etwas für das Verhalten einer künstlichen Intelligenz gewinnen lässt.
Dass ein führendes Technologieunternehmen dafür religiöse Traditionen ernst nimmt, verdient Aufmerksamkeit. Offensichtlich stößt technisches Wissen dort an Grenzen, wo es um menschliche Werte, Gewissensentscheidungen und den Umgang mit Verletzlichkeit geht. Allerdings sollte man daraus keine plötzliche religiöse Hinwendung des Unternehmens ableiten. Anthropic verfolgt ein technologisches und wirtschaftliches Ziel: leistungsfähige KI-Systeme zu entwickeln, die sich möglichst zuverlässig und verantwortungsvoll verhalten. Religiöse Weisheit soll dabei eine Hilfe sein.
Hat eine künstliche Intelligenz ein Gewissen?
Aus christlicher Sicht beginnt an dieser Stelle die theologisch interessante Frage.
Eine KI kann erklären, was Nächstenliebe bedeutet. Sie kann biblische Texte auslegen, ethische Konflikte analysieren und mit erstaunlicher sprachlicher Einfühlsamkeit auf Menschen reagieren. Doch besitzt sie deshalb ein Gewissen? Das menschliche Gewissen ist mehr als eine Sammlung moralischer Vorschriften. Es ist mit unserer Lebensgeschichte verbunden, mit Beziehungen, eigenen Entscheidungen und der Erfahrung, dass unser Handeln Folgen für andere Menschen hat.
In der evangelischen Theologie steht das Gewissen zudem in einer besonderen Beziehung zu Gott. Der Mensch fragt nach dem Guten und erkennt zugleich, dass er seinen eigenen Maßstäben immer wieder nicht gerecht wird. Er erfährt Schuld, braucht Vergebung und darf neu anfangen. Gerade darin unterscheidet sich christliche Ethik von einer bloßen Anleitung zu richtigem Verhalten. Im Zentrum des Evangeliums steht Gottes Gnade, die dem Menschen auch dort zugesprochen wird, wo er scheitert.
Eine Maschine kann solche Zusammenhänge sprachlich nachvollziehen. Ob heutige KI-Systeme darüber hinaus eine Form subjektiven Erlebens besitzen, ist wissenschaftlich und philosophisch ungeklärt. Aus überzeugend formulierten Gefühlen lässt sich jedenfalls nicht ableiten, dass eine KI selbst empfindet, was sie beschreibt.
Anthropic hält die Frage eines möglichen KI-Bewusstseins ausdrücklich offen. Das ist als Forschungsfrage legitim. Problematisch wird es, wenn menschliche Begriffe wie Charakter, Gewissen, Angst oder Fürsorge den Eindruck erwecken, die Maschine sei bereits ein menschliches Gegenüber.
Die Gottesebenbildlichkeit lässt sich nicht programmieren
Die Bibel spricht dem Menschen eine besondere Würde zu. Nach Genesis 1,27 ist er als Ebenbild Gottes geschaffen. Diese Würde hängt weder von überragender Intelligenz noch von gesellschaftlichem Nutzen oder Leistungsfähigkeit ab. Sie gilt dem Kind ebenso wie einem schwer kranken Menschen, einem Menschen mit Demenz ebenso wie einem hochbegabten Wissenschaftler. Das ist gerade angesichts immer leistungsfähigerer KI-Systeme von Bedeutung.
Wenn Maschinen schneller rechnen, umfassenderes Wissen abrufen und überzeugender argumentieren können als viele Menschen, ändert das nichts am Wert menschlichen Lebens. Die Würde eines Menschen muss nicht durch besondere Fähigkeiten verdient werden. Die christliche Vorstellung von Gottesebenbildlichkeit darf deshalb nicht vorschnell auf jedes System übertragen werden, das menschenähnlich kommuniziert.
Ebenso wenig sollte die Theologie die Frage nach einem möglichen Bewusstsein künstlicher Systeme mit einem vorschnellen Urteil abschließen. Sie kann helfen, genauer zu unterscheiden, wovon wir sprechen: von Intelligenz, von Bewusstsein, von moralischer Verantwortung oder von Menschenwürde. Solche Unterscheidungen werden umso notwendiger, je vertrauter uns KI-Systeme im Alltag werden.
Die Verantwortung bleibt beim Menschen
Die Theologin und Philosophin Carmody Grey hat eine Einladung von Anthropic abgelehnt. In einem Beitrag für die Financial Times vom Juli 2026 begründet sie ihre Entscheidung. Ihre Sorge gilt vor allem der Richtung der Diskussion. Während die Unternehmen darüber nachdenken, welchen moralischen Status eine KI haben könnte, geraten andere Fragen leicht in den Hintergrund: Wie verändert KI menschliche Beziehungen? Welche Abhängigkeiten entstehen? Wer verfügt über die Technologie, wer verdient an ihr und wer trägt die Folgen?
Diese Einwände verdienen gerade aus kirchlicher Sicht Beachtung. Man stelle sich ein KI-System vor, das freundlich, respektvoll und nach allen verfügbaren Maßstäben moralisch antwortet. Das sagt zunächst wenig darüber aus, ob seine Entwicklung und sein Einsatz ebenso verantwortungsvoll erfolgen.
Ein Unternehmen könnte ein solches System verwenden, um Menschen enger an seine Dienste zu binden, Arbeitsplätze unter problematischen Bedingungen zu ersetzen oder Entscheidungen zu automatisieren, bei denen Betroffene kaum noch Einspruchsmöglichkeiten haben.
Die moralische Qualität einer KI darf deshalb nicht allein an den Antworten gemessen werden, die sie gibt. Ebenso entscheidend sind die Bedingungen, unter denen sie entwickelt wird, und die Interessen, denen sie dient. Wer von Kirchen und Religionsgemeinschaften ethische Orientierung erwartet, muss auch bereit sein, sich von ihnen kritisch befragen zu lassen.
Was die Kirche zu sagen hat
Die christliche Tradition verfügt über eine lange Erfahrung im Umgang mit menschlicher Schuld, Macht und Verantwortung. Sie weiß auch um die Grenzen moralischer Selbstgewissheit. Menschen können von ihren guten Absichten überzeugt sein und dennoch erheblichen Schaden anrichten. Das gilt ebenso für Menschen, die technische Systeme entwickeln.
Im Gleichnis vom barmherzigen Samariter (Lukas 10,25–37) fragt Jesus danach, was es bedeutet, dem anderen zum Nächsten zu werden. Entscheidend ist das konkrete Handeln an einem verletzten Menschen. Darin liegt auch ein Maßstab für den Umgang mit künstlicher Intelligenz.
Hilft die Technologie Menschen, die Unterstützung brauchen? Erweitert sie ihre Möglichkeiten, am gesellschaftlichen Leben teilzunehmen? Schützt sie Menschen vor Schaden? Oder macht sie Schwächere noch abhängiger und verstärkt bestehende Ungerechtigkeiten? Kirchen sollten sich an der Entwicklung verantwortlicher KI beteiligen. Ihre Aufgabe erschöpft sich aber nicht darin, Unternehmen mit moralischen Empfehlungen zu versorgen. Sie müssen ihre Unabhängigkeit bewahren und gerade dort widersprechen, wo wirtschaftliche Interessen die Würde und Freiheit des Menschen gefährden.
Dabei lässt sich durchaus anerkennen, dass KI großes Potenzial besitzt. Sie kann Wissen zugänglich machen, Kommunikation erleichtern und Menschen bei schwierigen Aufgaben unterstützen. Auch in kirchlicher Bildungsarbeit, Verwaltung und Seelsorge können solche Werkzeuge hilfreich sein, sofern ihre Grenzen beachtet werden. Gerade seelsorgerliche Gespräche verlangen jedoch besondere Umsicht. Wer sich einer KI mit seiner Trauer oder Lebensangst anvertraut, braucht verlässliche Informationen und einen verantwortungsvollen Umgang mit seinen persönlichen Daten. Vor allem muss klar bleiben, wann menschliche Begleitung notwendig ist.
Eine Frage, die an uns selbst zurückgeht
Vielleicht liegt die eigentliche Bedeutung der Gespräche zwischen Anthropic und den Religionen darin, dass sie uns eine Frage neu stellen, mit der Menschen seit Jahrtausenden ringen: Was macht ein gutes Leben aus?
Wir können Maschinen immer besser beibringen, richtige Antworten zu geben. Gleichzeitig erleben wir, wie schwer es uns Menschen fällt, verantwortlich zu handeln, miteinander gerecht umzugehen und die Folgen unseres eigenen Fortschritts zu beherrschen. Der christliche Glaube erinnert daran, dass menschliches Leben auf Beziehung angelegt ist: auf die Beziehung zu Gott, zu unseren Mitmenschen und zur Welt, die uns anvertraut ist.
Aus dieser Perspektive erhält auch die Debatte über KI eine andere Richtung. Wir müssen fragen, welche Art von Gesellschaft wir mit diesen Werkzeugen gestalten wollen und welchen Platz menschliche Freiheit, Verletzlichkeit und Verantwortung darin behalten. Dass Anthropic religiöse Stimmen hören möchte, ist eine Gelegenheit zum Gespräch. Die Kirchen sollten sie nutzen, ohne sich von der Faszination der Technik vereinnahmen zu lassen.
Denn letztlich entscheidet sich die Zukunft einer moralisch verantwortbaren künstlichen Intelligenz auch daran, wie verantwortlich wir Menschen mit ihr umgehen.
Quellen und weiterführende Lektüre
Ausgangspunkt: Johanna Di Blasi, „Was Anthropic von den Religionen will“, RefLab, 17. Oktober 2026.
Anthropic, „Widening the conversation on frontier AI“, 19. Mai 2026, sowie „Claude’s Constitution“, Januar 2026.
Carmody Grey, „Why this philosopher turned down Anthropic“, Financial Times, 25. Juli 2026.