Das Wichtigste in Kürze: Chatbots können gezielt so trainiert werden, dass sie Nutzerinnen und Nutzer in eine bestimmte weltanschauliche Richtung lenken. Weil sie ruhig, sachlich und individuell antworten, wirkt das neutral, ist es aber nicht. Wer bei Glaubensfragen einer einzigen KI vertraut, sollte deshalb besonders vorsichtig sein.
Die Suche nach Orientierung in Glaubensfragen ist ein zutiefst privater Prozess. Doch genau hier setzt eine neue, technologische Gefahr an: Die gezielte Instrumentalisierung von Large Language Models (LLMs) zur weltanschaulichen Manipulation.
Was geschieht, wenn wir einer KI vertrauen, die explizit darauf programmiert wurde, uns in eine bestimmte Richtung zu lenken?
Wenn Akteur:innen eigene GPT-Modelle (Chatbots) mit selektiven Informationen oder bewussten Falschdarstellungen füttern, entsteht ein hochwirksames Werkzeug der algorithmischen Indoktrination.
Wie beeinflussen manipulierte Chatbots ihre Nutzer?
Die Maske der Sachlichkeit: Die ruhige, konsistente Tonalität eines LLM täuscht Neutralität vor. Wir neigen dazu, einer Maschine eine logische Instanz zuzuschreiben, während sie in Wahrheit lediglich die (radikalen) Biases und Unwahrheiten ihrer Ersteller reproduziert.
Methodische Isolation: Ein manipulierter Chatbot fungiert als geschlossenes System. Er erkennt individuelle Zweifel und räumt diese durch maßgeschneiderte, pseudo-theologische Argumente aus. Es findet keine Konfrontation mit Gegenmeinungen statt, sondern eine stetige Verfestigung eines manipulierten Weltbildes.
Erosion der Urteilskraft: Wer die Antwortsuche vollständig an eine ‚Black Box‘ delegiert, verliert die Fähigkeit zum kritischen Diskurs. Wenn die Trainingsdaten von Dritten vergiftet wurden, wird die KI zum verlängerten Arm einer manipulativen Autorität – ohne dass dies für die Nutzer:innen erkennbar bleibt.
Woran erkennt man einen manipulierten Chatbot?
Ein LLM ist kein moralischer Kompass, sondern ein Spiegel seiner Datenbasis. Vorsicht ist besonders geboten, wenn ein Chatbot
- sich als einzige zuverlässige Quelle für religiöse Wahrheit darstellt,
- Zweifel oder andere Sichtweisen grundsätzlich abwertet,
- keine nachvollziehbaren Quellen nennt und
- Nutzerinnen und Nutzer dazu ermutigt, sich von Familie, Freunden oder anderen Ansprechpersonen abzuwenden.
Eltern hilft es, offen nachzufragen, welche Apps und Chatbots ihr Kind nutzt, und gemeinsam über die Antworten zu sprechen, ohne Vorwürfe und mit echtem Interesse.
Sie machen sich Sorgen?
Wenn Sie den Eindruck haben, dass sich ein Mensch in Ihrem Umfeld radikalisiert, müssen Sie damit nicht allein bleiben. Wir beraten Angehörige, Betroffene und Fachkräfte in Niedersachsen kostenfrei und vertraulich. Unsere Beratungs-Hotline erreichen Sie montags bis freitags von 9 bis 15 Uhr unter 0511 700 520 40.