In den USA und teils international nutzen Betrüger künstliche Intelligenz, um Videos zu erstellen, die bekannte Pastoren und Priester imitieren. Diese KI-Fälschungen sehen echt aus und klingen echt.

Sie werden vorwiegend verwendet, um Angehörige von Gemeinden dazu zu bringen, auf betrügerische Links zu klicken oder Geld zu überweisen. Darüber schreibt das US-Magazin «Wired».

Wer ist betroffen?

Im Fokus der Betrüger stehen bekannte US-Geistliche mit vielen Followern auf Youtube. Robert Barron, der katholische Bischof von Winona-Rochester und Professor für systematische Theologie, ist einer davon. Er hat sich mit kurzen Videos zu theologischen Fragen in alltäglicher Sprache 2,8 Millionen Follower erarbeitet.

Kürzlich hat er sich an sein Publikum gewandt und erklärt: «Es gibt Videos, die mithilfe Künstlicher Intelligenz generiert wurden und vorgeben, von mir zu stammen. Aber sie sind nicht von mir.»

Er bezeichnet die Versuche als lächerlich und vergleicht sie mit untalentierten Bands, die versuchen mit Coverversionen bekannter Songs Geld zu machen. «Die Urheber der Videos suchen nach Klicks und wollen Geld mit Werbung verdienen», vermutet er.

Ein anderes prominentes Beispiel ist Father Mike Schmitz, ein katholischer Priester mit über 1,2 Mio. Youtube-Abonnenten. Auch seine Stimme und Gesicht wurden in gefälschten Videos benutzt.

Wie funktioniert der Betrug?

Im Gegensatz zum generierten Bischof Barron-Double drängt der KI-generierte Mike Schmitz die Zuschauer, für «Segen» oder Plätze auf angeblichen Reisen zu bezahlen. Das Problem ist: Viele Gemeindemitglieder können die Deepfakes kaum von echten Videos unterscheiden.

Cybersecurity-Experten erklären gegenüber «Wired», dass Pastoren besonders attraktive Ziele für solche Scams seien. Gläubige vertrauten ihnen stark und ihre Stimme seien online verfügbar.

Nach dem heutigen Stand der Technik genügt bereits eine Aufnahme von drei Sekunden, um eine Stimme zu fälschen und sie anschliessend alles sagen zu lassen, was man möchte. Betrugsversuche finden laut «Wired» nicht nur per Video statt, sondern auch via Direct Messages, Telefonanrufen oder gefälschten E-Mails.

Warum ist KI-Scam gefährlich?

Nicht nur Kirchen in verschiedenen US-Bundesstaaten seien von der Masche betroffen. Auch eine Megakirche auf den Philippinen habe von solchen Fälschungen berichtet, schreibt das Magazin. Experten warnen vor weiteren Risiken: Desinformation, Beeinflussung von Meinungen und psychische Folgen, wenn Menschen begännen, KI-Bots als authentische religiöse Stimmen zu akzeptieren.

Von der Technologie gehe eine Gefahr aus, sagt Pfarrer Schmitz: «Die Frage ist nicht nur, was wir damit tun können. Sondern auch, was wir durch sie verlieren können.»