Boris Pistorius blickt direkt in die Kamera. Der deutsche Verteidigungsminister richtet sich an die Nation, spricht von „rasantem Wandel, neuen Arbeitsplätzen und fortschrittlichen Technologien“. Sie sollen Deutschland an die Spitze der Weltwirtschaft bringen. Am Ende des Clips verspricht er dem Facebook-Publikum, ein neues Regierungsprogramm werde „Gewinne für jeden Bürger sichern“.

Auch die derzeitige Präsidentschaftskandidatin Irlands, Heather Humphreys, spricht in einem vielgeklickten Facebook-Video zu ihren potenziellen Wählern: „Ich freue mich, Ihnen Quantum AI vorzustellen“, sagt sie. Eine Plattform, die irischen Familien den Weg in die finanzielle Unabhängigkeit ebnen würde. Wer dort einen kleinen Betrag investiere, könne „wöchentliche Zahlungen von bis 4.500 Euro erhalten.“ Humphreys versichert, die irische Regierung habe gemeinsam mit Finanzinstitutionen des Landes das Programm „zugänglich und sicher gemacht“.

Der Weg in den Investment-Betrug

Humphreys und Pistorius haben all das nie gesagt. Die Clips sind täuschend echte Fälschungen, die mit KI-Tools erstellt wurden. Über Plattformen wie Facebook, Instagram oder TikTok verbreiten sich die Deepfakes mit den prominenten Finanztipps als bezahlte Werbeanzeigen. Von den Videos führt ein Link zu einer Plattform, auf denen Nutzer ihre Kontaktdaten hinterlassen. Es folgen Anrufe eines vermeintlichen Finanzberaters, der um eine kleine erste Einzahlung bittet. Der Investment-Betrug beginnt.

Geschulte Callcenter-Agenten führen ihren Opfern auf angeblichen Investment-Plattformen vor, wie sich deren Einzahlungen rasant vermehren. Darauf hoffend ihre Gewinne zu steigern, investieren manche Menschen Tausende oder gar Zehntausende Euro. Bis sie versuchen, sich das Geld auszahlen zu lassen. Erst dann erkennen sie meist: Es gab nie eine echte Investition. Sie stecken tief in einem System, das von Anfang an gegen sie gerichtet war.

Europäische Ermittler sowie Computerkriminalitätsfachtleute warnen zunehmend vor dem enormen Ausmaß der Betrugsmasche, die meist mit einem Social-Media-Inserat beginnt. Im September erklärte die EU-Digitalkommissarin Henna Virkkunen, dass Europäerinnen und Europäer durch Werbung für Finanzbetrug jährlich mehr als vier Milliarden Euro verlieren würden.

Die Spur eines Millionenbetrugs

Befeuert durch KI-Tools

Investigate Europe kann nun zeigen, wie sich der Betrug mit vermeintlichen Online-Investments nahezu ungehemmt in Europa ausbreitet, betrieben in mutmaßlich illegalen Callcentern und nun potenziert durch den Einsatz von KI-Systemen. Die Auswertung privater E-Mails und Chatnachrichten zwischen Betrügern und ihren Opfern sowie Interviews mit Dutzenden Betroffenen zeigen, wie zahllose Europäerinnen und Europäer unablässig mit täuschenden Annoncen für Anlageoptionen überzogen werden, die sich in den sozialen Netzwerken rasant verbreiten.

Reporterinnen und Reporter führten mehr als hundert Gespräche mit Staatsanwälten, Content-Moderatoren, EU-Beamten, Cybercrime-Experten und Bankangestellten. Sie zeigen, wie Europas Institutionen es nicht schaffen, Bürgerinnen und Bürger vor dem Risiko des finanziellen Ruins zu schützen.

Meldestellen für betrügerische Anzeigen

Valentine Auer kennt das Drehbuch der Betrüger in- und auswendig. Sie leitet beim Wiener Institut für angewandte Telekommunikation (ÖIAT) ein Team zur Betrugserkennung. Seit vergangenem Jahr ist das ÖIAT ein sogenannter Trusted Flagger. Die Europäische Kommission führte den Begriff im Rahmen ihres wegweisenden Gesetzes zur Regulierung digitaler Inhalte, dem Digital Services Act (DSA), ein.

Zu den Trusted Flaggern zählen Finanzinstitute, NGOs oder Unternehmen, die von den nationalen Behörden aufgrund ihrer Expertise zugelassen werden, etwa in den Bereichen Kinderschutz, Hassrede oder Betrug. Meldungen dieser Stellen sollen von den großen Plattformen wie Facebook oder Instagram mit besonderer Priorität bearbeitet werden. Trusted Flagger arbeiten unabhängig von den internen Moderationsteams der Plattformen. Bisher gibt es 46 solcher Stellen in 17 der 27 EU-Mitgliedstaaten.

In Österreich durchforstet Auer gemeinsam mit drei Kolleginnen und Kollegen große Plattformen und Suchmaschinen wie Facebook, Instagram und Google. Ihr Team spürt gezielt illegale Inhalte auf, von betrügerischen Finanzanzeigen über Darstellungen sexualisierter Gewalt an Kindern bis hin zu Hassrede, und beantragt deren Löschung bei den Plattformen.

Wenige Menschen gegen eine Flut von Inhalten

Ein Blick in die Werbebibliothek von Meta, das Archiv des Konzerns für alle Anzeigen auf seinen Plattformen wie Facebook und Instagram, zeigt: Mit nur wenigen Dutzend Suchbegriffen stoßen Auer und ihr Team auf eine Flut betrügerischer Finanzanzeigen. Viele Annoncen ähneln sich sehr. Veränderungen sind nur minimal, um automatischen Filtern zu entgehen.

„Wir sehen immer wieder dieselben Tricks: Videos, die nur für ein paar Stunden geschaltet werden, gehackte Promi-Accounts, die für Anzeigen missbraucht werden“, sagt Auer. „In kurzer Zeit haben wir Zehntausende solcher Anzeigen gefunden, darunter das Video mit Boris Pistorius, offensichtlich KI-generiert.“

Auers Recherchen zeigen, wie einfach es ist, solche Anzeigen zu finden, und wie schwer es ist, Meta dazu zu bewegen, sie zu löschen. „Wenn wir nur eine Handvoll Anzeigen melden, werden sie oft innerhalb weniger Tage entfernt“, sagt sie. „Doch sobald wir größere Mengen einreichen, reagiert Meta plötzlich nicht mehr oder behauptet, das Material sei derzeit nicht verfügbar, obwohl wir wissen, dass es noch online ist.“

Neben dem DSA sind betrügerische Anzeigen auch laut Metas Werberichtlinien verboten. Denn die schließen ausdrücklich Inhalte aus, die Personen oder Organisationen falsch darstellen, ebenso wie „irreführende oder täuschende Behauptungen“ zu Finanzprodukten. Als Werbebotschafter fungieren häufig Deepfakes von Prominenten und Politikern. Die sind laut Metas Regeln ebenfalls untersagt.

Betrügerische Anzeigen und der Digital Services Act

Die EU-Kommission bezeichnete betrügerische Investmentanzeigen unlängst als „systemisches Risiko“ für den Verbraucherschutz und forderte die Plattformen zu besseren Schutzmaßnahmen auf. Europol warnte in einem Lagebericht aus diesem Frühjahr, Online-Finanzbetrug habe „durch Fortschritte in Automatisierung und Künstlicher Intelligenz ein beispielloses Ausmaß erreicht, und dürfte weiter zunehmen“. Allein die Anzeigen aus dem Netz zu nehmen – selbst wenn das gelingen würde – ändert nichts an den kriminellen Strukturen dahinter.

Als Reaktion starteten Polizeibehörden in Deutschland, Großbritannien, Serbien, Bulgarien, Rumänien, Georgien und Israel groß angelegte Einsätze. Sie zerschlugen Netzwerke, die mit aufwendigen Betrugssystemen über den gesamten Kontinent hinweg operierten, mit Opfern in Europa und weit darüber hinaus.

Angesichts von Metas globaler Reichweite und der Leichtigkeit, mit der Anzeigen geschaltet werden können, sind Facebook und Instagram zu bevorzugten Plattformen für Betrüger geworden, die Nutzer ausnehmen wollen. Auf den Plattformen haben EU-Bürgerinnen und Bürger knapp 530 Millionen Accounts. Unlängst warb der Konzern damit, dass sein Geschäft mit personalisierter Werbung in Zusammenhang mit einem Wirtschaftsertrag von 213 Milliarden Euro und 1,44 Millionen Jobs stünde.

Wer zahlt für die Betrugsanzeigen?

Laut mehreren Trusted Flaggern ist in der Werbebibliothek von Meta bei Anzeigen häufig nicht klar ersichtlich, wer sie tatsächlich veröffentlicht und bezahlt hat, obwohl der Digital Services Act genau das vorschreibt. „Eigentlich ist es verpflichtend anzugeben, wer die Anzeige bezahlt hat“, sagt Auer. „Aber meist steht dort nur ein bedeutungsloser Name.“

Auch betrügerische Werbekunden können die automatischen Erkennungssysteme der Plattformen leicht umgehen, erklärt der Leiter der Sicherheitsabteilung der Bank of Ireland, Paul O’Brien. „Man klickt auf eine Anzeige für eine Irlandreise durch Connemara und in Wahrheit ist es eine Finanzbetrugsanzeige.“ Solche Anzeigen herauszufiltern, sei eine Vollzeitaufgabe.

Im Vergleich zum rasanten Anstieg des Finanzbetrugs in Europa verläuft der Aufbau der Trusted-Flagger-Strukturen schleppend. Von den derzeit 46 offiziell anerkannten Organisationen hat nur knapp ein Drittel als Fachgebiet auch „Betrug“ angegeben.

Im Mai dieses Jahres erhielt auch die litauische Organisation Debunk EU den Trusted-Flagger-Status. In einem Videogespräch zeigt der Chef der Organisation Viktoras Daukšas die Software, die sein Team nutzt, um Betrugsnetzwerke auf Facebook nachzuzeichnen. „Wir beobachten, dass in immer mehr Anzeigen Deepfakes und KI-generierte Inhalte verwendet werden“, sagt er. Ende September hatte seine kleine Organisation bereits mehr als eine Million Anzeigen gemeldet, die von etwa 1,4 Milliarden Nutzern angesehen worden waren. Er schätzt, dass die Personen hinter den Anzeigen mehr als 20 Millionen Euro an Meta für die Werbeplatzierung gezahlt haben dürften.

Wie seine österreichische Kollegin Auer kann auch Daukšas nur 20 URLs pro Bericht an Meta melden. Es variiere stark, wie lange die Plattformen benötigen, um die Inhalte zu löschen. So habe Meta mitunter Monate und schriftliche Erinnerungen benötigt, bevor eine Anzeige verschwand. Häufig würden Inhalte aber deutlich schneller gelöscht, bestätigen auch Trusted Flagger aus anderen EU-Staaten wie Italien und Griechenland.

Meta ließ Anfragen nach einer Stellungnahme zu den Ergebnissen dieser Recherche unbeantwortet.

Das ungleiche Verhältnis zwischen den Betrügern und den Plattformbeobachtern wird nun durch den Einsatz von Künstlicher Intelligenz weiter potenziert.

Wenige Stunden Werbung, mehrere Jahre Ermittlungen

Der Sicherheitsexperte der Bank of Ireland, Paul O’Brien, beobachtet, dass KI-generierte Anlagebetrügereien von Woche zu Woche raffinierter werden. „Innerhalb einer einzigen Anzeige gibt es inzwischen oft über 50 verschiedene Varianten desselben Werbetreibenden, leicht verändert, aber im Kern identisch oder mit demselben Ziel“, sagt er. Die mutmaßlichen Betrüger würden ihre Anzeigen bewusst nur für wenige Stunden schalten. Hat er die erste Version deaktiviert, aktiviert er eine neue Anzeige. „Sie nutzen die Funktionen der Plattformen einzig dazu, an die Kontaktdaten der Nutzer zu kommen, danach verlagert sich alles auf außerhalb der Plattform.“

Vom nordbayerischen Bamberg aus jagt der deutsche Staatsanwalt Nino Goldbeck die Betreiber hinter betrügerischen Online-Handelsplattformen. Als die Zentralstelle Cybercrime Bayern 2018 eine eigene Abteilung für Wirtschaftskriminalität gründete, ahnte er nicht, welches Ausmaß das Problem annehmen würde. Pro Jahr, schätzt er, würden Menschen in Deutschland mittels vermeintlicher Online-Investmentplattformen um mehr als eine Milliarde Euro gebracht.

Heute leitet Goldbeck gemeinsam mit einem Kollegen zwei Abteilungen, mit insgesamt einem Dutzend Staatsanwälten, die täglich bis zu 40 neue Anzeigen erhalten. Doch einen Fall vor Gericht zu bringen, dauere mitunter viele Jahre.

„Wir konzentrieren uns auf bestimmte Personen, bei denen die Beweislage stark ist. In diesen Fällen sind die nachweisbaren Schäden besonders hoch – da haben wir wirklich belastbares Material.“ Gemeinsam mit seinem Team hat Goldbeck bereits zahlreiche Netzwerke zerschlagen.

Ähnlich klingt es aus Norwegen und Irland: Die Zahl digitaler Finanzdelikte wächst rasant, Ermittler sprechen von Hunderten Fällen pro Woche. Der norwegische Staatsanwalt Andre Hvoslef-Eide berichtet, dass er inzwischen davon ausgehe, dass in kriminellen Netzwerken inzwischen „die Einnahmen aus Betrugsdelikten jene aus Drogenverkäufen“ ersetzen. In Irland berichtet der leitende Kriminalbeamte Michael Cryan: „Wir melden betrügerische Anzeigen jeden Tag, doch von Meta gibt es keinerlei Kooperation.“

Ein Kampf an vielen Fronten

Irland schlug im Frühjahr dieses Jahres deshalb vor, mittels der sogenannten Payment Service Regulation, große Plattformen gesetzlich zu verpflichten, die Identität ihrer Werbekunden vor der Veröffentlichung von Annoncen zu prüfen. Doch der Vorschlag erhielt in einer Arbeitsgruppe des EU-Rats keine Mehrheit. Google etwa führt solche Überprüfungen bereits durch. Doch wer auf den Meta-Plattformen in der EU für Finanzprodukte werben möchte, muss sich vorher nicht verifizieren.

Der Konzern bleibt im Fokus. Die EU-Kommission eröffnete im April 2024 ein Verfahren, um zu prüfen, ob Meta gegen den Digital Services Act verstoßen habe, unter anderem gegen die Vorgaben im Zusammenhang mit irreführender Werbung. Eine abschließende Entscheidung steht noch aus.

Während Ermittler in Bamberg Aktenordner wälzen und in Brüssel über Vertragsstrafen beraten wird, spielt sich ein entscheidender Kampf gegen den Betrug mit vermeintlichen Online-Investments längst woanders ab: in einem Büroraum im dritten Wiener Bezirk.

Dort sitzt Valentine Auer vor drei Bildschirmen, umgeben vom Summen der Computerlüfter. Seit einem Jahr durchforstet sie das Internet nach betrügerischen Anzeigen, Videos, Deepfakes, falschen Versprechen. Seit Meta sein System externer Faktenprüfer eingestellt hat, sei das Problem astronomisch, sagt sie. Trusted Flagger allein können es nicht richten, aber was macht Meta? Auer lächelt kurz und sagt fast resigniert: „Am Ende ist klar, was zählt: das Geschäft.“

Dieser Artikel ist der zweite Teil der Recherche „Scam Europe“, die vom Balkan Investigative Network (BIRN) geleitet wurde sowie von Investigate Europe, einem Journalistenteam, das länderübergreifend arbeitet. Diese Geschichte wird mit Medienpartnern in acht Ländern veröffentlicht, darunter Der Standard, Altreconomia, Balkan Insight, EU Observer, The Irish Times, La Libre, netzpolitik.org und Público. Die Recherche wurde unterstützt von IJ4EU (Investigative Journalism for Europe).