Brasilien: Millionengewinne mit Gisele Bündchen-Deepfakes

Brasilien geht gegen den zunehmenden Einsatz von KI-Tools zur Manipulation von Bildern und Videos von Prominenten für Online-Betrug vor. In der vergangenen Woche vollstreckte die Polizei in fünf brasilianischen Bundesstaaten mehrere Haftbefehle und fror Vermögenswerte ein, die mit einem solchen Online-Betrug in Verbindung stehen. Das berichtete die brasilianische Tageszeitung O Globo.

Die Operation „Modo Selva“ („Dschungelmodus“) richtete sich gegen eine Gruppe mutmaßlicher Betrüger, die mit Deepfakes Betrügereien im Wert von mehr als 20 Millionen Reais (3,2 Millionen Euro) begangen hat. Nach Angaben der Polizei produzierte die Gruppe mithilfe künstlicher Intelligenz (KI) gefälschte Videos von dem brasilianischen Model Gisele Bündchen und anderen Prominenten und brachte die Opfer per Instagram-Anzeigen dazu, Produkte zu kaufen, wobei nur die Versandkosten berechnet wurden.

Gisele Bündchen prangerte im August in den sozialen Netzwerken den Missbrauch ihres Bildnisses durch KI an. Damals warnte das Model ihre Follower vor einem gesponserten Inhalt, der in Wirklichkeit gefälscht war. „Es gibt mehrere Accounts, die mit meinem Bild und meiner durch künstliche Intelligenz manipulierten Stimme gefälschte Werbung machen. Seien Sie vorsichtig, damit Sie nicht Opfer eines Betrugs werden. Melden Sie es!“, schrieb sie.

Social-Media-Plattformen haften für Inhalte

Im Juni urteilte der Oberste Gerichtshof Brasiliens, dass Social-Media-Plattformen direkt für illegale Inhalte ihrer Nutzer zur Verantwortung gezogen werden können. Eine vorherige gerichtliche Anordnung zur Löschung entsprechender Beiträge sei nicht erforderlich. Meta, der Mutterkonzern von Instagram, erklärte laut der Nachrichtenagentur Reuters, dass seine Richtlinien Anzeigen verbieten, „die auf betrügerische Weise Personen des öffentlichen Lebens nutzen, um Menschen zu täuschen“. Solche Anzeigen würden „bei Entdeckung“ entfernt. Auch verfüge man über „spezielle Systeme zur Erkennung von Prominenten-Ködern“. Das Unternehmen erklärte, dass es „massiv in geschulte Überprüfungsteams investiert, Tipps zur Vermeidung von Betrug weitergibt und Tools zur Meldung potenzieller Verstöße anbietet“.

Die Ermittlungen in Brasilien begannen laut O Globo, nachdem sich ein Opfer eines Betrugs im Wert von nur 44,57 Reais (7,12 Euro) an die Polizei wandte. Es sei durch eine Instagram-Anzeige getäuscht worden, in der ein manipuliertes Video von Bündchen zu sehen war, in dem diese für ein „kostenloses Anti-Falten-Set“ warb. „Die Kriminellen hatten ein Deepfake-Video mit dem Bild und der Stimme von Gisele Bündchen erstellt, das den Anschein erweckte, dass das Model tatsächlich für das nicht existierende Produkt warb“, so die Polizei.

Laut Reuters verloren die meisten Opfer nur geringe Beträge, meist weniger als 100 Reais (16 Euro), und zeigten die Straftaten in der Regel nicht an. „Das führte zu einer perversen Situation, in der die Kriminellen eine Art ’statistische Immunität‘ genossen. Sie wussten, dass die meisten Menschen sie nicht anzeigen würden, und agierten daher ohne Angst in großem Stil“, erklärte eine Polizeisprecherin in einer Stellungnahme.

(akn)