Brasilien geht gegen den zunehmenden Einsatz von KI-Tools zur Manipulation von Bildern und Videos von Prominenten für Online-Betrug vor. In der vergangenen Woche vollstreckte die Polizei in fünf brasilianischen Bundesstaaten mehrere Haftbefehle und fror Vermögenswerte ein, die mit einem solchen Online-Betrug in Verbindung stehen. Das berichtete die brasilianische Tageszeitung O Globo.

Die Operation „Modo Selva“ („Dschungelmodus“) richtete sich gegen eine Gruppe mutmaßlicher Betrüger, die mit Deepfakes Betrügereien im Wert von mehr als 20 Millionen Reais (3,2 Millionen Euro) begangen hat. Nach Angaben der Polizei produzierte die Gruppe mithilfe künstlicher Intelligenz (KI) gefälschte Videos von dem brasilianischen Model Gisele Bündchen und anderen Prominenten und brachte die Opfer per Instagram-Anzeigen dazu, Produkte zu kaufen, wobei nur die Versandkosten berechnet wurden.

Gisele Bündchen prangerte im August in den sozialen Netzwerken den Missbrauch ihres Bildnisses durch KI an. Damals warnte das Model ihre Follower vor einem gesponserten Inhalt, der in Wirklichkeit gefälscht war. „Es gibt mehrere Accounts, die mit meinem Bild und meiner durch künstliche Intelligenz manipulierten Stimme gefälschte Werbung machen. Seien Sie vorsichtig, damit Sie nicht Opfer eines Betrugs werden. Melden Sie es!“, schrieb sie.

Social-Media-Plattformen haften für Inhalte

Im Juni urteilte der Oberste Gerichtshof Brasiliens, dass Social-Media-Plattformen direkt für illegale Inhalte ihrer Nutzer zur Verantwortung gezogen werden können. Eine vorherige gerichtliche Anordnung zur Löschung entsprechender Beiträge sei nicht erforderlich. Meta, der Mutterkonzern von Instagram, erklärte laut der Nachrichtenagentur Reuters, dass seine Richtlinien Anzeigen verbieten, „die auf betrügerische Weise Personen des öffentlichen Lebens nutzen, um Menschen zu täuschen“. Solche Anzeigen würden „bei Entdeckung“ entfernt. Auch verfüge man über „spezielle Systeme zur Erkennung von Prominenten-Ködern“. Das Unternehmen erklärte, dass es „massiv in geschulte Überprüfungsteams investiert, Tipps zur Vermeidung von Betrug weitergibt und Tools zur Meldung potenzieller Verstöße anbietet“.

Die Ermittlungen in Brasilien begannen laut O Globo, nachdem sich ein Opfer eines Betrugs im Wert von nur 44,57 Reais (7,12 Euro) an die Polizei wandte. Es sei durch eine Instagram-Anzeige getäuscht worden, in der ein manipuliertes Video von Bündchen zu sehen war, in dem diese für ein „kostenloses Anti-Falten-Set“ warb. „Die Kriminellen hatten ein Deepfake-Video mit dem Bild und der Stimme von Gisele Bündchen erstellt, das den Anschein erweckte, dass das Model tatsächlich für das nicht existierende Produkt warb“, so die Polizei.

Laut Reuters verloren die meisten Opfer nur geringe Beträge, meist weniger als 100 Reais (16 Euro), und zeigten die Straftaten in der Regel nicht an. „Das führte zu einer perversen Situation, in der die Kriminellen eine Art ’statistische Immunität‘ genossen. Sie wussten, dass die meisten Menschen sie nicht anzeigen würden, und agierten daher ohne Angst in großem Stil“, erklärte eine Polizeisprecherin in einer Stellungnahme.

(akn)

Die Europäische Union (EU) erwägt eine stärkere Kontrolle von in der EU tätigen Börsen und Kryptowährungsunternehmen. Deren Regulierung soll nach Plänen der Europäischen Kommission von den nationalen Behörden auf die Europäische Wertpapier- und Marktaufsichtsbehörde (ESMA) übertragen werden. Das sagte die ESMA-Vorsitzende Verena Ross der britischen Tageszeitung Financial Times. Solche Änderungen würden einen wichtigen Impuls für „einen stärker integrierten und global wettbewerbsfähigen Kapitalmarkt in Europa“ geben, erklärte sie. Ziel sei es, „die anhaltende Fragmentierung der Märkte“ anzugehen, „um einen einheitlicheren Kapitalmarkt in Europa zu schaffen“, so Ross weiter.

Bei der Ausarbeitung der 2023 verabschiedeten und in diesem Jahr in Kraft getretenen EU-Verordnung über Märkte für Kryptowerte – auf Englisch „Markets in Crypto-Assets“, kurz MiCA-Verordnung oder MiCA – hatte die Kommission ursprünglich die in Paris ansässige ESMA zur Hauptaufsichtsbehörde für Anbieter von Krypto-Asset-Dienstleistungen machen wollen. Angesichts von Zweifeln, ob die ESMA in der Lage wäre, diese Aufgabe zu bewältigen, blieb die Kontrolle über den dynamischen Kryptomarkt aber in den Händen der nationalen Aufsichtsbehörden.

Dies habe jedoch zu Ineffizienzen geführt, erklärte Ross nun gegenüber der Financial Times. Man arbeite zwar intensiv an einer einheitlichen Umsetzung der MiCA-Verordnung, so Ross. „Das bedeutet auch, dass die Menschen 27 Mal in verschiedenen nationalen Aufsichtsbehörden spezifische neue Ressourcen und Fachkenntnisse aufbauen mussten, was auf europäischer Ebene einmalig und effizienter hätte geschehen können.“ Man versuche seit geraumer Zeit mit der Kapitalmarktunion und anderen Initiativen, „einen effektiveren Kapitalmarkt aufzubauen“, sagte Ross. „Die Realität hat gezeigt, dass dies angesichts unserer sehr unterschiedlichen Marktstrukturen nicht einfach ist.“

Befürworter und Skeptiker

Die EU-Kommissarin für Finanzdienstleistungen, Maria Luís Albuquerque, erklärte in einer Rede im vergangenen Monat, dass ein Vorschlag geprüft werde, „die Aufsichtsbefugnisse für die wichtigsten grenzüberschreitenden Unternehmen“, darunter Börsen, Krypto-Unternehmen und andere, auf die ESMA zu übertragen. Angesichts der damit einhergehenden Änderungen an den Governance- und Entscheidungsprozessen der ESMA würden verschiedene Modelle geprüft, „basierend auf anderen bestehenden Modellen der zentralisierten Aufsicht“, so Albuquerque.

Gerade in kleineren EU-Ländern wie Luxemburg, Malta oder Irland aber sind die Plände der EU-Kommission umstritten. Sie befürchten, dass eine Zentralisierung der Befugnisse bei der ESMA ihre jeweiligen Finanzsektoren untergraben könnte, wie die Financial Times schreibt. Claude Marx, Leiter der luxemburgischen Finanzaufsichtsbehörde, erklärte, dass die ESMA zu einem „Monster“ werden würde, wenn sie zur Hauptaufsichtsbehörde für alle EU-Investmentfonds gemacht würde.

Demgegenüber steht die Notwendigkeit der EU, Finanzmittel für die umfangreichen Investitionen in Verteidigung, Energiewende und Digitalisierung aufzutun. Aus Sicht der ESMA-Vorsitzenden Ross hat dies neue Impulse zum Abbau, „noch bestehender Barrieren und Fragmentierungen“ gegeben. Das letzte Wort in der Angelegenheit ist noch nicht gesprochen.

(akn)

Im US-Kongress wird mit dem „Scam Farms Marque and Reprisal Authorization Act of 2025“ ein historischer und zugleich hochriskanter Schritt im Kampf gegen die Cyberkriminalität erwogen. Der vom republikanischen Abgeordneten David Schweikert zunächst ins Repräsentantenhaus eingebrachte Gesetzentwurf zielt darauf ab, das jahrhundertealte Instrument der Kaperbriefe („Letters of Marque and Reprisal“) aus der Seefahrt wiederzubeleben und in den digitalen Raum zu übertragen.

Schweikert schlägt vor, privaten Akteuren – das können Sicherheitsfirmen oder auch Einzelpersonen sein – die Erlaubnis zu erteilen, aktive offensive Cyber-Operationen gegen ausländische kriminelle Netzwerke, Ransomware-Banden, Kryptobetrüger und sogar staatlich unterstützte Gruppen von Bedrohungsakteuren durchzuführen. Dabei soll es darum gehen, laufende IT-Angriffe abzuwehren oder Cyberkriminelle auf ausländischen Servern direkt anzugreifen. Eine solche Befugnis für Hackbacks ist auch hierzulande seit Langem umstritten.

Dilemma der digitalen Kriegsführung

Der Initiator des Entwurfs begründet das Vorhaben mit der alarmierenden Zunahme und gefühlter Straflosigkeit von Cybercrime. Online-Kriminalität führte laut FBI allein 2024 zu Schäden von 16 Milliarden US-Dollar. Täter agieren dabei oft aus Ländern wie China, Russland oder Nordkorea, in denen eine Strafverfolgung schwierig ist.

Befürworter des Vorstoßes führen daher ins Feld, dass private Cyber-Freibeuter schneller und flexibler agieren könnten als überlastete, bürokratische staatliche Behörden. Ein solcher Ansatz bewirke so auch eine effektivere Abschreckung. Zudem könnte die Aussicht, dass Cyberkriminelle ihre Beute jederzeit wieder verlieren, ganze Geschäftsmodelle wie Ransomware unattraktiv machen.

Der Gesetzentwurf knüpft verfassungsrechtlich an Artikel I, Abschnitt 8 der US-Verfassung an, der die Vergabe von Kaperbriefen grundsätzlich nach wie vor erlaubt. Anstatt Schiffe zu kapern, sollen die modernen Freibeuter kriminelle Konten hacken, Kryptowährungen beschlagnahmen und Infrastrukturen lahmlegen. Der Vorschlag müsste nach dem Abgeordnetenhaus noch den Senat passieren.

„Privatisierte Kriegsführung“

Trotz des vermeintlichen Charmes der „privatisierten Kriegsführung“ überwiegen bei Beobachtern die Bedenken: Der größte Kritikpunkt ist die mangelnde Kontrolle. Der Entwurf sieht vor, dass der US-Präsident die Kaperbriefe allein vergibt, was zu weiterer Machtkonzentration führen würde. Es fehle an Garantien, dass die Cyber-Freibeuter sich an Regeln halten. Gegner der Initiative vermissen etwa Mechanismen zur Entschädigung unschuldiger Opfer.

Kritiker wenden zudem ein, die USA würden mit diesem Vorgehen genau jene Taktiken legalisieren, die sie autoritären Regierungen wie China oder Russland vorwerfen: den Einsatz staatlich gedeckter Hacker. Das Eindringen auf Server in fremden Ländern durch private Akteure könnte von betroffenen Staaten als Akt der Aggression gewertet werden.

Unklar ist zudem, was mit dem konfiszierten Vermögen geschieht. Der Vorschlag konzentriert sich auf Bestrafung und Abschreckung, nicht aber auf Wiedergutmachung für die tatsächlichen Opfer der Cyberkriminalität. Kritiker befürchten, dass ein neues, lukratives Geschäftsmodell für staatlich sanktioniertes Hacking geschaffen wird.

(vbr)