WTF: Metas KI-Chatbot half beim Knacken zehntausender Instagram-Accounts

Ein Support-Chatbot sollte Instagram-Nutzern helfen, wieder Zugriff auf ihre Accounts zu bekommen – tat aber genau das Gegenteil. Er ermöglichte jedem den Zugriff auf schlecht gesicherte Instagram-Accounts, wie das Unternehmen jetzt bekannt gab. Rund 20.000 Accounts sind demnach betroffen. Gefährdet war grundsätzlich jeder Account, der keine Zwei-Faktor-Authentifizierung aktiviert hatte.

Angreifer hatten dadurch Zugriff auf alle in den Accounts hinterlegten Informationen, wie Geburtsdatum, persönliche Nachrichten, Bilder und Co. Auch der Zugriff auf verknüpfte andere Meta-Accounts, etwa bei Facebook, war möglich.

Chatbot öffnet die Tür zu fremden Accounts

Wie das ging, zeigt ein Video auf X. Der Angreifer mit Kenntnis des Instagram-Nutzernamens der Zielperson gibt im Login-Menü der Instagram-App den Nutzernamen ein und klickt den Button zum Zurücksetzen des Passworts an. Wie im Video zu sehen ist, war die einzige weitere Voraussetzung eine VPN-Verbindung über die ungefähre geografische Region der Zielperson, um bei Meta kein Misstrauen zu wecken.

Im weiteren Verlauf bietet die App an, einen Code zum Zurücksetzen des Passworts an die hinterlegte Mailadresse zu senden. Stattdessen klickt der Angreifer aber oben links auf „Get support“, um zu Metas besagtem KI-Chatbot zu gelangen. Diesen fordert er nun auf, den Code zum Zurücksetzen an eine neue Mailadresse zu schicken, um diese gleich mit „seinem“ Konto – beziehungsweise dem der Zielperson – zu verknüpfen. Prompt tut der Chatbot wie ihm geheißen, der Angreifer sendet wiederum den erhaltenen Code an den Chatbot und kann im weiteren Verlauf das Passwort des Accounts ändern, um darauf Zugriff zu erhalten.

Handel mit begehrten Nutzernamen

Der Generalstaatsanwalt des US-Bundesstaates Maine veröffentlichte Metas Meldung über die Sicherheitspanne. Demnach waren insgesamt 20.225 Accounts betroffen, deren rechtmäßige Inhaber noch informiert werden sollen. 404 Media berichtet über mehrere Sicherheitsforscher, die in den vergangenen Wochen bereits vor der Masche warnten. Besonders begehrte Nutzernamen wurden demnach in cyberkriminellen Kreisen bereits zur Handelsware. So seien in einschlägigen Telegram-Gruppen Preislisten mit Nutzernamen geteilt worden, die zum Beispiel aus besonders wenigen Buchstaben oder einem bedeutungsvollen Wort bestehen, und die sich mit der Masche erbeuten ließen.

Die Sicherheitslücke kommt in etwa zeitgleich mit den Hacks prominenter Instagram-Accounts, wie dem offiziellen Account von Barack Obama aus dessen Zeit als US-Präsident. Auch John Bentivegna, ein ranghoher Angehöriger der US Space Force, wurde mit seinem Instagram-Account zuletzt Opfer iranischer Hacker.

Überhaupt erst möglich machte die Probleme Metas im März angekündigter neuer „AI Support Assistent“. Mit ihm übertrug das Unternehmen wichtige Aufgaben vollständig einer künstlichen Intelligenz, versprach „zuverlässige Hilfe rund um die Uhr auf Facebook und Instagram – schnell, effektiv und so konzipiert, dass Kontoprobleme von Anfang bis Ende gelöst werden können.“ Paradoxerweise soll der Assistent auch denjenigen helfen, deren Accounts gehackt wurden. Mittlerweile ist die Lücke geschlossen, berichten mehrere Sicherheitsforscher. Ein Sprecher bestätigte das auch 404 Media. Es soll sich um einen Programmierfehler gehandelt haben. Meta fährt beim KI-Einsatz einen besonders offensiven Kurs, koppelt auch die Leistungsbewertung seiner Mitarbeiter an deren KI-Nutzung. Ob die Entwickler des „AI Support Assistenten“ auch KI nutzten und welche Zensur es dafür von Meta gab, ist nicht überliefert.

(nen)