Die Ära der plumpen Social-Media-Bots, die mit offensichtlichen Copy-and-Paste-Mustern das Netz fluteten, neigt sich dem Ende zu. Ein internationales Forschungsteam warnt in der Fachzeitschrift Science vor einer neuen Eskalationsstufe in Form von KI-Schwärmen. Dabei handelt es sich um Flotten KI-gesteuerter Personas, die eine konsistente Identität bewahren und über ein digitales Gedächtnis verfügen. Diese Agenten handeln nicht isoliert, sondern koordinieren ihr Verhalten autonom. So könnten sie eine künstliche Realität erschaffen, die von menschlicher Interaktion kaum noch zu unterscheiden ist.

Der Sozialdatenforscher David Garcia von der Universität Konstanz beschreibt als Co-Autor des Beitrags diese Systeme als hochgradig anpassungsfähig. Durch die Verschmelzung großer Sprachmodelle (LLMs) wie GPT, Gemini oder Claude mit Multi-Agentensystemen entstünden „schädliche KI-Schwärme“, die soziale Dynamiken authentisch imitierten. Sie infiltrieren Gruppen, diskutieren mit echten Nutzern und reagieren in Echtzeit auf Ereignisse. Dieser Chor aus anscheinend unabhängigen Stimmen erzeugt die Illusion eines breiten öffentlichen Konsenses. In Wirklichkeit verbreitet er gezielt Desinformation.

Illusion der Mehrheit als psychologische Waffe

Die Gefahr liegt laut den Wissenschaftlern weniger in einzelnen Falschmeldungen als in der schleichenden Verschiebung gesellschaftlicher Normen durch einen „künstlichen Konsens“. Wenn Nutzer auf eine Vielzahl scheinbar unabhängiger Profile träfen, die dieselbe Meinung vertreten, entstehe sozialer Druck. Dieser falsche Eindruck, dass „ja jeder das sage“, beeinflusse Überzeugungen massiv. Jonas Kunst von der BI Norwegian Business School schlägt als Mitverfasser Alarm: Die Basis des demokratischen Diskurses – unabhängige Stimmen – könnte zusammenbrechen, wenn ein einzelner Akteur tausende KI-Profile kontrolliere.

Die Bedrohung reicht laut der Analyse weit: Langfristig könnten solche Schwärme Sprache, Symbole und Identitäten von Gemeinschaften manipulieren. Zudem drohe eine „Verunreinigung“ der digitalen Umwelt. Da KI-Schwärme das Netz mit gefälschten Behauptungen fluteten, flössen diese manipulierten Daten in das Training zukünftiger KI-Modelle ein. So weiteten sie ihren Einfluss indirekt auf etablierte KI-Plattformen aus. Studien legen nahe, dass derartige Taktiken bereits in ersten Ansätzen zur Anwendung kommen.

Niedrige Hürden für komplexe Manipulation

Die technologische Hürde ist erschreckend niedrig, da leistungsfähige Sprachmodelle oft frei zugänglich sind. Techniken wie „Chain-of-Thought-Prompting“ ließen sich missbrauchen, um menschlich wirkende Argumentationsketten für Unwahrheiten zu konstruieren. Andere Forscher haben bereits nachgewiesen, dass von KI generierte Falschinformationen oft als glaubwürdiger eingestuft werden als menschliche Texte. Da diese Schwärme nur minimale Aufsicht benötigen und plattformübergreifend agieren, scheint die klassische Moderation einzelner Beiträge zum Scheitern verurteilt.

Garcia ruft daher nach einem Paradigmenwechsel: Es gelte, das kollektive Verhalten großer KI-Gruppen mit Methoden der Verhaltenswissenschaften zu untersuchen. Nur so würden Gefahren erkennbar, die erst aus der Interaktion vieler KI-Akteure entstünden. Die schiere Masse und Varianz der Inhalte überforderten herkömmliche Faktencheck-Systeme schlicht.

Strategien für eine wehrhafte digitale Demokratie

Die Forscher plädieren für Schutzmaßnahmen, die auf koordiniertes Verhalten statt auf einzelne Inhalte abstellen. Algorithmen sollten darauf trainiert werden, statistisch unwahrscheinliche Muster der Koordinierung aufzuspüren. Ein weiterer Pfeiler seien verteilte Beobachtungszentren, die Hinweise auf KI-Einflussnahme sammeln. Ferner müssten Verifizierungsoptionen für echte Nutzer geschaffen werden, die den Datenschutz wahren, aber die Unterscheidung zwischen Mensch und Maschine erleichtern.

Letztlich braucht es dem Team zufolge auch ökonomische Hebel: Die Monetarisierung gefälschter Interaktionen müsse unterbunden und die Rechenschaftspflicht für Betreiber von KI-Infrastrukturen erhöht werden. Nur durch ein Zusammenspiel aus technischer Detektion, unabhängiger Überwachung und regulatorischen Leitplanken lasse sich verhindern, dass künstliche Schwärme die echte Meinungsvielfalt unterdrücken.

(afl)

Die Zeichen stehen auf Frühjahrsputz in Cupertino: Apple entrümpelt angeblich den Code seines iPhone-Betriebssystems und will verkaufte und künftige Geräte damit im nächsten Herbst deutlich flotter und energiesparender machen. iOS 27 trage den Codenamen Rave, berichtet Bloomberg-Reporter Mark Gurman unter Berufung auf anonyme Quellen im Unternehmen, was übersetzt für Toben und Feiern steht. Und genau diese rasante Feierlaune strebe das Softwareteam von Craig Federighi an.

Um dieses Ziel zu erreichen, kümmerten sich die Apple-Entwickler vor allem um die Hintergrundprozesse und die Kommunikation der Software mit den Hardware-Komponenten. Im bald 20 Jahre alten Betriebssystem schlummerten noch einige Relikte aus früheren Zeiten, heißt es. Diese Hintergrundprozesse seien durch stetige Hardware- und Akku-Verbesserungen nicht so schwer ins Gewicht gefallen, dass Apple sie bislang entfernt habe. Allerdings können sie auch für unerwünschte Wechselwirkungen sorgen und damit zu einem beschleunigten Akkuverbrauch führen.

Optimierung für künftige Aufgaben

Mit dem Entfernen von altem, überflüssigem Code werde das Betriebssystem auch für künftige Aufgaben optimiert. Dazu könnte ein faltbares iPhone zählen. Refactoring ist allerdings nicht neu bei Apple, sondern eine Daueraufgabe. So hat Apple auch schon diverse Komponenten seiner Software von den Programmiersprachen C, C++ oder Objective-C auf Swift umgestellt.

Die Umbauarbeiten in iOS 27 sollen jedoch weitreichender sein. Sie haben aber auch ihren Preis: Allerhand Apps von Drittanbietern müssen angepasst werden. Einige, die nicht aktiv weiterentwickelt werden, könnten ihren Dienst einstellen. Mit der Entschlackungskur für das Betriebssystem werde auch manche stillgelegte Entwicklerschnittstelle (API) entfernt. Vielfach zeigt Apple Entwicklern den Deprecated-Status jahrelang an, ohne dass etwas passiert. Dadurch bleiben Apps funktionsfähig, auch wenn Entwickler nichts ändern. Diese Rückwärtskompatibilität könnte nun massiv eingeschränkt werden.

Klammheimlich oder ein Feature?

Unklar bleibt, ob Apple den Umbau im Sommer auf der Entwicklerkonferenz WWDC auch öffentlich ankündigt. Seit den ersten Gerüchten, dass iOS 27 ein großes Aufräum-Update werden könnte, ziehen Beobachter einen Vergleich zu Mac OS X Snow Leopard. Die im Jahr 2009 veröffentlichte Hauptversion hatte erklärtermaßen Leistung, Effizienz und Stabilität im Fokus. Und obwohl es gerade jüngeren Apple-Nutzern aufgrund des Alters gar nichts mehr sagen dürfte, gilt es immer noch als beispielgebend.

Deutlich prestigeträchtiger dürfte aus Sicht Apples der zweite Schwerpunkt von iOS 27 sein, von dem Gurman berichtet. So soll mit dem Update eine überarbeitete, Chatbot-artige Siri Einzug halten. Hier ist allerdings Voraussetzung, dass Apple seine gesteckten Ziele wirklich erreicht. Gurman säte zuletzt Zweifel, dass das der Fall ist. Und ein stabileres, effizienteres Betriebssystem würde Nutzer abholen, denen der Schwerpunkt KI nicht so wichtig ist, die aber von Apple erwarten, dass die Geräte stabiler und energiesparender funktionieren.

(mki)