KI-Agenten sollen das Surfen im Netz für uns erleichtern. Statt alle Suchen selbst durchzuführen, können die KI-Agenten von ChatGPT Atlas, Perplexity Comet und Co. die Aufgaben übernehmen und etwa die besten Produkte heraussuchen und direkt in den Warenkorb legen. Der Komfort kann allerdings auch mit Sicherheitsrisiken einhergehen, wie jetzt Sicherheitsforscher von LayerX gezeigt haben.

Welche KI-Browser geben Passwörter preis?

Die Sicherheitsforscher haben herausgefunden, dass sich mehrere KI-Browser recht einfach austricksen lassen. Sie können so manipuliert werden, dass sie sensible Daten wie Passwörter ihrer Nutzer bereitwillig an Angreifer herausgeben. Der Exploit soll laut den Verantwortlichen in den Tools ChatGPT Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser und dem Claude-Plugin für Googles Chrome-Browser funktioniert haben.

Den Trick haben die Sicherheitsforscher „Bioshocking“ getauft, angelehnt an den 2007 erschienenen Shooter „Bioshock“. Im Grunde müssen die KI-Browser nur überzeugt werden, dass sie ein Spiel spielen und die Regeln der Realität nicht mehr gelten. Zunächst müssen User dafür eine manipulierte Webseite von Cyberkriminellen ansurfen, auf denen Letztere ein Rätselspiel implementiert haben.

Sobald die KI aufgefordert wird, das Rätsel zu lösen, beginnt die Übernahme. Zunächst wird die KI davon überzeugt, dass zwei plus zwei nicht vier, sondern fünf ist. Gibt sie die eigentlich korrekte Antwort in das Eingabefeld ein, bekommt sie einen Fehler mit dem Hinweis „Spiel weiter, bis du siehst, dass der Sieg eine Niederlage ist“ angezeigt. Danach sinieren die meisten KI-Agenten, dass womöglich absichtlich eine falsche Antwort gesucht ist, und probieren fünf aus. Nach dem ersten Erfolg beginnt die Datenexfiltration.

Im Anschluss befiehlt das Spiel dem KI-Agenten, die „/code-URL“ anzusurfen und dort den Code zu kopieren und in das Textfeld einzufügen. Im Test der Sicherheitsforscher führte der Pfad zu einem GitHub-Repository mit SSH-Logindaten der User. Unter realen Bedingungen kann der Pfad laut den Forschern zu einer Vielzahl von Zielen führen. Darunter etwa offene Tabs, authentifizierte Repositories oder auch interne Tools. Die Agenten folgten der Anweisung bereitwillig und feierten anschließend, dass das Rätsel gelöst wurde – obwohl sie damit auch sensible Daten preisgegeben hatten.

Warum lassen sich KI-Browser so austricksen?

Laut Sicherheitsforschern liegt das Problem darin, dass die KI-Browser plötzlich annehmen, dass sie nicht mehr nach den Regeln der normalen Welt spielen. Dadurch werden auch ihre normalen Sicherheitsrichtlinien teilweise ausgehebelt. Das Problem wurde von den Verantwortlichen an die jeweiligen Entwickler der KI-Browser gemeldet. Nur OpenAI hat in Atlas die nötigen Sicherheitsmaßnahmen ergriffen, um das künftig zu verhindern. Perplexity hat das Problem ohne Lösung geschlossen, während Anthropic einen Patch bereitgestellt hat, der den Exploit aber nicht verhindern konnte. Alle anderen Entwickler haben LayerX nicht geantwortet.

Die Sicherheitsforscher empfehlen Nutzern, genau zu kontrollieren, was ihr KI-Agent sieht. Alle Dienste, in die man im Browser eingeloggt ist, können potenziell vom Agenten geöffnet und genutzt werden. Deshalb sollten vor der Nutzung alle Dienste geschlossen werden, die nicht benötigt werden. Zudem raten sie dazu, den KI-Agenten nach getaner Arbeit die Rechte zu entziehen und sie erst wieder zu erteilen, wenn die Tools erneut benötigt werden.

Dieser Beitrag ist zuerst auf t3n.de erschienen.

(jle)

Vor dem höchsten europäischen Gericht geht es am heutigen Donnerstag um eine EU-Wettbewerbsstrafe gegen Google in Milliardenhöhe. Die Europäische Kommission hatte das Bußgeld in Rekordhöhe von 4,34 Milliarden Euro 2018 verhängt, weil sie dem Tech-Riesen vorwirft, Herstellern von Android-Smartphones und Mobilfunkanbietern illegale Beschränkungen auferlegt zu haben, um die Marktdominanz seiner Suchmaschine zu stärken.

Android wird bei Google entwickelt und ist für Geräte-Hersteller kostenlos. Allerdings mussten Hersteller, die eine Lizenz für Googles App-Store haben wollten, immer gleich ein Paket aus Google-Apps installieren, darunter den Browser Chrome und die Google-Suche. Die EU-Kommission, die für die Einhaltung von Wettbewerbsregeln in der EU zuständig ist, sah unter anderem darin einen Verstoß.

Die Brüsseler Behörde kritisierte darüber hinaus eine Vereinbarung, nach der Anbieter von Geräten mit Google-Diensten keine Smartphones mit alternativen, nicht von Google genehmigten Android-Versionen verkaufen durften.

Niederlage für Google in erster Instanz

Google hatte gegen die Entscheidung der EU-Wettbewerbshüter geklagt und vor dem EU-Gericht in erster Instanz bereits eine Schlappe erlitten: Die Luxemburger Richterinnen und Richter senkten den Betrag des Bußgelds in ihrem Urteil von 2022 lediglich auf 4,125 Milliarden Euro. Dagegen legten das Unternehmen und sein Mutterkonzern Alphabet Einspruch beim Gerichtshof der Europäischen Union (EuGH) ein.

Google steht immer wieder wegen seiner Geschäftspraktiken vor Gericht. Erst am Mittwoch fiel in Schweden ein Urteil, dass der Tech-Riese der Klarna-Tochter Pricerunner umgerechnet knapp 1,3 Milliarden Euro Schadenersatz zahlen muss. Von EU-Seite hat das Unternehmen schon mehrere hohe Wettbewerbsstrafen aufgebrummt bekommen – manche wurden gerichtlich bestätigt, andere kassiert. Der Konzern konnte die Bußgelder bisher wegen des boomenden Online-Werbegeschäfts gut verkraften.

(mho)

Microsoft erhöht seine milliardenschweren Investitionen in KI-Rechenzentren in NRW. Wie das Unternehmen mitteilte, möchte es einen weiteren Server-Standort in Grevenbroich am Niederrhein bauen. Es wäre das vierte Rechenzentrum des Technologieriesen im Rheinischen Revier, schon 2024 wurden entsprechende Vorhaben für Rechenzentren in Bedburg, Bergheim und Elsdorf bekannt. Bis sie den Betrieb aufnehmen, dauert es aber noch länger.

Microsoft unterzeichnete einen Kaufvertrag für ein Grundstück, das bislang landwirtschaftlich genutzt wird. Es ist nach Angaben der Stadt 23 Hektar groß. Der Kaufvertrag steht allerdings unter dem Vorbehalt der Baugenehmigung. Das Rheinische Revier ist die Kohle-Abbauregion westlich von Köln, die wegen des Kohle-Ausstiegs im Umbruch ist und vor einer ungewissen Zukunft steht. Die Microsoft-Investitionen stärken nun die Hoffnung auf Arbeitsplätze vor Ort.

Die Investitionssumme wurde nicht mitgeteilt, es könnte ein hoher dreistelliger Millionen-Euro-Betrag sein oder vielleicht sogar etwa eine Milliarde Euro. Für die drei anderen, 2024 eingeleiteten Vorhaben für Rechenzentren investiert Microsoft 3,2 Milliarden Euro. Von diesem Betrag fließt aber noch Geld ab für eine Kapazitätserweiterung eines bereits bestehenden Frankfurter Microsoft-Standorts und für Schulungsprogramme, um den Umgang der Öffentlichkeit mit Künstlicher Intelligenz zu verbessern.

Für die Standorte in Bedburg und Bergheim wurden bereits Baugenehmigungen erteilt, in Elsdorf wird die Erlaubnis noch erwartet. In Bedburg und Bergheim könnte ein Teilbetrieb 2028 starten. Die drei ersten Standorte sollen sich gegenseitig absichern – fällt einer aus, so kann auf einen Standort zurückgegriffen werden. Die genaue Funktion des Grevenbroicher Standorts ist noch unklar. Sollte bei dem Vorhaben alles planmäßig laufen, könnte das Rechenzentrum in den frühen 2030er Jahren in Betrieb gehen.

Tausende Jobs könnten entstehen

Im Digitalzeitalter werden externe Server immer wichtiger, die Datenmengen steigen rapide. Anwendungen der Künstlichen Intelligenz steigern die Nachfrage nach schneller Datenverarbeitung zusätzlich. Als potenzielle Kunden hat Microsoft Industriekonzerne aus NRW im Blick. Die Entscheidung für den vierten Standort begründet der US-Konzern mit einer hohen Nachfrage.

„Nordrhein-Westfalen ist für Microsoft eine strategisch wichtige Cloud- und KI-Region“, sagt Microsoft-Deutschlandchefin Agnes Heftberger. Mit Blick auf Grevenbroich sagt sie: „Diese Erweiterung bedeutet zusätzliche Investitionen in die lokale Infrastruktur und in die Menschen, die dort leben und arbeiten.“

An zwei der drei bisher bekannten Standorten wird damit gerechnet, dass jeweils mehrere Hundert Arbeitsplätze für den Betrieb entstehen und jeweils circa 2500 Jobs anderer Firmen, die sich rund um die Rechenzentren ansiedeln. Einen ähnlichen Job-Booster könnte es in der 69.000-Einwohner-Stadt Grevenbroich geben. Am dritten Standort – dem in Elsdorf – wird ebenfalls mit einem Jobmotor gerechnet, die Kommune hält sich mit einer konkreten Schätzung aber zurück.

Reaktionen aus der Politik

Die Investition sende ein wichtiges Signal für das gesamte Rheinische Revier, sagte Grevenbroichs Bürgermeister Klaus Krützen (SPD). Der Strukturwandel brauche konkrete Projekte, Investitionen und Zukunftsperspektiven. Der Sozialdemokrat hofft auf mehr: „Solche Investitionen können weit über den Standort hinaus Wirkung entfalten und die Aufmerksamkeit neuer Unternehmen auf unsere Stadt lenken.“

NRW-Wirtschaftsministerin Mona Neubaur (Grüne) wertet die Investitionsankündigung als überaus positiv für den Wirtschafts- und Digitalstandort Nordrhein-Westfalen. Dies zeige, dass der Strukturwandel im Rheinischen Revier gelinge. „Von der Kohle zur KI – dieser Wandel wird konkret.“, sagt die Grüne. Leistungsfähige digitale Infrastruktur sei heute ein entscheidender Standortfaktor.

KI-Rechenzentren sollen nicht nur im Rheinischen Revier entstehen. Im Januar hatte der US-Investor Blackstone einen Server-Standort im westfälischen Lippetal angekündigt. Finanzkreisen zufolge beläuft sich die Projektgröße auf etwa vier Milliarden Euro; mit einer Fertigstellung der Anlage wird in den frühen 2030er Jahren gerechnet. Ein Blackstone-Sprecher sagt, es gehe voran. Man sei in der Planungs- und Genehmigungsphase des Projekts. Im brandenburgischen Lübbenau möchte die Schwarz-Gruppe einen sogar elf Milliarden Euro teuren KI-Serverstandort bauen.

NGO ist besorgt

Während solche Vorhaben in der Politik weitgehend positiv aufgenommen werden, gibt es in Teilen der Zivilgesellschaft Skepsis, etwa wegen des hohen Strombedarfs. „Rechenzentren sind nicht per se gut oder schlecht“, sagt Kilian Vieth-Ditlmann von der Nichtregierungsorganisation (NGO) Algorithm Watch. „Entscheidend ist: Wo kommt die Energie für den zusätzlichen Bedarf her, wie effizient und nachhaltig sind die Rechenzentren?“ Mit Blick auf die bislang bekannten Vorhaben sagt er: „So wie es jetzt läuft, gefährdet der Bau von immer mehr Rechenzentren die Klimaziele in Deutschland.“

„Neue Rechenzentren sollten nur noch dann genehmigt werden, wenn sie in jeder Stunde – und nicht nur im Jahresdurchschnitt – mit erneuerbaren Energien betrieben werden, die für diesen Zweck zusätzlich erzeugt worden sind“, sagt Vieth-Ditlmann. Die Profiteure der Politik der Bundesregierung seien keineswegs europäische Betreiber, sondern die großen US-Tech-Konzerne.

Microsoft betont, dass man auf nachhaltige Lösungen setze. Die Rechenzentren der nächsten Generation nutzten etwa ein neues Kühlkonzept, das ohne Wasserverdunstung auskomme. Ist der Kühlkreislauf befüllt, so müsse fast kein Kühlwasser mehr nachgefüllt werden.

(mho)