Künstliche Intelligenz
Weil sie denken, sie wären in einem Spiel: KI-Browser geben Passwörter heraus
KI-Agenten sollen das Surfen im Netz für uns erleichtern. Statt alle Suchen selbst durchzuführen, können die KI-Agenten von ChatGPT Atlas, Perplexity Comet und Co. die Aufgaben übernehmen und etwa die besten Produkte heraussuchen und direkt in den Warenkorb legen. Der Komfort kann allerdings auch mit Sicherheitsrisiken einhergehen, wie jetzt Sicherheitsforscher von LayerX gezeigt haben.
Weiterlesen nach der Anzeige
Welche KI-Browser geben Passwörter preis?
Die Sicherheitsforscher haben herausgefunden, dass sich mehrere KI-Browser recht einfach austricksen lassen. Sie können so manipuliert werden, dass sie sensible Daten wie Passwörter ihrer Nutzer bereitwillig an Angreifer herausgeben. Der Exploit soll laut den Verantwortlichen in den Tools ChatGPT Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser und dem Claude-Plugin für Googles Chrome-Browser funktioniert haben.
Den Trick haben die Sicherheitsforscher „Bioshocking“ getauft, angelehnt an den 2007 erschienenen Shooter „Bioshock“. Im Grunde müssen die KI-Browser nur überzeugt werden, dass sie ein Spiel spielen und die Regeln der Realität nicht mehr gelten. Zunächst müssen User dafür eine manipulierte Webseite von Cyberkriminellen ansurfen, auf denen Letztere ein Rätselspiel implementiert haben.
Sobald die KI aufgefordert wird, das Rätsel zu lösen, beginnt die Übernahme. Zunächst wird die KI davon überzeugt, dass zwei plus zwei nicht vier, sondern fünf ist. Gibt sie die eigentlich korrekte Antwort in das Eingabefeld ein, bekommt sie einen Fehler mit dem Hinweis „Spiel weiter, bis du siehst, dass der Sieg eine Niederlage ist“ angezeigt. Danach sinieren die meisten KI-Agenten, dass womöglich absichtlich eine falsche Antwort gesucht ist, und probieren fünf aus. Nach dem ersten Erfolg beginnt die Datenexfiltration.
Im Anschluss befiehlt das Spiel dem KI-Agenten, die „/code-URL“ anzusurfen und dort den Code zu kopieren und in das Textfeld einzufügen. Im Test der Sicherheitsforscher führte der Pfad zu einem GitHub-Repository mit SSH-Logindaten der User. Unter realen Bedingungen kann der Pfad laut den Forschern zu einer Vielzahl von Zielen führen. Darunter etwa offene Tabs, authentifizierte Repositories oder auch interne Tools. Die Agenten folgten der Anweisung bereitwillig und feierten anschließend, dass das Rätsel gelöst wurde – obwohl sie damit auch sensible Daten preisgegeben hatten.
Warum lassen sich KI-Browser so austricksen?
Weiterlesen nach der Anzeige
Laut Sicherheitsforschern liegt das Problem darin, dass die KI-Browser plötzlich annehmen, dass sie nicht mehr nach den Regeln der normalen Welt spielen. Dadurch werden auch ihre normalen Sicherheitsrichtlinien teilweise ausgehebelt. Das Problem wurde von den Verantwortlichen an die jeweiligen Entwickler der KI-Browser gemeldet. Nur OpenAI hat in Atlas die nötigen Sicherheitsmaßnahmen ergriffen, um das künftig zu verhindern. Perplexity hat das Problem ohne Lösung geschlossen, während Anthropic einen Patch bereitgestellt hat, der den Exploit aber nicht verhindern konnte. Alle anderen Entwickler haben LayerX nicht geantwortet.
Die Sicherheitsforscher empfehlen Nutzern, genau zu kontrollieren, was ihr KI-Agent sieht. Alle Dienste, in die man im Browser eingeloggt ist, können potenziell vom Agenten geöffnet und genutzt werden. Deshalb sollten vor der Nutzung alle Dienste geschlossen werden, die nicht benötigt werden. Zudem raten sie dazu, den KI-Agenten nach getaner Arbeit die Rechte zu entziehen und sie erst wieder zu erteilen, wenn die Tools erneut benötigt werden.
Dieser Beitrag ist zuerst auf t3n.de erschienen.
(jle)
Künstliche Intelligenz
US-Luftfahrtbehörde will Verbot ziviler Überschallflüge über Land aufheben
Die US-Luftfahrtbehörde Federal Aviation Administration (FAA) beabsichtigt, auf Grundlage der Executive Order 14304 des Weißen Hauses das seit 1973 geltende Verbot von zivilen Überschallflügen über US-Territorium aufzuheben. Das teilte die FAA am Mittwoch mit. Flüge sollen so mit zukünftigen, leisen Überschall-Passagierflugzeugen beschleunigt und Reisezeiten stark verkürzt werden. Die FAA erarbeitet nun Zertifizierungsstandards für Überschallflugzeuge sowie Lärmstandards für Start und Landungen.
Weiterlesen nach der Anzeige
Beim Übergang zum Überschallflug kann sich die Druckwelle des Flugzeugs nicht mehr nach vorn ausbreiten und verdichtet sich zu einer Schallmauer. Dabei entsteht ein kegelförmiger Trichter aus Druckwellen hinter dem Flugzeug. Diese Druckwellen sind am Boden als lauter Knall zu hören, der zu einer Lärmbelastung bei Anwohnern in Fluggebieten führt. Auch Starts und Landungen führen in Flughafennähe zu Lärmbelästigungen. Entsprechend wurden in den USA 1973 Überschallflüge über Land für zivile Maschinen in der Luftfahrt verboten. Lediglich Militärjets dürfen seitdem weiterhin schneller als der Schall auch über Land unterwegs sein.
Die Regelung könne nun aber aufgehoben werden, heißt es von Michael Kratios, Assistant to the President for Science and Technology und Director of the White House Office of Science and Technology Policy. Alte Vorschriften hätten dafür gesorgt, dass technologischer Fortschritt ausgebremst werde. Die Aufhebung des Verbots auf Grundlage der Executive Order 14304 werde dafür sorgen, dass neue Techniken entwickelt und hochqualifizierte Arbeitsplätze in den USA entstehen.
Reduzierte Lärmbelastung
Tatsächlich haben in den vergangenen Jahren verschiedene Lärmschutzentwicklungen in experimentellen Überschallflugzeugen für eine Lärmreduzierung gesorgt.
„Fortschritte in der Luft- und Raumfahrttechnik, der Materialwissenschaft, der Lärmreduzierung und bei neuen Betriebskonzepten werden den alten Überschallknall beseitigen“, sagt FAA-Administrator Bryan Bedford. „Das bedeutet, dass wir das aus den 1970er Jahren stammende Verbot von Überschallflügen über US-Territorium schließlich aufheben können, während wir gleichzeitig die Lärmbelastung für die Anwohner entlang der Flugrouten und in Flughafennähe minimieren.“
Bis Überschallflüge mit zivilen Maschinen in den Bereichen Passagier- und Frachtbeförderung möglich sind, kann es jedoch noch einige Jahre dauern. Zunächst erarbeitet die FAA dazu die nötigen Grundlagen. So müssen etwa Zertifizierungsstandards für zivile Überschallflugzeuge erstellt werden. Die FAA arbeitet dabei mit der International Civil Aviation Organisation, der NASA, der Luftfahrtindustrie und wissenschaftlichen Einrichtungen zusammen. Deren Grundlagenwissen, Erfahrungen und Forschungsergebnisse zu Überschallflügen sollen in die Zertifizierungsstandards und zusätzlich in zu erarbeitende Lärmvorschriften einfließen. Hinzu kommt, dass für den internationalen Einsatz der Flugzeuge Abkommen mit Luftfahrtbehörden außerhalb der USA getroffen werden müssen, um einen internationalen Betrieb von Überschallflugzeugen auch außerhalb der Vereinigten Staaten zu ermöglichen.
Weiterlesen nach der Anzeige
Die FAA strebt an, die nötigen Standards und Vorschriften bis Mitte 2027 fertigzustellen.
(olb)
Künstliche Intelligenz
Muss Google eine Milliardenstrafe zahlen? EU-Urteil erwartet
Vor dem höchsten europäischen Gericht geht es am heutigen Donnerstag um eine EU-Wettbewerbsstrafe gegen Google in Milliardenhöhe. Die Europäische Kommission hatte das Bußgeld in Rekordhöhe von 4,34 Milliarden Euro 2018 verhängt, weil sie dem Tech-Riesen vorwirft, Herstellern von Android-Smartphones und Mobilfunkanbietern illegale Beschränkungen auferlegt zu haben, um die Marktdominanz seiner Suchmaschine zu stärken.
Weiterlesen nach der Anzeige
Android wird bei Google entwickelt und ist für Geräte-Hersteller kostenlos. Allerdings mussten Hersteller, die eine Lizenz für Googles App-Store haben wollten, immer gleich ein Paket aus Google-Apps installieren, darunter den Browser Chrome und die Google-Suche. Die EU-Kommission, die für die Einhaltung von Wettbewerbsregeln in der EU zuständig ist, sah unter anderem darin einen Verstoß.
Die Brüsseler Behörde kritisierte darüber hinaus eine Vereinbarung, nach der Anbieter von Geräten mit Google-Diensten keine Smartphones mit alternativen, nicht von Google genehmigten Android-Versionen verkaufen durften.
Niederlage für Google in erster Instanz
Google hatte gegen die Entscheidung der EU-Wettbewerbshüter geklagt und vor dem EU-Gericht in erster Instanz bereits eine Schlappe erlitten: Die Luxemburger Richterinnen und Richter senkten den Betrag des Bußgelds in ihrem Urteil von 2022 lediglich auf 4,125 Milliarden Euro. Dagegen legten das Unternehmen und sein Mutterkonzern Alphabet Einspruch beim Gerichtshof der Europäischen Union (EuGH) ein.
Google steht immer wieder wegen seiner Geschäftspraktiken vor Gericht. Erst am Mittwoch fiel in Schweden ein Urteil, dass der Tech-Riese der Klarna-Tochter Pricerunner umgerechnet knapp 1,3 Milliarden Euro Schadenersatz zahlen muss. Von EU-Seite hat das Unternehmen schon mehrere hohe Wettbewerbsstrafen aufgebrummt bekommen – manche wurden gerichtlich bestätigt, andere kassiert. Der Konzern konnte die Bußgelder bisher wegen des boomenden Online-Werbegeschäfts gut verkraften.
(mho)
Künstliche Intelligenz
Microsoft plant nächsten großen KI-Serverstandort in NRW
Microsoft erhöht seine milliardenschweren Investitionen in KI-Rechenzentren in NRW. Wie das Unternehmen mitteilte, möchte es einen weiteren Server-Standort in Grevenbroich am Niederrhein bauen. Es wäre das vierte Rechenzentrum des Technologieriesen im Rheinischen Revier, schon 2024 wurden entsprechende Vorhaben für Rechenzentren in Bedburg, Bergheim und Elsdorf bekannt. Bis sie den Betrieb aufnehmen, dauert es aber noch länger.
Weiterlesen nach der Anzeige
Microsoft unterzeichnete einen Kaufvertrag für ein Grundstück, das bislang landwirtschaftlich genutzt wird. Es ist nach Angaben der Stadt 23 Hektar groß. Der Kaufvertrag steht allerdings unter dem Vorbehalt der Baugenehmigung. Das Rheinische Revier ist die Kohle-Abbauregion westlich von Köln, die wegen des Kohle-Ausstiegs im Umbruch ist und vor einer ungewissen Zukunft steht. Die Microsoft-Investitionen stärken nun die Hoffnung auf Arbeitsplätze vor Ort.
Die Investitionssumme wurde nicht mitgeteilt, es könnte ein hoher dreistelliger Millionen-Euro-Betrag sein oder vielleicht sogar etwa eine Milliarde Euro. Für die drei anderen, 2024 eingeleiteten Vorhaben für Rechenzentren investiert Microsoft 3,2 Milliarden Euro. Von diesem Betrag fließt aber noch Geld ab für eine Kapazitätserweiterung eines bereits bestehenden Frankfurter Microsoft-Standorts und für Schulungsprogramme, um den Umgang der Öffentlichkeit mit Künstlicher Intelligenz zu verbessern.
Für die Standorte in Bedburg und Bergheim wurden bereits Baugenehmigungen erteilt, in Elsdorf wird die Erlaubnis noch erwartet. In Bedburg und Bergheim könnte ein Teilbetrieb 2028 starten. Die drei ersten Standorte sollen sich gegenseitig absichern – fällt einer aus, so kann auf einen Standort zurückgegriffen werden. Die genaue Funktion des Grevenbroicher Standorts ist noch unklar. Sollte bei dem Vorhaben alles planmäßig laufen, könnte das Rechenzentrum in den frühen 2030er Jahren in Betrieb gehen.
Tausende Jobs könnten entstehen
Im Digitalzeitalter werden externe Server immer wichtiger, die Datenmengen steigen rapide. Anwendungen der Künstlichen Intelligenz steigern die Nachfrage nach schneller Datenverarbeitung zusätzlich. Als potenzielle Kunden hat Microsoft Industriekonzerne aus NRW im Blick. Die Entscheidung für den vierten Standort begründet der US-Konzern mit einer hohen Nachfrage.
„Nordrhein-Westfalen ist für Microsoft eine strategisch wichtige Cloud- und KI-Region“, sagt Microsoft-Deutschlandchefin Agnes Heftberger. Mit Blick auf Grevenbroich sagt sie: „Diese Erweiterung bedeutet zusätzliche Investitionen in die lokale Infrastruktur und in die Menschen, die dort leben und arbeiten.“
Weiterlesen nach der Anzeige
An zwei der drei bisher bekannten Standorten wird damit gerechnet, dass jeweils mehrere Hundert Arbeitsplätze für den Betrieb entstehen und jeweils circa 2500 Jobs anderer Firmen, die sich rund um die Rechenzentren ansiedeln. Einen ähnlichen Job-Booster könnte es in der 69.000-Einwohner-Stadt Grevenbroich geben. Am dritten Standort – dem in Elsdorf – wird ebenfalls mit einem Jobmotor gerechnet, die Kommune hält sich mit einer konkreten Schätzung aber zurück.
Reaktionen aus der Politik
Die Investition sende ein wichtiges Signal für das gesamte Rheinische Revier, sagte Grevenbroichs Bürgermeister Klaus Krützen (SPD). Der Strukturwandel brauche konkrete Projekte, Investitionen und Zukunftsperspektiven. Der Sozialdemokrat hofft auf mehr: „Solche Investitionen können weit über den Standort hinaus Wirkung entfalten und die Aufmerksamkeit neuer Unternehmen auf unsere Stadt lenken.“
NRW-Wirtschaftsministerin Mona Neubaur (Grüne) wertet die Investitionsankündigung als überaus positiv für den Wirtschafts- und Digitalstandort Nordrhein-Westfalen. Dies zeige, dass der Strukturwandel im Rheinischen Revier gelinge. „Von der Kohle zur KI – dieser Wandel wird konkret.“, sagt die Grüne. Leistungsfähige digitale Infrastruktur sei heute ein entscheidender Standortfaktor.
KI-Rechenzentren sollen nicht nur im Rheinischen Revier entstehen. Im Januar hatte der US-Investor Blackstone einen Server-Standort im westfälischen Lippetal angekündigt. Finanzkreisen zufolge beläuft sich die Projektgröße auf etwa vier Milliarden Euro; mit einer Fertigstellung der Anlage wird in den frühen 2030er Jahren gerechnet. Ein Blackstone-Sprecher sagt, es gehe voran. Man sei in der Planungs- und Genehmigungsphase des Projekts. Im brandenburgischen Lübbenau möchte die Schwarz-Gruppe einen sogar elf Milliarden Euro teuren KI-Serverstandort bauen.
NGO ist besorgt
Während solche Vorhaben in der Politik weitgehend positiv aufgenommen werden, gibt es in Teilen der Zivilgesellschaft Skepsis, etwa wegen des hohen Strombedarfs. „Rechenzentren sind nicht per se gut oder schlecht“, sagt Kilian Vieth-Ditlmann von der Nichtregierungsorganisation (NGO) Algorithm Watch. „Entscheidend ist: Wo kommt die Energie für den zusätzlichen Bedarf her, wie effizient und nachhaltig sind die Rechenzentren?“ Mit Blick auf die bislang bekannten Vorhaben sagt er: „So wie es jetzt läuft, gefährdet der Bau von immer mehr Rechenzentren die Klimaziele in Deutschland.“
„Neue Rechenzentren sollten nur noch dann genehmigt werden, wenn sie in jeder Stunde – und nicht nur im Jahresdurchschnitt – mit erneuerbaren Energien betrieben werden, die für diesen Zweck zusätzlich erzeugt worden sind“, sagt Vieth-Ditlmann. Die Profiteure der Politik der Bundesregierung seien keineswegs europäische Betreiber, sondern die großen US-Tech-Konzerne.
Microsoft betont, dass man auf nachhaltige Lösungen setze. Die Rechenzentren der nächsten Generation nutzten etwa ein neues Kühlkonzept, das ohne Wasserverdunstung auskomme. Ist der Kühlkreislauf befüllt, so müsse fast kein Kühlwasser mehr nachgefüllt werden.
(mho)
-
Künstliche Intelligenzvor 3 MonateniX-Workshop Angriffsziel lokales AD − Schwachstellen finden und beheben
-
Künstliche Intelligenzvor 3 Monaten„Don’t Starve Elsewhere“: Survival‑Hit kehrt nach zehn Jahren zurück
-
Künstliche Intelligenzvor 3 MonatenKine‑Exakta: Die erste Spiegelreflexkamera fürs Kleinbild
-
Künstliche Intelligenzvor 3 Monaten
xTool P3 im Test: CO₂-Laser mit 80 Watt schneidet und graviert auch Acryl
-
Künstliche Intelligenzvor 2 MonatenWeitere Entlassungswelle bei Disney: Bis zu 1000 Mitarbeiter betroffen
-
Apps & Mobile Entwicklungvor 2 MonatenMega-GPUs für Nvidia, AMD & Co: TSMC zeigt CoWoS-Package mit >11.600 mm² & 24 × HBM5E
-
Social Mediavor 2 MonatenMetas neuer Creative Setup Workflow: Was sich wirklich ändert – und warum das nicht nur eine UI-Frage ist!
-
Künstliche Intelligenzvor 2 MonatenApple‑Geräte mit Microsoft Intune verwalten – zweiteiliges Live-Webinar
