Apps & Mobile Entwicklung

KI soll die KI kontrollieren: Wie Google die Agenten im Chrome-Browser absichern will

Indem Browser immer mehr KI-Funktionen und Agenten erhalten, droht eine neue Klasse an Sicherheitsrisiken. Um die integrierten KI-Modelle abzusichern, will Google im Chrome-Browser ein weiteres KI-Modell einführen, das die KI-Aktivitäten kontrolliert.

Nathan Parker vom Chrome Security Team spricht in einem Blog-Beitrag von einer neuen Sicherheitsarchitektur, die insbesondere die Agenten-Fähigkeiten in Chrome absichern soll. Es geht also um Anwendungen, bei denen das KI-System im Browser autonom handelt, indem es etwa eigenständig Webseiten bedient.

IndirektePrompt Injections als Angriffsrisiko

Eine Bedrohung, die praktisch alle KI-Browser betrifft, sind indirekte Prompt Injections. Bei Prompt Injections handelt es sich im Kern um manipulierte Prompt-Eingaben, die Sprachmodelle (LLM) zu unerwünschten Antworten verleiten sollen, die etwa gegen die Vorgaben der KI-Entwickler verstoßen. Eines der klassischen Beispiele ist der Oma-Hack: Zeitweise konnte man die internen Vorgaben von ChatGPT aushebeln, indem man den Chatbot aufforderte, eine Gute-Nacht-Geschichte wie die verstorbene Oma zu erzählen. Auf diese Weise ließ sich ChatGPT dann auch das Rezept von Napalm entlocken, obwohl OpenAI solche Antworten eigentlich untersagt.

Bei den indirekten Prompt Injections befindet sich der manipulierte Prompt nicht direkt in der Eingabe des Nutzers, sondern beispielsweise auf einer Webseite. Wenn ein Nutzer mit einem aktivierten KI-Agenten im Browser dann eine solche Webseite aufsucht, besteht die Gefahr, dass das KI-System ein Einfallstor für eine Cyber-Attacke ist. Angreifer könnten den Agenten etwa dazu verleiten, persönliche Daten über den Nutzer preiszugeben. Denkbar wäre aber – je nach Grad der Autonomie eines Agenten –, dass dieser sogar finanzielle Transaktionen veranlasst.

KI-Entwickler versuchen sich ohnehin, die Systeme gegen Prompt Injections zu wappnen. Google legt nun ein Konzept mit weiteren Sicherheitsebenen vor. Ein zentraler Bestandteil ist die user alignment critic. Aktionen eines Agenten werden dabei von einem separaten Modell kontrolliert, das keinen Kontakt zu Inhalten hat, die als nicht-vertrauenswürdig gelten.

user alignment critic: Das Kontroll-Modell kann ein Veto einlegen

Das Ziel ist eine doppelte Kontrolle. Das zweite Modell kontrolliert jederzeit, ob Aktionen eines Agenten immer mit den Zielen des Nutzers in Einklang stehen. Wenn die Handlungen nicht den Vorgaben entsprechen, legt das Kontroll-Modell ein Veto ein. Um es selbst vor Angriffen zu schützen, ist es so konzipiert, dass es nur Zugang zu Metadaten hat, die die jeweiligen Aktionen beschreiben. Ungefilterte Inhalte bekommt es nicht zugespielt.

Its primary focus is task alignment: determining whether the proposed action serves the user’s stated goal. If the action is misaligned, the Alignment Critic will veto it. This component is architected to see only metadata about the proposed action and not any unfiltered untrustworthy web content, thus ensuring it cannot be poisoned directly from the web.

Anpassungen sind in weiteren Bereichen erforderlichen. Bestehende Techniken wie Site Isolation und same-origin policy können mit Agenten ausgehebelt werden, weil die KI-Systeme quasi per Konzept über mehrere Webseiten hinweg agieren sollen – also beispielsweise in einem Rezept die Zutaten erfassen und diese auf einer Shopping-Seite in den Warenkorb legen. Daher integriert man das Prinzip Agent Origins Set in die Sicherheitsarchitektur. Es soll sicherstellen, dass Agenten nur auf Daten zugreifen, die für die jeweilige Aufgabe erforderlich sind.

Weitere Änderungen an der Sicherheitsarchitektur beschreibt Parker noch im Blog. Transparenz und Nutzerkontrolle sollen etwa wie gehabt eine zentrale Rolle spielen. Selbst wenn die KI-Assistenten autonom handeln, sollen Nutzer nachvollziehen können, was im Browser vor sich geht. Wenn der Agent auf sensible Daten wie Gesundheitsdaten oder beim Online-Banking zugreift, müssen Nutzer zustimmen. Dasselbe gilt generell für Aktionen wie Bankgeschäfte, ohne Zustimmung sollen diese nicht stattfinden.

KI-Browser kommen – und damit auch die Risiken

Auftakt für Googles KI-Browser ist Gemini in Chrome. Derzeit werden die KI-Funktionen für berechtige Windows- und Mac-Nutzer in den USA eingeführt, wenn die Chrome-Sprache auf Englisch eingestellt ist. Weitere Sprachen und Regionen sollen im Laufe der Zeit folgen.

ChatGPT Atlas: OpenAI bringt eigenen Browser auf den Markt

An AI-Browsern entwickelt ohnehin nicht nur Google. Perplexity hat mit Comet bereits eine entsprechende Variante vorgestellt, die Browser Company entwickelt Dia. Noch mehr Aufmerksamkeit erhielt das Thema, als OpenAI den Atlas-Browser vorstellte. Dieser bietet neben der engen Anbindung an ChatGPT auch einen Agenten-Modus, der eigenständig Aufgaben im Sinne der Nutzer erfüllen soll.

OpenAI bezeichnet Prompt Injections als ungelöstes Problem

Was Google jetzt vorstellt, ist ein konzeptueller Ansatz für die Risiken, vor denen Entwickler und Sicherheitsexperten bei den KI-Browsern seit geraumer Zeit warnen. Selbst OpenAIs Chief Information Security Officer Dane Stuckey räumte kurz nach dem Atlas-Start ein, dass Prompt Injections eines der ungelösten Probleme sind, die noch viel Zeit erfordern.

However, prompt injection remains a frontier, unsolved security problem, and our adversaries will spend significant time and resources to find ways to make ChatGPT agent fall for these attacks.

Dan Stuckey via X

Man hat das Problem also auf dem Schirm, man arbeitet an Lösungen und versucht es einzudämmen. Vom Tisch ist es aber noch nicht. Und wie relevant es ist, zeigt sich voraussichtlich erst, je weiter sich die KI-Browser verbreiten. Entwickler wie Simon Willison äußern sich daher skeptisch bis zurückweisend. Er würde keinem dieser Produkte trauen, solange eine Reihe von IT-Sicherheitsforschern diese nicht sehr gründlich untersucht haben. Aktuell bezeichnet er die Sicherheits- und Privatsphäre-Risiken noch als enorm.

The security and privacy risks involved here still feel insurmountably high to me – I certainly won’t be trusting any of these products until a bunch of security researchers have given them a very thorough beating.

Simon Willison

Googles Nathan Parker verspricht derweil, dass die Sicherheit der KI-Browser ein Prozess ist. Man will die Sicherheitsmechanismen mit Experten weiterentwicklen. Und das Bug-Bounty-Programm wird ebenfalls erweitert. Bis zu 20.000 US-Dollar erhält man, wenn man Schwachstellen in der KI-Absicherung entdeckt.

Source link

Verwandte Themen:absichern Agenten ChromeBrowser Die Google kontrollieren soll Wie

Up Next

Viererpack jetzt so günstig wie selten

Nicht verpassen

Dieser TV-Sender könnte schon bald Geschichte sein

Apps & Mobile Entwicklung

Dieser Netflix-Thriller zieht euch rein

Ein mysteriöser Mord reißt eine Großstadt aus dem Alltag und setzt eine Ermittlerjagd in Gang, bei der jede Stunde zählt. Keine Umwege, kein Leerlauf – nur Spannung, Atmosphäre und ein Fall, der dich nicht mehr loslässt. Diese Serie ist ein perfekter Netflix-Fund.

Manchmal braucht es keine fünf Staffeln, keinen riesigen Mythos und keinen Cliffhanger-Marathon. Manchmal reicht eine Serie, die genau weiß, was sie erzählen will – und wann Schluss ist. Stadt der Schatten ist genau so ein Fall: kompakt, düster und ideal, wenn Ihr Euch einfach mal für ein paar Stunden verlieren wollt. Die Thriller-Miniserie setzt nicht auf laute Effekte, sondern auf Spannung, Atmosphäre und Tempo. Und genau deshalb funktioniert sie so gut als Streaming-Tipp für zwischendurch.

Eine Geschichte, die Euch nicht loslässt

Stadt der Schatten spielt in Barcelona – und nutzt die Stadt nicht nur als Kulisse, sondern als Teil der Erzählung. Als der Leichnam eines mächtigen Bauunternehmers an der Fassade der Casa Milà entdeckt wird, ist sofort klar: Das hier ist kein gewöhnlicher Mord. Alles deutet auf ein Ritual hin, auf einen Täter mit Plan.

Der Ermittler Milo Malart und seine neue Partnerin Rebecca Garrido übernehmen den Fall. Was als klassische Mordermittlung beginnt, entwickelt sich schnell zu einem Wettlauf gegen die Zeit. Denn es bleibt nicht bei einem Opfer – und jede Stunde zählt. Die Serie verzichtet auf große Umwege. Ihr seid von Anfang an mitten im Geschehen und merkt schnell: Diese Geschichte will nicht vertrösten, sondern vorantreiben.

Kurz, abgeschlossen und perfekt zum Bingen

Ein großer Pluspunkt von Stadt der Schatten ist ihr Format. Die Serie besteht aus sechs Folgen, die jeweils zwischen 42 und 53 Minuten laufen. Damit eignet sie sich ideal für einen langen Nachmittag oder einen entspannten Serienabend.

Die Handlung ist als abgeschlossene Miniserie konzipiert. Es gibt keine offenen Enden, keine künstlichen Verlängerungen und keinen Zwang zur nächsten Staffel. Ihr schaut die Serie – und seid fertig. Gerade das fühlt sich heutzutage fast schon erfrischend an.

Die Geschichte beginnt und endet in einem engen zeitlichen Rahmen. Dieses klare Korsett sorgt dafür, dass das Tempo hoch bleibt und jede Episode Gewicht hat.

Ermittler statt Superhelden halten Geschichte lebendig

Im Mittelpunkt stehen keine überzeichneten Genies, sondern Menschen mit Ecken und Kanten. Milo Malart, gespielt von Isak Férriz, wirkt erfahren, aber nicht unfehlbar. Seine neue Partnerin Rebecca Garrido, dargestellt von Verónica Echegui, bringt frische Perspektiven – und Reibung.

Gerade diese Dynamik trägt die Serie. Statt endloser Erklärdialoge entstehen Spannung und Fortschritt durch Zusammenarbeit, Konflikte und Entscheidungen unter Druck. Ihr beobachtet weniger Ermittlungsroutine und mehr Menschen, die versuchen, die Kontrolle zu behalten.

Düsterer Thriller ohne Schnörkel

Stadt der Schatten ist kein Wohlfühl-Streaming. Die Serie setzt auf eine ernste, teils beklemmende Atmosphäre. Gewalt wird nicht ausgeschlachtet, aber auch nicht beschönigt. Der Fokus liegt auf Konsequenzen, nicht auf Effekthascherei.

Der Thriller erzählt seine Geschichte geradlinig, verzichtet auf Nebenplots und bleibt nah an seinem Kern: der Jagd nach einem Täter, der immer einen Schritt voraus zu sein scheint. Genau diese Konzentration macht den Reiz aus.

Unser Fazit als Streaming-Tipp

Wenn Ihr eine Serie sucht, die Ihr komplett an einem Tag schauen könnt, ohne Euch auf jahrelange Serienbindung einzulassen, dann ist Stadt der Schatten eine klare Empfehlung. Die Miniserie ist spannend, kompakt und erzählt ihre Geschichte konsequent zu Ende. Ihr findet Stadt der Schatten exklusiv bei Netflix. Perfekt für alle, die Thriller mögen – und wissen, dass weniger manchmal mehr ist.

Vergesst Drachen und Magie - Diese Serie zeigt das Mittelalter so brutal, wie es wirklich war

Jetzt weiterlesen

Vergesst Drachen: Diese Serie zeigt das Mittelalter so brutal, wie es wirklich war

Source link

Apps & Mobile Entwicklung

MediaMarkt lockt mit zusätzlichen Rabatten auf Philips Hue

Ein smarteres Zuhause ist deutlich günstiger, als viele denken. Das beste Beispiel liefert MediaMarkt mit einem aktuellen Deal zu Philips Hue. Hier könnt Ihr Euch ein Doppelpack der beliebten smarten Beleuchtung so günstig wie nie zuvor schnappen.

Noch bis zum 31. Januar schwingt MediaMarkt den Rabatt-Hammer und bietet verschiedene Leuchtmittel von Philips Hue deutlich günstiger an. Mit dabei ist auch ein Doppelpack der aktuellen Philips Hue White & Color Ambiance-Serie. Mit den LED-Glühbirnen könnt Ihr aus über 16 Millionen Farben wählen und so immer das passende Ambiente erzeugen. Jetzt gibt’s das Set zum bisherigen Bestpreis von 49,99 Euro.

Philips Hue im Preissturz: Perfektes Ambiente zum kleinen Preis

Neben der Farbvielfalt, mit der Ihr Euer Zuhause in das optimale Ambiente tauchen könnt, bieten die dimmbaren Lichter natürlich auch ein Weißlicht-Spektrum von warm bis kühl. Mit einer Helligkeit von bis zu 1.100 Lumen sind die Philips-Hue-Leuchten zudem sehr leuchtstark. Über die Hue-App könnt Ihr aus verschiedenen Szenarien wählen oder die Lampen nach Euren Vorlieben nutzen. Zudem ermöglicht die Integration in Euer Smart Home eine Sprachsteuerung via Alexa, Google Assistant oder Siri.

Normalerweise sind smarte Leuchten von Philips Hue recht kostspielig. Die UVP reduziert MediaMarkt jetzt um 27 Prozent, wodurch Ihr nur noch 49,99 Euro zahlt. Der nächstbeste Preis im Netz ist mit 69,99 Euro deutlich teurer und auch der bisherige Bestpreis wird unterboten. Zusätzlich kostet Euch eine einzelne der smarten Leuchtmittel derzeit mindestens 39,99 Euro. Versandkosten müsst Ihr ebenfalls keine zahlen. Dadurch handelte es sich hier also um einen echten Top-Deal.

Weitere Angebote zu Philips-Hue findet Ihr auf der MediaMarkt-Aktionsseite. Möchtet Ihr ein stimmungsvolleres Zuhause, legt Wert auf energiesparende Lampen oder besitzt sogar bereits andere Hue-Produkte, kommt dieser Deal wie gerufen. Selbst am Black Friday gab es kein vergleichbares Angebot, wodurch Ihr bei MediaMarkt ordentlich sparen könnt.

Was haltet Ihr von dem Angebot? Nutzt Ihr bereits Produkte von Philips Hue? Lasst es uns in den Kommentaren wissen!

Mit diesem Symbol kennzeichnen wir Partner-Links. Wenn du so einen Link oder Button anklickst oder darüber einkaufst, erhalten wir eine kleine Vergütung vom jeweiligen Website-Betreiber. Auf den Preis eines Kaufs hat das keine Auswirkung. Du hilfst uns aber, nextpit weiterhin kostenlos anbieten zu können. Vielen Dank!

Source link

Apps & Mobile Entwicklung

Im Test vor 15 Jahren: SLI und CrossFire waren auch im Jahr 2011 schrecklich

Mit der Radeon HD 6950 und HD 6970 sowie der GeForce GTX 570 und GTX 580 hatten Anwender viel Auswahl im Bereich High-End-Grafikkarten im Jahr 2011. Wem eine dieser Grafikkarten nicht reichte, der konnte zwei oder mehr GPUs in einem CrossFire- oder SLI-Verbund betreiben (Test) wobei Nutzer auf Probleme eingestellt sein mussten.

CrossFire und SLI im Jahr 2011

Mit CrossFire und SLI boten vor 15 Jahren sowohl AMD als auch Nvidia ihre eigenen Multi-GPU-Technologien an, die es Spielern erlaubten, mehrere Grafikkarten zusammen für eine höhere Leistung zu benutzen. Dafür setzten die Hersteller beide auf eine Technik namens Alternate Frame Rendering (AFR), bei der sich alle – in der Praxis bis zu vier – Grafikkarten nacheinander abwechselten beim Rendering eines Frames. Bei sehr hoher GPU-Last und einer schnellen CPU ließen sich so die Bilder pro Sekunde deutlich steigern.

Die Technologie ging allerdings mit mehreren Problemen einher. Zum einen stieg zwar die verfügbare Rechenleistung linear mit der Anzahl der Grafikkarten, der verfügbare Speicher wuchs jedoch nicht an, da alle Grafikkarten die exakt gleichen Daten im Speicher vorhalten mussten. Zum anderen sorgten mehrere GPUs für sogenannte Mikroruckler, die daraus resultierten, dass die Abstände zwischen den Frames nicht gleichmäßig waren und das Bild trotz hoher FPS dementsprechend nicht als flüssig wahrgenommen wurde. Weitere Probleme umfassten die notwendige und oftmals schlechte Spieleunterstützung im Treiber ohne die SLI und CrossFire kaum genutzt werden konnten. Zudem skalierte die Leistung zwar in der Theorie bis zu linear mit der Anzahl der Grafikkarten, in der Praxis war das aber nicht der Fall. Das bedeutete, dass Anwender für das doppelte, dreifache oder vierfache Geld deutlich weniger als die mehrfache Leistung erhielten. Die Energieaufnahme, Temperatur und Lautstärke stiegen aber entsprechend an.

Hohe Leistung mit vielen Problemen

In puncto Leistung lieferten CrossFire und SLI auf dem Papier voll und ganz ab. In 1.920 × 1.200 Bildpunkten und vierfacher Kantenglättung legte eine GeForce GTX 570 im Durchschnitt um 71 Prozent und eine GeForce GTX 580 um 66 Prozent zu. In 2.560 × 1.600 Pixeln stiegen diese Zuwächse auf 76 respektive 70 Prozent an. AMDs CrossFire-Technologie skalierte etwas stärker und erzielte auf einer Radeon HD 6950 in 1.920 × 1.200 gute 78 Prozent Zuwachs, während eine Radeon HD 6970 auf 68 Prozent kam. In 2.560 × 1.600 sah es wie bei Nvidia mit 87 respektive 83 Prozent noch besser aus.

Abseits der Bilder pro Sekunde waren mit CrossFire die Frametimes, also wie viel Zeit jedes individuelle Bild benötigte, wichtig. In den Tests zeigte sich, dass Nvidia hier generell deutlich besser fuhr als AMD und regelmäßigere Bildabstände produzierte. Zugleich zeigte der Test aber auch, dass Mikroruckler stark vom Titel abhingen: Wer Mafia 2 mit zwei Grafikkarten spielen wollte, der hatte Pech gehabt.

In den B-Noten gaben sich alle Multi-GPU-Gespanne wie erwartet schlecht. Die Leistungsaufnahme stieg sowohl im Leerlauf als auch unter Last deutlich an, der Schalldruckpegel stieg von störend zu unerträglich mit nahezu 70 dB(A) in einem Radeon-HD-6970-CrossFire-Gespann und die GPU-Temperaturen stiegen auf nahezu 100 °C. Kurzum: Multi-GPU war nichts für jedermann.

Fazit

Am Ende des Tests stand auch im Januar 2011 fest, dass Multi-GPU trotz der in der Theorie ansprechenden Vorteile mit vielen Problemen behaftet war. Für die meisten Nutzer war die Technologie nicht geeignet. Wer sich nicht daran störte, überproportional viel Geld für mehr Leistung, die von Mikrorucklern getrübt wurde, auszugeben, der sollte dennoch über die extrem hohe Leistungsaufnahme, Lautstärke und Temperatur nachdenken. Am Ende konnte insgesamt von Multi-GPU nur abgeraten werden. Im Jahr 2026 sind sowohl CrossFire als auch SLI aus gutem Grund seit Jahren ausgestorben. Moderne Grafikkarten bieten nicht einmal mehr die notwendigen Anschlüsse, von der fehlenden Treiberunterstützung ganz abgesehen.

In der Kategorie „Im Test vor 15 Jahren“ wirft die Redaktion seit Juli 2017 jeden Samstag einen Blick in das Test-Archiv. Die letzten 20 Artikel, die in dieser Reihe erschienen sind, führen wir nachfolgend auf:

Noch mehr Inhalte dieser Art und viele weitere Berichte und Anekdoten finden sich in der Retro-Ecke im Forum von ComputerBase.

Source link