Apps & Mobile Entwicklung

KI soll die KI kontrollieren: Wie Google die Agenten im Chrome-Browser absichern will

Indem Browser immer mehr KI-Funktionen und Agenten erhalten, droht eine neue Klasse an Sicherheitsrisiken. Um die integrierten KI-Modelle abzusichern, will Google im Chrome-Browser ein weiteres KI-Modell einführen, das die KI-Aktivitäten kontrolliert.

Nathan Parker vom Chrome Security Team spricht in einem Blog-Beitrag von einer neuen Sicherheitsarchitektur, die insbesondere die Agenten-Fähigkeiten in Chrome absichern soll. Es geht also um Anwendungen, bei denen das KI-System im Browser autonom handelt, indem es etwa eigenständig Webseiten bedient.

IndirektePrompt Injections als Angriffsrisiko

Eine Bedrohung, die praktisch alle KI-Browser betrifft, sind indirekte Prompt Injections. Bei Prompt Injections handelt es sich im Kern um manipulierte Prompt-Eingaben, die Sprachmodelle (LLM) zu unerwünschten Antworten verleiten sollen, die etwa gegen die Vorgaben der KI-Entwickler verstoßen. Eines der klassischen Beispiele ist der Oma-Hack: Zeitweise konnte man die internen Vorgaben von ChatGPT aushebeln, indem man den Chatbot aufforderte, eine Gute-Nacht-Geschichte wie die verstorbene Oma zu erzählen. Auf diese Weise ließ sich ChatGPT dann auch das Rezept von Napalm entlocken, obwohl OpenAI solche Antworten eigentlich untersagt.

Bei den indirekten Prompt Injections befindet sich der manipulierte Prompt nicht direkt in der Eingabe des Nutzers, sondern beispielsweise auf einer Webseite. Wenn ein Nutzer mit einem aktivierten KI-Agenten im Browser dann eine solche Webseite aufsucht, besteht die Gefahr, dass das KI-System ein Einfallstor für eine Cyber-Attacke ist. Angreifer könnten den Agenten etwa dazu verleiten, persönliche Daten über den Nutzer preiszugeben. Denkbar wäre aber – je nach Grad der Autonomie eines Agenten –, dass dieser sogar finanzielle Transaktionen veranlasst.

KI-Entwickler versuchen sich ohnehin, die Systeme gegen Prompt Injections zu wappnen. Google legt nun ein Konzept mit weiteren Sicherheitsebenen vor. Ein zentraler Bestandteil ist die user alignment critic. Aktionen eines Agenten werden dabei von einem separaten Modell kontrolliert, das keinen Kontakt zu Inhalten hat, die als nicht-vertrauenswürdig gelten.

user alignment critic: Das Kontroll-Modell kann ein Veto einlegen

Das Ziel ist eine doppelte Kontrolle. Das zweite Modell kontrolliert jederzeit, ob Aktionen eines Agenten immer mit den Zielen des Nutzers in Einklang stehen. Wenn die Handlungen nicht den Vorgaben entsprechen, legt das Kontroll-Modell ein Veto ein. Um es selbst vor Angriffen zu schützen, ist es so konzipiert, dass es nur Zugang zu Metadaten hat, die die jeweiligen Aktionen beschreiben. Ungefilterte Inhalte bekommt es nicht zugespielt.

Its primary focus is task alignment: determining whether the proposed action serves the user’s stated goal. If the action is misaligned, the Alignment Critic will veto it. This component is architected to see only metadata about the proposed action and not any unfiltered untrustworthy web content, thus ensuring it cannot be poisoned directly from the web.

Anpassungen sind in weiteren Bereichen erforderlichen. Bestehende Techniken wie Site Isolation und same-origin policy können mit Agenten ausgehebelt werden, weil die KI-Systeme quasi per Konzept über mehrere Webseiten hinweg agieren sollen – also beispielsweise in einem Rezept die Zutaten erfassen und diese auf einer Shopping-Seite in den Warenkorb legen. Daher integriert man das Prinzip Agent Origins Set in die Sicherheitsarchitektur. Es soll sicherstellen, dass Agenten nur auf Daten zugreifen, die für die jeweilige Aufgabe erforderlich sind.

Weitere Änderungen an der Sicherheitsarchitektur beschreibt Parker noch im Blog. Transparenz und Nutzerkontrolle sollen etwa wie gehabt eine zentrale Rolle spielen. Selbst wenn die KI-Assistenten autonom handeln, sollen Nutzer nachvollziehen können, was im Browser vor sich geht. Wenn der Agent auf sensible Daten wie Gesundheitsdaten oder beim Online-Banking zugreift, müssen Nutzer zustimmen. Dasselbe gilt generell für Aktionen wie Bankgeschäfte, ohne Zustimmung sollen diese nicht stattfinden.

KI-Browser kommen – und damit auch die Risiken

Auftakt für Googles KI-Browser ist Gemini in Chrome. Derzeit werden die KI-Funktionen für berechtige Windows- und Mac-Nutzer in den USA eingeführt, wenn die Chrome-Sprache auf Englisch eingestellt ist. Weitere Sprachen und Regionen sollen im Laufe der Zeit folgen.

ChatGPT Atlas: OpenAI bringt eigenen Browser auf den Markt

An AI-Browsern entwickelt ohnehin nicht nur Google. Perplexity hat mit Comet bereits eine entsprechende Variante vorgestellt, die Browser Company entwickelt Dia. Noch mehr Aufmerksamkeit erhielt das Thema, als OpenAI den Atlas-Browser vorstellte. Dieser bietet neben der engen Anbindung an ChatGPT auch einen Agenten-Modus, der eigenständig Aufgaben im Sinne der Nutzer erfüllen soll.

OpenAI bezeichnet Prompt Injections als ungelöstes Problem

Was Google jetzt vorstellt, ist ein konzeptueller Ansatz für die Risiken, vor denen Entwickler und Sicherheitsexperten bei den KI-Browsern seit geraumer Zeit warnen. Selbst OpenAIs Chief Information Security Officer Dane Stuckey räumte kurz nach dem Atlas-Start ein, dass Prompt Injections eines der ungelösten Probleme sind, die noch viel Zeit erfordern.

However, prompt injection remains a frontier, unsolved security problem, and our adversaries will spend significant time and resources to find ways to make ChatGPT agent fall for these attacks.

Dan Stuckey via X

Man hat das Problem also auf dem Schirm, man arbeitet an Lösungen und versucht es einzudämmen. Vom Tisch ist es aber noch nicht. Und wie relevant es ist, zeigt sich voraussichtlich erst, je weiter sich die KI-Browser verbreiten. Entwickler wie Simon Willison äußern sich daher skeptisch bis zurückweisend. Er würde keinem dieser Produkte trauen, solange eine Reihe von IT-Sicherheitsforschern diese nicht sehr gründlich untersucht haben. Aktuell bezeichnet er die Sicherheits- und Privatsphäre-Risiken noch als enorm.

The security and privacy risks involved here still feel insurmountably high to me – I certainly won’t be trusting any of these products until a bunch of security researchers have given them a very thorough beating.

Simon Willison

Googles Nathan Parker verspricht derweil, dass die Sicherheit der KI-Browser ein Prozess ist. Man will die Sicherheitsmechanismen mit Experten weiterentwicklen. Und das Bug-Bounty-Programm wird ebenfalls erweitert. Bis zu 20.000 US-Dollar erhält man, wenn man Schwachstellen in der KI-Absicherung entdeckt.

Source link

Verwandte Themen:absichern Agenten ChromeBrowser Die Google kontrollieren soll Wie

Up Next

Viererpack jetzt so günstig wie selten

Nicht verpassen

Dieser TV-Sender könnte schon bald Geschichte sein

Apps & Mobile Entwicklung

Branchenbeben: TV-Markt vor großer Wende

Das ist eine Nachricht, die den TV-Markt ordentlich durchschüttelt: Sony und TCL wollen gemeinsam ein neues Unternehmen gründen. Laut einer offiziellen Absichtserklärung soll ein Joint Venture entstehen, bei dem TCL 51 Prozent der Anteile übernimmt und damit künftig das Sagen hat.

Sony bleibt mit 49 Prozent beteiligt, zieht sich aber ein Stück weit aus der operativen Verantwortung zurück. Für viele Branchenbeobachter ist klar: Das ist kein gewöhnlicher Deal, sondern ein strategischer Einschnitt – für Sony, für den TV-Markt und letztlich auch für Euch als Käufer von Fernsehern und Home-Audio-Produkten.

Die wichtigsten Fakten zum Sony-TCL-Joint-Venture auf einen Blick

Bevor wir tiefer einsteigen, hier die zentralen Eckdaten:

Gemeinschaftsunternehmen geplant: Sony und TCL bündeln ihre TV- und Home-Audio-Geschäfte
Mehrheit bei TCL: 51 Prozent der Anteile, damit Kontrolle über das Joint Venture
Sony bleibt beteiligt: 49 Prozent, Fokus auf Technologie und Marke
Marken bleiben bestehen: Sony und Bravia sollen weiterhin genutzt werden

Ziel ist es bis Ende März 2026 die verbindlichen Verträge auszuhandeln und zu unterschreiben. Start des Joint Ventures soll dann voraussichtlich April 2027 sein. Noch ist nichts final, aber die Richtung ist klar: Sony verändert seine Rolle im TV-Geschäft grundlegend.

Sony legt Fokus auf Unterhaltung – aber anders als bisher

Wenn Ihr Sony seit Jahren verfolgt, kommt dieser Schritt nicht völlig überraschend. Sony verabschiedet sich schon länger Stück für Stück aus margenschwachen Hardware-Bereichen. Ein bekanntes Beispiel:

Die VAIO-PC-Sparte wurde bereits vor Jahren ausgegliedert
Der Fokus liegt zunehmend auf Entertainment, Games, Film, Musik und Sensorik

Fernseher sind zwar ein prestigeträchtiges Produkt – wirtschaftlich aber zunehmend schwierig. Der Preisdruck ist enorm, die Margen sind niedrig und die Konkurrenz aus China und Südkorea ist gnadenlos effizient.

Warum Sony diesen Schritt geht

Sony war einst eine der dominierenden TV-Marken weltweit. Trinitron, Bravia, OLED-Referenzen – all das hat den Markt geprägt. Doch die Realität sieht heute anders aus:

Die Probleme im TV-Markt

Sinkende Margen trotz technischer Innovationen
Hohe Produktionskosten
Aggressive Konkurrenz von Herstellern wie Samsung, LG, TCL oder Hisense
Preisgetriebene Kaufentscheidungen statt Markenloyalität

Sony hat zwar technologisch oft die Nase vorn, verdient damit aber immer weniger Geld. Genau hier setzt das geplante Joint Venture an.

Das bringt Sony ein

Tiefes Know-how in Bildverarbeitung
Starke Audio-Kompetenz
Hohe Markenbekanntheit und Premium-Image
Erfahrung im High-End-Segment

Das bringt TCL ein

Moderne Display-Fertigung
Vertikal integrierte Lieferketten
Sehr kosteneffiziente Produktion
Massive Stückzahlen und Skaleneffekte

Kurz gesagt: Sony liefert die Technologie und das Image – TCL liefert die Industrie-Power.

Technologische Mischung statt kompletter Neuausrichtung

Spannend wird es künftig aber wohl unter der Haube der Fernseher. Künftig ist mit einer stärkeren Verzahnung der Technologien zu rechnen:

Sony-typische Bildprozessoren und Audio-Algorithmen
TCL-eigene Display-Panels und Fertigungsprozesse
Optimierung auf Kosten, Energieeffizienz und Skalierung

Das kann unter dem Strich zwei Effekte haben, die aber noch nicht final bestätigt sind.

Bravia-TVs könnten günstiger werden
Die technische Ausrichtung könnte sich leicht verändern

Vor allem im Mittelklasse-Segment dürfte TCL künftig mehr Einfluss haben als bisher. High-End-Modelle dürften hingegen weiterhin stark von Sony geprägt werden. Die zentrale Botschaft hinter dem neuen Deal ist aber klar:

Analysten sprechen von einem Beben im TV-Markt

In der Branche wird der Deal als Signal mit großer Tragweite gewertet. Denn Sony ist nicht irgendein Hersteller, sondern eine Ikone der Unterhaltungselektronik. Klassische TV-Hardware wird für etablierte Marken immer schwieriger wirtschaftlich zu betreiben. Was heute Sony macht, könnte morgen auch andere Hersteller betreffen.

Was Ihr als Käufer jetzt wissen solltet

Auch wenn das Joint Venture erst 2027 starten soll, lohnt sich der Blick nach vorn:

Kurzfristig ändert sich nichts
Mittelfristig könnten Preise attraktiver werden
Langfristig dürfte sich der TV-Markt weiter konsolidieren

Der TV-Markt bleibt spannend – und dieses Joint Venture ist erst der Anfang.

Clay Brody (Martin Compston) in der zweiten Staffel von

Jetzt weiterlesen

Sky setzt Top-Serie im Februar mit zweiter Staffel fort

Source link

Apps & Mobile Entwicklung

Wochenrück- und Ausblick: Upsampling-Vergleich zeigt die Fortschritte der letzten Jahre

Ein jüngster Vergleich von DLSS 4.5, DLSS 4 und FSR AI verdeutlicht, welche Fortschritte Upsampling-Technologien seit der Einführung und damit in vergleichsweise kurzer Zeit gemacht haben. Dieser Test hat diese Woche die meisten Leser angezogen. Bei den Tagesmeldungen hat erneut die Speicherkrise die Nachrichten dominiert.

Moderne Upsampling-Technologien machen seit der Ersteinführung 2019 noch immer teils große Entwicklungsschritte, wie die aktuellen Versionen von Nvidia DLSS und AMD FSR zeigen. Nach Einzeltests der verschiedenen Versionen hat die Redaktion diese Woche einen Direktvergleich von DLSS 4.5, DLSS 4 und FSR AI veröffentlicht, der auf großes Interesse der Leser gestoßen ist, wie der Spitzenplatz in den Charts zeigt.

Schlecht ist keine aktuelle Upsampling-Technologie mehr

Zwischenzeitlich haben Nvidia und AMD derart gute Lösungen entwickelt, dass alle im Vergleich angebrachten Kritikpunkte am Ende Meckern auf hohem Niveau sind. Einen Gewinner gab es am Ende aber trotzdem: DLSS 4.5. Nvidia liefert damit zwar nicht immer, aber meistens das beste Upsampling. Nvidia hat es innerhalb eines Jahres nach dem Release von DLSS 4 geschafft, das beste Upsampling noch einmal besser zu machen. DLSS 4.5 geht die Fehler von DLSS 4 effektiv an und reduziert diese entweder sichtbar oder stellt sie komplett ab. Das Endergebnis ist ein nach heutigen Maßstäben nahezu perfektes Bild.

DLSS 4.5 führt das Feld an

Auch AMD FSR Upscaling AI ist eine sehr gute Upsampling-Technologie, die oft der nativen Auflösung überlegen oder mindestens ebenbürtig ist. Doch sollte sich FSR AI zum Release mit DLSS 4 duellieren und nicht mit dem neuen DLSS 4.5. Der größte Unterschied ist in dem mit mehr Details versehenen Bild zu erkennen. Gerade in Bewegung schneidet das neue DLSS derzeit noch klar besser ab als FSR AI.

Intel will Speicherkrise entschärfen

Die anhaltende Speicherkrise hat auch diese Woche wieder für Schlagzeilen gesorgt. Während die Stimmung bei den Verbrauchern im Allgemeinen betrachtet eher pessimistisch ist und die Preissteigerungen real sind, sieht Intel die Situation weniger dramatisch. Zumindest versuchte Nish Neelalojanan, Senior Director of Product Management bei Intel, im Gespräch mit Tom’s Guide die Lage zu entschärfen.

Die (noch) höheren Kosten kommen erst noch

Demnach werde vor allem bei Laptops sehr lange im Voraus geplant und entsprechend für Reserven gesorgt. Daher könne die Branche die Krise voraussichtlich gut überstehen, auch ohne die Preise anzuheben. Allerdings muss dabei bedacht werden, dass schon jetzt RAM für die kommenden Jahre eingekauft werden muss. Und dieser ist bekanntlich derzeit extrem teuer. Mittelfristig könnten sich diese höheren Kosten also doch auf die Notebooks auswirken oder dazu führen, dass weniger Speicher verbaut wird. Marktforscher gehen für dieses Jahr von Preissteigerungen im Bereich von 20 Prozent aus, bedingt sowohl durch teureren RAM als auch durch höhere NAND-Kosten für SSDs.

Das leidige 12V-2×6-Problem im Podcast

In eine gänzlich andere Richtung ging es diese Woche beim ComputerBase-Podcast. Anstelle von AI-Upsampling und Speicherkrise ging es dort (unter anderem) mal wieder um das leidige 12V-2×6-Problem und die ersten Produkte, die versprechen, vor angeschmorten Kabeln, Grafikkarten und Netzteilen zu schützen. Mit dem Anti-Melt-Kabel von Cybenetics (Test) und dem WireView Pro II (Test) hat sich ComputerBase zwei Möglichkeiten angesehen, die zumindest vor den Symptomen eines auf Abwege geratenen 12V-2×6-Kabels bewahren können.

Mit diesem Lesestoff im Gepäck wünscht die Redaktion einen erholsamen Sonntag! In der kommenden Woche wird der Deep Dive zu DLSS 4.5, DLSS 4 und FSR AI fortgesetzt. Nachdem es diese Woche um die Bildqualität ging, stehen nächste Woche Benchmarks im Fokus.

Source link

Apps & Mobile Entwicklung

Dieser Netflix-Thriller zieht euch rein

Ein mysteriöser Mord reißt eine Großstadt aus dem Alltag und setzt eine Ermittlerjagd in Gang, bei der jede Stunde zählt. Keine Umwege, kein Leerlauf – nur Spannung, Atmosphäre und ein Fall, der dich nicht mehr loslässt. Diese Serie ist ein perfekter Netflix-Fund.

Manchmal braucht es keine fünf Staffeln, keinen riesigen Mythos und keinen Cliffhanger-Marathon. Manchmal reicht eine Serie, die genau weiß, was sie erzählen will – und wann Schluss ist. Stadt der Schatten ist genau so ein Fall: kompakt, düster und ideal, wenn Ihr Euch einfach mal für ein paar Stunden verlieren wollt. Die Thriller-Miniserie setzt nicht auf laute Effekte, sondern auf Spannung, Atmosphäre und Tempo. Und genau deshalb funktioniert sie so gut als Streaming-Tipp für zwischendurch.

Eine Geschichte, die Euch nicht loslässt

Stadt der Schatten spielt in Barcelona – und nutzt die Stadt nicht nur als Kulisse, sondern als Teil der Erzählung. Als der Leichnam eines mächtigen Bauunternehmers an der Fassade der Casa Milà entdeckt wird, ist sofort klar: Das hier ist kein gewöhnlicher Mord. Alles deutet auf ein Ritual hin, auf einen Täter mit Plan.

Der Ermittler Milo Malart und seine neue Partnerin Rebecca Garrido übernehmen den Fall. Was als klassische Mordermittlung beginnt, entwickelt sich schnell zu einem Wettlauf gegen die Zeit. Denn es bleibt nicht bei einem Opfer – und jede Stunde zählt. Die Serie verzichtet auf große Umwege. Ihr seid von Anfang an mitten im Geschehen und merkt schnell: Diese Geschichte will nicht vertrösten, sondern vorantreiben.

Kurz, abgeschlossen und perfekt zum Bingen

Ein großer Pluspunkt von Stadt der Schatten ist ihr Format. Die Serie besteht aus sechs Folgen, die jeweils zwischen 42 und 53 Minuten laufen. Damit eignet sie sich ideal für einen langen Nachmittag oder einen entspannten Serienabend.

Die Handlung ist als abgeschlossene Miniserie konzipiert. Es gibt keine offenen Enden, keine künstlichen Verlängerungen und keinen Zwang zur nächsten Staffel. Ihr schaut die Serie – und seid fertig. Gerade das fühlt sich heutzutage fast schon erfrischend an.

Die Geschichte beginnt und endet in einem engen zeitlichen Rahmen. Dieses klare Korsett sorgt dafür, dass das Tempo hoch bleibt und jede Episode Gewicht hat.

Ermittler statt Superhelden halten Geschichte lebendig

Im Mittelpunkt stehen keine überzeichneten Genies, sondern Menschen mit Ecken und Kanten. Milo Malart, gespielt von Isak Férriz, wirkt erfahren, aber nicht unfehlbar. Seine neue Partnerin Rebecca Garrido, dargestellt von Verónica Echegui, bringt frische Perspektiven – und Reibung.

Gerade diese Dynamik trägt die Serie. Statt endloser Erklärdialoge entstehen Spannung und Fortschritt durch Zusammenarbeit, Konflikte und Entscheidungen unter Druck. Ihr beobachtet weniger Ermittlungsroutine und mehr Menschen, die versuchen, die Kontrolle zu behalten.

Düsterer Thriller ohne Schnörkel

Stadt der Schatten ist kein Wohlfühl-Streaming. Die Serie setzt auf eine ernste, teils beklemmende Atmosphäre. Gewalt wird nicht ausgeschlachtet, aber auch nicht beschönigt. Der Fokus liegt auf Konsequenzen, nicht auf Effekthascherei.

Der Thriller erzählt seine Geschichte geradlinig, verzichtet auf Nebenplots und bleibt nah an seinem Kern: der Jagd nach einem Täter, der immer einen Schritt voraus zu sein scheint. Genau diese Konzentration macht den Reiz aus.

Unser Fazit als Streaming-Tipp

Wenn Ihr eine Serie sucht, die Ihr komplett an einem Tag schauen könnt, ohne Euch auf jahrelange Serienbindung einzulassen, dann ist Stadt der Schatten eine klare Empfehlung. Die Miniserie ist spannend, kompakt und erzählt ihre Geschichte konsequent zu Ende. Ihr findet Stadt der Schatten exklusiv bei Netflix. Perfekt für alle, die Thriller mögen – und wissen, dass weniger manchmal mehr ist.