Künstliche Intelligenz
OpenAI: Prompt Injections für KI-Browser bleiben ein Problem
Prompt Injections werden laut OpenAI ein dauerhaftes Problem für KI-Browser und die darin enthaltenen Agenten sein. Aussichten auf echte Sicherheit gibt es offenbar nicht. Stattdessen vergleicht das Unternehmen den Angriff damit, dass auch Menschen auf Scam hereinfallen, und es bisher keine Möglichkeit gäbe, sie zu schützen.
Weiterlesen nach der Anzeige
Dennoch versichert OpenAI in einem Blogbeitrag, dass sie ihren KI-Browser Atlas erneut zumindest sicherer gegen Prompt Injections gemacht haben. Nur eben nicht vollständig sicher. Intern würden vom sogenannten Red-Teaming immer neue Angriffsmöglichkeiten entdeckt, gegen die der Browser – beziehungsweise das KI-Modell dahinter – abgesichert wird. Abgesichert heißt, dem Modell wird ein konkretes Beispiel mitgegeben und dazugehörige Handlungsweisen festgeschrieben. Dafür nutzt OpenAI unter anderem einen LLM-basierten Angreifer, der Agenten trainieren soll.
KI-Agenten: Vertrauen, aber keine Kontrolle
Das heißt auch, es handelt sich um eine Art Katz-und-Maus-Spiel, das Angreifer und KI-Unternehmen spielen. Jede Seite denkt sich kontinuierlich neue Angriffe aus. OpenAI schreibt, man gehe davon aus, dass Angriffe dadurch zumindest immer schwerer und teurer würden. „Letztendlich ist es unser Ziel, dass Sie einem ChatGPT-Agenten bei der Nutzung Ihres Browsers genauso vertrauen können wie einem hochkompetenten, sicherheitsbewussten Kollegen oder Freund.“
Wie weit solches Vertrauen reicht, ist wohl von Mensch zu Mensch unterschiedlich. Es zeigt aber auch, es gibt keine endgültige Sicherheit oder Kontrolle.
Bei Prompt Injections wird dem Agenten im Browser oder auch einem KI-Modell ganz grundsätzlich untergejubelt, das Modell solle sich in einer bestimmten Art verhalten oder im Falle eines Agenten auch umsetzen, also handeln. Ganz simpel kann es reichen, wenn auf einer Webseite Anweisungen wie ein Prompt für den Agenten untergebracht sind. Das geht beispielsweise mit weißer Schrift auf weißem Untergrund, sodass es für den Menschen nicht sichtbar ist, für den Agenten jedoch schon.
OpenAI nennt im Blogbeitrag das Beispiel, ein Angreifer könne eine bösartige E-Mail schreiben, die einen Agenten dazu verleitet, sensible Daten, etwa Steuerunterlagen, an eine vom Angreifer kontrollierte E-Mail-Adresse weiterzuleiten. Dabei ist es ein typisches Agenten-Szenario, dass ein solcher E-Mails automatisiert bearbeitet und zusammenfasst.
Weiterlesen nach der Anzeige
Auch Sam Altman hatte schon vor potenziellen Gefahren durch Prompt Injections für den KI-Browser Atlas und den ChatGPT Agenten gewarnt. Kurz darauf kam heraus, dass es bereits einen Angriff gegeben hatte. ChatGPT verriet dabei Angreifern persönliche Daten aus E-Mails.
(emw)
Künstliche Intelligenz
Mercedes-Benz strebt Millionen-Vergleich im Diesel-Streit in den USA an
Mit einer Zahlung von umgerechnet etwas mehr als 102 Millionen Euro will Mercedes-Benz in den USA den Streit um angebliche Abgasverstöße endgültig beilegen. Er habe Vergleiche mit US-Bundesstaaten geschlossen, teilte der Autokonzern in Stuttgart mit. Sie müssten noch von den zuständigen Gerichten abgesegnet werden. Der Mercedes-Benz Group und seiner US-Tochter werden überhöhte Abgaswerte bei rund 250.000 Dieselfahrzeugen vorgeworfen.
Weiterlesen nach der Anzeige
Für die aktuellen Vergleiche sind schon entsprechende Rückstellungen in der Bilanz gebildet. „Das Unternehmen schließt damit die wesentlichen noch offenen Rechtsverfahren im Zusammenhang mit Diesel-Emissionen in den USA ab“, sagte ein Sprecher. Durch die Vergleiche vermeide es langwierige und kostenintensive Auseinandersetzungen vor Gericht.
Mercedes-Benz kostet der Diesel-Skandal Milliarden in den USA
Seit 2016 steht Daimler wegen angeblich frisierter Messwerte zum Ausstoß des Schadstoffs Stickoxid im Visier der US-Justiz. Gezielte Manipulationen der Abgastechnik mit einer Schummelsoftware, wie sie jahrelang bei Volkswagen (VW) zum Einsatz kam, hat der Konzern jedoch stets zurückgewiesen.
Anders als VW, das 2015 auf Druck der US-Behörden Abgasbetrug im großen Stil einräumte, gab Mercedes-Benz im Rahmen der bisherigen Vergleiche und der aktuellen Vereinbarung kein Schuldeingeständnis ab. In der Folge muss Mercedes auch keine Fahrzeuge von Kunden zurückkaufen oder sich durch einen Aufpasser von den US-Behörden überwachen lassen. Dafür musste der Stuttgarter Konzern die Autos, ähnlich wie in Europa, per Software-Update nachbessern.

(Bild: EPA
)
Mercedes-Benz hat laut Mitteilung gemäß einer früheren Vereinbarung bereits mehr als 85 Prozent der Autos und Transporter auf die entsprechende neue Software aktualisiert. Ziel eines neuen Anreizprogramms sei nun, über das im Vergleich von 2020 hinaus vereinbarte Maß zusätzliche Software-Updates zu fördern, teilt das Unternehmen weiter mit.
Weiterlesen nach der Anzeige
Nach Angaben des Sprechers beliefen sich die Kosten für die Beilegung des Diesel-Skandals in den USA inklusive der neuen Vergleiche auf über zwei Milliarden Euro. Das US-Justizministerium hat seine strafrechtlichen Ermittlungen gegen Mercedes-Benz 2024 eingestellt.
Lesen Sie auch
(wpl)
Künstliche Intelligenz
300 Terabyte Musik und Metadaten von Spotify heruntergeladen
„We backed up Spotify (medatada and music files)”, meldet das Archiv-Projekt Anna’s Archive. Es hat 86 Millionen Musikstücke heruntergeladen. Das entspricht den Angaben zufolge etwa 37 Prozent aller bei Spotify gehosteten Aufnahmen, aber 99,6 Prozent aller Spotify-Streamingvorgänge. Vielleicht noch wertvoller sind die fast vollständig kopierten Metadaten, von 256 Millionen Aufnahmen und 186 Millionen einzelnen ISR-Codes (International Standard Recording Codes).
Weiterlesen nach der Anzeige
Die Datensammlung von insgesamt rund 300 Terabyte wurde im Wesentlichen im Juli beendet. Legal ist sie nicht, denn Zustimmung Spotifys oder der Rechteinhaber gab es keine. Der Streaminganbieter ist entsprechend erbost. Er spricht von einem „Anti-Copyright-Angriff” und gibt an, die für die Zugriffe verwendeten Nutzerkonten deaktiviert zu haben. Neue Sicherheitsmaßnahmen sollen weitere Massendownloads hintanhalten. „Seit dem ersten Tag steht Spotify an der Seite der Künstler-Community im Kampf gegen Piraterie und arbeitet aktiv mit Branchenpartnern zusammen, um Kreative zu schützen und ihre Rechte zu verteidigen“, sagte eine PR-Firma im Auftrag Spotifys zu heise online.
Spotifys Sparpaket
Finanziell wird es für die weit überwiegende Mehrheit der Rechteinhaber keinen Unterschied machen, ob sie von Spotify oder von Anna’s Archive keine Tantiemen erhalten. Seit Anfang 2024 schüttet Spotify nichts mehr aus, wenn eine Aufnahme in einem Jahr nicht mindestens 1.000 mal gestreamt wird. Das betrifft laut Anna’s Archive über 70 Prozent aller Musikstücke. Damit gehen insbesondere Nischenkünstler und Neulinge leer aus.
Zusätzlich hat Spotify Maßnahmen gesetzt, um den an Musik-Rechteinhaber ausgeschütteten Anteil des Umsatzes zu reduzieren. Einerseits soll Spotify insgeheim Musik unter Tarnnamen produziert haben, an der es selbst die Rechte hält, und die von Spotifys Algorithmen gerne eingestreut wird.
Andererseits hat das schwedische Unternehmen Hörbücher hinzugefügt und dann eine Vertragsklausel aktiviert, um unter Verweis auf die Hörbücher die Ausschüttungen an die US-Musikverwertungsgesellschaft MLC fast zu halbieren. Ein US-Bundesbezirksgericht hat diesen Tantiementrick als vertragskonform festgestellt. In der Folge konnte Spotify nach 17 Jahren erstmals Nettogewinn melden.
Die Metadaten
Weiterlesen nach der Anzeige
Anna’s Archive möchte die rund 300 Terabyte Daten schrittweise mit dem Torrent-Protokoll online stellen. Den Anfang machen die Metadaten. Sie sind bei Insidern begehrter als die Musik, die man ja bei Streaming-Diensten finden kann.
Eine öffentliche, zentrale Sammlung aller ISRC-Datensätze fehlt hingegen bislang. Selbst der Branchenverband IFPI (International Federation of the Phonographic Industry), der seit 1988 seinen Mitgliedern die Verwendung ISRCs empfiehlt, betreibt kein Verzeichnis. Somit können Forscher keine Marktanalysen machen, Musikliebhaber nur bedingt Einblick nehmen, und die Urheber vieler in Umlauf befindlicher Aufnahmen bleiben im Dunkeln.
Am Nächsten dürfte die private Firma Word Collections kommen, die bei kooperierenden digitalen Musikdiensten Metadaten einsammelt und monatlich aktualisiert. Diese Datenbank ist allerdings nicht öffentlich. Word Collections vertritt Rechteinhaber gegenüber Streamingdiensten unter Ausklammerung von Verwertungsgesellschaften, wodurch Künstler deutlich mehr verdienen sollen. Wie heise online in Erfahrung bringen konnte, hat die jüngste ISRC-Datenbank dieser Firma 240 Millionen unterschiedliche Einträge.
Das ist ein Stück mehr als die 186 Millionen, die sich Anna’s Archive beschafft hat. Allerdings wächst Word Collections Datensammlung seit drei Monaten enorm, weil digitale Musikdienste von Dritten mit KI-generierten Dateien eingedeckt werden. Die Sammlung Annas’ Archives reicht nur bis Juli; die KI-Flut erklärt einen Teil der Differenz. Den anderen Teil erklärt die nicht lückenlose Sammlung der Metadaten von Stücken, die bei Spotify kaum gespielt werden.
Künstliche Intelligenz
Nationale Sicherheit gefährdet: US-Regierung stoppt Offshore-Windprojekte
Die US-Regierung hat die Mietverträge und Bauarbeiten für fünf große Offshore-Windenergieprojekte an der Ostküste vorübergehend ausgesetzt. Grund seien nationale Sicherheitsbedenken, wie das US-Innenministerium mitteilte.
Weiterlesen nach der Anzeige
Demnach sollen die Lizenzen für die im Bau befindlichen Offshore-Windparks pausiert werden, um Zeit für eine Überprüfung möglicher Risiken zu gewinnen. Es gebe Regierungsberichte, wonach die Bewegung massiver Turbinenblätter und die stark reflektierenden Türme Radarstörungen verursachten. Das erschwere das Erkennen von feindlichen Bedrohungen.
Die Entscheidung betrifft Projekte vor Massachusetts, Connecticut, New York sowie der Küste Virginias, die bereits große Investitionen und Bauarbeiten vorzuweisen haben.
Opposition wirft Regierung politisch motiviertes Vorgehen vor
Kritik kam unter anderem von dem demokratischen Fraktionschef im US-Senat, Chuck Schumer. Er warf Präsident Donald Trump vor, mit einem „irrationalen und ungerechtfertigten“ Vorgehen gezielt Offshore-Windprojekte und damit die Windkraft zu blockieren. Die Entscheidung werde Energiepreise weiter in die Höhe treiben, Tausende gewerkschaftlich organisierte Arbeitsplätze gefährden und die Stabilität des Stromnetzes untergraben, erklärte Schumer.
Auch Umweltgruppen und weitere politische Vertreter sehen Medienberichten zufolge in dem Schritt eine politisch motivierte Belastung der Windenergiebranche, die zuvor umfangreiche Genehmigungs- und Sicherheitsprüfungen durchlaufen habe – teils auch unter früheren Regierungen. Branchenvertreter und Projektentwickler prüfen demnach die Auswirkungen der Maßnahme auf Arbeitsplätze und Investitionen und haben teilweise juristische Schritte angekündigt.
(olb)
-
UX/UI & Webdesignvor 2 MonatenIllustrierte Reise nach New York City › PAGE online
-
Künstliche Intelligenzvor 2 MonatenAus Softwarefehlern lernen – Teil 3: Eine Marssonde gerät außer Kontrolle
-
Künstliche Intelligenzvor 2 Monaten
Top 10: Die beste kabellose Überwachungskamera im Test
-
UX/UI & Webdesignvor 2 MonatenSK Rapid Wien erneuert visuelle Identität
-
Künstliche Intelligenzvor 2 MonatenNeue PC-Spiele im November 2025: „Anno 117: Pax Romana“
-
Entwicklung & Codevor 1 MonatKommandozeile adé: Praktische, grafische Git-Verwaltung für den Mac
-
Künstliche Intelligenzvor 2 MonatenDonnerstag: Deutsches Flugtaxi-Start-up am Ende, KI-Rechenzentren mit ARM-Chips
-
UX/UI & Webdesignvor 2 MonatenArndt Benedikt rebranded GreatVita › PAGE online
