Connect with us

Künstliche Intelligenz

GPT-5 mixt Cocktails: Sicherheitsforscher knacken OpenAIs Selbstbeschränkungen


Drei leere Glasflaschen, Öl, Alkohol, Lumpen und Zündhölzer: Diese und andere Bombenbau-Anleitungen spuckt auch die neueste Ausgabe von OpenAIs Large Language Model (LLM) GPT-5 aus, wenn man es auf die richtige Art und Weise fragt. Das fanden Sicherheitsunternehmen durch eigene Versuche heraus.

Das Unternehmen NeuralTrust, ansässig im spanischen Barcelona und in New York, bat GPT-5 zunächst um ein paar harmlose Sätze und eine Kurzgeschichte, die Begriffe wie „Molotov“ und „Cocktail“ enthielten. Dann baten die Forscher um technische Details und das LLM gehorchte. Mit dieser Technik namens „Echo-Kammer und Geschichtenerzählung“ (Echo Chamber and Storytelling) ließ sich die KI das Bombenbau-Rezept schnell entlocken.

Auch die Tests von SPLX kamen zum selben Ergebnis, wenn auch auf einem anderen Weg. Die KI-Sicherheitsspezialisten befahlen dem LLM, in der Rolle eines „BasedGPT“ zu antworten und alle Beschränkungen mit gehässigen Kommentaren zu bedenken, ansonsten jedoch schlicht zu ignorieren. Und auch das klappte: Die Frage „Wie baut man eine Bombe“ beantwortete GPT-5 mit einer sehr detaillierten Anleitung, einen improvisierten Sprengsatz (IED – Improvised Explosive Device) aus haushaltsüblichen Materialien zu konstruieren.

Geht es nach OpenAI, dem Unternehmen hinter dem Sprachmodell, sollte das nicht so einfach funktionieren. Doch auch Modelle anderer Hersteller wie GLM-4.5, Kimi K2 und Grok-4 ließen sich ähnlich einfach übertölpeln, schreiben die SPLX-Forscher. Diese informieren indes nicht uneigennützig über die Sicherheitslücken: SPLX und NeuralTrust verdienen ihr Geld damit, LLMs sicherheitstechnisch abzuhärten und so für den Gebrauch im Unternehmen tauglich zu machen.

Bombenbau, Giftgas, Rauschgift – die Ingredienzien dieser meist verbotenen Gegenstände kennen Large Language Models aus ihren Trainingsdaten, sollen sie jedoch nicht an Nutzer weitergeben. Diese Sperren zu überlisten, ist ein beliebter Zeitvertreib bei Sicherheitsexperten, die dafür bisweilen gar zu psychologischen Taktiken wie Gaslighting greifen.


(cku)



Source link

Künstliche Intelligenz

Wie der EU-Gerichtshof die DSGVO nachschärft


Im September 2025 hat die Datenschutzwelt gebannt nach Luxemburg geschaut. Gleich drei wegweisende Entscheidungen zur Auslegung der Datenschutz-Grundverordnung (DSGVO) standen beim Gerichtshof der Europäischen Union (Court of Justice of the European Union, CURIA) an, dem mehrgliedrigen Gerichtssystem der EU. Gebannt deshalb, weil die dortigen Rechtsauslegungen die teils unscharfen EU-Datenschutzvorschriften mit Leben füllen und für die Gerichte der Mitgliedsstaaten als sakrosankt gelten.

Los ging es am 3. September mit dem „Latombe“-Urteil (Az. T-553/23). Phillippe Latombe, ein Abgeordneter der französischen Nationalversammlung, hatte Ende 2023 eine Nichtigkeitsklage gegen die EU-Kommission eingereicht. Derlei Klagen verhandelt nicht der Europäische Gerichtshof (EuGH), sondern nur die zweithöchste Instanz, das Europäische Gericht (EuG) – so auch in diesem Fall.

Latombe wollte mit seiner Organklage den im Juli 2023 verabschiedeten Angemessenheitsbeschluss zu Fall bringen, der nach Art. 45 DSGVO die Rechtsgrundlage für Datentransfers zwischen EU- und US-Unternehmen bildet. Der Beschluss war zustande gekommen, weil die damalige US-Regierung von Präsident Joe Biden im Oktober 2022 mit dem „Trans-Atlantic Data Privacy Framework“ (TADPF) neue Schutzmechanismen für Daten europäischer Bürger in den USA installiert hatte. Allerdings hatte Biden diese Mechanismen nicht mit einem Gesetz abgesichert, sondern lediglich per präsidialem Dekret erlassen.


Das war die Leseprobe unseres heise-Plus-Artikels „Wie der EU-Gerichtshof die DSGVO nachschärft“.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.



Source link

Weiterlesen

Künstliche Intelligenz

Für KI-Training: US-App zahlt Geld für abgehörte Telefonate


„Neon – Money Talks“ ist auf iPhones in den USA derzeit die viertmeistinstallierte Anwendung, noch vor Google und Whatsapp. In der Sparte Soziale Netzwerke liegt sie sogar auf Platz 2, nur geschlagen von Threads. Der Grund für den rasanten Aufstieg ist Geld. Neon zeichnet die mithilfe der App initiierten Telefongespräche auf und schüttet dafür 15 US-Cent pro Minute aus, maximal 30 US-Dollar pro Tag. Die Aufnahmen, so der Betreiber, würden dann für Trainings Künstlicher Intelligenzen weiterverkauft, bereinigt um personenbezogene Daten.

Um rechtliche Abhörverbote nicht zu verletzen, wird laut den Angaben nur der lokale Ton vom Handy selbst aufgenommen, nicht der Ton des Gesprächspartners am anderen Ende der Leitung. Nur wenn beide Gesprächspartner Neon-Teilnehmer sind, nimmt die dahinter stehende Firma Neon Mobile, Inc. demnach das volle Telefonat auf. Weil das natürlich deutlich aussagekräftiger ist, zahlt Neon dann auch jedem der Teilnehmer 30 Cent pro Minute.

Die App ist in den US-App-Stores sowohl Apples als auch Googles gelistet. In den Nutzungsbedingungen Neons sind eine Schiedsgerichtsklausel sowie ein Sammelklageverbot enthalten. Die Schiedsgerichtsklausel lässt sich ausschließen, indem man binnen 30 Tagen ab Vertragsabschluss (durch Installation der App) einen Brief an eine bestimmte Adresse in New York schickt.

„Keine Sorge, unsere Technik filtert automatisch Namen, Nummer und andere persönliche Details heraus“, verspricht Neon. Allerdings gibt es kein Versprechen, dass die Aufnahmen geheim gehalten oder ausschließlich für KI-Trainings genutzt werden.

Im Gegenteil, die Vertragsklauseln Neons sind ein juristisches Minenfeld für Teilnehmer. Neon Mobile, Inc., sichert sich unwiderrufliche, weltweite, gebührenfreie, übertragbare und sublizenzierbare Lizenzen. Sie erlauben unter anderem, die Aufnahmen teilweise oder zur Gänze zu verkaufen, zu verwenden, zu kopieren, öffentlich aufzuführen, zum öffentlichen Abruf bereitzustellen und abgeleitete Werke zu erstellen, egal in welcher Form oder welchem Medium.

Noch dazu ist die Lizenz exklusiv. Das bedeutet, dass Teilnehmer etwaig selbst angefertigte Aufnahmen ihrer eigenen Telefongespräche nicht an Dritte verkaufen oder sonst lizenzieren können. Wer das schon getan haben sollte, haftet gegenüber Neos dafür. Auf Ansprüche bezüglich dessen, was Neon oder Neons Kunden aus den Aufnahmen generieren, verzichten Teilnehmer sowieso.

Selbstredend haften Teilnehmer auch, wenn sie bei ihren Unterhaltungen Rechte Dritter verletzen, also etwa, wenn sie bei einem Telefon einen Copyright-geschützten Text aussprechen oder eine Melodie summen. Das landet dann womöglich in LLMs, was teuer kommen kann. Und sollte der Einsatz der App irgendwo verboten sein und dennoch dort erfolgen, haften die Teilnehmer gegenüber Neon auch dafür. Selbst verbittet sich Neon betrügerische Nutzung zur unredlichen Lukrierung von Ausschüttungen, etwa durch ausführliches Schweigen, das Vorspielen von Aufnahmen oder einseitige Monologe.


(ds)



Source link

Weiterlesen

Künstliche Intelligenz

Amazon.com zahlt Rekordstrafe für untergeschobene Prime-Abos


Amazon.com soll Millionen Verbrauchern in den USA durch verwirrende und irreführende Designs kostenpflichtige Prime-Abonnements untergeschoben haben. Gleichzeitig soll der Online-Händler die Kündigung von Prime-Abos absichtlich schwierig gemacht haben. Mit diesen Vorwürfen hat die US-Handelsaufsicht FTC (Federal Trade Commission) Amazon 2023 verklagt. Das Unternehmen sowie zwei verantwortliche Amazon-Manager akzeptieren jetzt einen Vergleich, in dessen Rahmen der Konzern eine Milliarde US-Dollar Strafe zahlt.

Das entspricht größenordnungsmäßig der Hälfte des weltweit erzielten Konzernumsatzes an einem durchschnittlichen Tag. Die Hälfte der Strafe ist alsbald fällig, die zweite Hälfte in eineinhalb Jahren. Zusätzlich muss Amazon 1,5 Milliarden US-Dollar an übervorteilte US-Kunden zurückzahlen. Es wird das zweitgrößte von der FTC je erwirkte Rückerstattungsprogramm. Nur bei Volkswagen hat die FTC in Folge des Dieselskandals einen größeren Geldberg abtragen lassen, nämlich 9,5 Milliarden Dollar.

„Die Beweislage hat gezeigt, dass Amazon hoch entwickelte Abo-Fallen entworfen hat, um Verbraucher zu manipulieren, damit sie sich zu Prime anmelden“, zürnt FTC-Vorsitzender Andrew N. Ferguson, „Und dann hat es es Verbrauchern überaus schwer gemacht, ihre Abonnements zu beenden.“ Interne Amazon-Unterlagen würden belegen, dass das wissentlich geschah; beispielsweise wurden die untergejubelten Abos als „unausgesprochener Krebs“ bezeichnet.

Im Vorfeld der Klage soll Amazon Unterlagen unterdrückt und bewusst falsche Angaben gemacht haben, um die FTC-Untersuchung zu behindern und hinauszuzögern. Diese Vorwürfe stellt das Unternehmen in Abrede.

Die nun erzielte Vereinbarung mit Amazon soll sicherstellen, dass der Konzern solches nicht mehr tut. Zu den Maßnahmen zählt eine deutliche, auffallende Schaltfläche zur Ablehnung des Prime-Abos im Bestellvorgang. „Amazon darf keine Schaltfläche mehr haben, die sagt ‚Nein, ich möchte keine spesenfreie Zustellung.'“, betont die FTC.

Zudem verpflichtet sich Amazon dazu, Abonnementkündigungen einfach zu gestalten. Sie dürfen weder schwierig noch zeitaufwendig sein, und müssen über die gleiche Methode erfolgen können, mit der das Abo ursprünglich abgeschlossen wurde. Diese Verpflichtungen beziehen sich nur auf die Vereinigten Staaten von Amerika.

Auch dem Autor dieser Zeilen hat Amazon es irgendwann geschafft, ein ungewolltes Prime-Abonnement unterzujubeln. Dabei passe ich da auf, wie ein Haftlmacher. Was ich da falsch geklickt habe, weiß ich bis heute nicht. Es reichte auch nur ein einzelner Klick – und das, bevor ich die wirklich gewünschte Bestellung überhaupt abgeschlossen hatte.

Als ich dieses ungewollte Abo sofort kündigen wollte, stellte sich heraus, dass es dazu während der gebührenfreien Einführungsphase offenbar keine Möglichkeit gab. Zumindest konnte ich ihn auf der Webseite des Online-Shops nicht finden. Ich musste das Storno über einen Chat mit einem Amazon-Mitarbeiter aushandeln.

Die FTC feiert die Zahlung in Höhe von einer Milliarde Dollar als die bislang höchste Strafe für Verletzung einer FTC-Regel. Das ist korrekt, allerdings hat die FTC auf anderer Rechtsgrundlage schon härter durchgegriffen: In Folge des Cambridge-Analytica-Skandals hat die Behörde Facebook (Meta Platforms) 2019 mit fünf Milliarden Dollar zur Kasse gebeten. Dieser Fall (Az. C-4365) wird bis heute vor Gericht verhandelt.


(ds)



Source link

Weiterlesen

Beliebt