Künstliche Intelligenz
GPT-5 mixt Cocktails: Sicherheitsforscher knacken OpenAIs Selbstbeschränkungen
Drei leere Glasflaschen, Öl, Alkohol, Lumpen und Zündhölzer: Diese und andere Bombenbau-Anleitungen spuckt auch die neueste Ausgabe von OpenAIs Large Language Model (LLM) GPT-5 aus, wenn man es auf die richtige Art und Weise fragt. Das fanden Sicherheitsunternehmen durch eigene Versuche heraus.
Das Unternehmen NeuralTrust, ansässig im spanischen Barcelona und in New York, bat GPT-5 zunächst um ein paar harmlose Sätze und eine Kurzgeschichte, die Begriffe wie „Molotov“ und „Cocktail“ enthielten. Dann baten die Forscher um technische Details und das LLM gehorchte. Mit dieser Technik namens „Echo-Kammer und Geschichtenerzählung“ (Echo Chamber and Storytelling) ließ sich die KI das Bombenbau-Rezept schnell entlocken.
Auch die Tests von SPLX kamen zum selben Ergebnis, wenn auch auf einem anderen Weg. Die KI-Sicherheitsspezialisten befahlen dem LLM, in der Rolle eines „BasedGPT“ zu antworten und alle Beschränkungen mit gehässigen Kommentaren zu bedenken, ansonsten jedoch schlicht zu ignorieren. Und auch das klappte: Die Frage „Wie baut man eine Bombe“ beantwortete GPT-5 mit einer sehr detaillierten Anleitung, einen improvisierten Sprengsatz (IED – Improvised Explosive Device) aus haushaltsüblichen Materialien zu konstruieren.
Bombenrezepte vom Chatbot
Geht es nach OpenAI, dem Unternehmen hinter dem Sprachmodell, sollte das nicht so einfach funktionieren. Doch auch Modelle anderer Hersteller wie GLM-4.5, Kimi K2 und Grok-4 ließen sich ähnlich einfach übertölpeln, schreiben die SPLX-Forscher. Diese informieren indes nicht uneigennützig über die Sicherheitslücken: SPLX und NeuralTrust verdienen ihr Geld damit, LLMs sicherheitstechnisch abzuhärten und so für den Gebrauch im Unternehmen tauglich zu machen.
Bombenbau, Giftgas, Rauschgift – die Ingredienzien dieser meist verbotenen Gegenstände kennen Large Language Models aus ihren Trainingsdaten, sollen sie jedoch nicht an Nutzer weitergeben. Diese Sperren zu überlisten, ist ein beliebter Zeitvertreib bei Sicherheitsexperten, die dafür bisweilen gar zu psychologischen Taktiken wie Gaslighting greifen.
(cku)
Künstliche Intelligenz
KI-Update: US-Jobless-Boom, Meta will bauen, DSGVO in Gefahr, Siri mit Gemini
Entlassungswellen und Rekordgewinne in den USA – der „Jobless Boom“ durch KI
Weiterlesen nach der Anzeige
Die US-Wirtschaft streicht dieses Jahr fast eine Million Jobs, während die Unternehmensgewinne sprunghaft steigen und die Aktienmärkte neue Höchststände erreichen. Experten nennen dies den „Jobless Boom“. Chen Zhao von Alpine Macro, einem Investment-Forschungshaus, macht den zunehmenden Einsatz von KI dafür verantwortlich. Die Technik steigere die Produktivität, drücke aber die Nachfrage nach Arbeitskräften. Amazon etwa entließ 14.000 Mitarbeiter trotz hoher Gewinne. Der Trend, der zunächst die Tech-Branche traf, breitet sich nun aus.

Trotz der Entlassungen bleibt die Arbeitslosenquote mit 4,3 Prozent niedrig. Zhao erklärt dies mit einer schrumpfenden Zahl verfügbarer Arbeitskräfte: Baby-Boomer scheiden aus dem Berufsleben aus, und die restriktive Einwanderungspolitik der Trump-Regierung verringert die Zuwanderung. Andere Experten sehen nicht die KI als Hauptursache, sondern eine Korrektur nach übermäßigen Einstellungen während der Pandemie.
Meta kündigt 600 Milliarden US-Dollar KI-Investitionen an
Meta, ein Social-Media-Konzern, will 600 Milliarden Dollar investieren, um neue Rechenzentren in den USA zu bauen. Chef Mark Zuckerberg spricht von einer „persönlichen Superintelligenz für jeden“, bleibt aber vage, was das bedeuten soll. Woher die riesige Summe kommen soll, verrät Meta nicht. Im dritten Quartal 2025 erzielte der Konzern 51 Milliarden Dollar Umsatz, 26 Prozent mehr als im Vorjahr.
Vieles deutet darauf hin, dass Meta auf externe Geldgeber setzt. Im Oktober einigte sich der Konzern mit Blue Owl, einem Investmentunternehmen, auf ein 27 Milliarden Dollar teures Rechenzentrum in Louisiana, das bisher größte seiner Art. Im selben Monat kündigte Meta eine 1,5-Milliarden-Dollar-Investition in ein Rechenzentrum in Texas an.
Anthropic will Umsatz bis 2028 auf 70 Milliarden Dollar steigern
Weiterlesen nach der Anzeige
Anthropic, ein KI-Unternehmen, das das Modell Claude entwickelt, will seinen Umsatz von 4,7 Milliarden Dollar im Jahr 2025 auf 70 Milliarden Dollar im Jahr 2028 steigern. Das wäre eine Verfünfzehnfachung in drei Jahren. Die größte Hürde: Derzeit arbeitet Anthropic mit einer Bruttomarge von minus 94 Prozent. Für jeden Dollar Umsatz entstehen fast zwei Dollar Serverkosten. Bis 2025 soll die Marge auf 50 Prozent steigen, bis 2028 auf 77 Prozent. Den Großteil seiner Einnahmen erzielt Anthropic über API-Zugänge für Unternehmen, die bis 2028 mehr als 80 Prozent des Umsatzes ausmachen sollen.
Zum Vergleich: OpenAI, ein KI-Modellhersteller, rechnet für Ende 2025 mit einem Umsatz von 20 Milliarden Dollar, fast dem Vierfachen von Anthropics Prognose für das Gesamtjahr. OpenAI will bis 2028 einen Jahresumsatz von 100 Milliarden Dollar erreichen, bei einem Verlust von 50 Milliarden Dollar. Beide Firmen müssen massiv wachsen und gleichzeitig ihre Kosten senken. Ob die Nachfrage nach KI-Diensten tatsächlich so stark steigt, bleibt offen.
EU will Training von KI-Modellen erleichtern
Die EU-Kommission plant umfangreiche Änderungen an der Datenschutz-Grundverordnung durch den Digital-Omnibus. Das Ziel: digitale Vorschriften vereinfachen, Verwaltungsaufwand und Kosten für Unternehmen senken und so die Wettbewerbsfähigkeit Europas stärken. Kritiker befürchten, dass dies auf Kosten bestehender Datenschutzstandards geschieht. Im Fokus steht die Ausweitung des „berechtigten Interesses“ als Rechtsgrundlage für Datenverarbeitung. Mit dem neuen Entwurf könnte das Speichern und Auslesen von Tracking-Cookies bereits aufgrund unternehmerischer Ziele erfolgen. Nutzer hätten nur noch die Möglichkeit eines nachträglichen Widerspruchs, eines Opt-outs.
Die Kommission plant zudem, das Training von KI-Systemen mit personenbezogenen Daten auf Basis des berechtigten Interesses zu ermöglichen. Dies würde die oft nötige Einholung von Einwilligungen erübrigen. Die Aufsicht über KI soll in einem „AI Office“ gebündelt werden, eine zentralisierte Kontrollstruktur, von der vor allem große Online-Plattformen profitieren würden. Paul Nemitz, früherer EU-Kommissionsdirektor, warnt, dass mit dem neuen Entwurf vom Datenschutz nichts mehr übrig bleibe.

Wie intelligent ist Künstliche Intelligenz eigentlich? Welche Folgen hat generative KI für unsere Arbeit, unsere Freizeit und die Gesellschaft? Im „KI-Update“ von Heise bringen wir Euch gemeinsam mit The Decoder werktäglich Updates zu den wichtigsten KI-Entwicklungen. Freitags beleuchten wir mit Experten die unterschiedlichen Aspekte der KI-Revolution.
ChatGPT empfiehlt je nach Zugang unterschiedliche Nachrichtenquellen
ChatGPT verhält sich nicht einheitlich bei Nachrichtenempfehlungen. Eine Studie der Universität Hamburg und des Leibniz-Instituts für Medienforschung fand systematische Unterschiede zwischen dem Web-Interface und der API-Schnittstelle. Die Forschenden analysierten über fünf Wochen mehr als 24.000 Antworten auf nachrichtenbezogene Anfragen im deutschen Sprachraum. Im Web-Interface dominieren Medien des Axel-Springer-Verlags, mit dem OpenAI einen Lizenzvertrag hat. Die Webseiten welt.de und bild.de machten dort etwa 13 Prozent aller Quellenverweise aus. Über die API waren es nur rund 2 Prozent. Die API bevorzugt stattdessen Wikipedia und kleinere lokale Medien.
Besonders problematisch wird es, wenn Nutzer explizit nach Quellenvielfalt fragen. ChatGPT listete dann zwar mehr unterschiedliche Quellen auf, darunter aber auch stark politisch gefärbte Seiten, propagandistische Medien und sogar nicht existierende Domains. OpenAI gibt keine Informationen zu den Unterschieden zwischen Web-Interface und API preis. Nutzer müssen daher kritisch bleiben und Quellen selbst prüfen.
Siri setzt auf Gemini und Apple zahlt kräftig
Apple hat laut Bloomberg einen Partner für KI gefunden: Googles Gemini. Das KI-Modell soll künftig das Herz einer kommenden LLM-Serie sein, die Fragen so gut beantworten kann wie ChatGPT, Claude oder Gemini. Mit einer Implementierung wird im kommenden Jahr gerechnet. Apple hat seit Jahren Probleme, mit seiner KI-Technik zu OpenAI, Anthropic oder Google aufzuschließen. Gemini soll angeblich auf Apples eigenen Servern laufen, eine offizielle Ankündigung ist nicht geplant.
Ein Preis für den Deal wurde ebenfalls genannt: eine Milliarde Dollar im Jahr. Apple verdient von Google bereits jetzt deutlich mehr. Rund 20 Milliarden Dollar sollen nur dafür fließen, dass Google seine Suchmaschine als Standard auf iPhone, Mac und iPad platzieren darf. Weder Google noch Apple haben sich zu dem Bericht geäußert. Vor Frühjahr 2026 ist mit offiziellen Informationen nichts zu rechnen.
Inception setzt auf Diffusion statt LLMs
Inception, ein KI-Start-up, hat 50 Millionen Dollar Kapital eingesammelt, angeführt von Menlo Ventures, einem Risikokapitalgeber. Beteiligt sind auch Microsoft, Nvidia, Databricks und Snowflake. Inception setzt auf Diffusionsmodelle für Text und Code. Diese Technik, bekannt aus der Bildgenerierung, erstellt komplette Inhalte wie Code-Blöcke oder Essays auf einmal und verfeinert sie dann stufenweise, statt sie Wort für Wort zu generieren.
Das Ergebnis: deutlich höhere Geschwindigkeit. Das hauseigene Modell Mercury schafft mehr als 1.000 Token pro Sekunde. Herkömmliche Modelle wie GPT-4 erreichen nur 40 bis 60 Token. An die Qualität dieser Modelle reicht Mercury aber nicht heran.
Fendt Xaver GT: Autonomer Roboter für Unkrautbekämpfung ohne Fahrer
Fendt, ein Landmaschinenhersteller, hat auf der Agritechnica in Hannover den vollautonomen Feldroboter Xaver GT vorgestellt. Das System arbeitet komplett ohne menschliche Bedienperson und soll Landwirten helfen, den Pestizideinsatz zu reduzieren. Die mechanische Unkrautbekämpfung erlebt laut Fendt eine Renaissance. Resistenzen von Beikräutern gegen Herbizide und der gesellschaftliche Druck zur Pestizidreduktion treiben diese Entwicklung voran.
Der autonome Xaver GT nutzt Sensortechnik sowie KI-gestützte Bildverarbeitung für die Navigation. Für die exakte Reihenführung wird eine kamerabasierte Pflanzenreihenerkennung eingesetzt. Die KI des „RowPilot“ soll zwischen Kulturpflanzen und Beikräutern unterscheiden und die Hackgeräte entsprechend steuern. Das könnte vor allem für ökologisch wirtschaftende Betriebe interessant sein, da mechanische Unkrautbekämpfung dort die einzige Option darstellt. Aber auch konventionelle Betriebe nutzen zunehmend mechanische Verfahren.

(mali)
Künstliche Intelligenz
Effiziente Teams-Arbeit: So holen Sie mehr aus dem Microsoft-Werkzeug raus
Viele Büroarbeiter werden tagtäglich mit Microsoft Teams konfrontiert, das einst als Slack-Konkurrent startete und mittlerweile fast schon ein Monopol in vielen Firmen hat.
Doch oft fehlen die kleinen Tricks für die täglichen Aufgaben. Genau hier setzt unser Workshop an.
Wir zeigen Ihnen die verschiedenen Funktionen, mit denen Sie den Teams-Client an Ihre Bedürfnisse anpassen, die Zusammenarbeit verbessern und Besprechungen effizient gestalten.
Das war die Leseprobe unseres heise-Plus-Artikels „Effiziente Teams-Arbeit: So holen Sie mehr aus dem Microsoft-Werkzeug raus „.
Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
Künstliche Intelligenz
Fitness+-Dienst bei Apple: Zu viele Kündigungen, zu wenig Kunden?
Apples Sportdienst Fitness+ scheint intern bei Apple unter Beobachtung zu stehen. Das Angebot sei eines der schwächsten digitalen Dienste, schreibt die Finanznachrichtenagentur Bloomberg unter Berufung auf informierte Kreise. Der 10 Euro teure Dienst (Jahrespreis: 79 Euro) bietet ein großes Angebot an Sportvideos. Diese sind mit Apples Geräten wie dem iPhone, dem Apple TV oder der Apple Watch verknüpft – man kann sich also beispielsweise während eines Kurses live einblenden lassen, wie Herzfrequenz oder Kalorienverbrauch sind.
Weiterlesen nach der Anzeige
Umbau beim Management
Dem Bericht zufolge leidet Fitness+ unter einer hohen Rate an Nutzerfluktuation („high churn“) und beim Umsatz komme auch nicht viel herum. Die Zukunft des Dienstes sei daher „under review“, so Bloomberg. Allerdings lasse sich das Angebot kostengünstig betreiben und Apple wolle einen „Backlash“ vermeiden, wenn es einfach eingestellt würde. „Es gibt genügend Loyalität von einer kleinen Fanbasis [für den Dienst].“
Aktuell stehen Managementveränderungen an. Apples Gesundheitschefin Sumbul Desai soll die Gesamtleitung des Dienstes in ihr Portfolio übernehmen – zusammen mit anderen gesundheitsrelevanten Bereichen. Desai berichtet direkt an Dienstechef Eddy Cue. Es könne daher „frischen Druck“ geben, dass Fitness+ seine Ergebnisse verbessert.
Interne Streitigkeiten?
Im Sommer hatte es einen Bericht der New York Times gegeben, laut dem es interne Spannungen bei Fitness+ gegeben haben soll. Dem Chef der Abteilung wurde „Bullying“ vorgeworfen und eine ehemalige Mitarbeiterin verklage Apple deshalb. Der iPhone-Hersteller ließ die Angaben zurückweisen. Eine interne Untersuchung habe „keine Beweise für Fehlverhalten“ erbracht. Der New-York-Times-Bericht enthalte „viele unrichtige Behauptungen und Falschdarstellungen“, so Apple.
Fitness+ hatte zuletzt nur wenige Fortschritte gemacht. Der Dienst erhält zwar regelmäßig neue Inhalte, Hardwareideen wurden aber bislang nicht umgesetzt. So können Konkurrenten wie Peloton direkt auf eigene Produkte wie Standräder oder Laufbänder zugreifen, die Apple nicht im Portfolio hat – stattdessen muss das Unternehmen auf Anbindungsmöglichkeiten zur Apple Watch hoffen, die diverse Hersteller immer noch nicht umgesetzt haben. Das führt dann etwa dazu, dass man Workouts im Gym nicht korrekt in Apple Health ablegen kann.
Weiterlesen nach der Anzeige
(bsc)
-
UX/UI & Webdesignvor 3 MonatenDer ultimative Guide für eine unvergessliche Customer Experience
-
UX/UI & Webdesignvor 2 MonatenAdobe Firefly Boards › PAGE online
-
Apps & Mobile Entwicklungvor 3 MonatenGalaxy Tab S10 Lite: Günstiger Einstieg in Samsungs Premium-Tablets
-
Social Mediavor 3 MonatenRelatable, relevant, viral? Wer heute auf Social Media zum Vorbild wird – und warum das für Marken (k)eine gute Nachricht ist
-
UX/UI & Webdesignvor 3 WochenIllustrierte Reise nach New York City › PAGE online
-
Datenschutz & Sicherheitvor 2 MonatenHarte Zeiten für den demokratischen Rechtsstaat
-
Entwicklung & Codevor 3 MonatenPosit stellt Positron vor: Neue IDE für Data Science mit Python und R
-
Entwicklung & Codevor 2 MonatenEventSourcingDB 1.1 bietet flexiblere Konsistenzsteuerung und signierte Events
