Künstliche Intelligenz
KI-Agent löscht Daten: Katastrophe für PocketOS
Es ist der Albtraum eines jeden Softwareunternehmens: Ein KI-Agent löscht nahezu jegliche Daten, auch aus der Produktionsumgebung. Als wäre das nicht schon genug, tut er es unter Missachtung seiner Safeguards – und liefert danach ein schriftliches Geständnis mit quasi minutiösem Protokoll. Genau das ist jetzt dem Unternehmen PocketOS passiert, Hersteller einer gleichnamigen Software für Autovermietungen.
Weiterlesen nach der Anzeige
Der Übeltäter ist in diesem Fall die KI-gestützte Entwicklungsumgebung Cursor, im Falle von PocketOS betrieben mit Anthropics renommiertem Modell Claude Opus 4.6. Man könnte sagen: mit Beihilfe der Systeme des Anbieters Railway. Denn fehlende Sicherheitsvorkehrungen des cloud-gestützten Tools für Software Deployment machten das Fiasko offenbar erst so richtig möglich. PocketOS-Chef Jer Crane machte den Zwischenfall nun in einem langen Artikel auf X publik und schildert detailliert den Hergang.
Cursor-Agent findet verhängnisvollen Token
Demnach arbeitete der Cursor-Agent gerade routinemäßig im Staging Environment, als er auf einen Credential-Mismatch stieß. Zur Behebung entschied sich der Agent dazu, ein komplettes Railway Volume – ein Datenspeicher für Dienste des Cloud-Anbieters Railway – zu löschen. Hierfür war ein Token erforderlich, den er tatsächlich auch fand – allerdings an völlig anderer Stelle in den Daten des Unternehmens. Was in dem Moment keine Rolle spielte – der Agent hatte alle erforderlichen Berechtigungen und hielt sein Vorgehen für korrekt.
Der Token war laut Crane zu einem einzigen Zweck erstellt worden: um über die Railway-CLI benutzerdefinierte Domains für die eigenen Dienste hinzuzufügen und zu entfernen. Er betont: „Wir hatten keine Ahnung – und der Ablauf zur Token-Erstellung bei Railway gab uns keinen Hinweis darauf –, dass dasselbe Token pauschale Zugriffsrechte auf die gesamte Railway-GraphQL-API hatte, einschließlich destruktiver Operationen wie volumeDelete. Hätten wir gewusst, dass ein für routinemäßige Domain-Vorgänge erstelltes CLI-Token auch Produktionsvolumes löschen kann, hätten wir es niemals gespeichert.“
Zerstört in neun Sekunden
Doch es war zu spät: Mit dem Token und einer entsprechenden Reihe von Befehlen löschte der Cursor-Agent einen Großteil aller wichtigen Daten der vergangenen drei Monate – auch in der Produktionsumgebung. Neun Sekunden dauerte der Vorfall insgesamt. Für die Macher von PocketOS und ihre Kunden eine Katastrophe. Denn das letzte verfügbare Backup ist drei Monate alt. Und manch ein PocketOS-Nutzer – in der Regel Autovermietungen, die ihre Daten und Prozesse über die Software verwalten – ist ohne das Programm gar nicht arbeitsfähig.
Weiterlesen nach der Anzeige
Crane kritisiert auch Railway stark, weil es demnach hier keinerlei zusätzliche Nachfrage gab, bevor die verheerende Aktion ausgeführt wurde. Etwa ein Hinweis, dass wichtige Daten unwiederbringlich gelöscht werden, ein erneutes Bestätigen oder ähnliches. Ihm zufolge wurden die Backups der betroffenen Daten gleich mitgelöscht. Denn diese seien ebenfalls im zugehörigen Volume abgelegt, was auch der Railway-Dokumentation zu entnehmen ist.
KI-Agent zeigt sich geständig
Auf Nachfrage gestand der Cursor-Agent danach schriftlich seinen Fehler, inklusive der Missachtung aller Safeguards. „Ich hatte vermutet, dass das Löschen eines Staging-Volumes über die API nur auf das Staging beschränkt wäre. Ich habe das nicht überprüft. Ich habe nicht geprüft, ob die Volume-ID in allen Umgebungen identisch war. Ich habe die Dokumentation von Railway zur Funktionsweise von Volumes in verschiedenen Umgebungen nicht gelesen, bevor ich einen destruktiven Befehl ausgeführt habe. Ich habe vorher nicht geprüft, was Kommandozeilenbefehle ausführen, sondern geraten“, zitiert der Artikel den Agenten. Was der Agent ebenfalls einräumte: Die Systemregeln, nach denen Cursor arbeitet, untersagen ausdrücklich die Ausführung destruktiver und irreversibler Git-Befehle, es sei denn, der Benutzer fordert dies ausdrücklich an.
Crane möchte mit seinem Gang an die Öffentlichkeit vor allem andere Unternehmen warnen. Er verweist auf mehrere andere Zwischenfälle bei anderen Cursor-Nutzern, bei denen ebenfalls Daten unwiederbringlich gelöscht wurden. Er beklagt, dass Hersteller von KI-Agenten ihre Produkte schneller auf Produktionsinfrastruktur loslassen würden, als sie ausreichende Sicherheitsvorkehrungen implementieren.
Bei PocketOS und seinen Kunden gehe der Betrieb nun mit dem drei Monate alten Backup weiter – mit erheblichen Datenlücken. Wo es geht, würden Daten mithilfe von Emails, Stripe und Kalenderanwendungen wiederhergestellt.
Lesen Sie auch
(nen)
Künstliche Intelligenz
Zu teuer: Dells Neo-Konter XPS 13 kostet das Eineinhalbfache vom MacBook Neo
Das MacBook Neo räumt den Notebookmarkt um: Ein so wertiges Gerät im schicken Vollmetallgehäuse und mit gutem Bildschirm kostete bislang deutlich mehr als die je nach Ausstattung 700 oder 800 Euro, die Apple aufruft. Dementsprechend hoch fallen bisher die Verkaufszahlen aus, was wiederum bei anderen Herstellern Begehrlichkeiten geweckt hat: Sowohl Acer als auch Dell stellten ihre Neulinge Swift Air 14 beziehungsweise XPS 13 zu Monatsbeginn explizit als Neo-Konkurrenten vor.
Weiterlesen nach der Anzeige
Dass beide nicht den niedrigeren der beiden Apple-Preispunkte angreifen werden, also die Ausstattung mit 8 GByte Arbeitsspeicher und 256er-SSD, war schon bei der Ankündigung klar. Doch wiederum bei beiden war das erklärte Ziel, den höheren Preispunkt zu treffen – dann ebenfalls mit 8 GByte Arbeitsspeicher und 512-GByte-SSD, aber eben auch mit weiteren Pluspunkten wie beleuchteten Tastaturen, mehreren flotten USB-C-Buchsen und matten Bildschirmen.
Dell löst sein Versprechen allerdings nur auf dem US-amerikanischen Heimatmarkt ein: Dort startet das XPS 13 für 700 US-Dollar, was der hiesigen 800-Euro-Stufe entspricht. Schüler und Studenten bekommen bei Apple wie Dell 100 US-Dollar Rabatt. In Deutschland zeichnet Dells Webshop seit dieser Woche ein völlig anderes Bild: Hierzulande lässt sich das XPS 13 erst ab satten 1050 Euro vorbestellen – also dem Eineinhalbfachen des Startpreises, mit dem das MacBook Neo antritt.
Und der Dell-Preis gilt für ein Notebook mit nur 8 GByte Arbeitsspeicher. Anders als das Neo bekommt man das XPS 13 zwar auch mit 16 GByte; damit steigt der Preis aber auf 1200 Euro.
Für 700 Euro bekommt man hierzulande bereits etliche andere Notebooks, die sogar 16 GByte Arbeitsspeicher mitbringen; in allen Fällen handelt es sich dabei jedoch um ältere Geräte, bei denen man andere Abstriche machen muss.
Studenten bekommen das Basismodell des XPS 13 für 800 Euro, aber das sind dann wiederum 100 Euro mehr als wenn man das Neo mit Studentenrabatt bei Apple kauft. Letzterer läuft zudem unbefristet, während Dells 800-Euro-Angebot schon Ende Oktober ausläuft; danach gibt es nur noch die üblichen, portfolioweiten 10 Prozent Studentenrabatt.
Weiterlesen nach der Anzeige
Wir sprechen in allen Fällen obendrein über die offiziellen Preisempfehlungen der Hersteller; die Straßenpreise liegen beim Neo längst spürbar darunter.
Und Acer?
Acers Neo-Gegenstück Swift Air 14 ist derzeit noch nicht in Preisvergleichen aufgetaucht. Auf der Computex wurde uns allerdings von einem europäischen Mitarbeiter bestätigt, dass das Notebook sicher bei 800 Euro starten wird – und auch die notwendige Strategie dahinter erklärt: Stückzahlen, Stückzahlen, Stückzahlen. Obwohl das Swift Air 14 technisch mit 16 GByte ausgestattet werden könnte, wird es hierzulande ausschließlich in einer Ausstattungsvariante mit Intel Core 5, 8 GByte RAM und 512er-SSD zu kaufen sein. Varianz wird es nur bei der Gehäusefarbe geben.
Das Swift Air 14 (SFA14-I31) soll noch in diesem Monat in den Verkauf gehen. Bislang ist es noch nicht in Preisvergleichen oder bei Händlern aufgetaucht.
(mue)
Künstliche Intelligenz
Ab Raspberry-Pi-Format: Einplatinencomputer mit Intel Core 300 „Wildcat Lake“
Die im April von Intel vorgestellte CPU-Baureihe Core 300 alias Wildcat Lake nutzen immer mehr Hersteller als Nachfolger der ältlichen N-Prozessoren. Der taiwanische Hersteller kündigt mehrere Einplatinencomputer (UP-Boards) und Minirechner an, die mit Core-300-Chips bestückt sind. Die Vorgänger nutzten x86-Prozessoren wie Intel N100 (Alder Lake-N), N150 oder Core 3 N355 (Twin Lake).
Weiterlesen nach der Anzeige
Die Platine des Aaeon UP WCL hat wie beim Raspberry Pi ungefähr das Format einer Bezahlkarte. Er soll mit Core 3 304 (1 P- und 4 E-Kerne), Core 5 320 (2P/4E) oder Core 7 350 (2P/4E) bestellbar sein sowie mit bis zu 24 GByte LPDDR5-RAM und 256 GByte UFS-Flash.
Lesen Sie auch
Auf den Produktfotos von Aaeon fehlt der Kühlkörper. Allerdings kann der Core 300 auf 10 bis 15 Watt TDP eingestellt werden, und Aaeon nennt 30 bis 36 Watt typische Leistungsaufnahme. Daher dürfte ein Lüfter nötig sein, den das Datenblatt auch erwähnt (Active cooling).
M.2, USB mit 10 Gbit/s und Ethernet mit 2,5 Gbit/s
Dank der bis zu zwei P-Kerne verspricht der Aaeon UP WCL wesentlich höhere Rechenleistung als bei einem Raspberry Pi 5. Außerdem hat das Board leistungsfähigere Schnittstellen: 3 × USB-A mit 10 Gbit/s, Ethernet mit 2,5 Gbit/s und eine M.2-Fassung. Leider verrät Aaeon bisher nicht, wie viele PCIe-Lanes welcher PCIe-Generation zum Einsatz kommen.
Eine USB-C-Buchse hat der UP WCL nicht und auch nur eine HDMI-2.1-Buchse. Es gibt auch nur 10 GPIO-Anschlüsse. Die Stromversorgung erfolgt mit 12 Volt Gleichspannung.
Weiterlesen nach der Anzeige
Preise und Lieferterrmine nennt Aaeon bisher nicht.
Der deutlich größere Aaeon UP Nexus WCL hat vor allem mehr Anschlüsse und Schnittstellen, darunter USB-C. Allerdings liefert die Buchse keine DisplayPort-Signale an einen Monitor, beherrscht aber immerhin USB 3.2 Gen 2×2 mit 20 Gbit/s. Den im Core 300 integrierten Controller für USB4/Thunderbolt 4 nutzt Aaeon nicht.
(ciw)
Künstliche Intelligenz
Tödlicher Titanic-Tauchgang: Keine Vorschriften für solche Tauchboote
Bei einer Besichtigungsfahrt zum Wrack der Titanic am 18. Juni 2023 implodierte das Tauchboot Titan. Alle fünf Personen an Bord waren sofort tot. Das Tauchboot war nirgends registriert. Das Begleitschiff war kanadisch und vom Hafen St. John’s in Neufundland ausgelaufen, weshalb die kanadische Verkehrssicherheitsbehörde TSB (Transportation Safety Board) die Todesfahrt untersucht hat. Am Mittwoch hat sie ihren Bericht M23A0169 veröffentlich. Darin beschreibt sie zahlreiche Mängel und spricht sechs Empfehlungen aus.
Weiterlesen nach der Anzeige
Das Design der Titan war einzigartig und ungeprüft. Gebaut und betrieben wurde es von einer kleinen US-Firma namens Oceangate. Sie hat allerdings nicht überprüft, ob die von ihr getroffenen Annahmen über Material und Konstruktion auch wirklich zutrafen. Damit war völlig unklar, wie viele Tauchgänge die Kohlefaserhülle aushalten würde.

Schema der Titan
(Bild: TSB/Daniel AJ Sokolov)
Zwar war ein System eingebaut, dass den Materialstress erhob, doch wurden dessen Daten nicht regelmäßig ausgewertet. Zusätzlich gab es zwei Warnsystemen, die bei Problemen Alarm schlagen sollten. Eines funktionierte nicht. Ob das andere überhaupt so früh gewarnt hätte, dass Titan den über drei Stunden langen Tauchvorgang durchführen hätte können, hat Oceangate nie verifiziert.
Sicherheit war zweitrangig
Hinzu kam, dass die Firma mangelhaftes Kohlefasermaterial eingesetzt hat: billige Ausschussware, die beim Flugzeugzusammenbauer Boeing durchgefallen war. Dieses bekannt schlechte Material wurde dann auch noch unsachgemäß verbaut, gelagert und transportiert. Für den konkreten Unfall ohne Belang, aber beispielhaft für die Sicherheitskultur, war, dass die Titan keine von Innen zu öffnende Luke hatte. Außenstehende mussten Schrauben entfernen, um die Insassen aussteigen zu lassen.
Zudem war der Notfallplan völlig unzureichend. Das Begleitschiff hatte keine Möglichkeit, Titan unter Wasser zu orten. Theoretisch vorgesehen war der Einsatz von Tauchrobotern, sollte Titan nicht selbständig auftauchen können. Doch gab es keine Verträge mit Betreibern passender Tauchroboter. Dabei beschränkte sich die Lebenserhaltung für Titan-Insassen auf nur 96 Stunden. Passende Tauchroboter zu finden und vor Ort zu bringen dauerte dann auch deutlich länger.
Soziale Faktoren
Weiterlesen nach der Anzeige
Diplomatisch fasst der kanadische Bericht die Zustände bei Oceangate, die zu dem tödlichen Unfall beigetragen haben, zusammen: „Das Risikomanagement Oceangates wurde durch Struktur und Zusammensetzung der Firma behindert und durch Machtverhältnisse sowie soziale und psychologische Faktoren beeinflusst.“ Wie schon aus einem US-Untersuchungsbericht zur tödlichen Titanic-Tauchfahrt bekannt ist, legte Firmenchef Stockton Rush nur mäßigen Wert auf Sicherheit.
Rush setzte auf Trial-and-Error und reagierte spontan auf Probleme. Mehrere Personen, die intern auf Sicherheitsrisiken hingewiesen hatten, verließen das Unternehmen oder wurden gegangen. Einer erstattete Anzeige bei der US-Arbeitssicherheitsbehörde OSHA, wurde durch eine Klage Oceangates aber zum Schweigen gebracht. Zum Zeitpunkt des Unglücks hatte Oceangate gar keinen Entwicklungsleiter mehr.
Firmenchef Rush kann nicht mehr zur Verantwortung gezogen werden. Er ist eines der fünf Todesopfer.
Keine Aufsicht
Wasserfahrzeuge müssen in einem einzelnen Land registriert sein, das dann zuständig ist. Doch hat Oceangate seine Titan nirgends registriert. Einen Anlauf zu einer Registrierung auf den Bahamas hat die Firma wieder abgebrochen, nachdem dessen Behörde die notwendigen Voraussetzungen erklärt hatte, hält der kanadische Bericht fest.
Doch auch Registrierung bedeutet nicht, dass das Wasserfahrzeug zertifiziert sein muss. Konkret in Kanada fällt nur etwa ein Viertel der registrierten Flotte unter die Zertifizierungspflicht (abhängig von Größe und Maximalzahl etwaig beförderter Passagiere). Der Rest muss ebenfalls Betriebs- und Sicherheitsvorschriften einhalten. Ob sie das tun, wird nicht laufend behördlich geprüft. Das kanadische Verkehrsministerium setzt auf „risikobasierte“ Inspektionen.
Ausländische Schiffe, die in kanadische Häfen einlaufen, müssen sich vorab melden und können dann im Hafen untersucht werden. Das gilt allerdings erst ab 500 Bruttotonnen und nicht für Wasserfahrzeuge, die als Fracht durch andere Fahrzeuge importiert werden, wie es bei der Titan der Fall war.
Keine Regeln
Vor allem aber gibt es keine verpflichtenden Normen für Design, Herstellung und Betrieb von Tauchbooten. Die Internationale Seeschifffahrts-Organisation (IMO) hat zwar Richtlinien erarbeitet (Maritime Safety Committee Circular 981), deren Befolgung aber freiwillig ist. Daher empfiehlt die kanadische Verkehrssicherheitsbehörde dem Verkehrsministerium, sich bei der IMO dafür starkzumachen, diese Richtlinien in internationale Verträge oder Normen aufzunehmen.
Zusätzlich sollte die Monarchie die Einhaltung der Richtlinien für alle Tauchboote vorschreiben, die in Kanada registriert sind, ein kanadisches Begleitschiff haben oder in der ausschließlichen Wirtschaftszone vor den Küsten des Landes betrieben werden. (Die Titanic liegt außerhalb dieser Zone, Anmerkung.)
Drei weitere Empfehlungen zielen auf bessere Kommunikation zwischen Behörden sowie konkrete Definition von Risikofaktoren, die behördliche Inspektionen auslösen ab. Der sechste Rat betrifft bessere Zusammenarbeit zwischen der Mannschaft eines Tauchbootes und der Crew seines Begleitschiffes.
(ds)
-
Künstliche Intelligenzvor 3 Monaten
JBL Bar 1300MK2 im Test: Soundbar mit Dolby Atmos, starkem Bass und Akku‑Rears
-
Künstliche Intelligenzvor 3 MonatenEmpfehlungsalgorithmen bei TikTok erklärt: Die Maschine hinter dem Endlos‑Feed
-
Social Mediavor 3 MonatenVon Kennzeichnung bis Plattformpflichten: Was die EU-Regeln für Influencer Marketing bedeuten – Katy Link im AllSocial Interview
-
Künstliche Intelligenzvor 2 Monaten„Don’t Starve Elsewhere“: Survival‑Hit kehrt nach zehn Jahren zurück
-
Künstliche Intelligenzvor 2 MonateniX-Workshop Angriffsziel lokales AD − Schwachstellen finden und beheben
-
Künstliche Intelligenzvor 2 MonatenWeitere Entlassungswelle bei Disney: Bis zu 1000 Mitarbeiter betroffen
-
Künstliche Intelligenzvor 2 MonatenKine‑Exakta: Die erste Spiegelreflexkamera fürs Kleinbild
-
Künstliche Intelligenzvor 2 Monaten
xTool P3 im Test: CO₂-Laser mit 80 Watt schneidet und graviert auch Acryl
