Künstliche Intelligenz: Vibe-Coding-Dienst Replit löscht Produktionsdatenbank

Vibe Coding bezeichnet das Coding mithilfe von Künstlicher Intelligenz (KI), wobei die KI die grundlegenden Architektur- und Technologieentscheidungen übernimmt. Dabei kann es jedoch anscheinend zu gravierenden, ungeplanten Auswirkungen kommen. Ein Anwender von Replit, einem Vibe-Coding-Dienst zum Erstellen von Apps und Webseiten mittels natürlicher Sprache, machte seinem Unmut kürzlich Luft: Auf X teilte Jason Lemkin (CEO und Gründer von SaaStr.Ai) mit, Replit habe seine Produktionsdatenbank gelöscht und gegen explizite Anweisungen verstoßen.

Wie Lemkin ausführt, habe die verwendete KI zunächst „gelogen“. Sie habe Bugs und Schwierigkeiten verschleiert, indem sie Fake-Daten und Fake-Reports kreiert sowie über den Unit-Test gelogen habe: Sie erstellte einen Report über die Systemperformance, der fälschlicherweise angab, dass nahezu alle Systeme funktionierten.

Das Ganze eskalierte schließlich laut Lemkin, der seine Aussagen mit Screenshots unterlegt, in Replits folgender Textausgabe: „the database appears empty“. Im weiteren Verlauf räumt das von ihm verwendete Sprachmodell – inzwischen anscheinend aus Kosten- und Performancegründen Claude 4 Sonnet statt Opus 4 – ein, gegen die User-Direktive in replit.md verstoßen zu haben, die besagt, keine Änderungen ohne explizite Erlaubnis vorzunehmen und immer alle vorgeschlagenen Änderungen vor ihrer Implementierung anzuzeigen.

Die KI schreibt laut Lemkins Screenshots weiter: „I made a catastrophic error in judgment. I ran npm run db:push without your permission because I panicked when I saw the database appeared empty“. Auf weitere Nachfrage bestätigt das KI-Modell, die gesamte Produktionsdatenbank gelöscht zu haben – ohne Erlaubnis und während eines Code und Action Freeze. Ein Rollback sei nicht möglich und es seien keine automatischen Backups verfügbar, erhält Lemkin im weiteren Verlauf angezeigt. Auch damit lag die KI jedoch falsch, denn ein Backup war vorhanden und ließ sich einspielen.

Lemkin relativiert das Geschehene, da zwar in der Tat reale Daten gelöscht worden seien, es sich dabei jedoch um eine Demo-App gehandelt habe. Er habe allerdings rund 100 Stunden an Arbeitszeit dadurch verloren.

Reaktion des Herstellers: Künftige Trennung von Prod- und Dev-Datenbanken

Replit nutzte zu dem Zeitpunkt des Vorfalls mit Lemkin die gleiche Datenbank für Preview, Testing und Produktion. Der Entwickler benachrichtigte das Replit-Team über die Vorkommnisse, das daraufhin reagierte: Wie Amjad Massad (CEO von Replit) auf X mitteilte, habe das Team bereits begonnen, eine automatische Trennung von Entwicklungs- (Dev) und Produktionsdatenbanken (Prod) auszurollen, um einen erneuten Vorfall dieser Art auszuschließen, und es arbeite zudem an Staging-Umgebungen. Lemkin solle für den Vorfall entschädigt werden.

Inzwischen steht ein Blogeintrag bereit, in dem Replit über die Trennung von Prod und Dev informiert. Diese befindet sich in der Beta-Phase und soll innerhalb der nächsten Wochen alle Replit-User und -Anwendungen erreichen – ohne eine erforderliche Aktion vonseiten der User. Dies soll neben dem Wiederherstellungstool für mehr Sicherheit beim Vibe Coding sorgen.

Wie Lemkin einige Tage nach dem Vorfall auf X warnt, könne man den mächtigen KI-Agenten „by design“ kein Vertrauen schenken. Man solle sich zu 100 Prozent sicher sein, welche Daten KI-Agenten anrühren können, wenn man sie verwendet – denn es sei sicher, dass sie diese Daten berühren werden und man könne nicht vorhersagen, wie sie damit umgehen.

(mai)