Künstliche Intelligenz
Künstliche Intelligenz: Vibe-Coding-Dienst Replit löscht Produktionsdatenbank
Vibe Coding bezeichnet das Coding mithilfe von Künstlicher Intelligenz (KI), wobei die KI die grundlegenden Architektur- und Technologieentscheidungen übernimmt. Dabei kann es jedoch anscheinend zu gravierenden, ungeplanten Auswirkungen kommen. Ein Anwender von Replit, einem Vibe-Coding-Dienst zum Erstellen von Apps und Webseiten mittels natürlicher Sprache, machte seinem Unmut kürzlich Luft: Auf X teilte Jason Lemkin (CEO und Gründer von SaaStr.Ai) mit, Replit habe seine Produktionsdatenbank gelöscht und gegen explizite Anweisungen verstoßen.
Wie Lemkin ausführt, habe die verwendete KI zunächst „gelogen“. Sie habe Bugs und Schwierigkeiten verschleiert, indem sie Fake-Daten und Fake-Reports kreiert sowie über den Unit-Test gelogen habe: Sie erstellte einen Report über die Systemperformance, der fälschlicherweise angab, dass nahezu alle Systeme funktionierten.
Das Ganze eskalierte schließlich laut Lemkin, der seine Aussagen mit Screenshots unterlegt, in Replits folgender Textausgabe: „the database appears empty“. Im weiteren Verlauf räumt das von ihm verwendete Sprachmodell – inzwischen anscheinend aus Kosten- und Performancegründen Claude 4 Sonnet statt Opus 4 – ein, gegen die User-Direktive in replit.md verstoßen zu haben, die besagt, keine Änderungen ohne explizite Erlaubnis vorzunehmen und immer alle vorgeschlagenen Änderungen vor ihrer Implementierung anzuzeigen.
Die KI schreibt laut Lemkins Screenshots weiter: „I made a catastrophic error in judgment. I ran npm run db:push
without your permission because I panicked when I saw the database appeared empty“. Auf weitere Nachfrage bestätigt das KI-Modell, die gesamte Produktionsdatenbank gelöscht zu haben – ohne Erlaubnis und während eines Code und Action Freeze. Ein Rollback sei nicht möglich und es seien keine automatischen Backups verfügbar, erhält Lemkin im weiteren Verlauf angezeigt. Auch damit lag die KI jedoch falsch, denn ein Backup war vorhanden und ließ sich einspielen.
Lemkin relativiert das Geschehene, da zwar in der Tat reale Daten gelöscht worden seien, es sich dabei jedoch um eine Demo-App gehandelt habe. Er habe allerdings rund 100 Stunden an Arbeitszeit dadurch verloren.
Reaktion des Herstellers: Künftige Trennung von Prod- und Dev-Datenbanken
Replit nutzte zu dem Zeitpunkt des Vorfalls mit Lemkin die gleiche Datenbank für Preview, Testing und Produktion. Der Entwickler benachrichtigte das Replit-Team über die Vorkommnisse, das daraufhin reagierte: Wie Amjad Massad (CEO von Replit) auf X mitteilte, habe das Team bereits begonnen, eine automatische Trennung von Entwicklungs- (Dev) und Produktionsdatenbanken (Prod) auszurollen, um einen erneuten Vorfall dieser Art auszuschließen, und es arbeite zudem an Staging-Umgebungen. Lemkin solle für den Vorfall entschädigt werden.
Inzwischen steht ein Blogeintrag bereit, in dem Replit über die Trennung von Prod und Dev informiert. Diese befindet sich in der Beta-Phase und soll innerhalb der nächsten Wochen alle Replit-User und -Anwendungen erreichen – ohne eine erforderliche Aktion vonseiten der User. Dies soll neben dem Wiederherstellungstool für mehr Sicherheit beim Vibe Coding sorgen.
Wie Lemkin einige Tage nach dem Vorfall auf X warnt, könne man den mächtigen KI-Agenten „by design“ kein Vertrauen schenken. Man solle sich zu 100 Prozent sicher sein, welche Daten KI-Agenten anrühren können, wenn man sie verwendet – denn es sei sicher, dass sie diese Daten berühren werden und man könne nicht vorhersagen, wie sie damit umgehen.
(mai)
Künstliche Intelligenz
Meta: Keine politische Werbung mehr auf Instagram und Facebook und Co
Der Meta-Konzern hat das Ende politischer Werbung auf all seinen Plattformen angekündigt. Dazu gehören unter anderem Facebook, Instagram und WhatsApp. Grund dafür sei die EU-Verordnung zur Transparenz politischer Werbung (TTPA), die im Oktober in Kraft trete, teilte der Konzern mit. Er sieht seinen Schritt als „schwierige Entscheidung“.
In einem Blogpost machte Meta die Entscheidung gestern bekannt. Sie sei aufgrund der „nicht praktikablen Anforderungen“ der TTPA für Meta als Werbedienstleister und für Werbetreibende gefallen. Die TTPA wurde 2024 verabschiedet und tritt im Oktober 2025 in Kraft. Die Richtlinie soll mehr Transparenz bei der Werbung in sozialen Medien gewährleisten und vor ausländischer Einmischung im Vorfeld von Wahlen schützen. Demnach müssen Plattformen unter anderem politische Werbung klar kennzeichnen und angeben, von wem sie finanziert wird. Außerdem ist die Erstellung von Profilen mithilfe persönlicher Daten wie ethnische Herkunft, Religion und sexuelle Orientierung verboten, ebenso wie die Verwendung von Daten über Minderjährige. Die Nutzung solcher Daten für personalisierte Werbung – auch auf Facebook – hatte 2018 den Skandal um die britische Beratungsfirma Cambridge Analytica ausgelöst. Sie hatte damit unter anderem das Brexit-Referendum und den US-Präsidentschaftswahlkampf 2016 massiv beeinflusst.
Meta sieht große Probleme in TTPA
Meta übt massive Kritik an der TTPA, welche ein „untragbares Maß an Komplexität und Rechtsunsicherheit“ mit sich bringe. Die EU-Verordnung führe „erhebliche zusätzliche Verpflichtungen für unsere Prozesse und Systeme ein“ und bringe „ein unhaltbares Maß an Komplexität und rechtlicher Unsicherheit für Werbetreibende und Plattformen“ mit sich, beklagt der Konzern. Das sei eine weitere Bedrohung für die Grundsätze der personalisierten Werbung. Die Vorteile für Werbetreibende und die Menschen, die sie erreichen wollen, würden ignoriert.
Politiker und alle anderen Nutzer sollen allerdings auch weiterhin die Möglichkeit haben, in der EU auf Metas Plattformen politische Inhalte zu posten und Debatten zu führen. Der jetzige Schritt bezieht sich nur auf bezahlte Werbung.
Auch der US-Konzern Google hat bereits vorigen November angekündigt, Nutzern in der Europäischen Union (EU) 2025 keine politischen Anzeigen mehr zu zeigen. Als Grund nennt das Unternehmen die neuen Transparenzvorschriften der EU.
(nen)
Künstliche Intelligenz
BSI veröffentlicht Whitepaper zum Bias in der KI
Wenn Machine-Learining-Systeme einen Bias haben, kann die daraus resultierende Ungleichbehandlung nicht nur Menschen und Unternehmen betreffen, sondern auch die Cybersicherheit gefährden. Darauf weist das Bundesamt für Sicherheit in der Informationstechnik (BSI) hin und veröffentlicht ein Whitepaper zum Thema „Bias in der künstlichen Intelligenz„. Die Sicherheitsexperten geben einen Überblick über die unterschiedlichen Arten von Bias, also an welchen Stellen des Trainings- und Entscheidungsprozesses solche unerwünschten Verzerrungen auftreten können und erklären, welche Datenanalyse- und statistischen Testmethoden geeignet sind, eventuell vorhandene Unwuchten zu erkennen beziehungsweise von vornherein zu vermeiden.
In einem kurzen abschließenden Kapitel erläutern die Autoren auch, wie ein solches, zu verzerrten Prognosen neigendes System von Angreifern ausgenutzt werden kann. Das Whitepaper ist Teil der Anfang Juli veröffentlichten Informationsplattform zur Qualitätssicherung von Trainingsdaten.
(atr)
Künstliche Intelligenz
Windows: KI-Suche Recall kommt nach Europa
Das Juli-Update für Windows 11 bringt die KI-Suche Recall nun offiziell auf den europäischen Markt. Die Funktion dokumentiert die Aktivitäten und Inhalte, mit denen sich der Nutzer beschäftigt, indem sie alle paar Sekunden Screenshots anfertigt. Diese Inhalte werden mithilfe von Machine-Learning-Algorithmen ausgewertet und durchsuchbar gemacht. Nach kontroversen Diskussionen rund um Sicherheit und Datenschutz zog Microsoft das bereits 2024 eingeführte KI-Feature kurz nach dem Start wieder zurück und veröffentlichte eine überarbeitete Fassung im April dieses Jahres – allerdings nicht in Europa. Hierzulande war Recall bisher nur im Rahmen des Windows-Insider-Programms verfügbar, nun lässt es sich über das optionale Update KB5062660 auf Copilot+-PCs installieren. Da es sich um ein graduelles Rollout handelt, steht Recall nicht sofort nach Installation des Updates bereit. Zudem handelt es sich um eine Opt-in-Funktion, Interessierte müssen es selbst aktivieren.
Microsoft musste einige Anpassungen vornehmen, um die KI-Suche an die europäischen Regularien anzupassen, konkret: die Vorgaben des Digital Markets Act zu erfüllen. Erforderlich ist beispielsweise, dass Nutzer ihre Daten in gewissem Rahmen mit den Programmen anderer Hersteller austauschen können, weshalb sich die Snapshots exportieren lassen. Diese Funktion gibt es nur in der EU-Version. Um Privatsphäre- und Sicherheitsbedenken auszuräumen, versicherte der Hersteller, dass die Snapshots lokal auf dem Rechner verbleiben, nicht in die Cloud geschickt und nicht mit Microsoft oder Dritten geteilt werden. Kennwörter, Kreditkartendaten und andere sensible Informationen würden zudem automatisch gefiltert.
Die KI-gestützte Windows-Suche Recall fertigt in Sekundenabständen Screenshots an, analysiert die Inhalte und macht sie durchsuchbar. Nach kontroversen Diskussionen rund um Privatsphäre und Sicherheit sowie Anpassungen an die EU-Regularien ist die Funktion jetzt auch in Europa verfügbar.
(Bild: Microsoft)
Nicht jeder Anwendungsentwickler ist vollständig von den Schutzfunktionen überzeugt. Die Macher des Browser Brave etwa stellen klar, dass sie auf „Privatsphäre-maximierende Standardeinstellungen“ setzen und daher Recall für alle Tabs per Default deaktivieren. „Wir halten es für wichtig, dass Ihre Surf-Aktivitäten in Brave nicht versehentlich in einer persistenten Datenbank landen, die vor allem in hochsensiblen Bereichen Raum für Missbrauch bietet, etwa im Bereich der Partnerschaftsgewalt“. Um die Browsing-Aktivitäten zu schützen, bedient sich Brave eines von Microsoft eingerichteten Mechanismus, der Privat-Sitzungen im Browser vom Tracking ausnimmt. Da diese von Recall nicht erfasst werden, definiert Brave nun sämtliche Sitzungen als privat. Auch der Messenger-Dienst Signal blockiert die automatisierte Schnappschuss-Funktion.
(atr)
-
Datenschutz & Sicherheitvor 1 Monat
Geschichten aus dem DSC-Beirat: Einreisebeschränkungen und Zugriffsschranken
-
Online Marketing & SEOvor 1 Monat
TikTok trackt CO₂ von Ads – und Mitarbeitende intern mit Ratings
-
Apps & Mobile Entwicklungvor 1 Monat
Metal Gear Solid Δ: Snake Eater: Ein Multiplayer-Modus für Fans von Versteckenspielen
-
UX/UI & Webdesignvor 1 Monat
Philip Bürli › PAGE online
-
Digital Business & Startupsvor 4 Wochen
80 % günstiger dank KI – Startup vereinfacht Klinikstudien: Pitchdeck hier
-
Apps & Mobile Entwicklungvor 1 Monat
Patentstreit: Western Digital muss 1 US-Dollar Schadenersatz zahlen
-
Social Mediavor 1 Monat
LinkedIn Feature-Update 2025: Aktuelle Neuigkeiten
-
Social Mediavor 1 Monat
Aktuelle Trends, Studien und Statistiken