Connect with us

Datenschutz & Sicherheit

Das passiert, wenn der KI-Betreiber die Sicherheit vernachlässigt


Von großen Datenabflüssen im Zusammenhang mit KI liest man aktuell ständig. Doch dieser ist anders; keine Prompt Injection, kein Jailbreak, sondern sträflich vernachlässigte Security-Basics bei der Infrastruktur eines KI-Betreibers – zumindest, wenn man den uns vorliegenden Informationen Glauben schenken darf. Und dafür spricht einiges.

Viele heise-investigativ-Recherchen sind nur möglich dank anonymer Informationen von Hinweisgebern.

Wenn Sie Kenntnis von einem Missstand haben, von dem die Öffentlichkeit erfahren sollte, können Sie uns Hinweise und Material zukommen lassen. Nutzen Sie dafür bitte unseren anonymen und sicheren Briefkasten.

Fast alle Firmen experimentieren aktuell mit KI. Wer vorsichtig ist, wirft dabei die eigenen Daten schon aus Datenschutzgründen nicht den großen KI-Anbietern wie OpenAI oder Anthropic zum Fraß vor, sondern betreibt das benutzte Large Language Model selbst. Es gibt ja genug leistungsfähige und offene KI-Systeme. Und wer das nicht komplett selbst leisten kann, greift gern auf von einer vertrauenswürdigen Firma im Geltungsbereich der DSGVO gehostete oder gemanagte Systeme zurück. Genau das bietet nach eigener Beschreibung die österreichische Firma Localmind:

„Localmind ist eine lokale & sichere KI-Plattform für Unternehmen, die eine individuelle und leistungsstarke KI-Lösung suchen. Für maximale Datensicherheit, volle Kontrolle und Unabhängigkeit von der Cloud.“

Wenn man selbst die Kontrolle hat, kann man die KI auch vertrauliches Material verarbeiten lassen und ihm Zugang zu den eigenen Servern gewähren, so die Logik dahinter. Das Problem dabei: Wenn ein solcher KI-Anbieter seine eigenen Systeme nicht ausreichend sichert, dann können Dritte diese einfach übernehmen und bekommen darüber Zugriff auf alles, was die KI lesen kann. Genau das gelang einem anonymen Datenforscher, der sich nach eigenen Angaben mit trivialen Mitteln Zugang zu den Systemen von Localmind verschaffen konnte – und von dort aus auch auf Systeme von deren Kunden.

So bekam er demnach Zugriff auf Dokumente und Infrastruktur der Localmind-Kunden: E-Mail-Konten, CRM- und ERP-Systeme und vieles mehr standen ihm nach eigenen Angaben offen. Für den initialen Zugang genügte es laut ihm, sich auf einem öffentlich zugänglichen Localmind-System einen Account einzurichten, der offenbar sofort mit Admin-Rechten ausgestattet war. Gemäß den von Localmind veröffentlichten Erkenntnissen zu dem Vorfall handelte es sich dabei um „eine extern erreichbare Beta-Testinstanz“.

Von dort aus hangelte er sich weiter; alles, was er dazu benötigte, war nach seinen Angaben mit geringem Aufwand erreichbar. Localmind bestätigt, dass er von dort lesenden Zugang auf die interne Wissensdatenbank erlangte und:

„Diese Datenbank enthielt Informationen zu unserer Infrastruktur sowie Zugangsdaten, die nicht durchgehend nach heutigen Best Practices geschützt waren.“

Damit meinen sie wohl Dinge wie die uns als Beweis vorgelegten, einfachen Klartext-Passwörter für den Root-Zugang auf ihren Servern. Einige davon waren triviale Variationen von whatTheHell123$$$, was kaum als sicheres Passwort durchgehen kann.

Mit diesen nahezu unbeschränkten Zugangsrechten sammelte der Hacker weitere Belege für die Sicherheitsprobleme und deren Bedeutung ein. Da er sich als einer der Guten versteht, missbrauchte er diese nicht für Erpressung, sondern informierte die betroffenen Firmen und einige Pressevertreter – darunter heise security. In seinen Hinweis-Mails präsentierte er eine ganze Reihe von imposanten Datenschätzen: Neben diversen Chats finden sich darin Rechnungen, Verträge, eine schriftliche Stellungnahme vor einem Verwaltungsgericht, reihenweise Account-Daten, teilweise mit Zugangs-Tokens oder Passwörtern und vieles mehr.



Der Hacker dokumentierte seinen weitreichenden Zugriff auf die Localmind-Infrastruktur unter anderem mit Screenshots, die er auch der heise security zur Verfügung stellte.

Als potenziell betroffene Unternehmen listen die uns vorliegenden Dokumente gleich mehrere Banken und Behörden auf Kommunal- und Landesebene, Energieversorger, ein Bistum, Hotels und weitere — insgesamt über 150 Entitäten vornehmlich in Österreich und Deutschland. Ersten Recherchen zufolge sind allerdings nicht alle gleich stark involviert.

So versicherte ein von uns kontaktiertes Unternehmen, dass man lediglich einen vierstündigen Workshop mit einem Test-System bei Localmind absolviert habe. Die dabei verwendeten Daten seien „unkritisch“ gewesen. Die Landeshauptstadt Kiel erklärte gegenüber heise security, dass man ausschließlich Test-Systeme bei Localmind betrieben habe und dabei ausschließlich „Use Cases getestet werden, die weder personenbezogene Daten noch vertrauliche Daten verwenden“. Außerdem beteuert Localmind in einer Stellungnahme gegenüber heise security, dass es keine Hinweise darauf gäbe, dass auch on-premise — also bei den Kunden selbst gehostete LLMs von dem Datenabfluss betroffen seien.

Zumindest jetzt geht Localmind vorbildlich mit dem Vorfall um. Sie haben nach Bekanntwerden der Sicherheitsprobleme alle relevanten Systeme abgeschaltet, untersuchen diese aktuell und dokumentieren den aktuellen Informationsstand regelmäßig auf einer eigens dazu eingerichteten Seite. Ferner bieten sie betroffenen Kunden Unterstützung an, etwa beim Melden bei Datenschutzbehörden. Daran gibt es nichts auszusetzen.

Es fragt sich, warum der Hacker nicht zunächst bei Localmind über die von ihm gefundenen Sicherheitsprobleme informierte und denen eine angemessene Zeitspanne einräumte, diese zu beseitigen. Das entspräche der allgemein üblichen Praxis bei White Hat Hackern. Doch aus seiner Sicht lassen sich die Sicherheitsprobleme der Firma nicht sinnvoll fixen; er sieht einen sicherheitstechnischen Totalschaden: „Sie haben offensichtlich den Großteil ihrer Infrastruktur und ihrer Produkte, die sie ihren Kunden als sichere Lösungen verkaufen wollen, mit Vibe Coding erstellt. Dabei zeigten sie eine so erstaunliche Nachlässigkeit und Inkompetenz bei der Umsetzung der grundlegendsten Sicherheitsmaßnahmen, dass man fast schon von Vorsatz ausgehen muss“, lautet sein harsches Fazit.

Ob es sich wirklich um ein systematisches Komplettversagen in Sicherheitsdingen handelt oder um eine Verkettung dummer Fehler, die zwar nicht passieren sollten — aber doch gelegentlich eintreten, lässt sich wohl erst nach einer ausführlichen Dokumentation der Sachverhalte durch Localmind abschließend beurteilen. Gemessen an ihrem bisherigen Umgang mit dem Vorfall steht zu hoffen, dass sie daran bereits arbeiten.


(ju)



Source link

Datenschutz & Sicherheit

Die Woche, als ein Digitalgipfel uns zu Kund:innen machte


Liebe Kundinnen und Kunden,

Ihr seid eine:r von 450 Millionen. Von 450 Millionen „customers“ auf dem europäischen Binnenmarkt, die Start-ups, mittlere Unternehmen und Großkonzerne erreichen sollen.

Fühlt ihr euch von dieser Ansprache irritiert? Ich mich auch. Aber so sieht euch offenbar der deutsche Digitalminister, zumindest wenn es nach seiner Eröffnungsrede auf dem Gipfel zur europäischen digitalen Souveränität diese Woche geht.

Da ist viel die Rede von Wachstum durch sogenannte KI, einem Rennen der Innovation, dem sich kleine und mittelständische Betriebe anschließen sollen. Der Minister spricht die an, die für ihn dabei offenbar eine Rolle spielen: Firmen, Investoren, Forschende, politische Institutionen. Die Menschen in Europa, also in der Denke Wildbergers die Kund:innen, spielen keine aktive Rolle.

Eine solche Digitalpolitik ist ein Problem. Denn sie führt dazu, dass Regeln nur noch für Unternehmen gemacht werden. Wir sehen das gerade am Digital-Omnibus, einem Gesetzespaket, das die EU-Kommission diese Woche vorgestellt hat. Während Industrieverbände jubeln, ist die Zivilgesellschaft schockiert vom Schnellabbau von Datenschutzregeln und großzügigen Fristverschiebungen für riskante KI-Systeme. Meine Kollegen Ingo und Daniel haben Antworten auf die wichtigsten Fragen dazu zusammengestellt.

Aber nicht nur die industriefreundliche Politik wird einem mit einer derartigen Verkäufer-Mentalität auf die Füße fallen. Denn Europa besteht nicht vor allem aus Kund:innen, sondern aus vielen Millionen Menschen, die unsere digitale und analoge Welt gestalten wollen und können. Wer ihre Stimmen ignoriert, ihre Ideen als irrelevant abtut, ihre Expertise weglächelt, verschenkt die Zukunft. Wir wollen die digitale Welt nicht als Produkt kaufen, wir wollen sie gestalten.

Wir von netzpolitik.org sehen es seit vielen Jahren als eine unserer Kernaufgaben, der Zivilgesellschaft bei netzpolitischen Diskussionen eine Stimme zu geben. Der Digitalminister hat in seiner Rede schmerzhaft demonstriert, dass das heute wichtiger ist als je zuvor. Wir müssen laut sein, um uns Gehör zu verschaffen, und das schaffen wir nicht allein.

Diese Woche haben wir euch wieder vermehrt um finanzielle Unterstützung gebeten, denn das Jahresende naht. Wie immer brauchen wir noch jede Menge Geld, um unsere Arbeit zu finanzieren, die durch eure Spenden ermöglicht wird. Als Spender:innen seid ihr für uns aber weit mehr als Kund:innen unserer journalistischen Produkte. Ihr seid wie wir Teil einer digitalen Zivilgesellschaft, die für ein Internet kämpft, das nicht den Konzernen, sondern den Menschen dient. Danke dafür!

Ein schönes winterliches Wochenende wünscht euch

anna

 

 



Die Debatten werden feindseliger, die politischen Machtverhältnisse verschieben sich. Wir halten dagegen: Mit investigativen Recherchen, Analysen, Leaks und einem langen Atem kämpfen wir für die Grund- und Freiheitsrechte aller. Dafür brauchen wir deine Unterstützung. In diesem Jahr fehlen uns noch 443.000 Euro.

Lesen Sie diesen Artikel: Wir stehen an einem Kipppunkt

In einem Kartellrechtsverfahren hat ein US-Richter es abgelehnt, den Meta-Konzern als Monopolisten einzustufen. An den Übernahmen der Konkurrenten Instagram und WhatsApp sei nichts auszusetzen, der Markt funktioniere, so das wegweisende Urteil. Für Kritiker:innen des Unternehmens ist es eine herbe Niederlage.

Lesen Sie diesen Artikel: Meta entkommt seiner Zerschlagung



Source link

Weiterlesen

Datenschutz & Sicherheit

Medienaufsicht: Pornofilter für Betriebssysteme kommt


Anbieter von Betriebssystemen wie Apple, Google oder Microsoft müssen demnächst sicherstellen, dass diese mit einer „Jugendschutzvorrichtung“ ausgestattet sind. Das sieht eine Novelle des Jugendmedienschutzstaatsvertrags (JMStV) vor, die von den Bundesländern verabschiedet wurde. Das Parlament von Brandenburg hatte am Mittwoch als letztes Bundesland den Weg dafür freigemacht.

Laut der Reform sollen Spielekonsolen, Smartphone, Smart-TVs und andere Geräte, die „Zugang zu Telemedien ermöglichen“, bereits auf der untersten Software-Ebene einen Filter bieten, der dafür sorgt, dass etwa der Weg zu Pornoseiten versperrt bleibt.

Eltern sollen diesen Schutzmodus mit nur einem Klick aktivieren können und dabei auch das Alter der Kinder einstellen können. Der Vertrag bezeichnet das als „One-Button-Lösung“. Anschließend sollen Browser auf dem Gerät nur noch verfügbar sein, wenn sie über „eine gesicherte Suchfunktion“ verfügen. Was das ist, wird im Text nicht näher definiert. Auch für Apps gilt, dass sie der Altersangabe entsprechen müssen.

Umstrittene Novelle

Die neuen Regeln treten am 1. Dezember 2027 in Kraft und gelten nur für Geräte, die neu in den Handel kommen. Alte Geräte, für die keine Softwareupdates mehr bereitgestellt werden, sind davon ausgenommen. Für Geräte, die bereits produziert werden, gilt eine Übergangsfrist von drei Jahren ab Bekanntgabe der neuen Regeln.

Auf die umstrittene Novelle hatten sich die Ministerpräsidenten der Länder bereits vor einem Jahr geeinigt. Tech-Konzerne wie Google und Microsoft wehrten sich gegen die Auflagen und verwiesen darauf, dass sie bereits Lösungen für den Jugendschutz anböten. Die neuen Vorschriften würden zu vielen rechtlichen und technischen Problemen führen. Auch Verbände wie die Free Software Foundation kritisierten die Pläne. Es sei etwa unklar, wie Anbieter von freier Software die Vorgaben umsetzen sollten.

Geldhahn abdrehen, Domains sperren

Zusätzlich zu den Jugendschutzfiltern bekommt die Jugendmedienaufsicht zwei weitere Werkzeuge an die Hand, um Betreiber von Pornoseiten unter Druck zu setzen. Die erste gilt der Sperre von sogenannten Ausweichdomains. Hintergrund ist der Kampf der deutschen Medienaufsicht gegen Pornoseiten, die sich weigern, das Alter ihrer Nutzer*innen zu kontrollieren. Die Medienaufsicht will diese Alterskontrollen gemäß deutschem Recht erzwingen und lässt die Seiten widerspenstiger Betreiber sperren. Internetprovider wie die Telekom müssen dann verhindern, dass ihre Kund*innen die Seiten aufrufen können.

In der Vergangenheit hatte diese Methode wenig Erfolg. XHamster und Pornhub haben einfach binnen kürzester Zeit alternative Domains eingerichtet, ein Katz-und-Maus-Spiel, bei dem die Behörde immer einen Schritt hinterher war. Mit der Novelle gilt, dass die Medienaufsicht in Zukunft auch für diese neuen Domains Netzsperren schneller anordnen darf – ohne gesondertes Verfahren.

Das zweite Werkzeug richtet sich gegen Zahlungsdienstleister und soll den Geldfluss an Pornoseiten kappen. Die jeweils zuständige Landesmedienanstalt darf nun etwa Visa oder Paypal anweisen, keine Zahlungen mehr für bestimmte Seiten abzuwickeln, wenn diese „unzulässige Angebote“ zeigen.



EU-Kommission vs. deutsche Medienaufsicht

Kritiker*innen weisen darauf hin, dass diese Maßnahmen wenig bringen, wenn es damit geht, Jugendliche von Pornoseiten fernzuhalten. So lassen sich Netzsperren mit wenigen Klicks umgehen, zum Beispiel durch VPN-Dienste, die vorgeben, eine Seite aus einem anderen Land aufzurufen. Der Download solcher Software steigt in allen Regionen rasant an, in denen Pornoseiten entweder gesperrt sind oder Alterskontrollen einführen – zuletzt etwa in Großbritannien.

Verpflichtende Alterskontrollen, wie die Medienaufsicht sie zudem vorschreiben will, würden außerdem bedeuten, dass alle Nutzer*innen von Pornoseiten ihr Alter nachweisen müssten. Die Medienaufsicht empfiehlt dafür etwa, dass die Seiten die Ausweise der Besucher*innen kontrollieren oder das Alter per biometrischer Gesichtserkennen schätzen sollen.

Einer der größten Anbieter, Pornhub, wehrt sich aktuell vor Gericht gegen die aus Deutschland angeordneten Netzsperre. Betreiber Aylo ist auf dem Standpunkt, dass nicht die Medienaufsicht, sondern die EU-Kommission für Pornhub zuständig sei. Die gesetzliche Grundlage dafür ist das Gesetz über digitale Dienste (DSA). Als EU-Verordnung habe es Vorrang gegenüber nationalen Gesetzen wie dem JMStV.

Auch der DSA sieht vor, dass Anbieter von Pornoseiten mehr für den Schutz von Minderjährigen tun müssen, er schreibt dafür aber keine verpflichtenden Alterskontrollen vor, sondern verpflichtet Anbieter lediglich dazu, “Risiken” für den Jugendschutz selbst einzuschätzen und zu minimieren. Derzeit designiert die EU-Kommission mehrere Pornoseiten zudem als „Sehr Große Online-Plattform“ und sieht damit striktere Auflagen für sie vor.



Source link

Weiterlesen

Datenschutz & Sicherheit

Cyberbande cl0p behauptet zahlreiche weitere Datendiebstähle


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Etwa 30 Namen von Unternehmen sind auf der Darknet-Seite der kriminellen Vereinigung cl0p neu aufgetaucht. Darunter sind auch einige bekannte und global aktive.

Weiterlesen nach der Anzeige


Ausschnitt aus der cl0p-Darknet-Seite

Ausschnitt aus der cl0p-Darknet-Seite

Auf der Darknet-Seite von cl0p sind einige renommierte Unternehmen aufgetaucht.

(Bild: heise medien)

Unter den angeblich betroffenen Unternehmen finden sich Größen wie Broadcom, Canon, Mazda (und zusätzlich Mazda USA) oder auch der Reifenhersteller Michelin. Es finden sich von den betroffenen Unternehmen bislang noch keine Stellungnahmen oder Bestätigungen von etwaigen Datenlecks, die kürzlich erfolgt wären. Die Täter haben auf der Darknet-Leaksite von cl0p derzeit lediglich allgemeine Unterseiten ohne Details oder Ausschnitte aus den abgezogenen Daten angelegt. Es ist also unklar, in welchem Umfang und was für Daten die Kriminellen erlangt haben wollen.

Bislang waren angekündigte Datendiebstähle von cl0p echt, es handelte sich regelmäßig nicht um Bluffs. Etwa Anfang des Monats nahm cl0p Logitech und die Washington Post in die Liste der kompromittierten Unternehmen auf. Rund eine Woche später bestätigte Logitech, dass Angreifer Zugriff auf Computersysteme erlangt und dabei Daten von Kunden und Mitarbeitern kopiert haben. Die Washington Post hat Anfang der Woche ebenfalls mit einer Meldung eines Datenschutzvorfalls eingeräumt, dass Daten von knapp 10.000 ehemaligen und aktuellen Mitarbeitern sowie Auftragnehmern von kriminellen Eindringlingen kopiert wurden.

Zuletzt hatte cl0p reihenweise Opfer durch eine Sicherheitslücke in Oracles E-Business-Suite (EBS) angegriffen und dadurch unbefugt Zugriff auf sensible Daten erlangt. Anfang Oktober hat Oracle vor laufenden Angriffen auf die Lücken und darauffolgende Erpressungsversuche gewarnt. Seitdem stehen auch Updates bereit, die Admins unbedingt installieren sollten. Die Zero-Day-Sicherheitslücke war den Angreifern demnach bereits mindestens seit Juni des Jahres bekannt.


(dmk)



Source link

Weiterlesen

Beliebt