Connect with us

Datenschutz & Sicherheit

Deepfakes, Doxing, Stalking: Mit Vorratsdatenspeicherung gegen digitale Gewalt


Bundesjustizministerin Stefanie Hubig (SPD) hat am heutigen Freitag einen Gesetzentwurf vorgestellt, der Betroffene digitaler Gewalt besser schützen soll. Digitale Gewalt sei ein „Massenphänomen“, sagte Hubig bei der Vorstellung der Pläne. „Im Zeitalter von KI, hochauflösenden Smartphone-Kameras und sozialen Netzwerken ist es einfacher als je zuvor, Menschen in aller Öffentlichkeit zu demütigen, zum Sexualobjekt herabzuwürdigen und in ihrer Intimsphäre zu verletzen.“ Millionen von Menschen seien betroffen, „besonders häufig Frauen“.

Der Referentenentwurf ist zu einem der meist beachteten Projekte des Ministeriums geworden, nachdem der Spiegel vor zwei Wochen erstmals die Vorwürfe der Schauspielerin Collien Fernandes gegen ihren Ex-Mann Christian Ulmen öffentlich gemacht hatte. Über seinen Anwalt geht er gegen die Berichterstattung vor; es gilt die Unschuldsvermutung. Die Staatsanwaltschaft Potsdam ermittelt.

Hubig hatte den Fall zum Anlass genommen, auf den bereits im Koalitionsvertrag beschlossenen, fast fertigen Gesetzentwurf hinzuweisen und angekündigt, ihn bald vorzustellen. Nun ist es soweit.

Zu „digitaler Gewalt“ zählt das Ministerium laut Entwurf ein breites Spektrum an Taten, unter anderem „Hate Speech“, also Beiträge, die andere bedrohen, abwerten oder zu Straftaten aufrufen. Ebenso zählt dazu das unerlaubte Veröffentlichen von Daten wie Adresse oder Telefonnummer („Doxing“), das unerwünschte Versenden pornografischer Bilder („Dickpics“), der gezielte Kontakt zu Kindern mit sexueller Absicht („Cybergrooming“), außerdem bildbasierte Gewalt, Cybermobbing, Cyberstalking und Identitätsmissbrauch, etwa wenn Fake-Profile einer anderen Person erstellt werden.

Heimliches Filmen und sexualisierte Deepfakes

Der Entwurf basiert auf zwei Säulen. Die erste ist eine strafrechtliche Säule, die wir bereits Ende März veröffentlicht und analysiert haben. Darin vorgesehen sind drei neue Straftatbestände.

  • Geplant ist demnach eine Überarbeitung des geltenden § 184k Strafgesetzbuch (StGB), der die Verletzung der Intimsphäre durch Bildaufnahmen regelt. Er soll künftig nicht nur das sogenannte Upskirting umfassen, sondern auch weitere Phänomene bildbasierter Gewalt, etwa das nicht-einvernehmliche Filmen in öffentlichen Saunen oder Umkleiden oder sexualisierte Deepfakes. Auch das Filmen bekleideter Körperteile wie Genitalien, Gesäß oder weiblicher Brust “in sexuell bestimmter Weise” soll verfolgt werden können. Strafmaß: bis zu zwei Jahre Haft.
  • Mit einem neuen Paragrafen zur „Verletzung von Persönlichkeitsrechten durch täuschende Inhalte“ (§ 201b StGB) soll zudem das Erstellen und Verbreiten solcher Deepfakes unter Strafe gestellt werden, die “geeignet sind, dem Ansehen der dargestellten Person erheblich zu schaden”.
  • Eine weitere neue Vorschrift soll außerdem das unbefugte digitale Tracken und Ausspionieren einer anderen Person unter Strafe stellen. Solches Verhalten war bislang schon im Rahmen von Nachstellung strafbar.

Auskunft zu anonymen Accounts

Neu und bislang unbekannt ist dagegen die zivilrechtliche Säule des Entwurfs. Die neuen Regeln sollen es für Betroffene von etwa beleidigenden und herabsetzenden Postings einfacher machen, selbst vor Gericht dagegen vorzugehen.

Betroffene sollen von Plattformen und Internetzugangsanbietern leichter als bisher Auskunft über die Identität einer Person hinter einem anonymen oder pseudonymen Account bekommen. Dazu sollen Anbieter künftig – sofern vorhanden – den Klarnamen und die Adresse herausgeben, wenn ein Gericht dies anordnet. Beides wird gebraucht, damit Betroffene etwa auf Unterlassung oder Schadensersatz klagen können.

Betroffene sollen eine solche Auskunft vor dem Landgericht beantragen können. Dazu müssen sie glaubhaft machen, dass eine unbekannte Person eine Rechtsverletzung begangen hat, und sie gegen diese Person zivilrechtliche Ansprüche geltend machen wollen. „Das Auskunftsverfahren ist insbesondere für Fälle gedacht, in denen die Rechtsverletzer ihre strafbaren Inhalte über einen anonymen Account in den sozialen Netzwerken verbreiten“, schreibt das Ministerium dazu.

Neu ist außerdem, dass sich Betroffene in einem Verfahren „durch zivilgesellschaftliche Organisationen als Bevollmächtigte vertreten lassen“ können, sofern das unentgeltlich – also kostenlos – geschieht. Auch das soll die Schwellen für Betroffene senken: Hilfsorganisationen könnten dann zumindest manchen Betroffenen die Kosten und Strapazen eines Gerichtsverfahrens abnehmen.

„Vorsorglich gespeicherte IP-Adressen“

Der Entwurf soll auch die Vorratsdatenspeicherung zurückbringen. Das ist ein umstrittenes Verfahren zur Massenüberwachung im Netz, das in Deutschland seit 2017 ausgesetzt ist. Im Zuge des Auskunftsanspruchs für Betroffene richtet das Gesetz den Blick zu Plattformen und Zugangsanbieter wie Vodafone oder die Telekom. Sie sollen künftig durch eine beweissichernde Anordnung dazu verpflichtet werden können, “bereits bei ihnen vorhandene Daten” über mutmaßliche Rechtsverletzer*innen zu sichern. Dazu sollen sie auch „vorsorglich gespeicherte IP-Adressen” verwenden. Der aktuell diskutierte Entwurf für die Vorratsspeicherung sieht vor, dass IP-Adressen für voraussichtlich drei Monate gespeichert werden sollen.

Die Vorratsdatenspeicherung wurde in Deutschland erstmals 2007 eingeführt, nach einem Urteil des Bundesverfassungsgerichts jedoch wieder aufgehoben, weil sie gegen Grundrechte verstieß. Eine neue Regelung von 2015 wurde später durch Urteile des Europäischen Gerichtshofs faktisch gestoppt, weil eine anlasslose, flächendeckende Speicherung von Kommunikationsdaten gegen EU-Recht verstößt.

Auf die Frage, wie sich das Vorhaben für eine erneute Speicherung von IP-Adressen mit dem EU-Recht vereinbaren lasse, sagte Hubig, es gehe bei dem Entwurf, der kommende Woche im Kabinett vorgelegt werden soll, nicht um eine Vorratsdatenspeicherung, sondern lediglich darum, IP-Adressen und Portnummern für einen Zeitraum von drei Monaten zu speichern. Das sei in dieser reduzierten Form rechtskonform. Große Netzbetreiber und Verbände kamen in ihren Stellungnahmen zu anderen Einschätzungen. 

In besonders schweren Fällen sollen Landgerichte darüber hinaus auch zeitweilige Account-Sperren verhängen können. So solle verhindert werden, das reichweitenstarke Accounts wiederholt schwere Persönlichkeitsrechtsverletzungen begehen können.

Kritik an hohen Kosten und massenhafter Datenspeicherung

Die Organisation HateAid, die Betroffene von digitaler Gewalt berät, begrüßt die geplanten Reformen im Zivilrecht und auch, dass Plattformen und Zugangsanbieter nun IP-Adressen herausgeben sollen. Zugleich weist die Organisation darauf hin, dass die Auskunftsverfahren für die Betroffenen mit hohen Kosten verbunden seien. Sie müssten nicht nur ihre eigenen Kosten, sondern auch die Gerichtskosten und die Rechtsvertretung der Plattformen selbst zahlen.

Wir sind communityfinanziert

Unterstütze auch Du unsere Arbeit mit einer Spende.

Der Entwurf sieht hierfür eine Ausnahmeregelung vor, von der Gerichte nach Erfahrung der Organisation jedoch in der Regel keinen Gebrauch machten. HateAid hatte gefordert, Gerichtskosten pauschal zu regeln.

Sieben Köpfe gegen digitale Gewalt

Benjamin Lück, Rechtsanwalt bei der Gesellschaft für Freiheitsrechte, kommt zu einem kritischeren Urteil. Gut sei, dass das Ministerium mit Account-Sperren einen wirkungsvollen Mechanismus für Betroffene vorsehe.

Die in der Begründung des Entwurfs versteckte Verknüpfung der Auskunftsansprüche mit der geplanten IP-Vorratsdatenspeicherung lehnen wir dagegen ab. Solche anlasslosen, massenhaften Datenspeicherungen halten wir grundsätzlich für das falsche Mittel.

Im Vorfeld hatten sich bereits mehrere Fachleute für digitale Gewalt gegen Überwachungsmaßnahmen zum Schutz vor digitaler Gewalt ausgesprochen, darunter auch die Vorratsdatenspeicherung.

Bereits unter der Ampel angekündigt

Mit der Vorstellung des Entwurfs liefert Hubig nun etwas, das bereits ihr Vorgänger Marco Buschmann (FDP) zur Zeit der Ampel-Regierung vor fünf Jahren angekündigt hatte. Seine Pläne zum Schutz vor digitaler Gewalt umfassten allerdings nur das Zivilrecht und versandeten zum Ende der letzten Legislaturperiode.

Hubig betont nun, sie habe ein “Gesamtkonzept” vorlegen wollen, das sowohl das Zivilrecht als auch die Verschärfungen im Strafrecht umfasst.

Der Entwurf wird nun an Verbände und Bundesländer geschickt, die Gelegenheit zur Stellungnahme bekommen. Er muss noch im Kabinett abgestimmt werden und erreicht danach erst den Bundestag und Bundesrat.



Source link

Datenschutz & Sicherheit

Florida verklagt ChatGPT-Entwickler OpenAI | heise online


Der US-Bundesstaat Florida wirft der KI-Firma OpenAI in einer Klage vor, die Nutzer ihrer Software ChatGPT zu gefährden. Der Chatbot sei eine Bedrohung für die öffentliche Sicherheit, heißt es in der von Floridas Generalstaatsanwalt James Uthmeier eingereichten Klageschrift. Darin wird auf Fälle verwiesen, in denen ChatGPT eine tödliche Medikamentenkombination empfohlen und einen für tödliche Schüsse auf einem Universitätsgelände verantwortlichen Schützen vor dessen Tat beraten haben soll. Insbesondere für Teenager sei der Chatbot problematisch, kritisierte Uthmeier. Dessen Klage richtet sich auch gegen OpenAI-Chef Sam Altman persönlich.

Weiterlesen nach der Anzeige

OpenAI verwies in einer Reaktion auf Maßnahmen zum Schutz junger Nutzer. Dazu gehörten Mechanismen zur Alterserkennung sowie Überwachungsmöglichkeiten für Eltern. Die Maßnahmen führte OpenAI zum Teil erst nach Todesfällen und öffentlicher Kritik ein.

ChatGPT ist der Chatbot, der den aktuellen Hype um Künstliche Intelligenz auslöste und kommt inzwischen laut OpenAI auf 900 Millionen Nutzer pro Woche. Er ist das wichtigste Produkt der Firma.

Florida hatte bereits im April Ermittlungen zur Rolle von ChatGPT beim Schusswaffen-Angriff an der Florida State University im April 2025 aufgenommen. Der Schütze habe vor der Tat Ratschläge von dem KI-Chatbot eingeholt, sagte Uthmeier damals. Demnach bekam er nicht nur Empfehlungen, welche Waffe er verwenden solle und welche Munition zu welchen Waffen passe, sondern auch zu der Frage, wo und zu welcher Zeit dort die meisten Menschen anzutreffen sein würden. OpenAI beharrt darauf, dass ChatGPT nicht für die Tat verantwortlich sei, bei der zwei Menschen getötet und sechs weitere verletzt wurden.


(mho)



Source link

Weiterlesen

Datenschutz & Sicherheit

Patchday: Kritische Lücken ermöglichen Attacken auf Android 14, 15, 16


Sicherheitslücken im Framework, Kernel und System gefährden Smartphones und Tablets mit Android 14, 15, 16 und 16-qpr2. Wer ein noch im Support befindliches Gerät besitzt, sollte sicherstellen, dass die aktuellen Sicherheitsupdates installiert sind.

Weiterlesen nach der Anzeige

Neben Google stellen unter anderem auch Honor und Samsung monatlich für ausgewählte Smartphones Sicherheitspatches bereit (siehe Kasten). Wie aus einem Beitrag der Androidentwickler hervorgeht, haben sie diesen Monat zahlreiche Sicherheitslücken geschlossen, von denen 18 als „kritisch“ eingestuft sind.

Der Großteil davon betrifft das System. Hier können sich Angreifer etwa auf einem nicht näher beschriebenen Weg höhere Nutzerrechte verschaffen (CVE-2026-0043) oder via DoS-Attacke Abstürze auslösen (CVE-2026-64505). Im Framework finden sich ebenfalls „kritische“ Schwachstellen für solche Angriffe (etwa CVE-2025-65018, CVE-2025-64720). Eine Kernel-Lücke (CVE-2025-40214 „hoch“) kann ebenso als Sprungbrett für Angreifer dienen und ihnen höhere Nutzerrechte verschaffen. Die verbleibenden Schwachstellen sind größtenteils mit „hoch“ eingestuft. An diesen Stellen können auch Informationen leaken.

Überdies sind noch Komponenten von Imagination Technologies, MediaTek, Qualcomm und Unisoc verwundbar. Bislang gibt es seitens Google keine Hinweise, dass Angreifer die Lücken bereits ausnutzen. Wer Sicherheitsupdates für sein Gerät bekommt, sollte dennoch nicht zu lange mit der Installation der Patch Levels 2026-06-01 oder 2026-06-05 zögern.

Seit Juli 2025 schließt Google monatlich nur noch besonders gefährliche Sicherheitslücken und verteilt weitere Updates quartalsweise. Diesen Monat war im Vergleich zum Mai mit nur einer geschlossenen Schwachstelle schon richtig viel los.


Android-Patchday

Android-Patchday

Neben Google veröffentlichen noch weitere Hersteller regelmäßig Sicherheitspatches – aber meist nur für einige Produktserien. Geräte anderer Hersteller bekommen die Updates erheblich später oder, im schlimmsten Fall, gar nicht.


(Dennis Schirrmacher)



Source link

Weiterlesen

Datenschutz & Sicherheit

KI-Chatbot von Meta hat Angreifern bei Übernahme von Instagram-Accounts geholfen


close notice

This article is also available in
English.

It was translated with technical assistance and editorially reviewed before publication.

Ein KI-Chatbot von Meta konnte von Dritten mit simplen Aufforderungen dazu benutzt werden, um die Kontrolle über beliebige Accounts auf Instagram zu übernehmen. Details dazu wurden jetzt bekannt, nachdem unter anderem ein altes Konto des Weißen Hauses unter Barack Obama iranische Propaganda geteilt hat. Ob es einen Zusammenhang gibt, ist aber unbekannt. Öffentlich gemacht wurde der Angriffsweg vom US-Techmagazin 404 Media, das sich auf Telegram-Gruppen von Sicherheitsforschern und Hackinggruppen beruft. Der Instagram-Konzern Meta hat bereits reagiert, der Konzernsprecher versicherte auf X: „Das Problem wurde behoben und wir sichern betroffene Accounts.“

Weiterlesen nach der Anzeige

Für die Accountübernahme musste man dem Bericht zufolge lediglich per VPN vortäuschen, dass man sich in etwa in der Heimatregion der Person befindet, deren Instagram-Account gekapert werden soll. Als Nächstes konnte ein KI-Chatbot für Supportanfragen aufgefordert werden, den gewünschten Account mit einer neuen E-Mail zu verbinden und dann einen Code zum Zurücksetzen des Passworts dorthin zu senden. Dem sei der Chatbot nachgekommen, berichtet 404 Media. Wie oft solche Angriffe tatsächlich erfolgreich durchgeführt wurden, ist unklar. Auf dem Kurznachrichtendienst X hat aber etwa die bekannte App-Forscherin Jane Manchun Wong erklärt, dass mit dieser Methode das Passwort ihres Accounts geändert wurde.

Meta hat erst im März einen KI-Assistenten für Supportanfragen freigeschaltet, der auf Facebook und Instagram rund um die Uhr bei Problemen helfen sollte. Der Konzern hat damals erklärt, dass die KI dabei helfen soll, „dein Passwort zu aktualisieren und die Einstellungen im Profil zu verändern“. Der KI-Assistent sei darauf ausgelegt, Probleme mit einem Account zu lösen und nicht nur Vorschläge zu machen, hieß es damals. 404 schreibt nun, dass auf Telegram lange Listen mit Accountnamen herumgereicht worden seien, die angeblich über die Ausnutzung dieser Funktion übernommen wurden. Überprüfen lässt sich das aber nicht. Die Angriffsmethode zeige das enorme Risiko, das mit der Auslagerung des technischen Supports an KI-Technik verbunden sei, schreibt das Portal noch.


(mho)



Source link

Weiterlesen

Beliebt